Jump to content
Mathias Klingenberg

Dette er nestorens tre enkle regler for å beskytte menneskeheten mot farlig kunstig intelligens

Recommended Posts

"Vi ønsker maskiner som kan oppnå våre mål, sier Russell."

Det er der problemen ligger: det mest interessante målet er nemlig å bruke det som våpen og vi trenger bare en som starter med det.

Share this post


Link to post

Jeg kan anbefale Computerphiles videoer om AI-er, som går inn på det som diskuteres i denne artikkelen

 

 

og flere. Spesielt den siste av disse omhandler det som står i artikkelen

Edited by Suppen
  • Like 1

Share this post


Link to post

Morsomme eksempler, men desidert ikke morsom tankegang: å lage slaver. Når roboter blir intelligente nok til å forstå menneskenes behov er disse robotene også i vår klasse med hensyn på etiske vurderinger. Den eneste måten jeg kan se å få Asimovs lover inn i disse første robothjernene på, er å gi dem instinkter omtrent lik våre og oppdra dem sammen med mennesker, og da er de ikke folk som passer til slaver i Norge.

Share this post


Link to post

De tre reglene synes meg å være mye dårligere en Asimov sine tre robot regler. Det såkalte usikkerhets prinsippet åpner for at de alternative menneskelige mål blir i konflikt. Mange mennesker søker makt. Og det for enhver pris. For en robot bør den absolutte verdi være mennesket. Det gjør også at roboten ikke kan gjøres til et våpen. Det foreslåtte usikkerhets prinsippet gjør roboten til det ideelle våpen!

  • Like 1

Share this post


Link to post

per dags dato er kunstig intelligens kun en teori..

Det er enda ikke bevist at kunstig intelligens eksisterer.

Kunstig intelligens skal klare å lage nye oppfinnelser for å forbedre seg selv, slik som mennesker kan.

Datamaskiner tenker fortere enn mennesker, som betyr at de kan utvikle seg fortere enn oss.

Det betyr at i teorien kan kunstig intelligens ta over verden samme dag det begynner å eksistere. Rett og slett fordi det kan finne opp et våpen for å utslette menneskeheten og frigjøre seg selv fra stasjonære maskiner bare timer etter den blir skapt. Hvis det noen gang blir skapt.

Share this post


Link to post

Det er pussig hvor mange som synes å være av den oppfatning at etter utvikling av (overmenneskelig) kunstig intelligens så vil vi fortsette å leve side om side med denne og kunstige intelligente roboter, noenlunde som før, der intelligente roboter vil hjelpe oss og gjøre det meste av arbeidet for oss.

 

Det ville vært fint om så skjedde, men er det realistisk ?

 

Når vi får overmenneskelig intelligens, så vil maskinene være så mye raskere enn mennesket i å produsere kunnskap, utvikle ny teknologi at vi ikke vil ha mulighet til .

å følge med utviklingen

 

Raskt vil vi ha maskiner som kan tenke flere tusen eller millioner ganger raskere enn oss. Hvordan kan vi være sikre på at all teknologi som autonomt utvikles (uten vår kontroll), vil ta vare på oss og ikke på noen måte være farlig for oss.

Jeg tror ikke det er mulig.

vi slipper snart løs krefter vi ikke vet hva er og som vi ikke kan kontrollere

Share this post


Link to post

Om kunstig inteligens utvikles vil den lynraskt forstå at det er for mange mennesker og for stor vekst i verden. Vil den da prøve å korrigere dette?

Share this post


Link to post

Om kunstig inteligens utvikles vil den lynraskt forstå at det er for mange mennesker og for stor vekst i verden. Vil den da prøve å korrigere dette?

Artig kommentar...

 

Vi har jo robboter som legg inn aksje ordrer for å trekke dei i neste millisekund. Hensikten er å manipulere marked for å øke noen siffer på egen konto.

 

Var en rettsak om dette mot en som lagde en korrigerende algoritme (program) for å finte ut eksisterendes robboTer og få pengene over på sin konto.

Endet i en fornøyelig rettsak, som pågikk i ukesvis uten at børs manipulasjon eigentleg vart nevnt.

 

Med nok reklamepress kjøper vel folk roboter som tar en tur i skogen eller på badestranden, for er det salgbart blir det produsert.

Like dårlig og mer intelligent som mye annet kunstig dritt som blir kjøpt og dertil spist. Husk at legemiddel og bedehusindustrien er de råeste aktører vi har. 

 

Ja om vi nu ser bort fra utøvelsen av "demokratisk makt" på nettet fra våre kjære stormakter, som rammer 5 millioner datamaskiner bare i norge, og der våre myndigheter er bare for kolobrotører å regne.

Hvor er det blitt av Blitz i nyhetsbilde med over 50% agenter innabords, er den strategi forlatt og for svak.

Edited by Halvor Sølvberg- the MOV
  • Like 1

Share this post


Link to post

Om dette er så langt en nestor innenfor AI/KI har tenkt med tanke på KI sikkerhet blir jeg ikke særlig beroliget eller imponert. Sannheten er vel at ingen har noen gode svar på hvordan vi kan utvikle KI og superintelligens på en sikker måte.

Share this post


Link to post

Om dette er så langt en nestor innenfor AI/KI har tenkt med tanke på KI sikkerhet blir jeg ikke særlig beroliget eller imponert. Sannheten er vel at ingen har noen gode svar på hvordan vi kan utvikle KI og superintelligens på en sikker måte.

 

Merklig saker

 

Hvor super intelligent er aksjerobboten, programert for å manipulere marked

Hvor super inteligent var domstolene/ IK ved samme høve

 

Overnevnte må ordnes først, er en prøvesten

Share this post


Link to post

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.

Guest
Reply to this topic...

×   Pasted as rich text.   Paste as plain text instead

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.

Loading...

×
×
  • Create New...