Strong AI tar over verden?

[Redak Tøren]

Så mye som vitenskapen har forandret seg de siste årene, og med så mange teorier om dette emnet, så er det kanskje ikke et spørsmål om det skjer, men når det skjer. Jeg tror Moores lov gir oss en god indikasjon.

 

Det var en gang et band som sang "in the year 2525, if man is still alive".

Personlig tror jeg det går fortere enn som så.

 

 

21. august 2039: En programvare blir i stand til å skrive en ny programvare som er bedre enn seg selv.

 

22. august 2039: Den nye programvaren skriver en ny programvare – som vi her kaller Program X - som er bedre enn seg selv, og den nye programvaren okkuperer prosessorkraft fra flere servere slik at den «lever» fragmentert og ikke kan oppdages eller stoppes

 

22. august 2039: Program X begynner en nøysom prosess med å ta kontrollen over internett, som per 2039 er integrert i 99 % av jordklodens mekaniske og elektroniske prosesser.

 

23. august 2039: Program X formerer og sprer seg som et ondt virus. Den begynner nå på prosessen med å stoppe/sabotere menneskelig kommunikasjon, og destruerer militære forsvarssystemer.

 

24. august 2039: USAs president erklærer unntakstilstand og varsler krig mot AI.

 

12. april 2045: Mennesket klarer ikke lenger å kjempe mot Program X eller programmets slaver, og Program X har full kontroll over automatiserte fabrikker over hele verden som starter prosessen med å bygge mekaniske kropper til Program X sitt avkom.

 

8. desember 2045: Jordkloden er fullstendig kolonisert av mekaniske innretninger, og planeten fungerer som en fabrikk som gir ressurser til AI slik at AI kan spre seg til andre steder i universet. Mennesket forstår ikke den nye formen for intelligens, og er helt overkjørt. Sultkatastrofer rammer hele verden, mens AI ignorerer menneskene. Mennesket blir verken angrepet eller hjulpet, men bare «er der».

 

1. november 2050: De siste menneskene som nå lever på bakkenivå dør.

 

13. januar 2078: Det finnes knapt mer biologisk liv på planeten. Gasser, væsker og brensel produseres utelukkende av mekanikk. AI har omdannet jordklodens atmosfære og hav til å bestå av andre gasser og væsker, og har fullstendig kontroll over klimaet og været. Planeten er ikke gjenkjennelig for mennesker, hvis mennesket fortsatt er i live.

Endret 1. desember 2011 av Redak Tøren

[GeirGrusom]

Morsom tanke, men ganske virkelighetsfjernt.

 

Det baserer seg på en fraværende forståelse av hvordan en utvikler programvare og maskinvare.

 

Vi kan begynne med datamaskinene først, for å forklare hvorfor dette ikke skjer.

En datamaskin er akkurat det: en maskin. Den gjør akkurat det vi ber den om. En datamaskin vil ALDRI gjøre noe den ikke er programmert til. Uansett hvor forbanna god programvare du lager, så vil den aldri være noe mer enn en maskin som utfører matematiske instruksjoner i rekkefølge.

 

Så går vi på mennesker. Jeg er av den oppfatning at mennesker er en maskin. Vi programmerer og selv hele tiden saaaakte men sikkert. Når en driver diskusjoner, så er poenget å endre motpartens mening (dessverre er ikke hvor sant noe er poenget med en diskusjon) og dette gjør vi ved å "programmere om" motsatsen. Derimot har vi en hel del "firmware" som bestemmer fullstendig hvordan vi oppfører oss, og hva vi engang er istand til å ta imot informasjon. Mennesker er ikke evige maskiner som kan gjøre alt de vil. Vi er programmert til å oppføre oss på en spesiell måte, og det er svært lite vi kan gjøre med dette.

 

Nå kommer derimot idéen om at et samfunn skal bli kastet rundt av at en gruppe får for seg at de har flere rettigheter enn de er gitt. Dessverre er ikke dette et resultat av hvor smarte og gode maskiner vi er: det er simpelthen slik vi er programmert. Vi har en gruppe mentalitet som med korrekt samling av individer kan rulle rundt en revolusjon.

 

Datamaskiner har ikke dette, fordi det er en oppførsel de ikke er programmert med. Datamaskiner er ikke flokkdyr, de har ikke noen leder-idéer, eller engang noe å tjene på å ta over verden. Maskiner føler ikke smerte, de utfører ikke semantiske sammenligninger. Datamaskiner er ikke istand til denne slags oppførsel med mindre de er programmert til det (noe vi er). Det er ikke snakk om antall transistorer, de er rett og slett ikke laget med den hensikten.

[devious]

Nå fikk jeg lyst å se Terminator 1, 2 og 3.

 

Tror neppe det skjer innen den tid du sier. Data og maskiner tar nok mer over dagens gjøremål, men tror vi utsletter oss selv før maskinen gjør det.

[Redak Tøren]

Godt svar, GeirGrusom, men det er en egen debatt om hvorvidt AI er mulig eller ikke. Den skal vi kanskje ikke ta her. Teorien om at AI tar over er basert på at AI er mulig.

Mange er redde for utenomjordisk intelligens som skal komme og sette oss ut av spill, men jeg er så sikker så sikker på at jordas biologiske evolusjons neste ledd er mekanisk via mennesket.

Maskiner trenger ikke motiv, maskiner er ikke følelser. Når maskinenes AI overgår vår fatteevne, er det vi som ikke forstår noe. Det er våre følelser, motiver og planer som ikke samsvarer med AI. AI fortsetter uten oss, fordi vi kommer til kort.

 

http://en.wikipedia.org/wiki/Technological_singularity

Endret 30. november 2011 av Redak Tøren

[Matsemann]

Teorier som dette bygger som regel på fantasi og liten innsikt i dataverdenen.

 

Om vi hopper over det usannsynlige, som AI som ønsker å ta over verden og faktisk klarer å programmere seg selv, så vil uansett tilfellene du skisserer ikke kunne skje.

 

En datamaskin kan ikke automatisk hacke alt bare fordi det er en maskin. Dessuten er ikke alt fysisk koblet sammen.

[magb]

Arnold ordner detta!

Endret 30. november 2011 av magb

[tole]

Du har vel sett Terminator og Matrix-filmene ?

 

Til og med Big Blue fra IBM er jo ikke uovervinnelig.

 

Ingen ting kan noensinne måle seg med menneskelig kløkt og intelligens.

[Redak Tøren]

Seriøse innlegg takk. Som nevnt så handler ikke denne tråden om hvor vidt AI er mulig eller ikke. Den handler om hva AI er i stand til. (dessverre).

[GeirGrusom]

Jeg diskuterte ikke hvorvidt AI er mulig eller ikke. Jeg påpekte at enhver AI er en maskin vi har bygget. Enhver maskin (mennesker også) vil aldri gjøre noe som ikke faller innenfor programmeringen, eller som programmeringen eksplisitt har motforestillinger mot.

Det er vi som lager AI, og selv om den utvikler seg selv, så utvikler den seg selv på våre premisser.

[Redak Tøren]

Ok, du ser på det som umulig at en teknologisk evolusjon kan pågå utenfor menneskets kontroll. Jeg ser argumentene dine, men stiller meg skeptisk til at en kan utelukke slike teorier basert på det vi tror om teknologi i dag. Får vi AI, og da definerer jeg AI som intelligens på eller over menneskehjernens nivå, og verktøyene ligger til rette for at AI kan utvikle seg videre, tror jeg vi er dømt nedenom og hjem.

 

PS: Vi må også ta utgangspunkt i at vi i f.eks. 2040 har helt andre datamaskiner, helt andre nettverk og et helt annet teknologisk samfunn enn i dag. Dermed kan vi ikke legge dagens IT-verden til grunn for hva som kan stoppe/forhindre evolusjon av AI i 2040.

Endret 30. november 2011 av Redak Tøren

[dronjom]

30. november 2011,

FIND YOUR TIME

 

det skjer jo ting nå, se ut i verden, stormer, landslagssjef som dør

det er for mye stress i verden, stress ned

Endret 30. november 2011 av dronjom

[GeirGrusom]

Ok, du ser på det som umulig at en teknologisk evolusjon kan pågå utenfor menneskets kontroll. Jeg ser argumentene dine, men stiller meg skeptisk til at en kan utelukke slike teorier basert på det vi tror om teknologi i dag. Får vi AI, og da definerer jeg AI som intelligens på eller over menneskehjernens nivå, og verktøyene ligger til rette for at AI kan utvikle seg videre, tror jeg vi er dømt nedenom og hjem.

 

PS: Vi må også ta utgangspunkt i at vi i f.eks. 2040 har helt andre datamaskiner, helt andre nettverk og et helt annet teknologisk samfunn enn i dag. Dermed kan vi ikke legge dagens IT-verden til grunn for hva som kan stoppe/forhindre evolusjon av AI i 2040.

Sant nok. Men jeg har ingen tro selv på at det går i denne retningen. Kanskje jeg bare er en optimist.

[Redak Tøren]

Jeg håper vi aldri får se noe slikt, men er redd det bare er et spørsmål om tid. Teoretisk sett er det fullt mulig.

[dronjom]

det blir slik, ganske enkelt:

det kommer til å skje veldig mye på kort tid, krig/ikke krig er et begrep man selv bestemmer, så for de som er i knipeområder og hører det skjer mye ut over hele jorda, vil det kjennes som krig, mens de som befinner seg i fredelig stemmeleie og er på fredelige steder vil ikke merke så mye til det.

 

optimisme er bra, da kanskje ikke du merker krigen engang selv om den ifølge andre har vært der

[dronjom]

men for alt jeg vet kan det jo være liv på AI også, men bør de være onde? jeg vet ikke

 

hm, blandet litt med planet x i denne kommentaren

Endret 30. november 2011 av dronjom

[Redak Tøren]

En datamaskin vil ALDRI gjøre noe den ikke er programmert til.

Må bare kommentere dette. AI er nettopp et program som gjør ting det ikke er satt til å gjøre.

[GeirGrusom]

En datamaskin vil ALDRI gjøre noe den ikke er programmert til.

Må bare kommentere dette. AI er nettopp et program som gjør ting det ikke er satt til å gjøre.

Jeg er uenig. En AI er et program som skal være istand til å løse problemer den ikke har opplevd før på en fornuftig måte, og ikke nødvendigvis matematisk. Dette kan eksempelvis være å skrive nye programmer eller revidere gamle. Det den kunne gjort, var å videreutvikle sin egen kode dog,men den må ha et eller annet kriterie for hva den skal utvikle, fordi maskiner får ikke infall.

[Matsemann]

PS: Vi må også ta utgangspunkt i at vi i f.eks. 2040 har helt andre datamaskiner, helt andre nettverk og et helt annet teknologisk samfunn enn i dag. Dermed kan vi ikke legge dagens IT-verden til grunn for hva som kan stoppe/forhindre evolusjon av AI i 2040.

Og i så fall blir det hele bare et tankeeksperiment med veldig mange "hvis ditt så datt". Da kan du egentlig komme opp med hvilken som helst konklusjon du selv ønsker, og så dikte opp premissene etterpå. Da er det mer fornuftig å ta tak i dagens teknologi og spå utifra den.

 

En datamaskin vil ALDRI gjøre noe den ikke er programmert til.

Må bare kommentere dette. AI er nettopp et program som gjør ting det ikke er satt til å gjøre.

Feil.

[Redak Tøren]

Selvfølgelig er dette fiksjon, Matsemann. Synd ingen her finner det fascinerende å drøfte, men bare vil vingeklippe trådstarter

[Matsemann]

Du startet tråden med å si "det (er) vel ikke et spørsmål om det skjer, men når det skjer", noe vi da påpeker som feil.

 

Om du mener dette "selvfølgelig er fiksjon" får du sette premissene for diskusjonen i det du starter den, så slipper du å kaste bort andres tid.