Blir kunstig intelligens et masseødeleggelsesvåpen?

[Redaksjonen.]

– En enkelt programmerer vil kunne forårsake skader som tidligere krevde en hel hær.

Blir kunstig intelligens et masseødeleggelsesvåpen?

[3irik]

 

Det avgjørende spørsmålet for menneskeheten er i dag hvorvidt man skal innlede eller forhindre et globalt AI-våpenkappløp

 

Spent på hvordan de har tenkt å få til det.

[aasATuio]

Google og Facebook «hjelper» oss med kunstig intelligens. Men saman med den snille kunstige intelligensen kjem den farlege. Noko av det farlegaste akkurat nå er flygande drapsvåpen med kunstig intelligens. Dei har mange av eigenskapane til landminer, med at dei er drepande effektive, billege å produsere, billege å lagre etter produksjon, og billege å utplassere. Og det er liten grunn til tru at det å samle inn utplasserte sjølvstartande flygande miner i framtida blir lettare eller billegare enn å samle inn utplasserte landminer i dag! Her står det litt om saka…

http://www.mn.uio.no/its/personer/vit/aas/autonome-vapen/autonome-flygande-vapen.pdf

https://spectrum.ieee.org/automaton/robotics/military-robots/why-you-shouldnt-fear-slaughterbots

https://spectrum.ieee.org/automaton/robotics/artificial-intelligence/why-you-should-fear-slaughterbots-a-response

https://spectrum.ieee.org/automaton/robotics/military-robots/debating-slaughterbots

[Aafk1914]

For sent skjønte menneskeheten at det var teknologiutviklingen og dypest sett vår oppsamling av kunnskap som var den største trusselen mot oss.

 

For atomvåpen så har vi hatt en terrorbalanse som har vært med å sikret freden. Det hadde vært interessant å hørt om noen har noen tanker om hvordan dette vil bli med AI våpen, eller om førsteslagsfordelen blir så stor at en krig kan vinnes med små tap.

I tillegg har framstillingsprosessen for kjernevåpen vært svært komplisert og ressurskrevende og krevd anlegg som kan oppdages, og innspiseres. Jeg tviler på dette blir særlig lett for AI våpen.

 

Et forbud mot AI våpen blir ikke mer realistisk enn et forbud mot atomvåpen. Den som evt er alene om å ha de, kan diktere sine betingelser overfor motparten.

 

vel, uansett, jeg tror uansett at utvikling av superintelligens ikke kan gjøres på noen trygg måte for menneskeheten.

 

Sci fi forfatter Vernor Vinge har nok sine ord fra tidlig 90 tall i behold: mellom 2005 -2025 vil det lykkes mennesket å skape overmennesklig intelligens. kort tid deretter vil menneskehetens tid være over.

[trikola]

mellom 2005 -2025 vil det lykkes mennesket å skape overmennesklig intelligens. kort tid deretter vil menneskehetens tid være over.

 

Tilsvarende på kino på tidlig 70-tallet: https://en.wikipedia.org/wiki/Colossus:_The_Forbin_Project 

[Gjest Slettet-Pqy3rC]

Mennesker har eksistert i ca 350.000 år. Lang tid for en kompleks rase, suksess altså. Det er på tide vi forsvinner og gir plass til noe annet.

Endret 18. april 2018 av Slettet-Pqy3rC

[Børt-Erik]

Hvis kunstig intelligens utsletter menneskeheten så er det jo bare survival of the fittest.  Nothing new here.

[Halvor Sølvberg- the MOV]

Begrepet 0 utslipp biler har festet seg, selv om fakta er noe helt annet. Er dette med kunstig intelligens noe av det samme.
For er det ikke slik at det bare er tale om avansert "koding" for å oppnå noe.

Vil gå så langt som å si at våre sikkerhetsmyndigheter ikke gjør jobben dei i prinsippet er valgt til å gjøre gjennom demokratiske valg. Dei har organisert seg inn i tåkeheimen og er blitt mer en folkefiende enn en hjelper for å sikre systemer og bakkenett.

Hyler å skriker om ett liv går tapt, og forfalsker det meste for å vinne nye posisjoner. Og er de facto blitt et AI, et autonomt fordervende system ad sine så å si nedarvede organisasjonsmessige innavl og manglende kontroll av våre folkevalgte utredere.

Nobell komiteen kunne ikke velge Snowden's og hans nødrop, men valgte heller å vere tro mot systemet sitt. Slik som det såkalla opptlysningsvesnet og massemedia velger sitt.

Bunnlinjen eller skal vi si bunn nivået er nådd, opplysningstiden er forbi. Keiserens nye klær er tatt på, til massenes og det organiserte velbehag.

 

Hva sier psykologien om tvangshandlinger, hva er den herlige kilde ?

Endret 18. april 2018 av Halvor Sølvberg- the MOV

[knutinh]

1. Hærførerne stilte opp soldatene sine og slåss til en av partene gav opp.

2. Krigføring hvor sivile var et utilsiktet eller tilsiktet mål for kuler og granater

3. Krigføring hvor man kunne sitte i et jagerfly eller ubåt og være relativ trygg

4. Krigføring hvor man sitter i en bunkers på den andre siden av jordkloden og styrer en drone.

 

Jeg ser ikke at autonome våpen er så vesensforskjellig fra punkt 4. Noe eller noen styrer et våpen, og dette våpenet har til hensikt å ta liv. I noen tilfeller så kan handlingen være berettiget, i andre ikke.

 

Noen har økonomisk og teknologisk upper hand og utnytter det for hva det er verdt. Andre har en sterk stilling i opinionen og utnytter det for hva det er verdt.

 

-k

[Gjest Slettet-Pqy3rC]

4. Krigføring hvor man sitter i en bunkers på den andre siden av jordkloden og styrer en drone.

 

Jeg ser ikke at autonome våpen er så vesensforskjellig fra punkt 4.

En liten forskjell er at det er mulig å totalt miste kontrollen over autonome enheter. De må ikke nødvendigvis utstyres med en "av-knapp" som en dronepilot i prinsippet er (skyt piloten å gjenta kontroll over våpenet).

 

Skrekkscenarioet er jo at en eller annen despot i nederlagets øyeblikk slipper løs enhetene sine på alt og alle, uten retrettmulighet. Disse greiene blir jo potensielt mye lettere å få tak på / produsere enn atomvåpen.

Endret 18. april 2018 av Slettet-Pqy3rC

[Dufen]

Mennesker har eksistert i ca 350.000 år. Lang tid for en kompleks rase, suksess altså. Det er på tide vi forsvinner og gir plass til noe annet.

Det var jo en fin nihilistisk tankegang.

[knutinh]

 

4. Krigføring hvor man sitter i en bunkers på den andre siden av jordkloden og styrer en drone.

 

Jeg ser ikke at autonome våpen er så vesensforskjellig fra punkt 4.

En liten forskjell er at det er mulig å totalt miste kontrollen over autonome enheter. De må ikke nødvendigvis utstyres med en "av-knapp" som en dronepilot i prinsippet er (skyt piloten å gjenta kontroll over våpenet).

 

Jeg burde ha vært mer eksplisitt: jeg ser ikke noen vesensforskjell som gjør at det ene er moralsk og det andre ikke, at det ene er masseødeleggelse og det andre ikke.

Skrekkscenarioet er jo at en eller annen despot i nederlagets øyeblikk slipper løs enhetene sine på alt og alle, uten retrettmulighet. Disse greiene blir jo potensielt mye lettere å få tak på / produsere enn atomvåpen.

Smarte våpen krever teknologi og teknologer. Despoter og mørkemenn later til å foretrekke minste motstands vei.

 

Det du beskriver er forøvrig et relevant scenario med miner. Noen peprer et land med personellminer og brenner dokumentasjonen på hvor de er gravd ned. I en generasjon eller to ender gutter og jenter opp med å miste lemmer eller livet uten at det finnes noen enkel måte å fikse ting på.

 

-k

[Gjest Slettet-Pqy3rC]

Det du beskriver er forøvrig et relevant scenario med miner. Noen peprer et land med personellminer og brenner dokumentasjonen på hvor de er gravd ned. I en generasjon eller to ender gutter og jenter opp med å miste lemmer eller livet uten at det finnes noen enkel måte å fikse ting på.

Yep. Sånn bortsett fra at hver enkelt autonom krigsmaskin kan gjøre langt større skade enn å kveste et par unger.

[tommyb]

For sent skjønte menneskeheten at det var teknologiutviklingen og dypest sett vår oppsamling av kunnskap som var den største trusselen mot oss.

 

 

Det høres ganske likt ut 1. Mosebok 2:15-17. 

 

 

17 men treet til kunnskap om godt og ondt, det må du ikke ete av; for på den dag du eter av det, skal du visselig dø.

 

Det skal dog sies at den visselige døden ikke kom. Adam levde vissnok ganske lenge etter, han ble 930 år gammel.

 

Historieoppbyggingen her virker ganske lik. Man har profetiske antakelser om hva som kommer til å skje, sikkert god grunn til å tro på dem, men utfallet er ikke nødvendigvis gitt på forhånd. Og så kan det være ganske stor avstand mellom hypotesen og testresultat i begge tilfeller, det vil tiden vise. 

 

 

Hvis kunstig intelligens utsletter menneskeheten så er det jo bare survival of the fittest.  Nothing new here.

 

 

Det er en voldsomt overdrevet fokus på at ting trenger være nye for å være interessante i dagens konsumentsamfunn. Men faktum er at det trenger bare være nytt for den ene det gjelder for å ha nyhetsverdi. Utslettelse av menneskeheten er tross alt noe hver enkelt gjerne bare opplever maksimalt én gang i livet. 

 

 

Mennesker har eksistert i ca 350.000 år. Lang tid for en kompleks rase, suksess altså. Det er på tide vi forsvinner og gir plass til noe annet.

 

Vanligvis er jeg for solidaritet men i dette tilfellet er jeg nok heller eksistenskonservativ. Jeg synes at den menneskerasen som finnes heller burde forsøke spre sin variasjon over flere lokasjoner enn å jobbe for avslutning på den ene lokasjonen vi har. 

 

 

 

Yep. Sånn bortsett fra at hver enkelt autonom krigsmaskin kan gjøre langt større skade enn å kveste et par unger.

 

 

Men neoliberalist blir jeg ikke. Jeg mener at regulering er til det beste. Også her. Autonome krigsmaskiner kan programmeres med grenseverdier. Dersom grenseverdier blir pålagt de som lager disse maskinene, vil de eksistere for de som bruker disse maskinene. I hvilket scenario er det egentlig at de som produserer, kjøper og systematisk bruker disse maskinene egentlig er interessert i at de fortsatt skal virke mer enn 10 år senere? Før hadde man ikke mulighet til å sette slike grenser, men nå... 

Endret 18. april 2018 av tommyb

[Gjest Slettet-Pqy3rC]

 

Mennesker har eksistert i ca 350.000 år. Lang tid for en kompleks rase, suksess altså. Det er på tide vi forsvinner og gir plass til noe annet.

Vanligvis er jeg for solidaritet men i dette tilfellet er jeg nok heller eksistenskonservativ. Jeg synes at den menneskerasen som finnes heller burde forsøke spre sin variasjon over flere lokasjoner enn å jobbe for avslutning på den ene lokasjonen vi har.

 

Sant nok. I utsagnet finnes også en av artens større ulemper; Vi jobber nemlig ikke som en enkelt enhet, men hvert enkelt individ prioriterer alltid egne interesser først. Det er uhyggelig vanskelig å se godene alle oppnår, særlig langt i fremtid, men så mye lettere å måle egne kortsiktige behov.

 

Så etthvert prosjekt som involverer "menneskerasen" vil antagelig være fånyttes. Det en kan håpe på er at en (eller en samlig av) ressurssterke enkeltperson(er) står for all risiko og at det er nok for å gjennomføre prosjektet.

 

Yep. Sånn bortsett fra at hver enkelt autonom krigsmaskin kan gjøre langt større skade enn å kveste et par unger.

Men neoliberalist blir jeg ikke. Jeg mener at regulering er til det beste. Også her. Autonome krigsmaskiner kan programmeres med grenseverdier ...

 

Det spørs jo hvor god kontroll en har på produksjonen.

 

Det finnes en risiko for at selve hardwaren (maskinen) ganske enkelt kan bygges (ved plukke litt på "snille" roboter en etterhvert vil få i daglig bruk). Deretter "låner" en ressursene fra google el.lign til AI (uten at denne leverandøren vet om det) og lager sin egen "onde vilje". Altså; Maskin + mobil + hjemmesnekra app = dødsmaskin = IS on steroids.

 

Første skoleskyting utført av en uhyggelig treffsikker maskin blir nok en "event".

Endret 18. april 2018 av Slettet-Pqy3rC

[torekallevik]

 

Fantastiske fremtidsvisjon om konsekvensen av kamproboter med kunstig intelligens:

Horizon Zero Dawn:

Utrolig fengende og vakkert spill. Spesielt om man disponerer en 4K TV og spille på.

[BippeStankelbein]

Tull og tøys, dette gjorde Microsoft allerede i 1998, med Combat Flight Simulator. Og de var heller ikke først ute, men de var de første jeg kom på i farta.

[Nether]

 

 

Mennesker har eksistert i ca 350.000 år. Lang tid for en kompleks rase, suksess altså. Det er på tide vi forsvinner og gir plass til noe annet.

Vanligvis er jeg for solidaritet men i dette tilfellet er jeg nok heller eksistenskonservativ. Jeg synes at den menneskerasen som finnes heller burde forsøke spre sin variasjon over flere lokasjoner enn å jobbe for avslutning på den ene lokasjonen vi har.

Sant nok. I utsagnet finnes også en av artens større ulemper; Vi jobber nemlig ikke som en enkelt enhet, men hvert enkelt individ prioriterer alltid egne interesser først. Det er uhyggelig vanskelig å se godene alle oppnår, særlig langt i fremtid, men så mye lettere å måle egne kortsiktige behov.

 

Så etthvert prosjekt som involverer "menneskerasen" vil antagelig være fånyttes. Det en kan håpe på er at en (eller en samlig av) ressurssterke enkeltperson(er) står for all risiko og at det er nok for å gjennomføre prosjektet.

Av en eller annen grunn ble hele innlegget mitt slettet og erstattet av noe annet så får prøve å skrive det om igjen.

 

Det er viktig å huske på at de tabber vi mennesker begår i stor grad begås av alle andre arter på grunn av biologiens grunnstrukturer.

En ny art etter oss vil begå akkurat de samme feilene i forsøk på å spre sine gener. Alle arter forbruker ressurser til de blir stoppet av en "ytre kraft", det være seg sykdom grunnet overbefolkning, matmangel eller rovdyr.

Mennesker har bare nok intelligens til å holde det gående lenger.

 

Når det gjelder samarbeid så er det heller ingen andre arter som klarer å fungere som en enhet. Det nærmeste du kommer er eusosiale insekter, og selv de fungerer bare som en enhet innad i gruppen (hver tue eller bo fungerer som en enhet), ikke arten.

 

Biologi og evolusjonen er, på denne planeten i det minste, organisert på en slik måte at det medfører ufattelige mengder lidelse og død (en av grunnene til at jeg ikke forstår religiøses påstander om en allmektig og allkjærlig gud).

Så en ny art er nok ikke løsningen.

Et håp ligger i at mennesker med vår intelligens kan holde det gående en stund til, og kanskje etter hvert utvikle oss videre. Men vi vil ikke vare evig selvsagt, selv ikke stjernene varer evig.

 

Angående artikkelen, så likte jeg den. Har lest flere diskusjoner rundt emnet, og det er noen som ikke ser trusselen fordi de ikke tror vi kan skape en reell kunstig intelligens. Det de da glemmer er at man ikke trenger intelligente og bevisste robotee for at de skal gå amok og slakte ned for fote. Det eneste som trengs er et intelligent menneske med dårlige hensikter til å programmere dem.

Endret 19. april 2018 av Nether

[Gjest Slettet-Pqy3rC]

Når det gjelder samarbeid så er det heller ingen andre arter som klarer å fungere som en enhet. Det nærmeste du kommer er eusosiale insekter, og selv de fungerer bare som en enhet innad i gruppen (hver tue eller bo fungerer som en enhet), ikke arten.

Jepp.

 

Sånn bortsett fra maur imperiet i Jura fjellene. Flere tusen tuer samarbeider, krig er et avsluttet kapittel. Men ikke helt problemfritt det heller forsåvidt, innavl risikoen blir påtagende.

[knutinh]

Yep. Sånn bortsett fra at hver enkelt autonom krigsmaskin kan gjøre langt større skade enn å kveste et par unger.

En autonom krigsmaskin må ha sensorer og regnekraft. Dessuten må den ha påfyll av drivstoff og ammo.

 

En mine kan lages for noen få dollar.

 

Hvis vi ser på hvor mye blind skade miner kan gjøre ifht autonome våpen per dollar (antar at skurker har en endelig bankkonto) heller enn per enhet så er det ikke så opplagt at miner gjør mindre skade.

 

En vesentlig forskjell er også at miner gjør skader i dag, autonome våpen er et framtidsscenarie.

 

-k

Endret 19. april 2018 av knutinh