Det beste styresettet etter demokratiet er KI-styrt samfunn?

[James G]

Larzen_91 skrev (3 timer siden):

Det er forskjell på "føleri" og ideologi. Og det er ikke noe prinsipielt i veien for at en AI kan komme frem til den optimale ideologien og legge den til grunn for de objektivt beste politiske beslutningene for... ja, for alle? Eller for flest mulig? Det kan jo også AI-en bestemme etter hvert. Men poenget mitt var at da går vi bort ifra det vi tradisjonelt mener med politikk, og vi underkaster oss en slags ultimat autoritet. Er man uenig i AI-en sin konklusjon er det tough shit, dette er man som menneske ikke klok nok til å skjønne uansett så bare hold kjeft og get in line.

Det jeg prøver å si er at det blir unyansert og i mitt hode upresist å si at politiske beslutninger kan kokes ned til rene faktabaserte, logiske beslutninger, som om det i prinsippet er like lett som 1+1=2.

Menneskelig ideologi og tankeprosesser er ikke 100% logiske, men grunnlaget for AI og alle datamaskiner i dag er 100% logiske. Turingmaskinen er den kraftigste beregningsmodellen vi har i dag. På det mest grunnleggende nivået forstår vi ikke helt hvordan vi skal beskrive en «ikke veldig logisk beregningsprosess» og deretter forvente at prosessen skal være presis for matematiske problemer, men fleksibel for politiske.

[Larzen_91]

Det nærmeste vi kommer generell AI per i dag er vel LLMs, altså språkmodeller f.eks. ChatGPT. Disse vet man ikke helt hvordan faktisk fungerer i dybden, annet enn at man kan si at det er programvare som er veldig flink til å formulere setninger på en måte som et menneske ville gjort. Men disse modellene hallusinerer også. Men de fungerer godt nok nå til at om man ikke hadde vært klar over at man pratet med en maskin så ville de nok lurt de aller fleste. Så det å si at AI er 100% logisk spørs litt hva man mener, vi vet i det aller minste at cutting edge AI som er tilgjengelig for allmennheten tar feil om mange ting.

Som sagt, logikk er ikke nødvendigvis en vei til sannhet eller det beste av flere valg. Det spørs helt på premissene/aksiomene i bunn. Og man kan godt ha flere premisser/aksiomer i bunnen som er riktige, men ett feil, og det ødelegger alt.

P1: Det regner kun på fredager. P2: I dag regner det ikke. K: I dag kan det ikke være fredag. Dette er en logisk korrekt slutning, dersom man aksepterer begge premissene.

[Kjell Sande]

James G skrev (2 timer siden):

Ahaha, jeg kjenner tilfeldigvis dette spørsmålet: kristendommen må gi et anker. 😂 

Nettopp - eller blir det bare fantasi og ville tanker 😀

Jeg tenkte vel mer på hva som kan skje hvis vi erstatter demokratiet med en KI-styre. Det minner litt om et samfunn styrt av en elite. Hvordan skal maktfordelingen være? Vil dette åpne for en verden styrt av en sentral enhet?

En ting er hvordan KI kan forbedre en selvstyrt bil. En annen ting er hvordan et samfunn skal styres. Jeg er tilhenger at å la KI være rådgiver og ikke iverksetter.

[James G]

Larzen_91 skrev (15 timer siden):

Det nærmeste vi kommer generell AI per i dag er vel LLMs, altså språkmodeller f.eks. ChatGPT. Disse vet man ikke helt hvordan faktisk fungerer i dybden, annet enn at man kan si at det er programvare som er veldig flink til å formulere setninger på en måte som et menneske ville gjort. Men disse modellene hallusinerer også. Men de fungerer godt nok nå til at om man ikke hadde vært klar over at man pratet med en maskin så ville de nok lurt de aller fleste. Så det å si at AI er 100% logisk spørs litt hva man mener, vi vet i det aller minste at cutting edge AI som er tilgjengelig for allmennheten tar feil om mange ting.

Bak LLM er transformer, bak transformer er matrisemultiplikasjon, bak matrisemultiplikasjon er multiplikasjon og addisjon av tall, bak multiplikasjon og addisjon er en serie med logisk porter, og hver port er fullstendig logisk og forutsigbar.

 

Siden resultatene av matematiske operasjoner kan verifiseres, kan vi, hvis småskalaoperasjonene er riktige og algoritmen er riktig, utlede at resultatene av storskalaoperasjoner også er riktige. Menneskelig tenkning og beslutningsprosesser følger imidlertid ikke slike regler. Vi vet heller ikke om menneskelig tenkning og beslutningstaking kan simuleres ved hjelp av logiske porter. Suksessen til LLM skyldes at matematikere har funnet en måte å matematisere menneskelig språk på, men vi kan ikke finne en måte å bevise at politiske spørsmålene kan matematiseres på samme måte, og vi kan ikke bevise at de ikke kan.

Endret 2. mai av James G

[Larzen_91]

James G skrev (10 timer siden):

Bak LLM er transformer, bak transformer er matrisemultiplikasjon, bak matrisemultiplikasjon er multiplikasjon og addisjon av tall, bak multiplikasjon og addisjon er en serie med logisk porter, og hver port er fullstendig logisk og forutsigbar.

Siden resultatene av matematiske operasjoner kan verifiseres, kan vi, hvis småskalaoperasjonene er riktige og algoritmen er riktig, utlede at resultatene av storskalaoperasjoner også er riktige. Menneskelig tenkning og beslutningsprosesser følger imidlertid ikke slike regler. Vi vet heller ikke om menneskelig tenkning og beslutningstaking kan simuleres ved hjelp av logiske porter. Suksessen til LLM skyldes at matematikere har funnet en måte å matematisere menneskelig språk på, men vi kan ikke finne en måte å bevise at politiske spørsmålene kan matematiseres på samme måte, og vi kan ikke bevise at de ikke kan.

Nei i så måte så er vi jo enig slik jeg forstår deg. Kanskje upresist av meg å si at vi ikke skjønner hvordan LLM fungerer, det betyr ikke nødvendigvis at det ikke er forståelig, men at det blir for kaotisk for oss som mennesker å forstå per nå. Men poenget mitt fra forrige post står enda, logikk er ikke alt heller. Man kan som sagt ha en fullstendig logisk konklusjon som er feil, dersom premissene man dytter inn i logikken er feilaktige. Og verdispørsmål vil jeg også si havner i en kategori som er vanskelig å behandle som kalde og deterministiske logiske oppgaver.