Det beste styresettet etter demokratiet er KI-styrt samfunn?

[James G]

Larzen_91 skrev (3 timer siden):

Det er forskjell på "føleri" og ideologi. Og det er ikke noe prinsipielt i veien for at en AI kan komme frem til den optimale ideologien og legge den til grunn for de objektivt beste politiske beslutningene for... ja, for alle? Eller for flest mulig? Det kan jo også AI-en bestemme etter hvert. Men poenget mitt var at da går vi bort ifra det vi tradisjonelt mener med politikk, og vi underkaster oss en slags ultimat autoritet. Er man uenig i AI-en sin konklusjon er det tough shit, dette er man som menneske ikke klok nok til å skjønne uansett så bare hold kjeft og get in line.

Det jeg prøver å si er at det blir unyansert og i mitt hode upresist å si at politiske beslutninger kan kokes ned til rene faktabaserte, logiske beslutninger, som om det i prinsippet er like lett som 1+1=2.

Menneskelig ideologi og tankeprosesser er ikke 100% logiske, men grunnlaget for AI og alle datamaskiner i dag er 100% logiske. Turingmaskinen er den kraftigste beregningsmodellen vi har i dag. På det mest grunnleggende nivået forstår vi ikke helt hvordan vi skal beskrive en «ikke veldig logisk beregningsprosess» og deretter forvente at prosessen skal være presis for matematiske problemer, men fleksibel for politiske.

[Larzen_91]

Det nærmeste vi kommer generell AI per i dag er vel LLMs, altså språkmodeller f.eks. ChatGPT. Disse vet man ikke helt hvordan faktisk fungerer i dybden, annet enn at man kan si at det er programvare som er veldig flink til å formulere setninger på en måte som et menneske ville gjort. Men disse modellene hallusinerer også. Men de fungerer godt nok nå til at om man ikke hadde vært klar over at man pratet med en maskin så ville de nok lurt de aller fleste. Så det å si at AI er 100% logisk spørs litt hva man mener, vi vet i det aller minste at cutting edge AI som er tilgjengelig for allmennheten tar feil om mange ting.

Som sagt, logikk er ikke nødvendigvis en vei til sannhet eller det beste av flere valg. Det spørs helt på premissene/aksiomene i bunn. Og man kan godt ha flere premisser/aksiomer i bunnen som er riktige, men ett feil, og det ødelegger alt.

P1: Det regner kun på fredager. P2: I dag regner det ikke. K: I dag kan det ikke være fredag. Dette er en logisk korrekt slutning, dersom man aksepterer begge premissene.

[Kjell Sande]

James G skrev (2 timer siden):

Ahaha, jeg kjenner tilfeldigvis dette spørsmålet: kristendommen må gi et anker. 😂 

Nettopp - eller blir det bare fantasi og ville tanker 😀

Jeg tenkte vel mer på hva som kan skje hvis vi erstatter demokratiet med en KI-styre. Det minner litt om et samfunn styrt av en elite. Hvordan skal maktfordelingen være? Vil dette åpne for en verden styrt av en sentral enhet?

En ting er hvordan KI kan forbedre en selvstyrt bil. En annen ting er hvordan et samfunn skal styres. Jeg er tilhenger at å la KI være rådgiver og ikke iverksetter.

[James G]

Larzen_91 skrev (15 timer siden):

Det nærmeste vi kommer generell AI per i dag er vel LLMs, altså språkmodeller f.eks. ChatGPT. Disse vet man ikke helt hvordan faktisk fungerer i dybden, annet enn at man kan si at det er programvare som er veldig flink til å formulere setninger på en måte som et menneske ville gjort. Men disse modellene hallusinerer også. Men de fungerer godt nok nå til at om man ikke hadde vært klar over at man pratet med en maskin så ville de nok lurt de aller fleste. Så det å si at AI er 100% logisk spørs litt hva man mener, vi vet i det aller minste at cutting edge AI som er tilgjengelig for allmennheten tar feil om mange ting.

Bak LLM er transformer, bak transformer er matrisemultiplikasjon, bak matrisemultiplikasjon er multiplikasjon og addisjon av tall, bak multiplikasjon og addisjon er en serie med logisk porter, og hver port er fullstendig logisk og forutsigbar.

 

Siden resultatene av matematiske operasjoner kan verifiseres, kan vi, hvis småskalaoperasjonene er riktige og algoritmen er riktig, utlede at resultatene av storskalaoperasjoner også er riktige. Menneskelig tenkning og beslutningsprosesser følger imidlertid ikke slike regler. Vi vet heller ikke om menneskelig tenkning og beslutningstaking kan simuleres ved hjelp av logiske porter. Suksessen til LLM skyldes at matematikere har funnet en måte å matematisere menneskelig språk på, men vi kan ikke finne en måte å bevise at politiske spørsmålene kan matematiseres på samme måte, og vi kan ikke bevise at de ikke kan.

Endret 2. mai av James G

[Larzen_91]

James G skrev (10 timer siden):

Bak LLM er transformer, bak transformer er matrisemultiplikasjon, bak matrisemultiplikasjon er multiplikasjon og addisjon av tall, bak multiplikasjon og addisjon er en serie med logisk porter, og hver port er fullstendig logisk og forutsigbar.

Siden resultatene av matematiske operasjoner kan verifiseres, kan vi, hvis småskalaoperasjonene er riktige og algoritmen er riktig, utlede at resultatene av storskalaoperasjoner også er riktige. Menneskelig tenkning og beslutningsprosesser følger imidlertid ikke slike regler. Vi vet heller ikke om menneskelig tenkning og beslutningstaking kan simuleres ved hjelp av logiske porter. Suksessen til LLM skyldes at matematikere har funnet en måte å matematisere menneskelig språk på, men vi kan ikke finne en måte å bevise at politiske spørsmålene kan matematiseres på samme måte, og vi kan ikke bevise at de ikke kan.

Nei i så måte så er vi jo enig slik jeg forstår deg. Kanskje upresist av meg å si at vi ikke skjønner hvordan LLM fungerer, det betyr ikke nødvendigvis at det ikke er forståelig, men at det blir for kaotisk for oss som mennesker å forstå per nå. Men poenget mitt fra forrige post står enda, logikk er ikke alt heller. Man kan som sagt ha en fullstendig logisk konklusjon som er feil, dersom premissene man dytter inn i logikken er feilaktige. Og verdispørsmål vil jeg også si havner i en kategori som er vanskelig å behandle som kalde og deterministiske logiske oppgaver.

[o.o]

James G skrev (På 3.5.2025 den 1.20):

Siden resultatene av matematiske operasjoner kan verifiseres, kan vi, hvis småskalaoperasjonene er riktige og algoritmen er riktig, utlede at resultatene av storskalaoperasjoner også er riktige.

Hmmmm... Du må gjerne skrive litt mer om virkemåten til LLM'er om du vil. Når ledende eksperter på området ikke vet hvordan de fungerer, blir jeg var når du skriver slikt.

Ja logiskt kan en følge utfallet av binære porter. Er ikke LLM's bygd opp i format input data | ukjent treningsmetodikk | output?

Og det er denne ukjente treningsmetodikken forskjere prøver å forstå seg på. Anthropic har skrevet en artikkel på dette området.

Kan vell legge til at flere mener denne fundamentale black box metodikken er en av de største problemene med utviklingen av KI, og hvorfor flere forskjere ytrer meninger om å pause utviklingen istedet for å blindt satse på et heldig resultat.

Prosessen med å forstå seg på de indre mekanismene ser jeg går inn under begrepet Mechanistic Interpretability, altså metodikken i å reverse - engineere nevrale nettverk.

Dette er viktig fordi; Hvem programmerer KI'en? Hvem bestemmer hvilket datamateriale den blir trent opp på? Hvem bestemmer vektingen(bias) av datasettet?

Vi trenger ikke å se så veldig lengre enn til Grok, hvor Musk har uttalt noe slikt som at treningsdataen vektla for stor del av mainstream media, og dermed trengte Grok annerledes datasett/vektning for å komme med et annet resultat...


Håper flere forstår problemstillingen,  teknogiganter velger hvordan de trener opp / mater inndata til KI modeller... Hva trengs av gjennomsiktighet i fremtidige modeller?

[Cascada81]

ForTheImperium skrev (På 1.5.2025 den 10.14):

En maskin kan basere sine beslutninger på logikk og fakta uten at følelser blir innblandet. Når vi ser på kloden vår og det er så mange urettferdigheter og konflikter, kanskje det beste er at maskiner tar beslutningene for oss? Kanskje da kan vi oppnå en utopisk fred? 

KI baserer sine beslutninger og sin logikk basert på opplæringen. Den vil jo nødvendigvis også måtte ta beslutninger om eiendomsretten. Ville vi akseptert en form for KI-styrt kommunisme hvis dette var det den kom opp med som best for de fleste? Er du klar for forbud mot kjøtt, søtt, alkohol og tobakk?

Det er heller ikke sånn at hundre prosent rasjonell alltid er gunstig. Det er hundre prosent rasjonelt å drepe en som står i donorkø og fordele de fungerende organene på fem-seks andre, da man redder flere mennesker, men alle forstår at hundre prosent rasjonelt ikke alltid er etisk riktig.

Det vil også oppstå motsetninger mellom et lands interesse og global interesse. Man risikerer å starte en krig fordi sannsynligheten for en konflikt de neste femti årene har sannsynlighetsovervekt, og man kommer bedre ut av en krig nå.

[The Avatar]

o.o skrev (På 5.8.2025 den 14.38):

Dette er viktig fordi; Hvem programmerer KI'en? Hvem bestemmer hvilket datamateriale den blir trent opp på? Hvem bestemmer vektingen(bias) av datasettet?

Og sjølv om vi forutsetter ein "perfekt" KI, kven er det som definerer ordlyden i promt'en som KI'en skal svare på? Med oppfølgingsspørsmålet; kven kan endre på promt'en om KI svaret ikkje gir meining?

Stiller du spørsmål om skatt til ein KI så kan enten få svar om ein skatteprosent på inntekt, men du kan også få svar på kor stor skatt Kaptein Sortebill har gravd ned. Ofte vil KI'en svare på begge delar, er det då slik at begge svara skal vedtakast som lov under eit KI styresett? Eller skal nokon få makt til å seie at svaret om gullskattar er irrelevant? Om nokon får slik fullmakt, korleis forsikrer vi oss om at vi ikkje nettopp innførte skattefritak for formuer som er oppbevart i form av gull?