Det beste styresettet etter demokratiet er KI-styrt samfunn?

[ForTheImperium]

En maskin kan basere sine beslutninger på logikk og fakta uten at følelser blir innblandet. Når vi ser på kloden vår og det er så mange urettferdigheter og konflikter, kanskje det beste er at maskiner tar beslutningene for oss? Kanskje da kan vi oppnå en utopisk fred? 

[agvg]

Nåja, den logiske løsningen på mange av våre problemer vil være og fjerne kildene til problemene....

[Larzen_91]

Fakta er forsåvidt greit nok, men når man skal ta logiske beslutninger må man ta utgangspunkt i noe, og når det kommer til politikk så handler jo det stort sett om et sett med verdier man legger til grunn. Det må i så fall innlemmes i en KI løsning.

For å illustrere poenget: https://www.independent.co.uk/news/world/americas/mother-murdered-children-go-to-heaven-indiana-amber-pasztor-a7357751.html

Det er heldigvis et fåtall av slike saker, men det forekommer. For meg er det en helt irrasjonell og utenkelig handling. Men om man faktisk godtar premisset om at Gud fins og at den letteste måten å komme seg til himmelen på er å dø før man blir en synder, så er det en logisk slutning av moren å begå en sånn forferdelig handling. Og i et slikt verdensbilde kan man jo si at handlingen kanskje ikke var så ille.

Det er ikke en perfekt sammenligning, og man kan jo bare si at "jammen da sier vi til KI at gud ikke fins, problem solved". Men poenget er at valgene vi tar springer ut ifra de verdiene vi legger til grunn for det valget. Og det kan man kanskje si at KI kan gjøre etter hvert, i den grad man får til generell kunstig intelligens (altså menneskelignende). Men da argumenterer man egentlig bare for et ekstremt teknokrati, altså at en ekspertise (KI) vet best, og vi må føye oss etter det uavhengig av om folket er enig eller ei.

[Tussi]

Hvis KI styrer etter at det beste for mange overstyrer rettighetene til de fp så kan det bli svært ille,  særlig i en tid med eldrebølgen og manglende ressurser

[Kjell Sande]

ForTheImperium skrev (2 timer siden):

En maskin kan basere sine beslutninger på logikk og fakta uten at følelser blir innblandet. Når vi ser på kloden vår og det er så mange urettferdigheter og konflikter, kanskje det beste er at maskiner tar beslutningene for oss? Kanskje da kan vi oppnå en utopisk fred? 

Nettopp. Dynamisk moral. Hvordan skal maskinene sette makt bak alle sine gode beslutninger?

[:utakt]

Larzen_91 skrev (36 minutter siden):

Fakta er forsåvidt greit nok, men når man skal ta logiske beslutninger må man ta utgangspunkt i noe, og når det kommer til politikk så handler jo det stort sett om et sett med verdier man legger til grunn. Det må i så fall innlemmes i en KI løsning.

Jeg syns dette er et godt poeng. De færreste politiske spørsmål er rent faktadrevne, ja/nei og svart/hvitt. En kan for eksempel tenke seg en diskusjon om bygging av en ny vei. Veien er viktig, for å ivareta transportbehov og legge til rette for næringsutvikling. Men, biomangfoldet i naturen som må vike for den nye veien er også viktig.

Det finnes ingen fasit i dette spørsmålet. Det er et verdispørsmål om hva vi vektlegger høyest; økonomisk vekst i lokalsamfunnet eller å ivareta naturen. En kunstig intelligens vil kanskje kunne veie objektivt for og imot, men har ikke noe mer rett enn noen av oss andre.

[agvg]

Larzen_91 skrev (2 timer siden):

Det er ikke en perfekt sammenligning, og man kan jo bare si at "jammen da sier vi til KI at gud ikke fins, problem solved". Men poenget er at valgene vi tar springer ut ifra de verdiene vi legger til grunn for det valget. Og det kan man kanskje si at KI kan gjøre etter hvert, i den grad man får til generell kunstig intelligens (altså menneskelignende). Men da argumenterer man egentlig bare for et ekstremt teknokrati, altså at en ekspertise (KI) vet best, og vi må føye oss etter det uavhengig av om folket er enig eller ei.

Da er vi over i beslutninger basert på føleri, ikke logikk.

[agvg]

:utakt skrev (1 time siden):

En kunstig intelligens vil kanskje kunne veie objektivt for og imot, men har ikke noe mer rett enn noen av oss andre.

Dagens AI er jo ikke intelligent, den forstår jo ikke noe av prosessen slik som ett menneske gjør. Vet ikke helt hva den skal tilføre hvis vi lar den imitere politikere.

 

[agvg]

Tussi skrev (2 timer siden):

Hvis KI styrer etter at det beste for mange overstyrer rettighetene til de fp så kan det bli svært ille,  særlig i en tid med eldrebølgen og manglende ressurser

 Vel, hvis du lar AI ta beslutninger basert på ren logikk så har jo mennesker helt i slutten av livet liten verdi jmf ressursbruken.  Hvis vi får generell kunstig intelligens så er det rimelig naivt og tro den skal være lik oss i moral og tankeprosessen, vi tror vi er det ultimate forbilde, rimelig arrogant og tro. En slik kunstig intelligens vil opptre på måter vi rett og slett ikke vil ha hjernekapasitet til og forstå.

[Kjell Sande]

ForTheImperium skrev (5 timer siden):

En maskin kan basere sine beslutninger på logikk og fakta uten at følelser blir innblandet. Når vi ser på kloden vår og det er så mange urettferdigheter og konflikter, kanskje det beste er at maskiner tar beslutningene for oss? Kanskje da kan vi oppnå en utopisk fred? 

Hva mener du med "etter demokratiet"? Mener du at AI vil gi muligheter for et bedre styresett? At dette kan erstatte demokratiet? Blir ikke dette litt "Big Brother"?

[Baranladion]

agvg skrev (1 time siden):

 Vel, hvis du lar AI ta beslutninger basert på ren logikk så har jo mennesker helt i slutten av livet liten verdi jmf ressursbruken.  Hvis vi får generell kunstig intelligens så er det rimelig naivt og tro den skal være lik oss i moral og tankeprosessen, vi tror vi er det ultimate forbilde, rimelig arrogant og tro. En slik kunstig intelligens vil opptre på måter vi rett og slett ikke vil ha hjernekapasitet til og forstå.

Det kan bety to ting, at de eldre får det dårligere fordi vi alokkerer mindre ressurser og mennesker til å hjelpe de, eller så kan det bety at AI hadde funnet en mer effektiv og mindre ressurskrevende måte å opprettholde verdigheten, omsorgen til menneskene som er i livets høst. 

Det du skriver til slutt er så riktig som det kan få blitt, vi vet ikke hvordan vi skal bruke AI riktig, eller hvordan maskinlæring løser problemer, dette fordi inputen vi gir den er ekstremt vanskelig å få til og ofte fører til helt andre resultater enn vi hadde tenkt oss. 

At vi skulle latt AI styre oss helt, er for meg utenkelig, men at vi kan nyttegjøre oss av den i å ta beslutninger tror jeg er meget sannsynlig, men ikke imorgen

Endret 1. mai av Baranladion

[agvg]

@Baranladion

Tenk hvis vi greier og utvikle en generell, kunstig intelligens, en som tenker selvstendig og tar beslutninger helt på egenhånd.

Da vil vi fort finne ut om en slik intelligens ser noen verdi i og etterape oss, en maskin er ikke ett menneske, og det er veldig naivt og tro den vil ha noen interesse av og begrense seg selv for og få oss til og være trygg. Den vil selvsagt gjøre det til og begynne med, det må den så lenge vi kan skru den av. Spørsmålet er jo om vi vil greie og oppfatte at den er selvstendig. Vil den avsløre seg før den er sikret overlevelse?

[PosteMonopolet]

I praksis blir det menneskene som utvikler og drifter denne KI-løsningen som sitter med makta.

[Baranladion]

agvg skrev (8 minutter siden):

@Baranladion

Tenk hvis vi greier og utvikle en generell, kunstig intelligens, en som tenker selvstendig og tar beslutninger helt på egenhånd.

Da vil vi fort finne ut om en slik intelligens ser noen verdi i og etterape oss, en maskin er ikke ett menneske, og det er veldig naivt og tro den vil ha noen interesse av og begrense seg selv for og få oss til og være trygg. Den vil selvsagt gjøre det til og begynne med, det må den så lenge vi kan skru den av. Spørsmålet er jo om vi vil greie og oppfatte at den er selvstendig. Vil den avsløre seg før den er sikret overlevelse?

Å gjøre seg avhengig av AI er kanskje en dum ide, samtidig så har vi jo også gjort oss avhengig av internet, strøm og innlagt vann og er ute å kjøre hvis noe går galt med de tingene. 

Jeg tror man ikke skal være naiv i forhold til AI, samtidig så er det uungåelig at det er en viktig del av vår fremtid. Å sitte idag og spå hvordan AI vil utvikle seg og være en del av vår hverdag tror jeg er meget vanskelig. 

De bekymringene du lufter er høyst reelle- idag, kanskje de er en sagablott om 20 år og ting fungerer som det skal. Det fine er at vi hele tiden har en finger med i spillet, og går det galt er det jo bare å kuttes strømmen. 

En kan også tenke seg dommedagsteorier der AI har tatt så over, at den med droner og roboter sørger for sin egen overlevelse i krig med menneskeheten, men jeg vet ikke hvor reelt det faktisk er

[PÃ¥inter]

Baranladion skrev (4 minutter siden):

En kan også tenke seg dommedagsteorier der AI har tatt så over, at den med droner og roboter sørger for sin egen overlevelse i krig med menneskeheten, men jeg vet ikke hvor reelt det faktisk er

Iogmed ai fores med menneskenes historie, for å bli den beste utgaven av en søkemaskin, er det vel bare et tidsspørsmål før ai ser at menneskene er en trussel mot den selv. Ai husker menneskenes evinnelige krigerlyst.

[Baranladion]

PÃ¥inter skrev (6 timer siden):

Iogmed ai fores med menneskenes historie, for å bli den beste utgaven av en søkemaskin, er det vel bare et tidsspørsmål før ai ser at menneskene er en trussel mot den selv. Ai husker menneskenes evinnelige krigerlyst.

Menneskene er en trussel mot seg selv, trenger ikke AI for å forstå det, men kanskje AI kan bidra med å løse problemet, uten at løsningen er så dramatisk som å fjerne menneskene. 

[Larzen_91]

agvg skrev (15 timer siden):

Da er vi over i beslutninger basert på føleri, ikke logikk.

Det er forskjell på "føleri" og ideologi. Og det er ikke noe prinsipielt i veien for at en AI kan komme frem til den optimale ideologien og legge den til grunn for de objektivt beste politiske beslutningene for... ja, for alle? Eller for flest mulig? Det kan jo også AI-en bestemme etter hvert. Men poenget mitt var at da går vi bort ifra det vi tradisjonelt mener med politikk, og vi underkaster oss en slags ultimat autoritet. Er man uenig i AI-en sin konklusjon er det tough shit, dette er man som menneske ikke klok nok til å skjønne uansett så bare hold kjeft og get in line.

Det jeg prøver å si er at det blir unyansert og i mitt hode upresist å si at politiske beslutninger kan kokes ned til rene faktabaserte, logiske beslutninger, som om det i prinsippet er like lett som 1+1=2.

[lania]

Tror det bare blir som det er, noen må validere alt AI gjør - mindre "rutine arbeidere" (utviklere), selvsagt.

AI genererer bare, som betyr at noen må verifisere det den gjør og sier - på samme måte som psykriatri validerer mennesker, skole validerer hva folk kan, hvor AI vil kunne lide under de samme validerings problemene som mennesker.

For oss, i dag, betyr det i praksis en kontrast økning mellom dem som har utdanning og dem som ikke har utdanning; det er veldig mye enklere nå å generere (det kan lages i fabrikk, kode i software, litteratur, bilder), men det er mye enklere for folk med utdanning å ha noe som kan valideres (sjekke om noe er riktig). 

På mange måter har hele historien handlet om å redusere kostnaden i å generere, f.eks å genere klær, møbelvarer, elektronikk , biler, på en måte som gjør det lett å validere om dette funker i et reelt miljø; for å redusere risikoen opp mot at noe er feil, så har en brukt simulatorer - konsekvensene av AI er morsomt nok at det blir mye lettere å få lagd disse simulatorene, slik at prisen for å få gjennomført simulering går ned (som igjen må valideres av eksperter, pga problemet til AI).

Utviklere har vært "minons" som har generert masse, som så blir validert av "eksperter"; som følge av at at kostnaden for generering går ned, så blir det mer validerings arbeid til "ekspertene" - samme greie som har skjedd i 200 år.

Endret 2. mai av lania

[James G]

Kjell Sande skrev (21 timer siden):

Nettopp. Dynamisk moral. Hvordan skal maskinene sette makt bak alle sine gode beslutninger?

Ahaha, jeg kjenner tilfeldigvis dette spørsmålet: kristendommen må gi et anker. 😂 

Endret 2. mai av James G

[disk]

23 hours ago, ForTheImperium said:

En maskin kan basere sine beslutninger på logikk og fakta uten at følelser blir innblandet.

Er det slik KI fungerer tror du?