AI, kunstig intelligens

[Inspector]

Alle er imponert over hvor langt den virtuelle verden har kommet, men få snakker om baksiden av medaljen:

https://www.vg.no/sport/motorsport/i/zEQLor/schumacher-familien-raser-vil-saksoeke-magasin-etter-kunstig-intervju

I dag ler vi av klønete chatBoter, Siri og MyAI, men ved å skape falske intervjuer, kilder, taler, bilder, forskningsartikler osv osv, åpner man virkelig Pandoras eske.
Mulighetene blir mange for Putin, Trump og andre med spesielle agendaer til å skape troverdig desinformasjon med tilhørende forvirring.

Hvis ingen lenger kan stole på noen, er veien til kollaps kort. Uvesenet må lovreguleres eller forbys.

[Comma Chameleon]

For et idiotisk påfunn av avisen. Håper de taper en sak her. Det er en ting å gå etter noen som lever i offentligheten og ønsker å holde seg der. Å gå etter en som er grønnsak og der familien i alle år siden ulykken har ønsket å holde ting privat er skikkelig sleipt. Det er selvfølgelig helt greit å gjøre det på privaten og ha det gøy, men aviser må holdes til høyere standard.

Inspector skrev (17 minutter siden):

Hvis ingen lenger kan stole på noen, er veien til kollaps kort

Det kunne du ikke før AI og LLM heller. Russland (og sikkert flere land) har hatt store trollfabrikker som spres misinformasjon. Mye har vært automatisert allerede. Verktøy som GPT gjør jo selvfølgelig dette enklere, raskere og mer overbevisende så det er jo definitivt en utfordring. Men det er ikke noe nytt.

Inspector skrev (21 minutter siden):

Uvesenet må lovreguleres eller forbys

Å forby det er det bare å glemme. En teknologi kan ikke 'uoppfinnes'. Forbud mot narkotika fungerer ikke. Forbud mot piratkopiering funker ikke. Dette er også ting som kan kjøres offline og da vil det være umulig å stoppe det fra de som har onde hensikter.

Regulering må nok på plass etterhvert, men da må vi sørge for at de som regulerer dette faktisk vet hva de snakker om. Alt for mye av teknologi blir enten ikke regulert eller feil regulert fordi politikere ofte er gamle folk som såvidt forstår seg på facebook.

[Inspector]

Comma Chameleon skrev (2 timer siden):

 

Det kunne du ikke før AI og LLM heller. Russland (og sikkert flere land) har hatt store trollfabrikker som spres misinformasjon. Mye har vært automatisert allerede. Verktøy som GPT gjør jo selvfølgelig dette enklere, raskere og mer overbevisende så det er jo definitivt en utfordring. Men det er ikke noe nytt.

Forskjellen er at tidligere desinformasjon var mye lettere å avsløre.

Tenk om «noen» plutselig produserte et vennlig fake-møte mellom russiske og ukrainske styrker hvor man var enige om nye grenser og et helt sett av «troverdige og uavhengige» kilder som bekreftet at krigen var over ?

Endret 20. april 2023 av Inspector

[Comma Chameleon]

Inspector skrev (24 minutter siden):

Forskjellen er at tidligere desinformasjon var mye lettere å avsløre.

Tenk om «noen» plutselig produserte et vennlig fake-møte mellom russiske og ukrainske styrker hvor man var enige om nye grenser og et helt sett av «troverdige og uavhengige» kilder som bekreftet at krigen var over ?

Ja hva så? Det er garantert noen som har muligheten til å gjøre det nå, og kanskje har gjort det. Kanskje har de lurte noen, men mest sannsynlig veldig få.

Man må uansett utøve kildekritikk. Kan man ikke verifisere kildene så må man avfeie det som mulig fake news.

Allerede idag kan vi lage deepfakes som går både på stemme og video. Godt nok til å lure en veldig stor prosent av befolkningen. Men likevel så går det egentlig ganske greit.

Få noen reguleringene på plass som gir mening, og så ha ordentlig opplysning av folk på hva AI kan gjøre og de beste måtene å unngå å bli lurt på. Da vil det hele gå ganske greit.

[Inspector]

Inspector skrev (På 20.4.2023 den 11.18):

Alle er imponert over hvor langt den virtuelle verden har kommet, men få snakker om baksiden av medaljen:

 

Her er det flere som begynner å forstå hva AI egentlig er:

https://www.tv2.no/nyheter/innenriks/harreisende-at-dette-er-tilgjengelig-for-barn/15685212/

Et usunt substitutt for ekte sosial omgang og en velegnet plattform for overfladiskhet og fakenews…..

Noen som vet hvordan jeg får avinstallert det tåpelige MyAI på telefonen ? Må jeg avinstallere Snapsladderet ?

[Inspector]

Comma Chameleon skrev (På 20.4.2023 den 14.33):

Ja hva så? Det er garantert noen som har muligheten til å gjøre det nå, og kanskje har gjort det. Kanskje har de lurte noen, men mest sannsynlig veldig få.

Man må uansett utøve kildekritikk. Kan man ikke verifisere kildene så må man avfeie det som mulig fake news.

Ikke lett å avfeie denne typen svindel umiddelbart:  https://e24.no/teknologi/i/KnlOvy/den-perfekte-svindelen?referer=https%3A%2F%2Fwww.vg.no

Du kan være helt sikker på at propagandafabrikker og annet kjeltringpakk gnir seg i hendene….

[Comma Chameleon]

Inspector skrev (1 time siden):

Ikke lett å avfeie denne typen svindel umiddelbart:  https://e24.no/teknologi/i/KnlOvy/den-perfekte-svindelen?referer=https%3A%2F%2Fwww.vg.no

Du kan være helt sikker på at propagandafabrikker og annet kjeltringpakk gnir seg i hendene….

Joda, men at svindlere lurer en 68-åring er ikke noe nytt. AI er bare enda et verktøy de kan bruke, men det kan godt hende de kunne klart dette uten AI også.

Når man vet at både telefonnr og stemmer kan forfalskes så er man mer skeptisk. Mange ganger ila den historien du sendte der fyren kunne ha avslørt svindelen 

[Nepa]

I begynnelsen var det sjokkerende med robotiske stemmer på Youtube, nå virker det mer normalt. Men nå har de "pinadø" begynt med AI-genererte personer også. Det er litt over grensa. Her en AI-lege.

 

 

[Brother Ursus]

En 9^99999999999999999 exoflop kalkulator er fremdeles bare en kalkulator.

[Comma Chameleon]

Nepa skrev (9 timer siden):

Det er litt over grensa.

Hvilken grense, og hvorfor er det eventuelt ikke greit?

[Selfuniverse]

9 hours ago, Brother Ursus said:

En 9^99999999999999999 exoflop kalkulator er fremdeles bare en kalkulator.

Unnskyld at jeg forstyrrer deg, men hva har det med saken å gjøre?

En skjermsparer som viser 99999999999 milliarder animasjoner i sekundet er fremdeles bare en skjermsparer.

Ett operativsystem som oppdaterer muspekeren 99999999999999 octagagillion ganger i sekundet, er også bare ett operativsystem som oppdaterer muspekeren.

Men i denne tråden snakker folk om noe svært avansert, som tilogmed kan skrive kildekode. Jeg lagde en gang ett program som kunne skrive om seg selv, som ett "proof of consept". Det er ikke vanskelig. Og ganske selvfølgelig mulig for noen i dag å koble AI om til at den ikke bare får lære hva den vil fra internet, men også får lov til å forandre kildekoden sin. Det hadde betydd at den i praksis kan gjøre hva som helst som er mulig i det datasystemet og nettverket den er koblet til. Ikke bare regne på tall sånn som du forteller oss om.

[lada1]

ChatGPT er en såkalt språkmodell som kan virke imponerende, men det er enkelt å demonstrere dens begrensninger. Jeg prøvde å få den til å analysere sangen/diktet "Ja vi elsker". Da fikk jeg et imponerende svar som var høyt over det jeg selv ville prestere. Jeg fikk den også til å lage enkle data-programmer for meg, men det går en grense der det er mer jobb å forklare hva jeg ønsker enn å skrive koden selv. Jeg prøvde også å få den til å svare på innhold i mine egne spiss-vitenskapelige publikasjoner, og da ble svarene  nesten alltid direkte feil (gjerne påklistret svada).

CharGPT forstår i prinsippet ikke noe, men den utfører avansert imitering (parroting). Den kan være et nyttig verktøy til sitt bruk. Og jeg tror at slike språkmodeller kan bidra til å vise f.eks. at de "beste" såkalt reflekterende tekster som produseres av elever i VGS/ungdomsskolen, som regel (mer enn 95 prosent?) bare er tilsynelatende "reflektering" og egentlig mest imitering. Elever som virkelig viser evne til selvstendig tenkning vil i praksis som regel få stryk og negative tilbakemeldinger. Reflekterende skriving i grunnskolen/VGS er helst bare en øvelse i overfladisk imitering der virkelig selvstendighet blir straffet.  ChatGPT er oss overlegen i slik imitering 🙂 

Endret 4. mai 2023 av lada1

[Powertrainer]

MyAI må være noe av det mest ubrukelige som er oppfunnet. Den greier ikke å gi et eneste korrekt svar på enkel faktainformasjon, den bare spyr ut tilfeldige påstander og tall. Jeg er faktisk skremt over hvor dårlig den er, den er helt verdiløs hvis man skal innhente informasjon. Hvis noen bruker den til å få svar på ting de lurer på vil de bli kraftig misinformert.

[Aiven]

Tek.no har skrevet om den, men for de som ikke har sett den er både script og "høytlesning" i denne podcasten utført av AI. Hele podcasten er altså AI-generert (dog tipper jeg den er klippet og redigert av mennesker).

 

 

 

Under er mine egne, beste AI-bilder, alle laget i Midjourney versjon 4 (mange av scriptene er kopiert fra andre). For enda bedre bilder se Midjourney Community Showcase.

 

Endret 5. mai 2023 av Aiven

[knutinh]

Brother Ursus skrev (På 3.5.2023 den 0.30):

En 9^99999999999999999 exoflop kalkulator er fremdeles bare en kalkulator.

Det hele reiser noen interessante spørsmål. Hva er egentlig «intelligens», og kan man skille ekte intelligens fra tilsynelatende intelligens?

Hvis en fancy kalkulator kan kvakke som en and og gå som en and, er den da en and? Eller er det noe je-ne-se-kva som gjør at mine svar er «intelligente» mens en fancy kalkulator som svarer på måter som ikke lar seg skille fra mine ikke er det?

Kanskje jeg bare er en fancy kalkulator?

-k

[lada1]

On 5/6/2023 at 7:49 AM, knutinh said:

Det hele reiser noen interessante spørsmål. Hva er egentlig «intelligens», og kan man skille ekte intelligens fra tilsynelatende intelligens?

Hvis en fancy kalkulator kan kvakke som en and og gå som en and, er den da en and? Eller er det noe je-ne-se-kva som gjør at mine svar er «intelligente» mens en fancy kalkulator som svarer på måter som ikke lar seg skille fra mine ikke er det?

Kanskje jeg bare er en fancy kalkulator?

-k

Spørsmålet nå er vel helst hva en robot kan gjøre raskere og billigere  enn det du kan - og om du ender opp som "trygdet" 🙂

[Entern]

knutinh skrev (På 6.5.2023 den 7.49):

Det hele reiser noen interessante spørsmål. Hva er egentlig «intelligens», og kan man skille ekte intelligens fra tilsynelatende intelligens?

Hvis en fancy kalkulator kan kvakke som en and og gå som en and, er den da en and? Eller er det noe je-ne-se-kva som gjør at mine svar er «intelligente» mens en fancy kalkulator som svarer på måter som ikke lar seg skille fra mine ikke er det?

Kanskje jeg bare er en fancy kalkulator?

-k

Harari skriver en del om dette temaet i «Homo Deus» (ikke like bra som «Sapiens» men dekker dette temaet bra)👍

[Entern]

lada1 skrev (19 minutter siden):

Spørsmålet nå er vel helst hva en robot kan gjøre raskere og billigere  enn det du kan - og om du ender opp som "trygdet" 🙂

Får håpe vi ikke ender som Megacity-One der robotene gjør alt arbeidet og 95% av befolkningen er arbeidsledig 😅

[knutinh]

Det ville være litt kostelig om det var lederene våre som ble erstattet av en algoritme mens gutta på gulvet fortsatt får jobbe.

Bittersøtt fordi mens det beviser at lederlønninger er så godt betalt i forhold til kompleksiteten at man kan erstatte dem med en drøss Nvidia GPU-er, så betyr det at maskinene er våre nye over-lords.

-k

[Selfuniverse]

2 hours ago, knutinh said:

Det ville være litt kostelig om det var lederene våre som ble erstattet av en algoritme

Det er nok en del ledere i verden, og andre mektige folk som ser på AI som en stor trussel til makten deres. Og vil nå vel heller prøve å kontrollere det til sin egen fordel. OpenAI/ChatGPT ble jo kjøpt opp av Microsoft ser det ut som, og er ikke lenger 'åpen' har jeg hørt.

Vi må regne med at videre utvikling av forskjellige AI'er blir mer bak stengte dører fra nå av. Hva det vil føre til vet jeg ikke. For meg er det helt greit at de bare stenger ned all AI. Fordi alt biologisk liv i melkeveien står på spill.