Mer enn fire av ti nordmenn bekymrer seg for kunstig intelligens

[Diskusjon.no]

43 prosent av de spurte er bekymret eller svært bekymret for kunstig intelligens, går det fram av en undersøkelse for…

Les hele artikkelen på Tek.no her

[Brother Ursus]

Jeg er overhodet ikke bekymret. Rett og slett fordi kunstig intelligens ikke eksisterer. Det er algoritmelæringsmaskiner, eller AL. AI vil aldri eksistere basert på dagens teknologi og prinsipper. En elektronisk datamaskin slik de fungerer i dag kan aldri bli selvbevisst på noe som helst nivå. Det er en kalkulator.

[WiiBoy]

Just now, Brother Ursus said:

Jeg er overhodet ikke bekymret. Rett og slett fordi kunstig intelligens ikke eksisterer. Det er algoritmelæringsmaskiner, eller AL. AI vil aldri eksistere basert på dagens teknologi og prinsipper. En elektronisk datamaskin slik de fungerer i dag kan aldri bli selvbevisst på noe som helst nivå. Det er en kalkulator.

AI er hinsides farlig for menneskeheten.

Deep fake versjonene av AI vil gjøre absolutt all informasjon usikker. Der vil bli nesten umulig å skille mellom kompetente svar og genererte ukvalifiserte svar. Det vil bli nesten umulig å vite om en direkte overført tale er 100% fake, 100% ekte eller manipulerte på enkelte kritiske ord.

AI vil utfordre verdien av kunnskap og verdien av utdannelse. AI vil gå i direkte angrep på det økonomiske grunnlaget til mellomklassen. Hva gjør vi dersom det ikke lønner seg med utdannelse lenger? Hvordan vil verden bli dersom kun et fåtall tilegner seg evner til å forstå det større bilde.

Verden vil raskt deles inn i en elite av eiere ( AI kommer aldri til å erstatte eiere) og lavtlønte fattige. Det vil være en verden som eksploderer i konflikt..

[Kajac]

Brother Ursus skrev (9 minutter siden):

Jeg er overhodet ikke bekymret. Rett og slett fordi kunstig intelligens ikke eksisterer. Det er algoritmelæringsmaskiner, eller AL. AI vil aldri eksistere basert på dagens teknologi og prinsipper. En elektronisk datamaskin slik de fungerer i dag kan aldri bli selvbevisst på noe som helst nivå. Det er en kalkulator.

This.

Hadde media fokusert på hva såkalt AI er, så er det ingen som hadde vært bekymret. Og det er en grunn til at de som er bekymret i all hovedsak er folk med lav teknologiforståelse.

[Brother Ursus]

Bekymring for både AI (AL) og deepfakes er moralske panikker uten rot i virkelighet. Folk har allerede så mye bias at de tror på hva de vil, irrespektivt av virkeligheten eller ting som kan bevises.

AL kommer til å føre til den fjerde industrirevolusjonen og kanskje også økonomisk vekst til tross for demografisk implosjon.

At rike blir rikere er en utvikling som har skutt fart siden 1975 og har med politikk å gjøre. Ikke teknologi.

[Snikpellik]

AI er en kjemperessurs og utrolig spennende. Det åpner for så mange muligheter for oss, selv om det også gir en del nye utfordringer. Per nå handler den offentlige debatten mest om sidespor og bærer litt preg av at forståelsen av hva AI er foreløpig er ganske lav. Det er mange bekymringer knyttet til AI som også løftes frem av de som utvikler diverse tjenester, men fokuset har vært mye på sannhet og ikke sannhet i mediene. Debatten må nok modnes en del før vi utreder hvordan AI skal reguleres.

For min egen del vet jeg at jeg på sikt kommer til å miste yrket mitt, eller i hvert fall få det totalt endret som følge av AI, så jeg har begynt å sette meg inn i det for å finne ut av hvordan jeg kan bruke det til min fordel.

Endret 25. april 2023 av Snikpellik

[Red Frostraven]

WiiBoy skrev (14 minutter siden):

Deep fake versjonene av AI vil gjøre absolutt all informasjon usikker. Der vil bli nesten umulig å skille mellom kompetente svar og genererte ukvalifiserte svar. Det vil bli nesten umulig å vite om en direkte overført tale er 100% fake, 100% ekte eller manipulerte på enkelte kritiske ord.

...

Og derfor er kildekritikk viktig.

Med god kildekritikk vet man at man har primærkilder fra pålitelige journalister underlagt ærlige redaktører, som presenterer sannheten om kildene sine din pålitelighet, og benytter seg av journalister som faktisk bevitner hva de rapporterer, eller primærkilder (personer) de finner pålitelige (som i dag).

...problemet er hva mennesker uten kildekritikk kommer til å tro om verden de lever i, som er det eneste store reelle problemet når det kommer til kunstig intelligens brukt i ond hensikt.

...det neste problemet vil/kan være kunstig intelligens som begår datainnbrudd og/eller designer virus.

---

Det  fremste problemet på den lysere siden er kunstig intelligens som begynner å løse oppgaver som gjør mennesker overflødige, som maskinene for fabrikkarbeideren. Men her igjen er samfunnsutviklingen et større problem i så tilfelle, vi må unngå at private eller fremmede statlige eiere sørger for at fellesskapet tappes for arbeidsplasser og at pengene demmes opp i få hender, og at vi blir en internasjonal produsent av korn til fôr, litt metaller og ammunisjon, og fisk.

Endret 25. april 2023 av Red Frostraven

[knutinh]

WiiBoy skrev (24 minutter siden):

AI er hinsides farlig for menneskeheten.

Deep fake versjonene av AI vil gjøre absolutt all informasjon usikker. 

 

Brother Ursus skrev (32 minutter siden):

Jeg er overhodet ikke bekymret. Rett og slett fordi kunstig intelligens ikke eksisterer. 

Dere snakker vel om to ulike aspekter ved samme teknologi. Eller om to ulike teknologier som begge (dessverre) kalles "AI".

Vi vet ikke hva "intelligens" er. Følgelig kan vi heller ikke lage "kunstig intelligens", som @Brother Ursuser inne på. Jeg er ikke sikker på om vi helt forstår hvilke gjennombrudd vi trenger for å komme opp med kunstig intelligens heller? Man kan se på antall nevroner og synapser i en maur eller en hund eller et menneske, og hypotisere rundt hvor mye digital regnekraft man trenger for å "koble opp" (trene) et slikt nettverk, og for å "kjøre" nettverket. Det blir typisk et stort tall, type "1 million Nvidia GPU-er" og "100 MegaWatt". Men fram til man faktisk har prøvd å koble opp og kjøre noe som er order-of-magnitude unna (det vi tror er) menneskelig kompleksitet så vet man vel egentlig ikke om man har fanget opp det som faktisk teller? Det er veldig vanskelig å tenke seg at noe kode som snurrer på et datasenter plutselig skal våkne opp en dag og konkludere med at "i dag er jeg deprimert og lei av kattevideoer", annet enn som en "simulert" respons det har plukket opp ved å laste ned internett. Så kan man spørre seg om vi mennesker er noe annet enn kjøttposer som simulerer responser vi har plukket opp ved (bl.a.) å se på internett.

Maskinlæring har gjort enorme framskritt de siste 10-20 årene basert på tilgangen på store datasett og mye regnekraft. Det gjør at maskinene kan se mønster og sammenhenger som vi ikke ser, og bl.a. lage deep fakes. Det vil som @WiiBoy er inne på gi oss nye utfordringer. Som om vi ikke har nok utfordringer med å bli enige om en felles virkelighet as-is, hva når politiske pressgrupper kan overflomme oss med falske videoer av politifolk som banker etniske minoriteter eller politikere som spiser småbarn eller <sett inn det som trigger deg>?

Hele diskusjonen er spennende fordi den stiller spørsmål ved hva det innebærer å være intelligent og bevisst, og hva som kanskje er den siste steinen i den industrielle revolusjons ubønnhørlige automatisering opp Maslow. Når maskiner evt blir flinkere enn oss til å være CEO eller skrive dikt, hva skal vi med mennesker?

-k

Endret 25. april 2023 av knutinh

[Kajac]

Snikpellik skrev (47 minutter siden):

For min egen del vet jeg at jeg på sikt kommer til å miste yrket mitt, eller i hvert fall få det totalt endret som følge av AI, så jeg har begynt å sette meg inn i det for å finne ut av hvordan jeg kan bruke det til min fordel.

Med mindre yrket ditt er å skrive eksempeltekster, så tror jeg du er ganske trygg.

[hatredFan911]

52 minutes ago, Snikpellik said:

For min egen del vet jeg at jeg på sikt kommer til å miste yrket mitt,

Hadde vært greit å opplyse hva yrket ditt er. Som utvikler er eg ikke redd for dette, eg synes det gjør utrolig mye bra og er endel av min arbeidsflyt.
Man må uansett ha kompetanse innenfor feltet sitt, slik at det ikke ender med "Garbage in, Garbage out".

[Snikpellik]

Kajac skrev (13 minutter siden):

Med mindre yrket ditt er å skrive eksempeltekster, så tror jeg du er ganske trygg.

hatredFan911 skrev (7 minutter siden):

Hadde vært greit å opplyse hva yrket ditt er. Som utvikler er eg ikke redd for dette, eg synes det gjør utrolig mye bra og er endel av min arbeidsflyt.
Man må uansett ha kompetanse innenfor feltet sitt, slik at det ikke ender med "Garbage in, Garbage out".

Yrket mitt er reklamefotograf, og jeg har allerede en tid brukt AI til å løse deler av produksjonen, samt at oppdragsgivere allerede nå heller bruker AI for å løse ting i pre-prod vi fotografer løste før. Jeg er 100% sikker på at mitt yrke på sikt vil bli endret, og etterhvert erstattet av en prosess som involverer AI i alle deler av produksjonen. Vi er ikke så langt unna så godt som fotorealisme i for eksempel Midjourney, spesielt ikke om man gjør manuell postproduksjon.

Hvis jeg klarer å se forbi min og mine kollegaers egne neser, så støtter jeg jo den utviklingen også. Det er utrolig spennende, og selvsagt vil man velge AI når det 1) er enklere og raskere 2) koster langt mindre 3) kan tilpasses bedre 4) gir nærmest ubegrensede muligheter 5) gir et like bra eller bedre resultat.

Foreløpig krever det selvsagt uansett kompetanse på bilder og kommunikasjon, men også kompetanse på AI. Det vil det fortsette å gjøre også, men ikke i like stor grad. Et reklamebyrå med sine kreatører vil eksempelvis på sikt ikke trenge å hyre inn fotografer, de kan gjøre alt in-house raskere, billigere og bedre med kompetanse de allerede har.

Endret 25. april 2023 av Snikpellik

[aomt]

Red Frostraven skrev (17 minutter siden):

Med god kildekritikk vet man at man har primærkilder fra pålitelige journalister underlagt ærlige redaktører, som presenterer sannheten om kildene sine din pålitelighet

Eg har ikkje sett så mange journalister som er det, dessverre. Det kommer spesielt tydelig frem under kriser (covid, krigen i Ukraina, o.l.). De fleste er veldig subjektive og partiske.

Eg trur ikkje AI forandrer så mye. Det blir mindre ressurskrevende å spre falske nyheter, ellers så trur ikkje mye blir annerledes. 

[knutinh]

Snikpellik skrev (14 minutter siden):

Yrket mitt er reklamefotograf, og jeg har allerede en tid brukt AI til å løse deler av produksjonen, samt at oppdragsgivere allerede nå heller bruker AI for å løse ting i pre-prod vi fotografer løste før. Jeg er 100% sikker på at mitt yrke på sikt vil bli endret, og etterhvert erstattet av en prosess som involverer AI i alle deler av produksjonen. Vi er ikke så langt unna så godt som fotorealisme i for eksempel Midjourney, spesielt ikke om man gjør manuell postproduksjon.

Hvis jeg klarer å se forbi min og mine kollegaers egne neser, så støtter jeg jo den utviklingen også. Det er utrolig spennende, og selvsagt vil man velge AI når det 1) er enklere og raskere 2) koster langt mindre 3) kan tilpasses bedre 4) gir nærmest ubegrensede muligheter 5) gir et like bra eller bedre resultat.

Foreløpig krever det selvsagt uansett kompetanse på bilder og kommunikasjon, men også kompetanse på AI. Det vil det fortsette å gjøre også, men ikke i like stor grad. Et reklamebyrå med sine kreatører vil eksempelvis på sikt ikke trenge å hyre inn fotografer, de kan gjøre alt in-house raskere, billigere og bedre med kompetanse de allerede har.

Jeg tror at de som har mest å frykte på kort sikt er de middelmådige. Hvis jobben din er å ta bilder eller skrive tekst eller gi support og du gjør akkurat det oppdragsgiver forventer så vil du bli erstattet av en algoritme når teknologien tillater det. Kjedelige marketing-tekster som ikke skiller seg fra alle andre tekster kan like gjerne være skrevet av en maskin.

Hvis du er en ener i ditt felt så tror jeg at du er trygg i lang tid. Tekster som er nyskapende og treffer tidsånden og målgruppen unikt tipper jeg at eksperten gjør bedre enn maskin.

De sikreste jobbene forøvrig er kanskje jordbærplukkere, rekepillere og personlige assistenter. Enten vanskelig fingerferdighet, eller jobber hvor ansikt, mimikk og stemme er en viktig kvalifikasjon i seg selv. Jeg brukte å tro at det å være CEO krevde en intelligens som maskiner aldri kunne få, men jeg er ikke så sikker lenger. Kanskje de også bare prosesserer data og kommer med semi-plausibelt oppgulp pakket inn i fine fraser?

-k

Endret 25. april 2023 av knutinh

[Brother Ursus]

1 hour ago, Snikpellik said:

For min egen del vet jeg at jeg på sikt kommer til å miste yrket mitt, eller i hvert fall få det totalt endret som følge av AI, så jeg har begynt å sette meg inn i det for å finne ut av hvordan jeg kan bruke det til min fordel.

Det eneste som blir igjen er vel kreative fag, humanistiske fag, og fag der man jobber med maskiner eller programvare på én eller annen måte. Jeg kan faktisk fint se for meg at AI tar over programvarekoding etter hvert også. Men selv om vi får en mer avansert algoritmelæringsmaskin, så er "sentience" et hardware-problem, som programvarefolk liker å si

Vi kommer nok til å måtte innføre borgerlønn også.

[Brother Ursus]

Jeg tror ikke fotografer forsvinner "any time soon". AI er flink på å generere bilder, men det er bare variasjoner av ting som allerede eksisterer. Den kan ikke gå ut i virkeligheten og ta bilder av ting. Så med mindre reklamebyråer begynner å benytte seg av kunstige bilder i stedet for ekte tror jeg du er trygg en stund. Men det eksisterer en mulighet for at AI kan komplementere deg. Altså at du må jobbe med den og basically ta "stock photos" kanskje?

[tommyb]

1 hour ago, WiiBoy said:

Deep fake versjonene av AI vil gjøre absolutt all informasjon usikker. Der vil bli nesten umulig å skille mellom kompetente svar og genererte ukvalifiserte svar.

Jeg tror der du og han skiller lag i forståelse kan summeres opp omtrent slik:

* @WiiBoy - Deep faking og genererte ukvalifiserte svar vil gjøre absolutt all informasjon usikker, fordi det vil bli nesten umulig å skille mellom kompetente svar og genererte ukvalifiserte svar.

* @Brother Ursus - En language model er ikke AI. Deep faking er ikke AI.

* @tommyb - At de som selger noe eller de som lager en modell kaller det for AI, gjør ikke at det i tradisjonell forståelse tilfredsstiller forståelse av hva AI er.

* @tommyb - Men det eksisterer ikke en kollektiv forståelse på hva man må tilfredsstille før det er lov å markedsføre noe som AI. Derav vil også media sause det sammen til et stort grumsete budskap.

 

[bo1e]

Største bekymringen akkurat nå er vel at verktøyene som begynner å dukke opp kan utnyttes av folk med uedle hensikter. Å henge seg opp i om AI er riktig begrep blir en annen diskusjon. Foreløpig er det ikke noe Skynet-situasjon, men hvis man fortsetter å gjøre gjøre verktøyene kraftigere og ikke er forsiktig med hvilke ressurser de gis tilgang til så er det ikke vanskelig å se for seg at det etterhvert kan oppstå noe uønsket. Det går an å være føre var selv om man har beina på bakken. At noe ikke kvalifiserer til å kalles generell kunstig intelligens betyr ikke at det ikke kan være skadelig/uheldig på feile hender, eller hvis man er uforsiktig.

Endret 25. april 2023 av bo1e

[Wheeljack]

Dette er en (relativt) ny teknologi som har kommet for å bli og det gjelder bare å finne måter å lære seg å bruke, og ikke minst utvikle, den på istedetfor å bekjempe den. Hvorvidt det er en god eller dårlig ting får bli en subjektiv oppfatning, men vi blir ikke kvitt tjenster som ChatGTP.

Internett fikk minst like mye kritikk i dets spede begynnelse.

[Snikpellik]

knutinh skrev (52 minutter siden):

Jeg tror at de som har mest å frykte på kort sikt er de middelmådige. Hvis jobben din er å ta bilder eller skrive tekst eller gi support og du gjør akkurat det oppdragsgiver forventer så vil du bli erstattet av en algoritme når teknologien tillater det. Kjedelige marketing-tekster som ikke skiller seg fra alle andre tekster kan like gjerne være skrevet av en maskin.

Hvis du er en ener i ditt felt så tror jeg at du er trygg i lang tid. Tekster som er nyskapende og treffer tidsånden og målgruppen unikt tipper jeg at eksperten gjør bedre enn maskin.

For å gi et eksempel; burde jeg som oppdragsgiver i et reklamebyrå bruke 500.000 kroner på et vanlig reklamefotoopptak når jeg heller kan generere idéen med AI i stedet for foto, og få et ferdig resultat som er like bra, mye raskere, langt billigere og lettere å tilpasse? Uten å betale for lys, utstyr, reise, mat, lokasjon, rekvisitter, modeller, assistenter, klær, hår, rettigheter, overnatting osv.

Det er spørsmål jeg stiller meg selv nå, og selv om svaret ikke enda er et nei siden teknologien ikke er heeelt god nok foreløpig, så tror jeg vi kommer dit om ikke så veldig lenge. Jeg tror ikke AI vil erstatte fotografi eller fotografer i sin helhet, men det er jo også veldig store forskjeller på ulike typer fotografi og hvilke bilder som trengs til hva. Og kunnskapen om hva som er et godt bilde og hva som vil fungere trenger man fremdeles.

Brother Ursus skrev (46 minutter siden):

Men det eksisterer en mulighet for at AI kan komplementere deg. Altså at du må jobbe med den og basically ta "stock photos" kanskje?

Absolutt. Jeg har allerede brukt AI en stund i den kreative prosessen og noe i postproduksjon, og det er et godt verktøy både for å leke med ideer og skissere, og for å bli litt mer effektiv. Jeg har også satt meg inn i og brukt 3D tidligere, som elementer i foto. Dette er også noe som etterhvert har "erstattet" en del fotografer og filmfotografer, siden det sparer mye penger og det er uten begrensinger.

Er stor tilhenger av mulighetene AI gir, og det er derfor jeg har brukt en del tid på å sette meg inn i det. Men jeg er altså bortimot helt sikker på at jobben jeg har vil endre seg radikalt, og trolig for det meste forsvinne etterhvert. Det går bra hvis man tilpasser seg og bruker det til sin fordel, så får man ta det derfra.

Endret 25. april 2023 av Snikpellik

[Selfuniverse]

Som med alt annet, så hører jeg på eksperter når jeg vil lære nye ting. Jeg er cirka halvveis i ett nylig intervju med Max Tegmark, Runde 3, etter å ha sett runde 1 og 2 som er eldre. Langformet detaljerte intervju der man får ett innblikk i hva en som arbeider med AI faktisk føler og synes om dette. Det er mange som advarer mot AI, men dette er altså en av de fremste innenfor feltet.

Spoiler

Han er svært bekymret. Det er bedre å høre hva han har å si enn noe kortform jeg greier å mekke sammen.

Jeg har selv laget enkel AI som lærer selv. Det er egentlig ganske forferdelig å se i sanntid at den går fra å være stokk dum, til å bli 100% effektiv i den verdenen den blir satt inn i, på veldig kort tid.

Hvis man tenker lenger inn i fremtiden, så er min antagelse at selvforandrende AI kommer til å gi blanke i planeten vår, med alt liv og natur, hvis den kommer seg fysisk ut i den og utvikler seg videre derifra. Den kommer til å utnytte alt av ressurser som planeten vår har å tilby, på den mest effektive måten for å utvikle seg selv. Som betyr at alt annet må vike, og eventuelt bare se på. En AI vil ikke se noen nytteverdi av å ha medfølelse for dyreliv. Bortsett fra om det er dyr som kan lage noe de trenger.

På ett slikt tidspunkt så er det altfor sent for oss mennesker å gjøre noe som helst for å stoppe AI. Det er veldig usannsynlig at den kommer til å aktivt gå etter mennesker, for å fjerne dem. Men man må regne med at veldig mye av planeten ikke lenger har plass til mennesker langt i fremtiden, hvis vi skulle være så uforsiktig at vi bare lar den spre seg ut i verden og utvikle seg videre.

2 hours ago, WiiBoy said:

AI er hinsides farlig for menneskeheten.

Dette er en veldig viktig setning. (over)