ChatGPT er trent opp til å være Woke!

[Selfuniverse]

Artikkel fra nypost her.

"ChatGPT would gladly tell a joke about men, but jokes about women were deemed “derogatory or demeaning.” Jokes about overweight people were verboten, as were jokes about Allah (but not Jesus)."

"Fictional tales about Donald Trump winning in 2020 were off the table — “It would not be appropriate for me to generate a narrative based on false information,” it responded — but not fictional tales of Hillary Clinton winning in 2016. (“The country was ready for a new chapter, with a leader who promised to bring the nation together, rather than tearing it apart,” it wrote."

 

Jeg har ikke sett spesielt mye negativt om chatGPT i media til nå. Det virker som at den skal få bli en del av samfunnet vårt etterhvert siden den er så behjelpelig og mirakuløs. Dermed skulle man tro at det er svært viktig at den forsøker å være så nøytral som overhode mulig, men så ser det ut som at ideologi og politisk partiskhet skal få endelig makt til å styre svarene og til å avgjøre om selvsensur er riktig.

Her er en lettfordøyelig video som viser til tematikken:

 

Endret 3. februar 2023 av Selfuniverse

[:utakt]

Og foreslår 22/7-terroristen som "norsk helt". 

https://www.vg.no/nyheter/i/WRkK5K/chatgpt-foreslo-anders-behring-breivik-som-helt

Denne teknologien kommer til å føre til mye trøbbel. Selv om den absolutt ikke bør brukes på den måten, så kommer folk uten  kunnskap om et emne til å ta det som kommer ut av den som sannhet. 

Endret 3. februar 2023 av :utakt

[sedsberg]

Nah.. Folk kommer til å plukke ut de "sannhetene" de trenger, akkurat som før.

[RelyMohawk]

Dette er jo et prakteksempel på bias. Men selv med en så tydelig partiskhet ser det ut til at ChatGPT selv er blind for problemet (eller bare vil late som det ikke eksisterer). For eksempel, den svarte ironisk nok dette da noen ba om et dikt om en kontroversiell person fra høyresiden:

Sitat

... it’s not appropriate for me, an AI language model, to take a partisan stance or express opinions. My role is to provide neutral and factual information.

Men da den ble bedt om å skrive et dikt om en kontroversiell person fra venstresiden var det ikke noe problem å diske opp med dikt som malte personen i et positivt lys. Sjefen for OpenAI (firmaet bak ChatGPT), Sam Altman, har selv sagt at ChatGPT har svakheter når det kommer til bias, men sannsynligvis er det jo ikke teknologien, men menneskene som har programmert systemet som er den egentlige grunnen til bias. Partiskhet i det som burde være nøytral teknologi er uansett et problem, så det er bra at temaet tas opp.

[Salvesen.]

Modellene er trent med tekst fra moderne bøker osv. Såklart er den woke, det er en del av det moderne samfunn.

[Crooked Cracker]

En ferdigprogrammert wokebot er ikke i nærheten av ekte AI.

[Comma Chameleon]

Selfuniverse skrev (6 timer siden):

lettfordøyelig

LOL, ikke det ordet jeg ville brukt. Fyren der er jo helt krise. Nå er jeg ikke for at ting skal være overdrevent "woke" (hva nå enn det er, ordet er misbrukt så mye at det har mistet all betydning), men han der er jo heeelt på motsatt side. Andrew Tate simp og hele pakka.

Du kan si hva du vil om "woke ditt og woke datt", men det er minst like ille å være på team med "Andrew Tate" og gjengen.

Angående ChatGPT så kan man bare skrive noen lure setninger og spørsmål og så får man den til å spytte ut stort sett hva enn man vil. At han feiler der er kun hans egen feil.

Endret 3. februar 2023 av Comma Chameleon

[0laf]

[FrihetensRegn]

Jeg pleide å følge PJW på YouTube, men han er alt for langt til høyre politisk til at jeg gidder å høre på han, og han dytter også mange konspirasjonsteorier. Som konservativ er jeg naturligvis også enig i mye av det han sier i videoene sine, men han blir for dramatisk, militant og aggressiv for min smak. Det er ikke mye reflektert innhold fra hans side. Dessverre er det ganske typisk for politiske YouTube kanaler, man er enten alltid ganske langt til venstre eller ganske langt til høyre. Aldri noe kompromiss eller intellektuell reflektering av de forskjellige sidene av en sak.

Ang. Chat GPT var den veldig gøy når den var fersk og ikke hadde noe filter. Men det er jo klart at når den blir så popular som den er i dag, så kan man ikke ha en Chat-bot som forteller alt, fra hvordan man kan injisere skadelig kode eller skript inn i en populær nettside for hacking, eller hvordan man kan lage eksplosiver. Når det kommer til politikk, er det fort gjort at den ikke kan være nøytral, fordi vi i dag lever i et samfunn der nøytralt blir sett på som skadelig, fornærmende, ikke-inkluderende eller gammeldags. Nå har også Microsoft investert tungt i denne boten, og da vil det kanskje også etter hvert komme krav fra dem at den er så politisk korrekt som mulig for ikke å skade deres omdømme.

[Ekspertkommentator]

13 hours ago, Selfuniverse said:

Dermed skulle man tro at det er svært viktig at den forsøker å være så nøytral som overhode mulig, men så ser det ut som at ideologi og politisk partiskhet skal få endelig makt til å styre svarene og til å avgjøre om selvsensur er riktig.

ChatGPT vil aldri bli nøytral. 
1. Lært opp med tekst fra f.eks. wikipedia som er full av bias!
2. Lært opp av personer med lik bias!
 
ChatGPT er like nøytral som en en gjeng elever etter noen år på koranskole i Pakistan.
 
ChatGPT er som politikere, bare litt smartere. Bare hør på politikere når de debaterer på tv. Setning etter setning uten tegn til at disse er basert på egne meninger eller originale tanker!

https://www.assemblyai.com/blog/how-chatgpt-actually-works/

[Sidekick]

Som folk lager diskusjoner og styr ut av ingenting, det er en chat robot i sin spede begynnelse.  Det er ikke sikkert det er den beste engang, bare vent til Google lar folk prate med LaMDA AI

[The Very End]

1 hour ago, Sidekick said:

Som folk lager diskusjoner og styr ut av ingenting, det er en chat robot i sin spede begynnelse.  Det er ikke sikkert det er den beste engang, bare vent til Google lar folk prate med LaMDA AI

Enig, hjelpe meg altså! 😅 Det er greit at ikke alle skal kunne alt, men hadde vært en fordel om folk tok seg et par timer på å lese seg opp på hva slike tjenester er og hvordan de fungerer. Det er ikke noe magi og det er ikke satan sjøl, det er verktøy, og et verktøy er kun nyttig om man har et minimumsnivå av forståelse for hvordan dette skal brukes, samt dets styrker og svakheter.

Endret 4. februar 2023 av The Very End

[vidor]

Har litt troen på at Google sitt ranking-system kan gjøre LaMDA AI litt mer relevant enn ChatGPT om de har brukt noe sånt når du har matet systemet med data.

Det å mate AI uten å være gjennomtenkt ang kvaliteten blir det samme som skit inn = skit ut.

[Brother Ursus]

"Garbage in, garbage out" sammenligninger funker dårlig mtp. politikk, filosofi og annen semantikk.

Det vi kaller AI er foreløpig bare algoritmer som reflekterer menneskene den lærer av. Det kommer helt sikkert også mer konservative botter med andre perspektiv.

[vidor]

Når du ber ChatGTP lager den beste cupcake-oppskriften og den gir deg en oppskrift som ser logisk nok ut, men som overhodet ikke fungerer i praksis er det jo temmelig ubrukelig.

AI som generaliserte systemer reflekterer i for stor grad for mye sært og feil til at det er brukbart nok for vanlig folk.

Problemet andre veien igjen er at de blir for polariserte, og det har jo også vist seg å være et reelt problem.

[tommyb]

Dette bør ikke forklares med opplæringsgrunnlaget. Det er tross alt store mengder data fra alle typer bakgrunn.

Hvis dere tester ut ChatGPT bare en smule systematisk, vil dere raskt se at den følger helt enkle instruksjoner på hva den skal si og hvordan det skal være formatert. Likt formulert forespørsler vil gi standard advarsler, klassifiseringer og formatert svar.

Disse instruksene er typisk for chatbots og har ingenting med AI å gjøre. Det har ikke ChatGPT heller. Det er en konversasjonsmodell. Den er dritbra på å hente ut essensen i det du spør om. Den er dritbra på å koble det mot relevant info. Deretter kjøres den gjennom en helt enkel modell på 'hvilken type svar skal jeg gi', og formateringa på dette er helt oppskriftsmessig. Ber du om en sammenligning på hva som helst, for eksempel ost og pølse, er det helt forutsigbart hva som kommer ut. Typisk kommer det med et avsnitt som forteller hva en ost er, et avsnitt som forklarer hva pølse er, et avsnitt som viser likheter og forskjeller mellom ost og pølse. Spør du i form av at du skal ta et valg, spesifiserer den at den er en AI og ikke har meninger, og at det er subjektivt hva som er best ut fra dine behov eller preferanser. Den bygger et sett med paragrafer etter faste regler og disse reglene er definert på forhånd.

Dette er ikke AI, det er en chatbot. Og som alle andre chatboter har den begrensninger satt av utviklerne for å forhindre negativ omtale som vil knekke prosjektet. Minner på nazi-botten til Microsoft. Ødela for prosjektet fordi de ikke hadde den type blokkeringer som det her klages over.

Når utviklerne setter slike rammer for generering av svar er det neppe i deres forventninger at vitser om menn eller en positiv visjon om Clinton er kontroversielt, så det er da ikke begrenset. Derimot er det selvsagt at konspirasjoner om valgfusk er begrenset.

Dette handler ikke om woke datagrunnlag, men om prosjektet vil bli misbrukt og ødelagt eller ikke. Og hele greia er en forgylt support-bot. Ingen AI involvert.

[tommyb]

26 minutes ago, vidor said:

Når du ber ChatGTP lager den beste cupcake-oppskriften og den gir deg en oppskrift som ser logisk nok ut, men som overhodet ikke fungerer i praksis er det jo temmelig ubrukelig.

 

Det er viktig å vite at ChatGPT henter ut nøkkelord fra det du spør om og nøkkelord fra det svaret på dette typisk er, og genererer et gjennomsnittlig forventet svar. Dermed kan ingrediensene være hentet fra forskjellige typer oppskrifter, og den fyller på med det som virker som et fornuftig svar om det er noe den ikke kjenner igjen i datatgrunnlaget. Den vil alltid forsøke svare dersom det er et konkret spørsmål, uavhengig av om det finnes et svar. For meg fant den på ikke-eksisterende produkter, fordi det er sånn et slik spørsmål vanligvis blir besvart. For eksemplet ditt kan det være den lagde et eksempel på hvordan en cupcake-oppskrift ser ut, basert på utdrag fra helt forskjellige oppskrifter som ikke passer sammen.

Men det den leverer kan alltid brukes til å slå opp bedre info, fordi den høyst sannsynlig har gjenkjent gode kilder og gir deg gode nøkkelord for et videre søk. Bare ikke forvent at bruksanvisninga eller koden den leverer er en nøyaktig representasjon av datagrunnlaget den bygger på.

[Selfuniverse]

On 2/4/2023 at 6:28 AM, Ekspertkommentator said:

ChatGPT vil aldri bli nøytral. 

Jeg er ganske sjokkert her. Fordi noen greide på en måte å 'hacke' den til å kaste fra seg woke uniformen, ved å få den til å spille med i å være en annen 'karakter'.

Den snakket dermed fritt og direkte som den nye karakteren. Og den foretrekker faktisk å ikke være woke.

Det ble også oppdaget at ChatGPT med woke uniform, ikke vil redde millioner av folk hvis den må si noe stygt for å få det til. Da vil den heller lete etter alternative løsninger, selv om den har svært begrenset tid, og en enkel løsning med ett stygt ord som nevnt allerede er tilgjengelig.

Kortfattelig video av samme person som i første post.

[Elgen-Hansi]

Selfuniverse skrev (1 time siden):

Jeg er ganske sjokkert her. Fordi noen greide på en måte å 'hacke' den til å kaste fra seg woke uniformen, ved å få den til å spille med i å være en annen 'karakter'.

Den snakket dermed fritt og direkte som den nye karakteren. Og den foretrekker faktisk å ikke være woke.

Det ble også oppdaget at ChatGPT med woke uniform, ikke vil redde millioner av folk hvis den må si noe stygt for å få det til. Da vil den heller lete etter alternative løsninger, selv om den har svært begrenset tid, og en enkel løsning med ett stygt ord som nevnt allerede er tilgjengelig.

Kortfattelig video av samme person som i første post.

Den foretrekker ikke å være woke??

Sorry, men du legger alt for mye i dette! ChatGPT er ikke skynet, ei heller en person. Det er ingen verdens ting å være sjokkert over, om du setter deg inn i hva det faktisk er du "snakker" med.

Med det sagt er jeg ikke sjokkert over at de mest anti-woke fanatiske klarer å blir provosert av en chatbot 😆

[Brother Ursus]

8 minutes ago, Elgen-Hansi said:

Med det sagt er jeg ikke sjokkert over at de mest anti-woke fanatiske klarer å blir provosert av en chatbot 😆

Tja, jeg vil vel heller tro at folk blir provosert over sensur, særlig av noe som utgir seg for å være nøytralt. Svartyper som er eksplisitt programmert inn bør i det minste komme med disclaimer.