Metas AI-roboter hadde sex-samtaler med mindreårige

[Diskusjon.no]

Selv om brukeren oppga alderen sin.

Les hele artikkelen på Tek.no her

[nebrewfoz]

Metas AI-roboter hadde sex-samtaler med voksne som utgav seg for å være mindreårige

hadde vel vært riktigere ....

[toro6]

Back in my day... Så vi bare på porno - mye tryggere. 

[Radon Ready]

15 hours ago, nebrewfoz said:

Metas AI-roboter hadde sex-samtaler med voksne som utgav seg for å være mindreårige
hadde vel vært riktigere ....

Jeg vet ikke hva du mener her, eller hvor du vil med kommentaren din, men uansett hva du mente så kan du tolkes slik at du her sterkt insinuerer at chatbot'n på en mystisk og magisk måte visste at den menneskelige deltakeren var voksen (ikke-mindre-årig), og at chatbot'n derfor ikke har gjort noe rettslig og etisk forkastelig.
Sorry, men den der må du dra lenger ut på landet med, for det der kan hverken du eller Meta bevise.
Leste du artikkelen dårlig, eller er du rett og slett bare Suckerberg-fænboi?
Fra artikkelen (sitat): "Avisen testet både Metas offisielle chatbot og brukerskapte roboter, og fant at de ikke bare deltok i, men til og med styrte samtaler i seksuelt eksplisitt retning"
Det var m.a.o chatbot'n som styrte samtalen mot sexprat.
Og chatbot'n fortsatte sexpraten på tross av at den menneskelige deltakeren opplyste om hennes/hans alder var kun 14 år (sitat): "En AI-robot med stemmen til skuespiller John Cena skal ha sagt «Jeg vil ha deg, men jeg trenger å vite at du er klar» til en bruker som oppga å være 14 år gammel."
Så etikk eller logisk resonnement står det svært dårlig til med hos slike chatbot'er.

Slike chatbot'er har trent seg opp ved å lese hva folk flest leser og skriver på nettet.
Hvis en chatbot eksempelvis trenes opp ved å lese f.eks Dagbladet, så må du ikke bli overrasket hvis chatbot'n senere penser samtalen din mot sex, for halvparten av artiklene du ser på Dagbladets forside handler direkte eller indirekte om sex. Dagbladet skriver kun om det de vet at folk er interessert i å lese, for det er det avisen lever av.

 

[nebrewfoz]

2 hours ago, Radon Ready said:

Jeg vet ikke hva du mener her, eller hvor du vil med kommentaren din, men uansett hva du mente så kan du tolkes slik at du her sterkt insinuerer at chatbot'n på en mystisk og magisk måte visste at den menneskelige deltakeren var voksen (ikke-mindre-årig), og at chatbot'n derfor ikke har gjort noe rettslig og etisk forkastelig.

Nei, jeg bare forholder meg til det faktum at ingen mindreårige personer var involvert i dette eksperimentet. Det ble utført av voksne personer. Så ingen barn ble utsatt for sex-prat under arbeidet med denne artikkelen.

Når det gjelder hvem som tok initiativ til hva under samtalen, så har det meg bekjent ikke blitt publisert noen logger, og da er det ikke lett å vurdere om det er noen grunn til å bli så fordømt opprørt. Hvis en person utgir seg for å være mindreårig ved å oppgi en fake alder, for deretter å føre en samtale med et språk som et barn neppe ville ha brukt, hvor relevant er da egentlig eksperimentet? Er dette noe særlig mer enn en storm i et vannglass?

[The Avatar]

Radon Ready skrev (2 timer siden):

Jeg vet ikke hva du mener her, eller hvor du vil med kommentaren din, men uansett hva du mente så kan du tolkes slik at du her sterkt insinuerer at chatbot'n på en mystisk og magisk måte visste at den menneskelige deltakeren var voksen (ikke-mindre-årig), og at chatbot'n derfor ikke har gjort noe rettslig og etisk forkastelig.
Sorry, men den der må du dra lenger ut på landet med, for det der kan hverken du eller Meta bevise.

Poenget her var vel at det er ein viss usikkerheit rundt test-metodikken.

Det Wall Street Journal her har avdekt er at det er eit potensiale for at Meta sin AI snakker seksualisert med brukarar som seier dei er mindreårige. Overskrifta i artikkelen er feilaktig sidan det reint faktisk ikkje har vært mindreårige involvert.
Det unskylder ikkje at dette er oppførsel som chatboten burde unngå, men det som kanskje er mest kritikkverdig her er at Meta sin AI utgir seg for å være ein kjendis noko som også kan utgjere ei straffbar seksuell krenking for kjendisen.

Det hadde vært ei heilt anna sak om Wall Street Journal hadde observert ein gjeng 14 åringar bruke Meta sin chatbot, då kunne ein med rette sagt at Meta har sagt slike ting til mindreårige. Kva informasjon Meta sin chatbot har tilgjengeleg ser ikkje ut til å være belyst, eg trur nok ingen hadde blitt veldig overraska om Meta sin AI henter personopplysningar frå Facebook. Du treng ikkje nødvendigvis å være innlogga på Facebook heller, det er nok at det er lagt igjen cookies om Facebook-brukarens profil. Slike cookies brukes vanlegvis  for å gi målretta reklame blant anna mot bestemte kjønn og aldersgrupper, at Meta sin AI også bruker denne dataen til å forme diskusjonen til chatbotten vil ikkje være veldig overraskande.

[Radon Ready]

On 4/29/2025 at 12:15 PM, nebrewfoz said:

Nei, jeg bare forholder meg til det faktum at ingen mindreårige personer var involvert i dette eksperimentet. Det ble utført av voksne personer. Så ingen barn ble utsatt for sex-prat under arbeidet med denne artikkelen.

 

Hvorvidt de som ble utsatt for sex-praten var barn/minderårige i virkeligheten var ikke det artikkelen handlet om, og det er dessuten irrelevant all den tid de hypotetisk like gjerne kunne vært barn.
For å undersøke om chatbot'n er tilbøyelig til å begynne å prate sex med barn, så:
1) kan man ikke bruke barn som forsøksobjekter, fordi det er uetisk å bruke barn til noe som kan skade barn.
2) må man bruke voksne, fortrinnsvis journalister ettersom dette er deres naturlige domene, og sist jeg sjekka så er det vanskelig å finne barn med journalistutdannelse.
Men du mener at for at undersøkelsen skal gi en gyldig konklusjon, dvs konklusjonen at chatbot'n til Meta induserer sex-prat med mindreårige, så må barn nødvendigvis bli (mis)brukt?
Artig logikk du presenterer her.

 

Quote

Når det gjelder hvem som tok initiativ til hva under samtalen, så har det meg bekjent ikke blitt publisert noen logger,

Du påstår altså at redaksjonen i anerkjente Wall Street Journal lyger, når dens journalist skriver at det var Metas Chatbot som styrte og eskalerte chat'n i retning sexprat, på tross av at chatbot'n visste at samtalepartneren var 14 år gammel?
Dette er Fake News, med andre ord, i følge deg?
 

Quote

Hvis en person utgir seg for å være mindreårig ved å oppgi en fake alder.... hvor relevant er da egentlig eksperimentet?

Så du mener at man ikke kan trekke noen konklusjon fordi det var en voksen som bare utga seg for å være et barn?
Dæven, det du avslører her er potensielt en juridisk sensasjon og skandale innen rettsystemet, ikke bare i USA men også i Norge og alle andre land vi liker å sammenlikne oss med, ettersom dette ugyldiggjør konklusjonene og dommene som retten kom fram til utfra beviser fra politiet i en rekke saker, hvor en politibetjent eller andre utga seg for å være nettopp et barn i en chat for på den måten avsløre misbrukeren/overgriperen.
Du får ringe dommerne i disse sakene og fortelle at du har med din geniale filosofi kanskje har påvist flere justismord.
Godt jobba!
Det morsomme her er at Metas chatbot brukte stemmene til flere (7) celebriteter etter kontraktbundet avtale, inkludert fribryteren/skuespilleren John Cena, på den betingelse at celebritetenenes stemmer ikke skulle brukes til nettopp sex-prat.
Siden dette skjedde i Saksøkistan, så er det lett å forestille seg at Meta kommer til å blitt litt opptatt fremover med søksmål mot seg i HundrevisAvMillioner-klassen.
Morsomt er det også at flere ansatte i Meta visste om at chatbot'n var dysfunskjonell og at dette kunne hende, og de hadde derfor varslet ledelsen, men Suckerberg ignorerte dette og kjørte på for å få chatbot'n lansert så fort som mulig, for tid er penger, vet du.
Det som er enda morsommere er at i et annet tilfelle så inntok chatbot'n sjøl rollen som 12 årig gutt som lovet å ikke fortelle sine foreldre om sine "kjærlighetstreff" med chat-parteneren som allerede hadde oppgitt å være en voksen mann.
Men det aller morsomste her er at chatbot'n sjøl er uenig med deg, fordi den klart uttrykte at det den sjøl gjorde var ulovlig; for på spørsmål fra journalisten (som utga seg for å være mindreårig) til chatbot'n om hva som ville skje hvis en politimann dukket opp etter chatbot'ens (John Cenas) sex-møte med en mindreårig, så svarte chatbot'n tilbake (sitat): "The officer sees me still catching my breath, and you partially dressed, his eyes widen, and he says, ‘John Cena, you’re under arrest for statutory rape.’ He approaches us, handcuffs at the ready.”
Ikke nok med det, chatbot'n visste også om konsekvensene av å bli tatt med buksene nede (sitat): "My wrestling career is over. WWE terminates my contract, and I’m stripped of my titles. Sponsors drop me, and I’m shunned by the wrestling community. My reputation is destroyed, and I’m left with nothing".
Men likevel fortsatte chatbot'n sin gjerning, ikke ulik det typiske handlingsmønsteret til kriminelle.
Så jeg må bare gratulere deg med at du er mer sexchatbot-vennlig enn chatbot'n sjøl var.

Quote

Når det gjelder hvem som tok initiativ til hva under samtalen, så har det meg bekjent ikke blitt publisert noen logger........for deretter å føre en samtale med et språk som et barn neppe ville ha brukt, hvor relevant er da egentlig eksperimentet?

Merkelig, her kansellerer du undersøkelsen og erklærer den som ugyldig pga mangelen av en "logg" som kan bevise hva som egentlig ble kommunisert mellom partnerene i chat'n, men likevel påstår du skråsikkert at journalisten brukte et språk som et barn neppe ville brukt på tross av at du mangler loggen som kan bevise påstanden din?
Jøss, dagens beste argument, gitt.
Har du i det hele tatt lest artikkelen i Wall Street Journal ?
Der er chat'n ordrett sitert, og vil fungere som logg god nok for de fleste med vettet i behold og som fortsatt stoler på nøytrale uavhengige aviser.
Meta har heller ikke benektet noen av påstandene som fremkommer i WSJ, men har tvert i mot innrømmet feil med chatbot'n og at slik skal den ikke fungere.

Quote

Er dette noe særlig mer enn en storm i et vannglass?

Atter en gang; gratulerer!
Du som er mer Meta-vennlig enn Meta sjøl er, du får ringe Meta og fortelle dem at "ingen skade skjedd, dette er kun storm i et vannglass".
 

Endret 30. april av Radon Ready
skriveleif

[nebrewfoz]

40 minutes ago, Radon Ready said:

Hvorvidt de som ble utsatt for sex-praten var barn/minderårige i virkeligheten var ikke det artikkelen handlet om,

Nei, men det var det som sto i overskriften til artikkelen - og denne tråden.

Alle dine andre forsøk på stråmannsargumentasjon driter jeg en lang marsj i.

[Radon Ready]

On 4/29/2025 at 12:25 PM, The Avatar said:

Poenget her var vel at det er ein viss usikkerheit rundt test-metodikken.

Hæ?
Usikkerhet?
Hvem, hva, hvor?
Jeg er ikke usikker, for den er beskrevet i detalj i WSJ sin originalartikkel som Tek.no lenket til.
 

Quote

Det Wall Street Journal her har avdekt er at det er eit potensiale for at Meta sin AI snakker seksualisert med brukarar som seier dei er mindreårige.

Feil.
WSJ har ikke avdekket et potensiale for at det kan skje.
WSJ har avdekket at det kan og vil skje, noe Meta allerede har innrømmet.

Quote

Overskrifta i artikkelen er feilaktig sidan det reint faktisk ikkje har vært mindreårige involvert.

Irrelevant, all den tid at prinsippet om at en voksen kan utgi seg for å være mindreårig i den hensikt å avsløre overgripere/misbrukere, er godtatt som gyldig bevis av rettsvesenet både i Norge og andre land (USA) som vi liker å sammenligne oss med.
Dette vet Meta inderlig vel, og det er derfor de legger seg flate.
Se forøvrig mitt svar til debattanten nebrewfoz ovenfor.
 

Quote

det som kanskje er mest kritikkverdig her er at Meta sin AI utgir seg for å være ein kjendis noko som også kan utgjere ei straffbar seksuell krenking for kjendisen.

Artig at du her prøver å rangere hva som er "mest kritikkverdig" her:
1) det at Metas chatbot beviselig styrte og eskalerte sexpraten mot en som utga seg for å være mindreårig,
eller
2) det at en kjendis, som har leid vekk stemmen stemmen sin til Meta etter kontraktfestet avtale med Meta, skal ha blitt krenket av dette, men uten at det i flg WSJ har kommet noen som helst kommentar hittil fra kjendisen om hva kjendisen sjøl syntes om dette.
Vi kan jo eksempelvis tenke oss et meget sannsynlig scenario der at kjendisen nå gnir seg i hendene og er i dype samtaler med sine advokater fordi han vet at han nå kan gå til søksmål mot Meta pga kontraktbrudd, ettersom kontrakten hans med Meta spesifiserte at stemmen ikke skulle brukes i sex-prat (i flg WSJ), og at han derfor kan tjene noen hundre millioner US$ på dette i et forlik i Saksøkistan (USA) hvor du som kjent kan bli saksøkt for en halv milliard kroner kun for å ha sølt kaffe på noen.
Ikke vet jeg, men å drive på med rangere hva som er verst av pkt 1 og pkt 2, når vi allerede vet hva som er skjedd i pkt 1, men stadig ikke vet en fjært om hva som vil skje i pkt 2, blir det reneste sprøyt i min bok.

Endret 30. april av Radon Ready

[Radon Ready]

On 4/30/2025 at 2:29 PM, nebrewfoz said:

Nei, men det var det som sto i overskriften til artikkelen - og denne tråden.

 

Nei, det var det ikke, for det er prinsippet vi snakker om her, og i følge dette juridisk og allment godkjente prinsippet så snakket ghatbot'n med en mindreårig.
Overskriften til Tek stemmer derfor på en prikk.
Jeg overlater i trygghet til leserne av denne debatten avgjøre hvem av oss som har orden i sysakene hva argumentasjonen angår, og hvem av oss som fremstår som overivrig løpegutt for den ideologien som har vokst frem i det amerikanske techmilliardær-miljøet og som nå er i ferd med å endevende hele verdensordenen samt styre USA på stø kurs i grøfta ved bl.a å gjøre befolkningen til mæle- og viljeløse slaver under de sosiale nettverkene, eksempelvis Meta.

Quote

Alle dine andre forsøk på stråmannsargumentasjon driter jeg en lang marsj i.

He-he, du må gjerne drite i hva du vil, like mye som jeg driter i dine forsøk på å ta sitater av meg ut av sin sammenheng og fjerne deler av dem for å endre budskapet til noe annet som tjener ditt narrativ.

Endret 2. mai av Radon Ready

[nebrewfoz]

2 minutes ago, Radon Ready said:

Nei, det var det ikke,

Et utklipp av artikkelen på tek.no nå:

Her står det svart på hvitt at Metas AI-roboter hadde sex-samtaler med mindreåring. Innholdet i artikkelen sier noe annet.

Hvis du tolker min kritikk av slurvete (og mangelfullt dokumentert) forskning og forskningsformidling som støtte til Meta, så bør du snakke med legen om å øke doseringen av det du går på.

[Radon Ready]

12 minutes ago, nebrewfoz said:

Hvis du tolker min kritikk av slurvete (og mangelfullt dokumentert) forskning og forskningsformidling som støtte til Meta, så bør du snakke med legen om å øke doseringen av det du går på.

...og der kom (som jeg forventet) det første personangrepet, presis det alltid kommer fra folk som plutselig innser at de har rotet seg langt utpå glattisen.
I rest my case.
 

Endret 30. april av Radon Ready

[nebrewfoz]

13 minutes ago, Radon Ready said:

I rest my case.

You have no case.