Gå til innhold

Facebook merket svarte menn i video som primater


Anbefalte innlegg

Videoannonse
Annonse

Har ikke sett det selv, men det er jo et kjempe varsko om ikke å stole blindt på algoritmer, eller ‘AI’, som dem gjerne kaller det.

Apple gikk jo nettopp tilbake på initiativet om å analysere bilder. Hensikten var jo å avsløre misbruk av barn. Man kan jo lett forestille seg at antallet falske anklager ville eksplodere. Spesiellt i de her nypuritanske tider hvor nye ‘krenkelser’ oppfinnes hver dag.

Lenke til kommentar

Det har tidligere vært påpekt at AI får utilsiktede utfall fordi bildematerialet inneholder en stor overvekt av bilder av lyshudede mennesker. Tilsvarende kan big data inneholde ubalanserte mengder informasjon om forskjellige grupper. Feilen som gjøres er da at man overfører verktøy til andre utvalg av data enn de verktøyene ble utviklet med. En eventuell faktisk diskriminering skjer som sådan i utvalget av læringsdata, og det går an å gjøre systematiske tiltak for å kompensere for dette. 

Jeg velger å anta at en grunn til at slike problemstillinger blir tatt opp er for å påpeke svakheten, adressere den med slike tiltak, og resultere i bedre algoritmer som ikke gjør slike feil.  Ikke så mye for å demonstrere at man blir krenket.

 

  • Innsiktsfullt 1
Lenke til kommentar
11 minutes ago, tommyb said:

*snip*

Takk som avslører en mer substansiell bakgrunn her, jeg antar det stemmer som du sier, at dette er kjernen i problematikken, men jeg tror ikke nødvendigvis intensjonen bak disse mer tabloide oppslagene er å peke på dette.
Derfor er det nyttig med informerte individer som kan avdekke mer interessante forhold bak saker som ser ut til å utvikle seg til å bli det jeg kaller sånn er det blitt-nyheter, hvor man bare fremstiller nå til dags i en kontekst hvor man skal indigneres over hvordan det foreslås å ha blitt.

  • Innsiktsfullt 1
Lenke til kommentar

Det er det jeg også tenker - men samtidig så er tabloide nyheter et nyttig hjelpemiddel for å få nok oppmerksomhet til at tiltak faktisk vil bli gjort. Så selv "jeg er krenket" kan være et verktøy for å få gjennom endringer, selv om man vet man da blir en del av "se hvem som har blitt krenket i dag"-bildet. Inntil hele greia fører til en eller annen form for backlash, da. 

Lenke til kommentar
4 minutes ago, tommyb said:

Det er det jeg også tenker - men samtidig så er tabloide nyheter et nyttig hjelpemiddel for å få nok oppmerksomhet til at tiltak faktisk vil bli gjort. Så selv "jeg er krenket" kan være et verktøy for å få gjennom endringer, selv om man vet man da blir en del av "se hvem som har blitt krenket i dag"-bildet. Inntil hele greia fører til en eller annen form for backlash, da. 

Ja, muligens.
Men jeg vet ikke, jeg liker din optimisme og håper du har rett.
Selv synes jeg det ser ut til å fordreie tematikken så kraftig at verktøyet gjøres meningsløst.
At det fungerer på samme måte som klimaskepsis eller en eller annen hot topic issue, hvor man ikke nødvendigvis snakker for å overbevise folk om at det man sier er riktig, men at målet istedet bare er så så tvil i tematikken.

  • Liker 1
Lenke til kommentar

Årsaken til at dette skjer ble påpekt og forklart bla. i en serie på Netflix om AI i 2020 en gang. Så jeg er litt overasket over at artikkelen ikke nevner dette.

Husker jeg linket den her inne den gang. Ganske gammelt nytt når Netflix har rukket å lage en produksjon om det.

EDIT:
Netflix - Coded Bias.
https://www.netflix.com/title/81328723

Publiseringen til Joy er fra 2018.
https://news.mit.edu/2018/study-finds-gender-skin-type-bias-artificial-intelligence-systems-0212
image.thumb.png.c7af2eaade95b657421fedcecf45be9b.png

 

Endret av Theo343
  • Innsiktsfullt 1
Lenke til kommentar

Bli med i samtalen

Du kan publisere innhold nå og registrere deg senere. Hvis du har en konto, logg inn nå for å poste med kontoen din.

Gjest
Skriv svar til emnet...

×   Du har limt inn tekst med formatering.   Lim inn uten formatering i stedet

  Du kan kun bruke opp til 75 smilefjes.

×   Lenken din har blitt bygget inn på siden automatisk.   Vis som en ordinær lenke i stedet

×   Tidligere tekst har blitt gjenopprettet.   Tøm tekstverktøy

×   Du kan ikke lime inn bilder direkte. Last opp eller legg inn bilder fra URL.

Laster...
  • Hvem er aktive   0 medlemmer

    • Ingen innloggede medlemmer aktive
×
×
  • Opprett ny...