Norske forskere fikk helt absurde resultater da de benyttet AI

[Redaksjonen.]

Norske forskere fikk helt absurde resultater da de benyttet AI

[Suppen]

Redaksjonen. skrev (4 timer siden):

Det kan du lese mer om i denne artikkelen: Når skal kunstig intelligens bli gunstig intelligens?

Ser ut som artikkelforfatteren har glemt å legge inn linken her

[Pop]

Hvorfor ser alle slike artikler om AI ut som om det er kjempeoverraskende at resultatet ikke er i tråd med personenes tanker? Vi mennesker er jo utstyrt med et vell av regelsett, moralske og etiske føringer osv. En AI har jo ikke uten at det er programmert inn i softwaren. 

Da er det en selvfølge at dersom man ber en AI lage en bedre jord, så er steg 1 på veien å utradere alle mennesker. Fordi man ikke tok med betingelsen i utgangspunktet, at mennesker skulle fortsette å eksistere og gjerne skulle få bedret livskvalitet.

Om en AI fjerner en svulst i bildet her i artikkelen, er det nok fordi man ikke har gjort det tydelig nok hva som er målet med bildene, f.eks. å få tydeliggjort uregelmessigheter i en lunge.

[Sandormen]

Bare det at mennesket har puls vil kunne påvirke. Flere bilder av samme person kan hurtig bli helt forskjellige, bare det at et hode ligger en grad på skakke annerledes enn på tidligere bilder.

Bruke ‘AI’ på biologiske ‘ting’ blir som å sammenligne to dråper vann fra havet. De ser identiske ut med det blotte øyet, men kikker man i mikroskop og begynner å analysere antall partikler... 

Å konstruere en dynamisk AI vil kreve noen vannvittige algoritmer.

Selvlærende AI (Ifht. menneskelig biologi) er kun en drøm i mange år ennå. Mennesker er alt for forskjellige

[Benny Flaggstang]

On 7/21/2020 at 12:53 PM, Pop said:

Hvorfor ser alle slike artikler om AI ut som om det er kjempeoverraskende at resultatet ikke er i tråd med personenes tanker? Vi mennesker er jo utstyrt med et vell av regelsett, moralske og etiske føringer osv. En AI har jo ikke uten at det er programmert inn i softwaren. 

Da er det en selvfølge at dersom man ber en AI lage en bedre jord, så er steg 1 på veien å utradere alle mennesker. Fordi man ikke tok med betingelsen i utgangspunktet, at mennesker skulle fortsette å eksistere og gjerne skulle få bedret livskvalitet.

Om en AI fjerner en svulst i bildet her i artikkelen, er det nok fordi man ikke har gjort det tydelig nok hva som er målet med bildene, f.eks. å få tydeliggjort uregelmessigheter i en lunge.

Nå var det ikke vaskingen av svulsten som var overraskende for forskerne, så det blir litt snodig at du bruker det som et eksempel.
Når en forsker gjør klar til et forsøk så settes det opp en eller flere testbare hypoteser. Man har en antagelse av hva som vil skje og tester dette. Utfra tidligere erfaringer vil man ha varierende grad av sikkerhet rundt hva som skal skje.

• Noen hypoteser har høy usikkerhet, så at resultatet ikke samsvarer med antagelsen vil ikke være spesielt overraskende.
  • De var ikke overrasket over at svulstene ble vasket bort. Det var nærmest forutsett. Men det er likevel en påvist svakhet.
• Noen hypoteser har man forholdsvis gode forutsetninger til å gjøre en kvalifisert gjetning på. Et avvik fra forventningene vil da være overraskende. Når avviket i tillegg er diametralt motsatt av hva man har antatt vil det bli veldig overraskende.
  • AI pleier å bli mer stabil og presis jo mer tid den får på seg. Når det viser seg at den blir dårligere kan det være overraskende.
• Noen resultater er så utenfor det man forutser at man må gå gjennom hele testen og se om det er noe galt i oppsettet.
  • Hadde AIen skrevet ut koden for Super Mario ville det vært veldig overraskende og et signal om at testen kan inneholde feil.

[Gjest Slettet+5132]

Altså, her er det snakk om å bruke maskinlæring som regresjon og så bruke det nevrale nettet som billig surrogatmodell. Det reflekterer ikke overskriften. Overskriften blir veldig klikkbait. Tommelfingerregel er at hvis tittelen inneholder AI, så sier tittelen nada.

Når det er sagt synes jeg heller ikke det vitenskapelige innholdet har sitt på det rene. Stabilitetsanalysene er gjort på et opptrent nettverk, men påstandene de kommer med i denne artikkelen er på stabilitet av nevrale nettverk. Det er to forskjellige ting. Det de har sett er at de nevrale nettverkene de har funnet har dårlig stabilitet, det betyr ikke at alle nevrale nettverk har det.

 

Faktisk vil det være rimelig grei skuring å se at det finnes nevrale nettverk som kan gi samme rekonstruksjon som tradisjonelle algoritmer, og da vil dette nettverket være like stabilt. Spørsmålet blir om du kan finne dette nettverket ved opptrening, og hvorfor du i alle dager skulle gjøre dette hvis du allerede har en helt fin algoritme du kan bruke.