Softbank mener at roboter vil ha IQ på 10000 innen 30 år

[Maskinintelligens]

https://www.wsj.com/articles/supersmart-robots-will-outnumber-humans-within-30-years-says-softbank-ceo-1488193423

 

Artikkelen forklarer alt og Softbank investerer basert på denne teorien. 

 

Hva tror dere om dette? 

[Maskinintelligens]

BARCELONA—Within 30 years, artificial intelligence will be smarter than the human brain.

That is according to Masayoshi Son, chief executive of SoftBank Group Corp, who says that supersmart robots will outnumber humans and more than a trillion objects will be connected to the internet within three decades.

These beliefs underpin the wave of large and surprising deals the Japanese internet and telecommunications giant has pulled off in the past year, he said on Monday. These include starting a $100 billion technology-investment fund with a Saudi sovereign-wealth fund, buying British microprocessor designer ARM Holdings PLC for $32 billion and acquiring U.S. asset manager Fortress Investment Group PLC for $3.3 billion.

This 30-year forecast created urgency, Mr. Son said in a speech at the telecom industry’s biggest trade show, Mobile World Congress. “That is why I’m in a hurry to aggregate cash to invest.”

In a brief interview after his speech, Mr. Son said his $100 billion project with the Saudis, dubbed the SoftBank Vision Fund, was bigger than the $65 billion in combined investments from the venture-capital world. He said the SoftBank Vision Fund would be focused. “Artificial intelligence, Internet of Things, smart robots: those are the three main things I’m interested in,” he said.

The Internet of Things is the technology world’s term for connecting everyday objects, from refrigerators to sneakers, to the web.

Mr. Son said he didn’t expect the planned initial public offering of oil colossus Saudi Aramco to affect the size of Vision Fund. “They are a great partner,” he said of the Saudis. “They’re already rich. They have lots of money, even before the IPO.”

Mr. Son said this month’s unexpected acquisition of Fortress Investment would complement the Vision Fund. “SoftBank Vision Fund is more for the technology,” he said. “Fortress is for everything else—traditional private equity and so on. Money is money, you know?””

Fortress has about $70 billion in assets under management. Combined with the Vision Fund, he said, “pretty soon we will have $200 billion together. So we would help each other to identify investment opportunities and manage the portfolio companies.”

Mr. Son said he would also greatly increase the research-and-development funding for ARM, the British chip designer SoftBank bought in 2016. ARM doesn’t manufacture chips, but it designs the basic architecture for the chips in more than 95% of the world’s smartphones. Mr. Son said he believed that within 30 years, more than one trillion ARM-designed Internet of Things chips would be in use.

In his speech, Mr. Son said that while average humans had an IQ of roughly 100 and that geniuses such as Albert Einsten were believed to score around 200, superintelligent computers would have IQs of 10,000. He said computer chips possessing superintelligence would be put into robots big and small that can fly and swim. These robots will number in the billions and would be greater than the human population within 30 years, he said.

The chips would also be in everyday objects. “One of the chips in our shoes will be smarter than our brain,” he said. “We will be less than our shoes, and we will be stepping on them.”

In the brief interview after the speech, Mr. Son said he remained committed to stepping down from his job once he turned 70. He is 59 years old.

[Kikert]

Tja, det er ikke usannsynlig faktisk. Kanskje ikke det at en brikke alene takler mer enn en menneskehjerne, men at maskiner vil overgå mennesker er det ingen tvil om. For å si det litt rart; Vi trenger datakraft for å utvikle mer datakraft og jo mer og bedre som lages jo raskere går det å lage enda mer og bedre.

 

Ser vi på den teknologiske utviklingen, fremskritt, de siste tiårene så er det uten sidestykke og fremskrittene går raskere og raskere.

[VRK18]

Roboter har vel ikke IQ.

[Camlon]

Jeg vil egentlig si at botter allerede har høyere IQ enn mennesker. De har mye bedre hukommelse, de gjør bedre valg, de er flinkere til å løse logiske oppgaver, og de er mye raskere. 

 

Mennesker har egentlig bare en fordel, og det er at vi er en helhetlig organisme og ikke millioner av uavhengige moduler. En dataprogram kan løse en IQ oppgave mye bedre enn et menneske, men bare hvis et team av utviklere har programmert den til å løse slike oppgaver. Det ville gått mye fortere, hvis man kunne ha brukt programmer til å lage dataprogrammer, men det er for lite penger i denne sektoren til å lage noe som fungerer godt nok.

 

Jeg tror dette kommer også til å være tilfelle om 30 år. 

[Imlekk]

(...)

Det ville gått mye fortere, hvis man kunne ha brukt programmer til å lage dataprogrammer, men det er for lite penger i denne sektoren til å lage noe som fungerer godt nok.

(...)

Dette har allerede skjedd. Selv om det foreløpig er begrenset til en håndfull linjer kode. (Jeg finner dessverre ikke lenken med kilde, så en klype salt er nok på sin plass.)

[VRK18]

Roboter gjør da bare det mennesker har programmert dem til å gjøre? De kan gjøre ting raskt og de kan "huske" feilfritt, men de har ingen bevissthet og kan egentlig ikke forstå noe som helst.

Endret 27. februar 2017 av VR-katten

[Imlekk]

Roboter gjør da bare det mennesker har programmert dem til å gjøre? De kan gjøre ting raskt og de kan "huske" feilfritt, men de har ingen bevissthet og kan egentlig ikke forstå noe som helst.

Mennesker gjør da bare det naturen har programmert dem til å gjøre? De kan gjøre ting raskt og de kan %5Bikke%5D "huske" feilfritt, men de har ingen bevissthet og kan egentlig ikke forstå noe som helst.

[VRK18]

Naturen er ikke bevisst og har ingen IQ. Mennesket er et produkt av evolusjon, ikke natural design.

 

Mennesket gjør dessuten veldig mange ting som vi ikke er programmert til.

Endret 27. februar 2017 av VR-katten

[Camlon]

Dette har allerede skjedd. Selv om det foreløpig er begrenset til en håndfull linjer kode. (Jeg finner dessverre ikke lenken med kilde, så en klype salt er nok på sin plass.)

 

Det du snakker om skjedde i 1957. Alle programmeringspråk lager kode. 

 

Det jeg snakker om er noe annet. Tenk deg at istedenfor å programmere, så sier du til et program at dette er hva jeg vil lage. Det finnes noe lignende idag, men det fungerer ikke fordi det er ikke fleksibel nok. Du kommer til å få noen spesifikasjoner som ikke er mulig å implementere, og du blir tvunget til å gå inn i koden, men siden du ikke lagde den selv så vet du ikke hva du skal forandre. 

 

Det vi trenger er et program som kan fungere både på makronivå og mikronivå. Men siden pengene ligger i sluttproduktet, så er det ingen som lager slike programmer idag.

[VRK18]

Tror ikke det er penger det står på. For å gjøre ting utover det de er programmert til må maskinene få ekte intelligens, og det krever bevissthet.

[Imlekk]

Naturen er ikke bevisst og har ingen IQ. Mennesket er et produkt av evolusjon, ikke natural design.

 

Mennesket gjør dessuten veldig mange ting som vi ikke er programmert til.

 

Vel, vi er enige i at naturen (som en helhet) ikke er bevisst, selv om subsett av naturen tilsynelatende er det, e.g. oss mennesker.

 

Jeg fleipet selvfølgelig litt. Det er dog visse likheter. Vi mennesker har utviklet en haug med måter å tenke på, som fungerer i større eller mindre grad. Helheten er grådig kompleks, og maskiner er for øyeblikket milevis unna denne kompleksiteten, og evnen til selvdreven læring. Men jeg ser ingen grunn til å tro at vi ikke vil kunne nå dit, eller forbi, på et eller annet tidspunkt. Dog vil jeg anta at en kunstig intelligens neppe vil være helt lik vår egen, siden det ikke er store poeng i å kode inn kognitive bias og lignende.

 

 

Dette har allerede skjedd. Selv om det foreløpig er begrenset til en håndfull linjer kode. (Jeg finner dessverre ikke lenken med kilde, så en klype salt er nok på sin plass.)

 

Det du snakker om skjedde i 1957. Alle programmeringspråk lager kode. 

 

Det jeg snakker om er noe annet. Tenk deg at istedenfor å programmere, så sier du til et program at dette er hva jeg vil lage. Det finnes noe lignende idag, men det fungerer ikke fordi det er ikke fleksibel nok. Du kommer til å få noen spesifikasjoner som ikke er mulig å implementere, og du blir tvunget til å gå inn i koden, men siden du ikke lagde den selv så vet du ikke hva du skal forandre. 

 

Det vi trenger er et program som kan fungere både på makronivå og mikronivå. Men siden pengene ligger i sluttproduktet, så er det ingen som lager slike programmer idag.

 

Jeg tror jeg er klar over hva du mener. Det jeg sikter til er en maskinlæringsalgoritme som har tilgang til en hel haug med eksisterende kode, får definert input/output, og automatisk genererer en kode som skaper output fra input.

[Camlon]

Jeg tror jeg er klar over hva du mener. Det jeg sikter til er en maskinlæringsalgoritme som har tilgang til en hel haug med eksisterende kode, får definert input/output, og automatisk genererer en kode som skaper output fra input.

 

Du mener at den skal lese igjennom offentlige github kontoer og lære fra dem? Hva skal den bruke all den koden til? Hvis den legger dem til plugin automatisk, så vil du få masse skrot med deg. 

 

Nei, det utviklere trenger er noe mer manuelt. Idag kan du laste ned alle slags mulige plugins og legge dem inn i prosjektene dine. Dette skaper en viss effektivitet, men det er ikke et gjennombrudd fordi når f.eks. det kommer et ny oppdatering eller et nytt operativsystem så må alle justere koden sin. Dette betyr at etterhvert så må man kaste det gamle prosjektet og lage noe nytt. 

 

Løsningen på dette er å ha utviklingverktøy som lager kode for deg, som kan jobbe på mange forskjellige programmeringsnivåer og som oppdaterer koden for deg. Ingen lager noe slikt idag.

[Camlon]

Tror ikke det er penger det står på. For å gjøre ting utover det de er programmert til må maskinene få ekte intelligens, og det krever bevissthet.

 

Det jeg snakker om er ikke at maskiner gjør noe annet enn de er programmert til. Det jeg snakker om er at utviklere kan jobbe på et mye høyere nivå enn idag, men samtidig ha muligheten til å gjøre forandringer som ikke er supportert på det høyere nivået.

 

Dette er ikke mulig idag, fordi hvis koden blir laget automatisk, så forstår du ikke koden som blir generert. Forstår du ikke koden, så kan du ikke forandre den. 

[Don Quijote]

Må være heftig størrelse på normeringsgruppen til den IQ-testen hvis den skal gi en score på 10000 (med mindre vi snakker om tidenes forventningsverdi og/eller standardavvik). Det er en grunn til at de fleste (anerkjente) IQ-testene har et tak på rundt to-tre standardavvik.

[Gavekort]

Roboter gjør da bare det mennesker har programmert dem til å gjøre? De kan gjøre ting raskt og de kan "huske" feilfritt, men de har ingen bevissthet

og kan egentlig ikke forstå noe som helst.

 Roboter gjør det mennesker har programmert dem til å gjøre, men kunstig intelligens gjør det som maksimerer ytelse i et gitt miljø.

 

Hvorvidt en kunstig intelligens er bevisst, og om det er behov for bevissthet er et filosofisk spørsmål. Siterer det jeg skrev i en annen debatt som jeg hadde på engelsk:

 

 

If AI continues down the same path as we are on now, we can't really program emotions and consciousness, or prevent emotions from happening without stunting perception.

 

Artificial Neural Networks are extremely complicated, and we mostly influence it by training, by telling what is right and what is wrong, what is good and what is bad. If the ANN decides that it needs to put on a frowny-face to indicate that it doesn't like that you neglect charging it, will it then express emotions? Or is it just exploiting the environment to maximize reward by you plugging in the charger because you feel guilty? Isn't this really what we humans do too? We humans aren't faking it, but is the robot faking it?

 

If we see ourselves as automatons in pursuit of maximizing reward then maybe pain, suffering and psychosis isn't much more than a coping-mechanism for the terrible state of reward and comfort. It's still very much real, but isn't a robot doing the same thing just as real? If it walks like a duck, and quacks like a duck. Is it a duck?

 

 

Tror ikke det er penger det står på. For å gjøre ting utover det de er programmert til må maskinene få ekte intelligens, og det krever bevissthet.

 

All kunstig intelligens gjør handlinger utover det de er programmert til. De er programmert til å gjøre det som gir best tilbakemelding, og hva denne handlingen er oppdager den selv, men tilbakemeldingen er det du som bestemmer. En kunstig intelligens trener seg opp til å best mulig tilfredsstille krav du setter til den, så om dette kravet er å kjøpe stempel på Ebay, og stempel gjør man ved å gjøre blablabla. Så vil den finkjemme prosessen til å kjøpe stempel til å bli så rask, effektiv og billig som den klarer, bare ved å prøve seg frem.

 

Du mener at den skal lese igjennom offentlige github kontoer og lære fra dem? Hva skal den bruke all den koden til? Hvis den legger dem til plugin automatisk, så vil du få masse skrot med deg.

 

En programmerende robot trenger ikke nødvendigvis å være begrenset til et språk, slik som vi mennesker er. Den kan analysere hva som skjer i programmet, og gjøre noe tilsvarende Genetic Programming der den maksimerer resultatet mot en rekke krav vi stiller. Så lenge det hele er Turing komplett så spiller det ingen rolle hvor abstrahert det er.

Endret 27. februar 2017 av Gavekort

[VRK18]

"Vel, vi er enige i at naturen (som en helhet) ikke er bevisst, selv om subsett av naturen tilsynelatende er det, e.g. oss mennesker."

 

Ja.

 

"Men jeg ser ingen grunn til å tro at vi ikke vil kunne nå dit, eller forbi, på et eller annet tidspunkt."

 

Kanskje. Men hvis vi klarer å lage bevisste roboter som er smartere enn oss selv så vil det vel være uetisk å bruke dem som slaver?

[Camlon]

En programmerende robot trenger ikke nødvendigvis å være begrenset til et språk, slik som vi mennesker er. Den kan analysere hva som skjer i programmet, og gjøre noe tilsvarende Genetic Programming der den maksimerer resultatet mot en rekke krav vi stiller. Så lenge det hele er Turing komplett så spiller det ingen rolle hvor abstrahert det er.

 

Det er lett å vise målet i et spill, ikke dø, kom deg til slutten av spillet. Hver gang man dør, så prøver den et annet alternativ. 

 

Men hva er målet til et program som lager programmer? Og alle programmer har spesifikasjoner, hvordan skal den vite hva spesifikasjonene er om en person ikke gir dem til maskinen. Kanskje en dag så har man noe slikt, men først må vi ha manuelle robotter før vi engang kan tenke på automatiske robotter. 

Endret 27. februar 2017 av Camlon

[Gavekort]

Det er lett å vise målet i et spill, ikke dø, kom deg til slutten av spillet. Hver gang man dør, så prøver den et annet alternativ. 

 

Men hva er målet til et program som lager programmer? Men det viktige prinsippet er, først må vi ha manuelle robotter før vi engang kan tenke på automatiske robotter. 

 

Nå spekulerer jeg, men hva om du ser på målet som noe mer overordnet? Du skaper en nettside og endrer nettsiden etter hva som gir best feedback fra brukere. Dette er et veldig primitivt eksempel, men jeg kan tenke meg at det muligens kan ekstrapoleres til backend-kode også, rett og slett med å gjøre hva alle andre gjør og så bare tweake etter hva som gir best resultat i simulator og virkelighet.

[Camlon]

Nå spekulerer jeg, men hva om du ser på målet som noe mer overordnet? Du skaper en nettside og endrer nettsiden etter hva som gir best feedback fra brukere. Dette er et veldig primitivt eksempel, men jeg kan tenke meg at det muligens kan ekstrapoleres til backend-kode også, rett og slett med å gjøre hva alle andre gjør og så bare tweake etter hva som gir best resultat i simulator og virkelighet.

 

Bare tenk deg. 

Skal jeg gjøre knappen rosa -> dårlig feedback -> ok, gjør knappen rød -> dårlig feedback og sinte brukere. 

Eller "skal jeg ikke vise denne knappen" -> ingen feedback fordi få bruker knappen -> "flott brukerene er fornøyd"

Eller "Introduserer en bug som ødelegger databasen" -> fjerner koden -> bugen er der fortsatt -> prøver masse mulig rart som gjør vondt verre -> utvikler må gå inn og manuelt redde programmet. 

 

Brukerene kan ikke være dine testobjekter. Det som ville spart mye mer tid, er manulle verktøy som kan hjelpe utviklere.