Video avslører: Kvinne går over veibanen - den selvkjørende bilen viser ingen tegn til å bremse

[High-Fidelity]

Blir selvsagt mye spekulasjon, men en oppmerksom sjåfør ville med all sannsynlighet greid å bremse noe. Og i så fall kommet bedre ut enn automatikken som sviktet fullstendig.

[kremt]

Hun hadde vel vært død uansett, ingen førerløs bil kan ta høyde for suicidale fotgjengere.

Dessverre er slike saker bensin på bålet for motstandere av førerløse biler.

[HF-]

Hun hadde vel vært død uansett, ingen førerløs bil kan ta høyde for suicidale fotgjengere.

Dessverre er slike saker bensin på bålet for motstandere av førerløse biler.

ho var 100 meter frå et fotgjengerfelt. Hadde ho blitt oppdaga noke meir der?

[Gloria]

"Derfor er det lavere risiko for å bli påkjørt av en selvkjørende bil i Europa"

 

Ja, det var da litt av en vinkling. Kan ikke si jeg er overbærende redd for å bli påkjørt av selvkjørende biler.

[Trestein]

Tror denne store nye tekniologien må boostes litt. For å få vist frem dette lag en egen autonom klasse i rally og formel en. Kutt ut fører og kartleser. En datamaskin som styrer en rallybil må kunne gjøre en forhånds definert rute vannvittig raskt. Man slipper at noen blir skadet og bilene kjører raskere.

[rolfsjo]

Jeg synes følgende artikkel gir en god oversikt av det som er kjent så langt om ulykken, og hvorfor Uber har en del å svare på: http://ideas.4brad.com/it-certainly-looks-bad-uber

[Kahuna]

Hvordan har det seg at Uber har blitt 'store på autonomi'? Startet ikke de som 'Napster for Pirattaxi'?

[HF-]

Hvordan har det seg at Uber har blitt 'store på autonomi'? Startet ikke de som 'Napster for Pirattaxi'?

Pirattaxi er greit så lenge sjåføren skriv tekstmeldinger og ikkje ser på veien?

[LA9NK7V1]

En selvkjørende bil trenger ikke synlig lys for å ha oversikt over situasjonen rundt. Den bruker LIDAR og RADAR som sender ut energi på forskjellige frekvenser og reagere på reflekteres dette gir fra personer og andre ting rundt. Det har lys for at andre trafikanter skal se den.

[johncl]

Jeg ser mange av disse analysene ikke tar i betrakning at disse systemene er klassiske eksempler av computer learning. Det spiller ingen rolle om Lidar'en så noe som helst hvis algoritmen som mest sannsynlig er en nevral nettverk modell ikke var lært opp til å reagere på parametrene den ble matet med. Det er klart ytterligere sikkerhets algoritmer som går rundt denne delen, men det er uvisst når disse overstyrer den vanlige beslutningstakeren i nettverket. Disse systemene er så komplekse at man ikke hardkobler sensorer rett i enkle dataprogram slik man gjerne ofte betrakter ren programmering. Hele miljøet rundt bilen er parametrisert i forskjellige metrikker som blir til tall nettverket mates med, en av disse er da Lidar signaler, og evt hva form den har detektert på objektet (igjen et nettverk som driver bildegjenkjenning basert på hva den er opplært av former). For alt vi vet kan det være at bilen deler opp miljøet rundt bilen i soner som "fortau" - "langs fortau" - "vei" - "skillelinjer" - "fotgjengerfelt", etc , og nettverket kan rett og slett ikke være lært opp i at en fotgjenger/syklist som krysser over i akkurat de sonene den gjorde ikke var en "obstacle". Alle nevrale nettverk er bare så gode som dataene de er lært opp med. Men når det gjelder autonome kjøretøy så bør de være utstyrt med en del redundanse systemer hvis grenseverdier justeres slik at de vil overstyre det nevrale nettverket. Det er godt mulig Uber ikke har nok av disse systemene i drift - kanskje fordi de har problemer med feil-tolkninger som gjør at kjøreturen blir totalt sirup eller rykk og napp.

Om noe vil denne ulykken få fokus på hva læring som mangler i nettverket deres og de vil mest sannsynlig ende opp med et enda bedre system uansett hvor trist det er at noen måtte bøte med livet for at feilene skulle avsløres. Det er godt mulig at man bør begrense testene til avlukkede testbaner en god stund enda, og kanskje jobbe mer med å simulere alle disse variantene i trafikken bedre - selv om jeg vet de også gjør dette hele tiden i tillegg.

[Ove Kvam]

Ut fra informasjon fra amerikanske lokalaviser, var bilens hastighet 38mph, og fartsgrensen 35mph. Typisk reaksjonstid for en menneskelig sjåfør, er rett i overkant av et sekund. Jeg tror folk flest ikke ville rukket å bremse i det hele tatt i denne situasjonen. Det er skuffende at ikke en autonom bil ikke er signifikant bedre her, siden den bør se godt i mørket med sine sensorer, og en stor, kryssende hindring burde være en enkel bremseavgjørelse i programvaren. Jeg hadde forventet at bilen i det minste ville begynt å nødbremse, selv om den neppe ville klart å stoppe helt.

 

Jeg synes også det er veldig skuffende at en voksen person krysser en vei uten å se seg for.

[Salvesen.]

Ut fra informasjon fra amerikanske lokalaviser, var bilens hastighet 38mph, og fartsgrensen 35mph. Typisk reaksjonstid for en menneskelig sjåfør, er rett i overkant av et sekund. Jeg tror folk flest ikke ville rukket å bremse i det hele tatt i denne situasjonen. Det er skuffende at ikke en autonom bil ikke er signifikant bedre her, siden den bør se godt i mørket med sine sensorer, og en stor, kryssende hindring burde være en enkel bremseavgjørelse i programvaren. Jeg hadde forventet at bilen i det minste ville begynt å nødbremse, selv om den neppe ville klart å stoppe helt.

 

Jeg synes også det er veldig skuffende at en voksen person krysser en vei uten å se seg for.

 

Nå feier du alle autonome biler under en kam her. En skal ikke glemme at disse bilene er ute til test, og at det er en grunn til at de testes. Dette er så klart en stor tragedie, men sannsynligvis en SW feil som vill hjelpe utviklingen. Bare synd at det skulle ende med ett dødsfall. 

[Junkers]

Jeg ser mange av disse analysene ikke tar i betrakning at disse systemene er klassiske eksempler av computer learning. Det spiller ingen rolle om Lidar'en så noe som helst hvis algoritmen som mest sannsynlig er en nevral nettverk modell ikke var lært opp til å reagere på parametrene den ble matet med. Det er klart ytterligere sikkerhets algoritmer som går rundt denne delen, men det er uvisst når disse overstyrer den vanlige beslutningstakeren i nettverket. Disse systemene er så komplekse at man ikke hardkobler sensorer rett i enkle dataprogram slik man gjerne ofte betrakter ren programmering. Hele miljøet rundt bilen er parametrisert i forskjellige metrikker som blir til tall nettverket mates med, en av disse er da Lidar signaler, og evt hva form den har detektert på objektet (igjen et nettverk som driver bildegjenkjenning basert på hva den er opplært av former). For alt vi vet kan det være at bilen deler opp miljøet rundt bilen i soner som "fortau" - "langs fortau" - "vei" - "skillelinjer" - "fotgjengerfelt", etc , og nettverket kan rett og slett ikke være lært opp i at en fotgjenger/syklist som krysser over i akkurat de sonene den gjorde ikke var en "obstacle". Alle nevrale nettverk er bare så gode som dataene de er lært opp med. Men når det gjelder autonome kjøretøy så bør de være utstyrt med en del redundanse systemer hvis grenseverdier justeres slik at de vil overstyre det nevrale nettverket. Det er godt mulig Uber ikke har nok av disse systemene i drift - kanskje fordi de har problemer med feil-tolkninger som gjør at kjøreturen blir totalt sirup eller rykk og napp.

 

Om noe vil denne ulykken få fokus på hva læring som mangler i nettverket deres og de vil mest sannsynlig ende opp med et enda bedre system uansett hvor trist det er at noen måtte bøte med livet for at feilene skulle avsløres. Det er godt mulig at man bør begrense testene til avlukkede testbaner en god stund enda, og kanskje jobbe mer med å simulere alle disse variantene i trafikken bedre - selv om jeg vet de også gjør dette hele tiden i tillegg.

Tviler ikke på at selvkjøringssystemer må ha et stort innslag av selvlæring for å forstå komplekse trafikkbilder. Det er allikevel endel grunnleggende ting som håndteres av sensorene og høyprioriterte enkle SW rutiner. Radaren feks har et fokusområde som er bestemt av antenne utforming og fasestyring, for å unngå å trigge på overhnegende skilt og ting langs veien. Den har også innebygd bortfiltrering av bla. motgående trafikk (doppler basert). Selve collision avoidance mekanismen er en nokså enkel SW med høy prioritet og kort responstid. Akkurat dsenne delen av selvkjøringen kan ikke være basert på selvlæring. Et system som feks ikke definerer en fotgjenger som hindring om den ikke krysser veien utenfor et fotgjengerfelt ville selvfølgelig aldri bli godkjent. Enhver sjåfør som kjører på og skader et menneske som krysser veien utenfor fotgjengerfelt vil bli dømt for dette. (formildende omstendigheter vil det kunne være)  

[KalleKanin]

Jeg synes følgende artikkel gir en god oversikt av det som er kjent så langt om ulykken, og hvorfor Uber har en del å svare på: http://ideas.4brad.com/it-certainly-looks-bad-uber

Her var det flere poenger.

Dette er også noe å tenke på:

"To be clear, while the car had the right-of-way and the victim was clearly unwise to cross there, especially without checking regularly in the direction of traffic, this is a situation where any properly operating robocar following "good practices," let alone "best practices," should have avoided the accident regardless of pedestrian error. That would not be true if the pedestrian were crossing the other way, moving immediately into the right lane from the right sidewalk. In that case no technique could have avoided the event."

 

Det vil alltid være situasjoner der selv den beste automatikken aldri vil klare å forhindre et sammenstøt.

Men her er det flere ting som tyder på at en god selvkjørende bil i det minste burde kunne begrenset skadeomfanget (Men ikke nødvendigvis nok til å unngå en dødsulykke).

 

Utsagnet over minner meg også på en ting man ofte har hørt i forbindelse med selvkjørende biler:

"Hva vil en bil gjøre hvis den må velge mellom å kjøre på et barn og å kræsje i en fjellvegg"

Her ser det jo ut som det også var forholdsvis god veiskulder, og til og med mulighet for å "ditche" bilen i grøfta. Selv om man kanskje ikke hadde rukket å stoppe, er det mulig man kunne klart å svinge unna.

 

Dette minner meg på min største "nestenulykke". Kjørte på vei vestover på E18, og rundet svingen som går under Bygdøylokket. Plutselig sto køen i venstrefilen, og jeg hadde null sjanse til å stoppe i tide, men klarte å kaste bilen i høyre fil som var ledig og klarte å stoppe i høyrefilen halvveis opp på siden av den bilen jeg hadde hatt foran meg.

 

En selvkjørende bil må også kunne ta slike avgjørelser. Jeg tok en liten sjanse gitt at jeg ikke rakk å sjekke dødvinkelen godt nok, men en selvkjørende bil har sensorer "all over", og vil ha enda mer oversikt over tilsvarende situasjoner til å kunne ta et mer riktig valg i slike situasjoner.

[asshole]

"Homeless Junkie Killed By Robot Uber Car Carrying Transgender Armed Robber"

Så syklisten var ruset. Hadde forventet en selkjørende bil ville bremse, selv om en vanlig sjåfør sikkert ikke hadde rukket. Men det kriminelle her er de elendige lysene på bilen!

[trikola]

Utsagnet over minner meg også på en ting man ofte har hørt i forbindelse med selvkjørende biler:

"Hva vil en bil gjøre hvis den må velge mellom å kjøre på et barn og å kræsje i en fjellvegg"

 

Og hva ville et menneske gjøre? Kan man regne med en 'rikig' beslutning fra et menneske?

 

Jeg regner imidlertid med at en maskin har større sjanser - i alle fall etterhvert - til å unngå å komme i slike situasjoner.

Endret 25. mars 2018 av trikola

[Carpe Dam]

Utsagnet over minner meg også på en ting man ofte har hørt i forbindelse med selvkjørende biler:

"Hva vil en bil gjøre hvis den må velge mellom å kjøre på et barn og å kræsje i en fjellvegg"

Med tanke på at der finnes sjåfører som ville fått panikk, sluppet rattet og holdt seg foran ansiktet mens de spente musklene tråkket gassen i bånn så tror jeg ikke at problemstillingen egentlig sier oss så veldig mye nyttig.

[hekomo]

 

Er det en åpenbar svakhet at kameraer ikke kan se noe i bekmørket? I så fall har vi samme åpenbare svakhet med menneskelige øyne.

Dersom det vi ser på filmen er det beste det selvkjørende systemet kan se er det selvsagt helt elendig. Med normalt gode lys og med en normalt oppegående sjåfør bak rattet ville ikke ulykken ha skjedd. Sjåføren ville ha sett personen i god tid, det er tørt og fine forhold.

 

Du må trolle nå. I videoen er det tydelig at vedkommende var skjult av mørket, og at en menneskelig sjåfør heller ikke ville klart å stoppe.

[magb]

 

 

Er det en åpenbar svakhet at kameraer ikke kan se noe i bekmørket? I så fall har vi samme åpenbare svakhet med menneskelige øyne.

Dersom det vi ser på filmen er det beste det selvkjørende systemet kan se er det selvsagt helt elendig. Med normalt gode lys og med en normalt oppegående sjåfør bak rattet ville ikke ulykken ha skjedd. Sjåføren ville ha sett personen i god tid, det er tørt og fine forhold.

 

Du må trolle nå. I videoen er det tydelig at vedkommende var skjult av mørket, og at en menneskelig sjåfør heller ikke ville klart å stoppe.

 

Er du seriøs? Tror du virkelig ett menneske ser like dårlig som det lyssvake dashkamera som filmet? Dette er en vei med gatelys, og ett menneske burde se klart og tydelig at noen krysser veien. Prøv selv å gå ut i en opplyst gate på natten, er de mørke feltene mellom hvert gatelys helt sorte som i filmen, eller ser du faktisk litt i skyggen her også? Kan gjøre det enkelt for deg og gi deg fasiten; vi mennesker ser faktisk detaljer i skyggen også.

 

Og før du kommenterer at det sitter et menneske i bilen, ta en titt på hvor fokusert dette menneske er. Han/hun er mer opptatt av mobiltelefonen sin eller noe annet spennende nede i midtkonsollen...

[Salvesen.]

 

 

 

Er det en åpenbar svakhet at kameraer ikke kan se noe i bekmørket? I så fall har vi samme åpenbare svakhet med menneskelige øyne.

Dersom det vi ser på filmen er det beste det selvkjørende systemet kan se er det selvsagt helt elendig. Med normalt gode lys og med en normalt oppegående sjåfør bak rattet ville ikke ulykken ha skjedd. Sjåføren ville ha sett personen i god tid, det er tørt og fine forhold.

 

Du må trolle nå. I videoen er det tydelig at vedkommende var skjult av mørket, og at en menneskelig sjåfør heller ikke ville klart å stoppe.

 

Er du seriøs? Tror du virkelig ett menneske ser like dårlig som det lyssvake dashkamera som filmet? Dette er en vei med gatelys, og ett menneske burde se klart og tydelig at noen krysser veien. Prøv selv å gå ut i en opplyst gate på natten, er de mørke feltene mellom hvert gatelys helt sorte som i filmen, eller ser du faktisk litt i skyggen her også? Kan gjøre det enkelt for deg og gi deg fasiten; vi mennesker ser faktisk detaljer i skyggen også.

 

Og før du kommenterer at det sitter et menneske i bilen, ta en titt på hvor fokusert dette menneske er. Han/hun er mer opptatt av mobiltelefonen sin eller noe annet spennende nede i midtkonsollen...

 

 

Politiet har uttalt at det ville vært vanskelig for ett menneske. Jeg tror en skal holde seg til slik info enn å prøve å analysere video materialet.