Tesla tar selvkjøringen til nytt nivå med ny oppdatering

[sverreb]

1 hour ago, Merko said:

Vel da bruker de systemet feil. Det har fungert utmerket for 99% av de som har vist frem FSD beta til nå på film. 

Vel, ja. Og poenget er at det er sannsynligvis ikke mennesklig mulig å bruke det 'riktig', så da gjenstår vurderingen om det er systemet eller menneskene det er noe feil med. Jeg sier systemet. 
Et par selvutvalgte videoer beviser absolutt ingenting. Når vi kan si noe om ulykker pr. milliard km kjørt av en stistisk representerbar førergruppe, da kan vi begynne å snakke om relevant statistisk grunnlag

[Merko]

sverreb skrev (40 minutter siden):

Et par selvutvalgte videoer beviser absolutt ingenting. Når vi kan si noe om ulykker pr. milliard km kjørt av en stistisk representerbar førergruppe, da kan vi begynne å snakke om relevant statistisk grunnlag

Nettopp. Derfor må man gi det tid slik at man får gjort programvaren ferdig før alle tesla kritikerne skal storme over alle tråder og forklare hvor dårlig systemet er. 

La det bli ferdig utviklet, så gi deres synspunkter. Sånn som det har vært til nå et jo bare latterlig lesing. 

[oophus]

Merko skrev (1 time siden):

Her er vi enige. På samme måte som om man skulle gitt en 18 åring tilgang på en sportsbil med 1000hk, noe som sannsynligvis ikke ville ha gått bra. I slike tilfeller er det kun sjåfør sin kan klandres, ikke bilprodusent. 

Kommer det en dødsulykke nå fra FSD-Beta, så mener altså jeg at Tesla må klandres i like høy grad som stakkars personen som isåflal må leve med dette resten av livet. Tesla er klar over våre restriksjoner og måten vi oppfører oss, men velger å bruke vanlige folk for en slik beta uansett uten tilstrekkelig med opplæring. Det absolutte minimum man burde hatt som opplæring er jo å vite hvordan systemet faktisk fungerer, slik at man lettere forstår valgene og feilene som foregår. 

 

Merko skrev (1 time siden):

Vel pr idag så er systemene til tesla en form for pilot assist, til ting er ferdig utviklet, så får vi se da hvordan ståa er 🙂

Alle er en form for L2 assist, hvor ingen bruker normale folk for å prøve å berøre funksjoner og oppførsel som normalt sett hadde falt innunder L3 definisjoner. Forutenom ett firma. Det er ett firma som er hele grunnen og årsak til at man tvinger inn nye iterasjoner av ISO og SAE definisjoner. Alle andre følger normale normer rundt denne teknologien og metoder for å innføre dette på en god måte forutenom ett firma. 

[Merko]

oophus skrev (6 minutter siden):

Kommer det en dødsulykke nå fra FSD-Beta, så mener altså jeg at Tesla må klandres

Hva du mener er vel strengt tatt helt uinteressant i denne sammenheng. Man kan ikke sikre seg mot idioter i trafikken. Bruker de ikke systemet som tiltenkt, så er det på demmes egen kappe. 

oophus skrev (8 minutter siden):

men velger å bruke vanlige folk for en slik beta uansett uten tilstrekkelig med opplæring.

Hvilken opplæring trenger du? Når man aktiverer funksjonen får man opp en varsling som sier at man heletiden må ha hendene på rattet og være klar til og ta over da bilen vil gjøre feil på et eller annet tidspunkt. Sånn, nå er til og med du opplært. 

Ser man bort fra denne meldingen og kjører sitt eget løp, ja da er det på din egen kappe. 

Det er flust av idioter i trafikken, sånne kan man stort sett ikke sikres mot. Enten de kjører tesla eller en bil fra 1990.

[oophus]

Merko skrev (Akkurat nå):

Hva du mener er vel strengt tatt helt uinteressant i denne sammenheng. Man kan ikke sikre seg mot idioter i trafikken. Bruker de ikke systemet som tiltenkt, så er det på demmes egen kappe. 

Det er jo nettopp det vi kan? Se på sikkerheten i bilene og hvordan den utviklingen har foregått over tiden. Hadde vi ikke gjort setebeltet påbudt, så hadde mange flere dødd, selv om mange viste at denne lille teknologien og kravet var anbefalt fordi det redder liv. Vi må jo være såpass teite som rase fordi vi må få påbud om enkle og forståelige hjelpemidler som hjelm også. Uten påbudet, så hadde betydelig flere idioter kjørt uten hjelm. 

Disse tingene gjør vi stort sett for å beskytte den individuelle mennesket. Mens nå så vil det individuelle mennesket, og dermed idioten være ansvarlig for hva en 2 tonn tung bil gjør i trafikken.  

Spørsmålet du må stille deg selv er denne: 

Finnes det en bedre metode i å innføre autonomi på? Kan man designes seg rundt den naturlige idiotien som ligger i menneskets natur når det gjelder såpass enkle ting som muligheten i å holde et fokus? 

 Hvis svaret er en bitte liten "ja" her, så velger du å ignorere det mest åpenbare kun fordi dette tilsvarer det samme som analogien rundt " fordi hjelm er teit", som man hørte i slalåmbakken på 2010 tallet, eller i gata på sykkelen på 90 tallet.   

 

Merko skrev (7 minutter siden):

Hvilken opplæring trenger du? Når man aktiverer funksjonen får man opp en varsling som sier at man heletiden må ha hendene på rattet og være klar til og ta over da bilen vil gjøre feil på et eller annet tidspunkt. Sånn, nå er til og med du opplært. 

Tanke eksperiment: 

Du skal kikke på en skjerm hvor du blir fortalt at du skal trykke på en rød knapp som dukker opp når som helst, og at du har mellom 1-2 sekunder på deg før den forsvinner. Hadde din oppførsel rundt denne oppgaven endret seg basert på betydningen det ville hatt om du bommet på knappen? Hvor stort fokus hadde du hatt om du ikke fikk mer informasjon enn dette, vs at knappen er linket til bomber i et annet land, og at folk dør hver gang du bommer på å trykke på knappen? 

Hva skjer så om denne knappen dukker opp tilfeldig et sted mellom 1 sekund og 10 sekunder. Hvor flink vil du være til å holde dette fokuset i 2 minutter? 10 minutter, 1 time?

Hva skjer så om denne knappen tilfeldigvis dukker opp mellom 1 sekund og 500 timer? Hvor flink ville du vært til å trykke på knappen når den først dukket opp nå? 

Jeg håper du svarer at du ville vært mer fokusert med ordentlig opplæring, sant? 
Jeg håper også at du svarer at du ville klart oppgaven lettere i det første eksempelet, der knappen dukker opp ofte. 

Vell dette er transisjonen man kan forvente innunder innføringen av autonomi. Du vil måtte beholde fokuset i lengre og lengre perioder uten "action" på "skjermen" etterhvert som systemet blir bedre, og sannsynligheten for at du mister fokuset vil øke. Sånn er vi som mennesker bare. Sannsynligheten for at du bommer på denne knappen, vil øke og øke jo flere folk man introduserer til den samme oppgaven til bedre systemet blir. 

Spørsmålet blir så, hvordan designer vi et godt system rundt denne problematikken? Hvordan hadde du selv innført autonomi om du skulle lage et system rundt dette, for å klare å garantere et bedre fokus hos mennesket? 

[Trestein]

Hensikten med systemet er jo at bilen skal kunne kjøre helt uten fører. Systemet skal jo om få måneder brukes i førerløse taxier.

Er det noen som har greie på autonom kjøring som har uttalt seg om godhet på systemet? Har ikke funnet noe annet enn teslafans som uttaler seg.

[Merko]

Trestein skrev (9 minutter siden):

Hensikten med systemet er jo at bilen skal kunne kjøre helt uten fører.

Nettopp. Derfor må det testes godt i "alle type situasjoner", noe de har gjort lenge, men utvider nå testingen til flere folk slik at man får et større datagrunnlag. 

En ting er sikkert er at det ikke blir aktivert i bilene før det er trygt. 

[Trestein]

Merko skrev (1 minutt siden):

Nettopp. Derfor må det testes godt i "alle type situasjoner", noe de har gjort lenge, men utvider nå testingen til flere folk slik at man får et større datagrunnlag. 

En ting er sikkert er at det ikke blir aktivert i bilene før det er trygt. 

Det tror ikke jeg heller. Poenget er at videoene jeg har sett. Må fører korrigere rimelig ofte. Den ser ut til å følge venstre linje når avkjørsler til venstre dukker opp. Den plasserer seg feil i kryss, den klarer rundkjøringer dårlig, den klarer dårlig parkeringsplasser, den tar coop plakater som lys signal osv. Fører må gripe inn gjerne hvert 10min. 
 

For å kjøre like bra som et menneske må den ikke krasje oftere enn hver 50 til 100 million km. Klarer den 10km i dag er dette en score som ligger på 0,0001% av målet.

Det betyr at systemet må bli en million ganger bedre før det kan slippes ut og være like bra som en gjennomsnitts norsk bilfører. 
 

En hestekjerre med en ikke alt for dum hest vil sikkert kunne gått like langt, uten at kusken trengte å korrigere den, som det tesla klarer i dag

[Merko]

Trestein skrev (5 minutter siden):

Det tror ikke jeg heller. Poenget er at videoene jeg har sett. Må fører korrigere rimelig ofte. Den ser ut til å følge venstre linje når avkjørsler til venstre dukker opp. Den plasserer seg feil i kryss, den klarer rundkjøringer dårlig, den klarer dårlig parkeringsplasser, den tar coop plakater som lys signal osv. Fører må gripe inn gjerne hvert 10min. 

Men dette er jo helt forventet? Det er en testversjon. Hadde det fungert perfekt idag så hadde det jo vært rullet ut til alle.. Jeg skjønner du prøver hardt, men du kommer liksom ingen vei.. 

[Trestein]

Merko skrev (8 minutter siden):

Men dette er jo helt forventet? Det er en testversjon. Hadde det fungert perfekt idag så hadde det jo vært rullet ut til alle.. Jeg skjønner du prøver hardt, men du kommer liksom ingen vei.. 

Nei. Det er ikke som forventet. En beta versjon burde være omtrent feilfri. En siste sjekk før systemet rulles ut. Ikke en prototype som gjør farlige manøver. Det burde teslas betalte testkjørere tatt seg av.

Er det riktig at en som gjør dette gratis skal risikere å komme i fengsel fordi bilen svingte ut i en trafikkert vei og noen ble skadet? 

Endret 27. oktober 2020 av Trestein

[sverreb]

1 hour ago, Merko said:

La det bli ferdig utviklet, så gi deres synspunkter. Sånn som det har vært til nå et jo bare latterlig lesing. 

1: Det er alt blitt tatt i bruk ute i publikum uten å være ferdig. Hvor mange av medtrafikantene har akseptert å være med på teslas eksperiment?

2: Ingenting tyder på at de har tenkt å endre på brukerinvolveringen, som er det som i første rekke er kritikkverdig.

[Sturle S]

5 minutes ago, sverreb said:

1: Det er alt blitt tatt i bruk ute i publikum uten å være ferdig. Hvor mange av medtrafikantene har akseptert å være med på teslas eksperiment?

No må du gje deg.  Systemet til Polestar er påstått å vere ferdig, men det gjer ein dårlegare jobb enn systemet til Tesla.  Har du fått brev av Polestar med spørsmål om det er greitt?

 

Poenget at at systemet er godt nok til at nokre få utvalde personar får testa det i trafikken i eit gitt geografisk område, ikkje korvidt ein eller annan har stempla det som ferdig eller ikkje.  Systemet hadde ikkje vore ein pøkk betre på noverande stadium om Tesla hadde stempla det som "ferdig", men det er framleis mykje betre enn mange konkurrerande system som kallar seg "ferdig".

5 minutes ago, sverreb said:

2: Ingenting tyder på at de har tenkt å endre på brukerinvolveringen, som er det som i første rekke er kritikkverdig.

Fyrst var det kritikkverdig at betaversjonen kravde at brukarane måtte vere involvert, og no er det kritikkverdig at dei ikkje har planar om å endre på det med det fyrste?  Det køyrer millionar av bilar på vegen utan noko som helst system for å sjekke om føraren fylgjer med eller har somna bak rattet.

[sverreb]

43 minutes ago, Trestein said:

Hensikten med systemet er jo at bilen skal kunne kjøre helt uten fører. Systemet skal jo om få måneder brukes i førerløse taxier.

Er det noen som har greie på autonom kjøring som har uttalt seg om godhet på systemet? Har ikke funnet noe annet enn teslafans som uttaler seg.

Dette er hva Euro NCAP sier om brukerinvolvering:

"Driving Collaboration

Driver Assist systems should offer steering support while the driver maintains full control and work with the driver’s intentions, not against it. The steering input applied to the steering-wheel to override the system should not feel like fighting against the vehicle. When the driver steers away from the middle of the lane, for any reason, the system should stay engaged but always overridable, to ensure the feeling of co-operation, not a hand-over of control."

Problemet er at systemet er lagt opp rundt en ide om at det skal kunne kjøre deg helt frem uten involvering, men når det ikke er oppnåelig og brukerintervensjon likevel er påkrevd er da ikke brukeren tilstrekkelig involvert i kjøringen til å kunne ta over. Systemet burde vært lagt opp til at det er sjåføren som styrer, og at automatikken er en backup som bare griper inn når det er nødvendig, ikke omvendt hvor automatikken styrer og man forventer at mennesket bak rattet skal kunne gripe inn når automatikken feiler.

Om tesla model 3 spesifikt (som altså scorte 0 av 25 poeng for "driver collaboration") sier Euro NCAP
"The Tesla Model 3 excels in the level of Vehicle Assistance but fails to balance that high level of support with a similar level of Driver Engagement leading to possible overreliance"

Og

"The system limits co-operative driving"

https://www.euroncap.com/en/ratings-rewards/assisted-driving-gradings/?gradingId=41020

 

[Merko]

Trestein skrev (16 minutter siden):

Nei. Det er ikke som forventet

La meg omformulere meg. Det er forventet blant alle andre bortsett fra Tesla-haters. 

 

sverreb skrev (15 minutter siden):

Det er alt blitt tatt i bruk ute i publikum uten å være ferdig. Hvor mange av medtrafikantene har akseptert å være med på teslas eksperiment?

Hvorfor skal dette bli akseptert av alle medtrafikantene der ute? Jeg blir ikke spurt eller har akseptert når en 18 åring kjører rundt i sportsbiler (eller andre biler med ekstrem ytelse som feks Tesla) som de egentlig ikke har erfaring til å kjøre. De er en større sikkerhetsfare en enn tesla hvor fører følger med og er klar til å ta over dersom bilen gjør en feil vurdering. 

 

[Trestein]

Merko skrev (9 minutter siden):

La meg omformulere meg. Det er forventet blant alle andre bortsett fra Tesla-haters. 

 

Hvorfor skal dette bli akseptert av alle medtrafikantene der ute? Jeg blir ikke spurt eller har akseptert når en 18 åring kjører rundt i sportsbiler (eller andre biler med ekstrem ytelse som feks Tesla) som de egentlig ikke har erfaring til å kjøre. De er en større sikkerhetsfare en enn tesla hvor fører følger med og er klar til å ta over dersom bilen gjør en feil vurdering. 

 

Spørsmålet er. Ville en tesla med fsd beta bestått en førerprøve? Alle som kjører bil i dag må gjennomgå en test for å vise at de kan kjøre korrekt. Obligatorisk opplæring. Har man nødvendig opplæring er det det som er kravet. Selv om noen kjører dårlig er det kunn etter å ha kjørt 70 millioner km du statistisk har sannsynlighet 1 for å bli hard skadet.
Alt ette få dager er det tydelig at systemene har sviktet rimelig ofte.

https://www.thedrive.com/tech/37282/tesla-owner-videos-show-full-self-driving-beta-has-a-long-way-to-go

 

[sverreb]

1 minute ago, Merko said:

Det er forventet blant alle andre bortsett fra Tesla-haters

Å komme med personkarakteristikker når du er tom for argumenter reflekterer bare på deg selv. Hvis du absolutt ikke tåler å diskutere med noen som fremmer kritikk mot dit favoritt billiondollar-selskap finnes det drøssevis av tesla ekkokamre der ute.

3 minutes ago, Merko said:

Hvorfor skal dette bli akseptert av alle medtrafikantene der ute?

Fordi det er et eksperiment som involverer uferdig kode med amatørsjåfører. Programvare som kan "do the wrong thing at the worst time" (I.h.t. produsenten. I.e. ta livet av noen)

Dette er faktisk ikke greit. Biler er farlige gjenstander og skal behandles med stor grad av respekt. Programvaren som styrer de er, ihvertfall når den kan ta kontroll på bilen, sikkerhetskritisk programvare, Denne skal være grundig gjennomtestet og ferdig før det tas i bruk utenfor kontrollerte miljø. Vi kan ikke behandle sikkerhetskritisk software på samme måte som et spill eller en mobilapp. Konsekvensen av feil er så mye høyere at det er ikke lengre akseptabelt å bedrive prøving og feiling, man må ha en helt annen metodikk, hvor alt er grundig utprøvd før den kommer i kontakt med verden utenfor testlaboratoriet. Man kan ikke bare tenke at er det feil så patcher vi den bare: Er det en feil så kan noen bli drept, derfor skal den være om ikke ferdig ihverfall slik at den feiler på en sikker måte. Do the wrong thing at the worst time høres ikke ut som om denne feiler på en sikker måte eller hva?

Når man driver medisinske eksperimenter er det påkrevd at alle de involverte får vite og godtar at de er med i et eksperiment som involverer risiko. Konsekvensen her er minst like høy, men likevel  tar tesla seg friheten å involvere alle som er i trafikken sammen med disse eksperimentelle bilene i eksperimentet sitt.

[Merko]

Trestein skrev (2 minutter siden):

Spørsmålet er. Ville en tesla med fsd beta bestått en førerprøve?

Ser ingen grunn til hvorfor ikke. Føreren skal jo ta over med en gang den gjør feil.

Uansett så kjenner jeg ikke til kravene for bestått oppkjøring der hvor fsd beta er rullet ut. Når min bestefar tok oppkjøring så måtte han kjøre rundt 100 meter på en strekning, så tilbake igjen 😊

[Trestein]

Merko skrev (1 minutt siden):

Ser ingen grunn til hvorfor ikke. Føreren skal jo ta over med en gang den gjør feil.

Uansett så kjenner jeg ikke til kravene for bestått oppkjøring der hvor fsd beta er rullet ut. Når min bestefar tok oppkjøring så måtte han kjøre rundt 100 meter på en strekning, så tilbake igjen 😊

https://mindmatters.ai/2020/10/self-driving-cars-waymo-beats-tesla-by-picking-the-right-target/
 

Det er delte meninger rundt dette

[Merko]

sverreb skrev (5 minutter siden):

rogramvare som kan "do the wrong thing at the worst time" (I.h.t. produsenten. I.e. ta livet av noen)

Derfor føreren skal følge med og ta over når bilen gjør feilvurdering slik at man unngår en eventuell ulykke. 

[Merko]

Til de som er så voldsomt misunnelig på Tesla-biler, så får man en helt ny Model 3 til så lite som 3700kr pr mnd med 1000kr egenkapital med DNB-kampanjen. 0.25% rente. Vennlig tips 😊