Tesla - kaféen

[sverreb]

4 minutes ago, bzzlink said:

Ser Tesla har tatt FSD supervised ett steg videre. 

Man kan nå «text and drive»

Argumentet er at slik FSD supervised har funket til nå, så har folk slått av FSD for å kunne svare på tekstmeldinger, og det er bedre at de svarer på tekstmeldinger med FSD slått på.

Tesla tar selvfølgelig ikke ansvaret for lovligheten av dette, og lar det være opp til sjåføren. Så kan man debattere om dette gjør veiene sikrere eller ikke.

 

Om tesla kan detektere en distrahert sjåfør er det eneste riktige å gjøre tiltak for å få tilbake oppmerksomheten* , enten adas systemene er aktivert eller ei. Å oppfordre til distrahert kjøring med å si at det er 'greit' å kjøre med mens du tekster med bare du har adas på er for å være ærlig totalt uansvarlig.

*) Alarmer, redusere fart, pulsere bremser, nødblink etc.

[Salvesen.]

sverreb skrev (5 minutter siden):

Om tesla kan detektere en distrahert sjåfør er det eneste riktige å gjøre tiltak for å få tilbake oppmerksomheten* , enten adas systemene er aktivert eller ei. Å oppfordre til distrahert kjøring med å si at det er 'greit' å kjøre med mens du tekster med bare du har adas på er for å være ærlig totalt uansvarlig.

*) Alarmer, redusere fart, pulsere bremser, nødblink etc.

Ja egentlig burde slike systemer brukes helt motsatt, altså om en detekterer at en fikler med ting en ikke skal fikle med så får en ikke kjøre. Ikke la de kjøre på ett "selvkjørende" system som ikke er godkjent for bruken. 

 

Jeg er ofte pro Tesla og FSD og alt slik, men her synes jeg de går feil vei og bør heller være forkjemper for sikkerhet med å ikke la oss kjøre(uansett modus) om vi ikke er oppmerksomme. Det bør også inn som fremtidige krav til alle bilmerker såklart når en har teknologi tilgjengelig for slik deteksjon. 

[bzzlink]

7 minutes ago, sverreb said:

Om tesla kan detektere en distrahert sjåfør er det eneste riktige å gjøre tiltak for å få tilbake oppmerksomheten* , enten adas systemene er aktivert eller ei. Å oppfordre til distrahert kjøring med å si at det er 'greit' å kjøre med mens du tekster med bare du har adas på er for å være ærlig totalt uansvarlig.

*) Alarmer, redusere fart, pulsere bremser, nødblink etc.

Ja det er dette de har gjort til nå. Det var nok at man hadde et solbrilleetui i hånda, så begynte bilen å ule og si «device detected in hand»

Men det er jo et argument for at folk må ta ansvar selv her. Lager man systemer for restriktive så slår jo folk bare de av. Ser det når jeg sitter på med kompiser som kjører henholdsvis MG og id4. Det første de gjør når de setter seg inn i bilen er å slå av alle sikkerhetssystemer. 

Jeg gjør det samme når jeg setter meg inn i Skodaen min.

[sverreb]

35 minutes ago, bzzlink said:

Ja det er dette de har gjort til nå. Det var nok at man hadde et solbrilleetui i hånda, så begynte bilen å ule og si «device detected in hand»

Men det er jo et argument for at folk må ta ansvar selv her. Lager man systemer for restriktive så slår jo folk bare de av. Ser det når jeg sitter på med kompiser som kjører henholdsvis MG og id4. Det første de gjør når de setter seg inn i bilen er å slå av alle sikkerhetssystemer. 

Jeg gjør det samme når jeg setter meg inn i Skodaen min.

Hvis du må skru av assitentsystemene må du i det minste kjøre selv eller så havner du i grøfta temmelig raskt.

Men som sagt: Kan man detektere en distrahert sjåfør uten vesentlige falske positive deteksjoner er det ingen grunn til at man skal kunne skru av intervensjoner fra bilen, uansett kjøremodus.

For å kople på den øvrige diskusjonen on euro NCAPs rating: Det er nettopp faren for at brukerne begynner å stole for mye på systemet og slutte å delta aktivt i kjøringen som er grunnen til at de trekkes. De systemene som scorer høyere har ikke nødvendigvis noe mer evne til å unngå hindringer i veien, men de er bedre på å innrette systemet slik at sjåføren fortsatt kjører bilen fremfor å gjøre slikt som f.eks fikle med en mobil.

Å aktivt detektere distrahert kjøring er bare en måte å unngå det og kanskje ikke den beste. Om føreren ikke blir incentivert til å bli distrahert ved at bilen ikke fremtrer som at den kan kjøre selv og dermed ikke genererer noen falsk tillit til systemet er gjerne mer robust. Deteksjon feiler lett men om sjåføren ikke engang ønsker å la seg distrahere er det desto færre muligheter for distrahert kjøring i første omgang.

Det er ikke slik at selve det å kunne manøvrere en bil på en vei det aller meste av tiden som er det vanskelige med selvkjøring. Mercedes hadde en bil som kunne kjøre selv på motorvei alt på nittitallet. Utfordringen er å gjøre systemet robust nok. Og robust nok vil ikke være noe hver enkelt sjåfør kan vurdere selv fra egen erfaring. For robust nok betyr at hendelser er så sjeldne at godt som ingen vil erfare de. Robustheten er fortsatt ikke nødvendigvis god nok selv om du skulle kunne kjøre i årevis uten hendelser. Dermed får vi denne vanskelige grenseoppgangen mellom automasjon og assistanse, hvor man som bilprodusent kan komme ut for valg av en slik natur at bare fordi man kan, betyr ikke at man bør implementare alt av teknisk kapabilitet. 

Mennesker har en tendens til å overgeneralisere og stole for mye på systemer som nesten virker. Det gir opphav til risikokompensasjon og at systemer som skulle øke sikkerhet ender med å gjøre det motsatte.

Endret 21 timer siden av sverreb

[Salvesen.]

sverreb skrev (1 minutt siden):

Men som sagt: Kan man detektere en distrahert sjåfør uten vesentlige falske positive deteksjoner er det ingen grunn til at man skal kunne skru av intervensjoner fra bilen, uansett kjøremodus.

Enig, i tillegg kan en ha "nødmodus" om systemet tar feil men da må det være noe krevende å slå på(eller av om du vill) slik at dette ikke bare blir gjort hele tiden. Noe ala hun dama som ble lurt på radioen til å skrike inn i grillen eller hva det var 😛

[bzzlink]

48 minutes ago, sverreb said:

Hvis du må skru av assitentsystemene må du i det minste kjøre selv eller så havner du i grøfta temmelig raskt.

Men som sagt: Kan man detektere en distrahert sjåfør uten vesentlige falske positive deteksjoner er det ingen grunn til at man skal kunne skru av intervensjoner fra bilen, uansett kjøremodus.

For å kople på den øvrige diskusjonen on euro NCAPs rating: Det er nettopp faren for at brukerne begynner å stole for mye på systemet og slutte å delta aktivt i kjøringen som er grunnen til at de trekkes. De systemene som scorer høyere har ikke nødvendigvis noe mer evne til å unngå hindringer i veien, men de er bedre på å innrette systemet slik at sjåføren fortsatt kjører bilen fremfor å gjøre slikt som f.eks fikle med en mobil.

Å aktivt detektere distrahert kjøring er bare en måte å unngå det og kanskje ikke den beste. Om føreren ikke blir incentivert til å bli distrahert ved at bilen ikke fremtrer som at den kan kjøre selv og dermed ikke genererer noen falsk tillit til systemet er gjerne mer robust. Deteksjon feiler lett men om sjåføren ikke engang ønsker å la seg distrahere er det desto færre muligheter for distrahert kjøring i første omgang.

Det er ikke slik at selve det å kunne manøvrere en bil på en vei det aller meste av tiden som er det vanskelige med selvkjøring. Mercedes hadde en bil som kunne kjøre selv på motorvei alt på nittitallet. Utfordringen er å gjøre systemet robust nok. Og robust nok vil ikke være noe hver enkelt sjåfør kan vurdere selv fra egen erfaring. For robust nok betyr at hendelser er så sjeldne at godt som ingen vil erfare de. Robustheten er fortsatt ikke nødvendigvis god nok selv om du skulle kunne kjøre i årevis uten hendelser. Dermed får vi denne vanskelige grenseoppgangen mellom automasjon og assistanse, hvor man som bilprodusent kan komme ut for valg av en slik natur at bare fordi man kan, betyr ikke at man bør implementare alt av teknisk kapabilitet. 

Mennesker har en tendens til å overgeneralisere og stole for mye på systemer som nesten virker. Det gir opphav til risikokompensasjon og at systemer som skulle øke sikkerhet ender med å gjøre det motsatte.

Jepp, blir en vanskelig grenseoppgang her.

Av det jeg ser på videoer av siste månedenes versjon av Tesla sin selvkjøring så er vi ved et skille straks. 2027 kanskje?

Hvor det er tryggere at bilen kjører selv, og sjåføren sitter og følger med, enn at sjåføren kjører.

Så default innstillingen bør da være at man må slå av FSD hver gang man setter seg inn i bilen.

Det er jo dette mønsteret vi har fulgt på tidligere sikkerhetssystemer som antispinn, antisladd og abs.

 

[oophus]

bzzlink skrev (2 timer siden):

Jeg skjønte ikke hva DARPA challenge der man bygger en one-off bil hadde med å gjøre biler som er i serieproduksjon. Det er jo to veldig forskjellige ting.

Teknologien har null med bilen man putter den inn i å gjøre. 

[oophus]

bzzlink skrev (1 time siden):

Anekdotisk, så tror jeg det blir sikrere at folk har FSD slått på når de bryter loven og tekster mens de kjører. For tekster mens de kjører gjør de uansett. 

Sannsynligheten blir nok bare enda større at man plukker opp telefonen som dirrer, ettersom det ligger en falsk trygghet i ekstra "øyne" med FSD på. 

Da er det kjekt at Tesla ikke står ansvarlig selv om de bidrar høyt med denne falske tryggheten. 

[oophus]

bzzlink skrev (24 minutter siden):

Hvor det er tryggere at bilen kjører selv, og sjåføren sitter og følger med, enn at sjåføren kjører.

Angående ADAS så vil nok det motsatte alltids være sikrere. Ref tidligere kilde på nettopp dette. 

[bzzlink]

3 minutes ago, oophus said:

Sannsynligheten blir nok bare enda større at man plukker opp telefonen som dirrer, ettersom det ligger en falsk trygghet i ekstra "øyne" med FSD på. 

Da er det kjekt at Tesla ikke står ansvarlig selv om de bidrar høyt med denne falske tryggheten. 

Ja du har rett. Men du har kun rett om tryggheten faktisk er falsk.

Det blir en vanskelig avveiing for trafikkmyndighetene her om hva kriteriene er for at den skal slutte å være falsk. 
 

Abs og Antisladd er jo også falske tryggheter. Som oppmaner til å ta mer risiko.

Når jeg slår av det på motorsykkelen min, så er jeg veldig mye mer årvåken, enn når jeg har det på.

[sverreb]

11 minutes ago, bzzlink said:

Jepp, blir en vanskelig grenseoppgang her.

Av det jeg ser på videoer av siste månedenes versjon av Tesla sin selvkjøring så er vi ved et skille straks. 2027 kanskje?

 

Tror ikke vi kan se mye av videoer. VIdeoer viser et veldig lite datasett. For pålitelighetsvurdering trenger vi data på hendelser pr. i størrelsesorden milliarder kjørte kilometer. Hvis du skal se noe slikt på en video blir du ikke ferdig med å se den videoen i din levetid.

Merk at forventningen her er ikke null, men at om man setter en million mennesker inn i en slik innretning daglig så skal antallet alvorlige hendelser fortsatt være godt under 100 i året, sannsynligvis vil vi kreve godt under 10. (Vi stiller strengere krav når ulykkesrisikoen er ute av menneskers hender). Det betyr noe omkring <1 alvorlig hendelse pr. milliard kjørte kilometer.  

For referanse ligger dødsulykker i trafikken i norge på under 100 i året, det er 2.9 millioner regisstrerte biler og gjennomsnittlig årlig kjørelengde for en personbil ligger på ca 11000 (2.9e6*11e3km = 32 milliarder km) . I tilegg kommer yrkestransport, motorsykler og annen trafikk

Systemer som virker mesteparten av tiden er ikke i nærheten godt nok i sikkerhetskritiske applikasjoner men man kan fint lage imponerende videoer med de. Så en video viser oss egentlig fint lite.

[bzzlink]

1 minute ago, oophus said:

Angående ADAS så vil nok det motsatte alltids være sikrere. Ref tidligere kilde på nettopp dette. 

Meg i en bil med FSD supervised slått på er mye tryggere enn meg i en bil med FSD slått av i mange situasjoner. 
En slik situasjon kan f.eks. være kjøring i Berlin sentrum.

[bzzlink]

3 minutes ago, sverreb said:

Tror ikke vi kan se mye av videoer. VIdeoer viser et veldig lite datasett. For pålitelighetsvurdering trenger vi data på hendelser pr. i størrelsesorden milliarder kjørte kilometer. Hvis du skal se noe slikt på en video blir du ikke ferdig med å se den videoen i din levetid.

Merk at forventningen her er ikke null, men at om man setter en million mennesker inn i en slik innretning daglig så skal antallet alvorlige hendelser fortsatt være godt under 100 i året, sannsynligvis vil vi kreve godt under 10. (Vi stiller strengere krav når ulykkesrisikoen er ute av menneskers hender). Det betyr noe omkring <1 alvorlig hendelse pr. milliard kjørte kilometer.  

For referanse ligger dødsulykker i trafikken i norge på under 100 i året, det er 2.9 millioner regisstrerte biler og gjennomsnittlig årlig kjørelengde for en personbil ligger på ca 11000 (2.9e6*11e3km = 32 milliarder km) . I tilegg kommer yrkestransport, motorsykler og annen trafikk

Systemer som virker mesteparten av tiden er ikke i nærheten godt nok i sikkerhetskritiske applikasjoner men man kan fint lage imponerende videoer med de. Så en video viser oss egentlig fint lite.

Ja enig i det. For å få sikkerhetssystemet selvkjøring med menneskelig overvåkning innført så må man nesten ta et «leap of faith» på ett eller annet tidspunkt. Å samle inn nok data er ikke praktisk.
 

Hvordan gjorde man dette med innføringen av ABS bremser? Det er jo en sikkerhetsteknologi som gir ganske mye lenger bremselengde. Og det får folk til å ta mere sjanser.

[sverreb]

1 minute ago, bzzlink said:

Abs og Antisladd er jo også falske tryggheter. Som oppmaner til å ta mer risiko.

Når jeg slår av det på motorsykkelen min, så er jeg veldig mye mer årvåken, enn når jeg har det på.

Hovedspørsmålet er om fordelen med systemet oppveier risikokompensasjonen man vil få. ABS bremser har vært noe kontroversiellt nettopp av den grunn, men nyere forskning later til å peke på at nettoeffekten er positiv. 

Men ja man har også observert at ABS bremser økte risikoadferd noe, så hele fordelen det ville kunne gi er ikke realisert. 

Det viktige her er å innse at risikokompensasjon skjer og kvantisere om sikkerhetssystemene man lager gir et netto positivt bidrag til sikkerheten. Da er selve det tekniske ved tiltaket ett aspekt, men om man også kan inrette funksjonen slik at man minimerer risikokompensasjon så får man bedre total effekt. 

https://en.wikipedia.org/wiki/Risk_compensation

[oophus]

bzzlink skrev (24 minutter siden):

Meg i en bil med FSD supervised slått på er mye tryggere enn meg i en bil med FSD slått av i mange situasjoner. 
En slik situasjon kan f.eks. være kjøring i Berlin sentrum.

Systemet (OEDR) i dette tilfellet ville vært aktivt bak og passet på når du kjørte. Hvis du leser fra kilden så er det rimelig klart at aktive funksjoner som ACC og lane sentring osv er de farligste funksjonene. 

[bzzlink]

4 minutes ago, oophus said:

Systemet (OEDR) i dette tilfellet ville vært aktivt bak og passet på når du kjørte. Hvis du leser fra kilden så er det rimelig klart at aktive funksjoner som ACC og lane sentring osv er de farligste funksjonene. 

Skjønner tankegangen, men hvis det ligger i bakgrunnen, så hindrer det ikke meg i å ta feil beslutninger som setter meg og andre i situasjoner som kunne vært unngått. F.eks at jeg kjører for fort, bytter felt når jeg ikke behøver det, følger bilen foran for nærme etc. Dumme valg som man kan ta når man er stressa på ukjent sted.

[oophus]

bzzlink skrev (39 minutter siden):

Skjønner tankegangen, men hvis det ligger i bakgrunnen, så hindrer det ikke meg i å ta feil beslutninger som setter meg og andre i situasjoner som kunne vært unngått. F.eks at jeg kjører for fort, bytter felt når jeg ikke behøver det, følger bilen foran for nærme etc. Dumme valg som man kan ta når man er stressa på ukjent sted.

Hvorfor kunne ikke FSD ha tatt de beslutningene? Kjører du for fort uten en god grunn, at trafikken flyter 5 over grensa feks, så får du ikke lov, eller får advarsel eller lignende. Samme med for nærme ferdsel til den forran. Alarmer, hud advarsel, eller fysisk begrense fart etc. Hva som ville vært best og trafikksikkert måtte testes bare. 

[Nimrad]

nebrewfoz skrev (16 timer siden):

Kanskje man burde døpe om tråden til "Vi som elsker Tesla" slik at det blir tydeligere hva slags diskusjoner man ønsker her i Tesla-kafeéen?

Jeg skulle heller ønske at det var et sted midt i mellom. Jeg verken elsker eller hater Tesla, jeg er bare OK fornøyd med min bil. Men tråden har lite relevans for meg fordi det stort sett diskuteres ting helt utenfor hva jeg bryr meg om.

[sverreb]

34 minutes ago, Nimrad said:

Jeg skulle heller ønske at det var et sted midt i mellom. Jeg verken elsker eller hater Tesla, jeg er bare OK fornøyd med min bil. Men tråden har lite relevans for meg fordi det stort sett diskuteres ting helt utenfor hva jeg bryr meg om.

Et forslag kan være å separere ut (mesteparten av) diskusjonen etter f.eks 

I en egen tråd f.eks ADAS tråden eller kjøreautomasjonstråden.

 

[Jotun]

Nimrad skrev (1 time siden):

Jeg skulle heller ønske at det var et sted midt i mellom. Jeg verken elsker eller hater Tesla, jeg er bare OK fornøyd med min bil. Men tråden har lite relevans for meg fordi det stort sett diskuteres ting helt utenfor hva jeg bryr meg om.

Litt samme her. Kanskje litt mer fornøyd da eg kun egentlig er misfornøyd med støy og at Ap ikke er bedre enn den er.

Men irriterer meg at man ikke kan eie en Tesla uten at man er fanboy og at man automatisk skal ilegges meninger man ikke har. Samt at enhver kommentar rundt en annen bil skal kontres med noe negativt om Tesla.