Tesla - kaféen

[oophus]

Complexity skrev (23 minutter siden):

Når den får deg til å vingle rundt i veibanen og motstrider dine bevegelser med rattet uten at man ønsker det så blir det irriterende ja..

Det betyr at du vingler rundt på veiene. Er det slik du kjører? Du har rett og slett kjørt en bil med kun "Lane Keep Assist" og antatt at den har mer funksjoner enn den har hatt, også skal vi late som om det er umulig at folk som kjører Tesla antar at bilen kan mer enn den kan. Du er jo beviset her alene på at folk bruker bilene og systemene feil da isåfall... 

Complexity skrev (23 minutter siden):

Med Tesla sin Autosteer så har enten bilen kontroll (mot at man følger med) eller så har man full kontroll selv. Ikke sånn mellomting.

Nei, det er ingenting rundt Autosteer som krever at du følger med for at det fungerer, og der ligger også problemet. Det er ikke en assist for å gjøre deg til en bedre sjåfør. Det er et system som later til å skulle fungere som en robtaxi. Det gjør deg til en observatør, men gjett hva - vi mennesker er ekstremt dårlige på den oppgaven. Vi suger på å skulle kun følge med på et system. Og dette er ikke noe vi har funnet ut av nå nylig. 

Vigilance (psychology) - Wikipedia
Slik ting er noe du selv kan teste hjemme. Be samboeren din sette opp X antall alarmer innenfor Y tid og undersøk hvordan din reaksjonstid er underveis i forsøket. Øk Y tid og sjekk om reaksjonstiden din øker jo lengre det tar mellom alarmene. Hva trur du vil være resultatet, og om resultatet gir et dårligere resutlat om alarmen går sjeldnere, kan dette ha noen effekt for overvåking av en selvkjørende bil trur du? 

Mer lesestoff:
Boring But Demanding: Using Secondary Tasks to Counter the Driver Vigilance Decrement for Partially Automated Driving - Scott Mishler, Jing Chen, 2024

Hvis man på død og liv skal ha mennesker som overvåker systemer, så må vi underholdes for å ikke falle bort. Innunder oppgaven å kjøre bil, så er det åpenbart at på nivå 2 SAE level, så er det mye sikrere at vi underholdes av å aktivt kjøre bilen. Systemene burde da være underliggende oss og passe på oss for at vi ikke gjør feil, og ikke omvendt. På nivå 3 så har vi uansett ikke lengre ansvaret, så her er det plutselig greit å snu ballen rundt, men selv på nivå 3 så skal vi følge med sånn omtrentlig. Nok til å kunne orientere oss og ta over på noen sekunder. Dog det ligger en ekstremt stor forskjell på å orientere oss rundt en situasjon på en brøkdels av et sekund mot flere sekunder. 

Endret tirsdag kl 11:03 av oophus

[sverreb]

9 minutes ago, Complexity said:

Med Tesla sin Autosteer så har enten bilen kontroll (mot at man følger med) eller så har man full kontroll selv. Ikke sånn mellomting.

Dette er selvmotsigende, enten har bilen kontroll eller så har den det ikke. Når det kreves at du følger med betyr det implisitt at bilen ikke har kontroll. Dette er da også hovedkritikken mot teslas førerautomasjon. Den involverer føreren for lite og delegerer kun en overvåkningsoppgave til mennesket selv om den ikke egentlig kan kjøre selv. Problemet med det er at mennesker suger som overvåkere. Vi distraheres i ett sett hvis vi ikke er aktivt involvert. Vi kan godt se rett frem og og gjøre mekaniske bevegelser som å riste i et ratt men det betyr ikke at vi egentlig funksjonelt overvåker hva som skjer og er egentlig klare til å ta over. 

Kombinasjonen av å gi inntrykk av høyere kompetanse enn hva systemet egentlig har og å disincentivere aktiv involvering er problematisk. Det er grunn til å tro at disse designvalgene er det som bidrar til at det dør fler mennesker i tesla enn i noe annet bilmerke i.h.t. statistikk fra USA: https://www.roadandtrack.com/news/a62919131/tesla-has-highest-fatal-accident-rate-of-all-auto-brands-study/

Det er til tross for at kollisjonsytelsen jo er bra, så disse nedslående tallene kan jo ikke forklares med at bilene ikke beskytter okkupantene så godt som andre biler når det smeller. 

[Complexity]

5 minutes ago, oophus said:

Det betyr at du vingler rundt på veiene. Er det slik du kjører? Du har rett og slett kjørt en bil med kun "Lane Keep Assist" og antatt at den har mer funksjoner enn den har hatt, også skal vi late som om det er umulig at folks som kjører Tesla antar at bilen kan mer enn den kan. Du er jo beviset her alene på at folk bruker bilene og systemene feil da isåfall... 

Nei, det er ingenting rundt Autosteer som krever at du følger med for at det fungerer, og der ligger også problemet. Det er ikke en assist for å gjøre deg til en bedre sjåfør. Det er et system som later til å skulle fungere som en robtaxi. Det gjør deg til en observatør, men gjett hva - vi mennesker er ekstremt dårlige på den oppgaven. Vi suger på å skulle kun følge med på et system. Og dette er ikke noe vi har funnet av nå nylig. 

Vigilance (psychology) - Wikipedia
Slik ting er noe du selv kan teste hjemme. Be samboeren din sette opp X antall alarmer innenfor Y tid og undersøk hvordan din reaksjonstid er underveis i forsøket. Øk Y tid og sjekk om reaksjonstiden din øker jo lengre det tar mellom alarmene. Hva trur du vil være resultatet, og om resultatet gir et dårligere resutlat om alarmen går sjeldnere, kan dette ha noen effekt for overvåking av en selvkjørende bil trur du? 

Nei lane assist eller hva den kalles fikk bilen til å vingle rundt på veibanen uten at jeg ønsket det. Og det måtte deaktiveres ved hver kjøretur. Hjelper ikke at det generelt er dårlig veimerking her nord så den søkte nok veldig etter veibanen når den vinglet..

Når man bruker Autosteer må man holde godt grep i rattet vist ikke piper den å blinker og blir ganske gretten. Kamera monitorerer også om man følger med på veien.

Hører man ikke etter deaktiveres autosteer. Etter 5 deaktiveringer får man en strike og funksjonen deaktiveres helt.

Så man må følge med?? 

Endret tirsdag kl 11:01 av Complexity

[oophus]

Complexity skrev (4 minutter siden):

Nei lane assist eller hva den kalles fikk bilen til å vingle rundt på veibanen uten at jeg ønsket det. Og det måtte deaktiveres ved hver kjøretur. Hjelper ikke at det generelt er dårlig veimerking her nord så den søkte nok veldig etter veibanen når den vinglet..

 Hvorfor kjører ikke du aktivt og holder bilen i midten av veibanen om det er en av de små veiene der oppe uten midtdeler? 

Svar så på resten av det jeg skrev om monitorering. Det er haugevis av tester som beviser at vi er dårlige på det, så hvorfor skal vi på død og liv kun følge med på et førersystem når vi vet vi er dårlige på det? Jo bedre det blir, jo verre blir vi på å følge med, og stygge utfall blir et naturlig resultat av det. 

[Complexity]

38 minutes ago, oophus said:

 Hvorfor kjører ikke du aktivt og holder bilen i midten av veibanen om det er en av de små veiene der oppe uten midtdeler? 

Svar så på resten av det jeg skrev om monitorering. Det er haugevis av tester som beviser at vi er dårlige på det, så hvorfor skal vi på død og liv kun følge med på et førersystem når vi vet vi er dårlige på det? Jo bedre det blir, jo verre blir vi på å følge med, og stygge utfall blir et naturlig resultat av det. 

Du er utrolig god til å missforstå med vilje altså 😅

Bilen drev å dro i rattet å prøvde å overstyre mine inputs fordi "lane assist" prøvde å hjelpe meg å holde bilen i midten av veien - noe den ikke fikk til fordi den så ikke veien godt nok eller at systemet bare generelt var dårlig.  Den fikk bare bilen til å vingle og man måtte sitte å kjempe imot bilens ønsker. Irriterende spesielt når det måtte manuelt deaktiveres for hver eneste kjøretur.
Dog som nevnt er dette veldig lite datapunkter og jeg vil tro Hyundai også har blitt bedre her med årene. 

Alle andre biler jeg kjører i hverdagen har null systemer. Leafen min har ikke nødbrems engang.

Resten har jeg ikke noe formening om. Det kan du diskutere med noen andre. Jeg har vært veldig fornøyd med å kunne benytte Autopilot systemet til Tesla i alle år og det har bare blitt bedre og bedre. Det eneste jeg ikke har likt er intruksjonen av "Curvature Assistant" som kom for ett år siden eller så. Den slakker litt vel mye ned i visse svinger nå kontra før. Unødvendig mye.. Også var den en periode ganske skeptisk til kryss og slakket alt for mye ned der, men det virker det som min bil sluttet med igjen nå.

Autopilot er en stor grunn til at min neste bil nok også blir Tesla. Er litt spent på om den nye strippa Model 2 (Y) får autopilot som standard som alle andre eller om de kutter det på dem for å gjøre dem billigere.

Endret tirsdag kl 11:46 av Complexity

[oophus]

Complexity skrev (Akkurat nå):

Resten har jeg ikke noe formening om.

Du bryr deg ikke om vitenskap og hva den sier hvis man fortsetter som man gjør? Vitenskapen sier at det vil være flere uhell, og uhellene vil bli verre fordi systemene som oftest brukes i høyere hastigheter. 

Sverreb har også lagt inn kilde på at Tesla'ene som jo burde være en av de sikrere bilene ifølge deg og dere nå raver i toppen av dødsstatestikken. Det bryr du det ikke noe om? Er det ikke en litt egoistisk egenskap å ville beholde noe slik det er kun fordi du liker det slik, selv om du vet at det vil gjøre veiene mindre trygge? 

[Complexity]

4 minutes ago, oophus said:

Du bryr deg ikke om vitenskap og hva den sier hvis man fortsetter som man gjør? Vitenskapen sier at det vil være flere uhell, og uhellene vil bli verre fordi systemene som oftest brukes i høyere hastigheter. 

Sverreb har også lagt inn kilde på at Tesla'ene som jo burde være en av de sikrere bilene ifølge deg og dere nå raver i toppen av dødsstatestikken. Det bryr du det ikke noe om? Er det ikke en litt egoistisk egenskap å ville beholde noe slik det er kun fordi du liker det slik, selv om du vet at det vil gjøre veiene mindre trygge? 

Bryr og bryr - jeg er bare ganske sikker på at de linkene og referansene det deles er perfekt matchet mot hva du mener så orker ikke å bruke til på det nå. Om jeg skulle ønske å finne noen linker som mener det motsatte så klarer jeg sikkert det.

Autopilot sparte livet til en fugl jeg holdt på å kjøre på engang. Ble imponert over at den reagerte på det. Den satt i veikanten og fløy plutselig fremfor bilen min i en 60 sone og bilen nødbremset.

[oophus]

Complexity skrev (4 minutter siden):

Bryr og bryr - jeg er bare ganske sikker på at de linkene og referansene det deles er perfekt matchet mot hva du mener så orker ikke å bruke til på det nå. Om jeg skulle ønske å finne noen linker som mener det motsatte så klarer jeg sikkert det.

Bruk gjerne et minutt eller to på å gjøre et forsøk. Eventuelt så er jeg interessert i å vite hva du mener om saken om du i et lite sekund kan i hvertfall late som om det jeg har funnet frem til deg er korrekt. Burde Tesla hvis vitenskapen er rett, justere seg, eller vil du fremdeles at de skal holde på som de gjør? 

[Jotun]

oophus skrev (1 time siden):

Nei, det er ingenting rundt Autosteer som krever at du følger med for at det fungerer, og der ligger også problemet. 

Stemmer dette?

[oophus]

Jotun skrev (1 minutt siden):

Stemmer dette?

[Jotun]

Spesielt igrunn. For eg må se fremover. Fikler eg med mobilen blir ting til slutt deaktivert. 

Ser eg for mye bort fra veien så klager den.

Har eg øynene igjen så klager den. Men eg kan muligens sitte og sove om eg har solbriller på. Har ikke testet dette. 

Holder eg ikke i rattet klager den. 

Mulig eg hadde klart å spille inn pornofilmen men eg hadde ikke klart å laste den opp på pornhub mens eg kjørte hvertfall. 

[bzzlink]

15 hours ago, AL123 said:

For det andre, så vil et slikt system gjerne føre til at man bryter loven, selv om man vet at systemet ikke er selvkjørende. Se feks følgende sistat fra brukeren "Buzzlink" :"Absolutt, og jeg gjør det selv. Slår på autopiloten for å finne frem musikk på skjermen, google hvor jeg bør parkere i byen jeg nærmer meg, og svare på den snappen." Du kan gjerne kalle han passe tett, men det er nå slik den mennesklige naturen er. Kan man ta snarveier, så gjør man det.

Og jeg oppfører meg akkurat likt i Skodaen min, som ikke har noe assistentsystemer (bortsett fra en veldig upålitelig ping-pong lane assit)

Jeg utgjør mindre fare i Teslaen enn i Skodaen.

[oophus]

Jotun skrev (1 minutt siden):

Spesielt igrunn. For eg må se fremover. Fikler eg med mobilen blir ting til slutt deaktivert. 

Ser eg for mye bort fra veien så klager den.

Har eg øynene igjen så klager den. Men eg kan muligens sitte og sove om eg har solbriller på. Har ikke testet dette. 

Holder eg ikke i rattet klager den. 

Mulig eg hadde klart å spille inn pornofilmen men eg hadde ikke klart å laste den opp på pornhub mens eg kjørte hvertfall. 

Over tid så har Tesla fått kjeft av både DMV og NHTSA og har gjort justeringer. Så det er bedre idag enn det var da, men denne saken handler om et uhell som hendte i 2019. Og Tesla har fremdeles for dårlig fører-monitoring når de uansett krever at føreren kun skal monitorere systemet, uten at systemet er implementert slik at det monitorerer føreren. Ergo burde Tesla's fører monitorering være bransjens beste, uten at det er det. 

Grunnen til at Tesla får kjeft grunnet dette er som sagt testene man har gjort på det, og vi vet helt fra 50 tallet at vi er utrolig dårlige på å gjøre den oppgaven som Tesla ønsker at vi skal utføre. Vi klarer ikke å holde fokus over tid når vi kun skal "passe på" et system, og det blir verre jo bedre et slikt system blir innenfor nivå 2 SAE selvkjøring. 

SAE J3016 argumenterte i sin tid for å forby nivå 2 av denne grunnen rundt problematikken, men fant ut at man kunne gjøre det motsatte. Altså sette systemet i bakgrunnen og la mennesket være sjåførene innunder dette nivået. Ergo er det blitt slik at samtlige som nå tilbyr SAE nivå 2, har dette systemet underliggende mennesket. Det er kun Tesla som ikke gjør det. 

[bzzlink]

14 minutes ago, Jotun said:

Stemmer dette?

Ja, man kan tape over eller nekte bilen å bruke interiør kameraet, og autosteer funker fortsatt, så lenge man drar i rattet innimellom.

[Complexity]

32 minutes ago, oophus said:

Bruk gjerne et minutt eller to på å gjøre et forsøk. Eventuelt så er jeg interessert i å vite hva du mener om saken om du i et lite sekund kan i hvertfall late som om det jeg har funnet frem til deg er korrekt. Burde Tesla hvis vitenskapen er rett, justere seg, eller vil du fremdeles at de skal holde på som de gjør? 

Får se i kveld om jeg tar meg tid. Akkurat nå er jeg litt opptatt. Skal blandt annet ut å kose meg på en tur med Autopilot.

17 minutes ago, oophus said:

Hvilken bil ble brukt til dette? Har kun sett screenshot av at det er en gammel Model S av noe slag.

Om det er de gode gamle med Autopilot V1 levert av en 3epart (mobileeye?) så trengte man jo bare å ta i rattet sånn 1 gang i minuttet eller noe 😅 har skjedd litt siden da. Man kunne og lett lure systemet bare med å trø en appelsin eller noe i rattet som vekt.

Endret tirsdag kl 12:44 av Complexity

[Jotun]

oophus skrev (8 minutter siden):

Over tid så har Tesla fått kjeft av både DMV og NHTSA og har gjort justeringer. Så det er bedre idag enn det var da, men denne saken handler om et uhell som hendte i 2019. Og Tesla har fremdeles for dårlig fører-monitoring når de uansett krever at føreren kun skal monitorere systemet, uten at systemet er implementert slik at det monitorerer føreren. Ergo burde Tesla's fører monitorering være bransjens beste, uten at det er det. 

Grunnen til at Tesla får kjeft grunnet dette er som sagt testene man har gjort på det, og vi vet helt fra 50 tallet at vi er utrolig dårlige på å gjøre den oppgaven som Tesla ønsker at vi skal utføre. Vi klarer ikke å holde fokus over tid når vi kun skal "passe på" et system, og det blir verre jo bedre et slikt system blir innenfor nivå 2 SAE selvkjøring. 

SAE J3016 argumenterte i sin tid for å forby nivå 2 av denne grunnen rundt problematikken, men fant ut at man kunne gjøre det motsatte. Altså sette systemet i bakgrunnen og la mennesket være sjåførene innunder dette nivået. Ergo er det blitt slik at samtlige som nå tilbyr SAE nivå 2, har dette systemet underliggende mennesket. Det er kun Tesla som ikke gjør det. 

Hva med det eg skreiv? 

Stemmer det ikke? Er det feil at bilen gir beskjed og nekter meg å bruke Ap?

Nå er problemet at AP er for bra? Artig. 

Endret tirsdag kl 12:47 av Jotun

[oophus]

Complexity skrev (3 minutter siden):

Om det er de gode gamle med Autopilot V1 levert av en 3epart (mobileeye?) så trengte man jo bare å ta i rattet sånn 1 gang i minuttet eller noe 😅 har skjedd litt siden da. Man kunne og lett lure systemet bare med å trø en appelsin eller noe i rattet som vekt.

Ja, og da avsluttet mobileye samarbeidet. Tesla hadde en helt annen sikkerhetskultur rundt hvordan mobileye mente at systemet skulle fungere. 

Rart det der. 

[oophus]

Jotun skrev (3 minutter siden):

Hva med det eg skreiv? 

Stemmer det ikke? Er det feil at bilen gir beskjed og nekter meg å bruke Ap?

Nå er problemet at AP er for bra? Artig. 

Les linkene jeg har gitt tidligere i tråden. AP er ikke bra nok for full selvkjøring og faller innunder SAE nivå 2 selvkjøring. FSD er fremdeles på samme stadie, og er fremdeles ikke bra nok til å klassifiseres over nivå 2 selvkjøring. 

[Jotun]

oophus skrev (1 time siden):

Nei, det er ingenting rundt Autosteer som krever at du følger med for at det fungerer

Spør igjen da. Stemmer dette

[oophus]

Jotun skrev (2 minutter siden):

Spør igjen da. Stemmer dette

Ja, som beskrevet flere ganger over av flere personer, det stemmer. Aktiver autosteer, ta på solbriller og kos deg. Bilen vil ha null ide om du faktisk kikker ut på veiene over en betydelig lang tid, nok tid i massevis til at du ikke ville ha hatt kontroll over situasjonen utenfor.