Chińscy użytkownicy Tesli zaczęli obchodzić nadzór kierowcy w Autopilocie i FSD (Supervised) przy pomocy małych plastikowych głów mocowanych przy lusterku. O sprawie pisały Wired, InsideEVs i Electrek, pokazując, że system monitorowania uwagi można oszukać akcesorium kosztującym 20-50 dolarów.
Jak działa ten trik
Tesla w autach z kamerą kabinową monitoruje pozycję głowy i ruch oczu kierowcy. Gdy system uzna, że człowiek patrzy w telefon, odwraca wzrok od drogi albo zajmuje się ekranem, zaczyna wysyłać ostrzeżenia.
Chińscy sprzedawcy znaleźli na to prostą odpowiedź: małe plastikowe głowy, czasem stylizowane na celebrytów, mocowane na przyssawce w polu widzenia kamery. Taki gadżet ma „patrzeć” przed siebie i udawać skupionego kierowcę.
W ofertach e-commerce figurki są opisywane jako „towarzysze podróży” albo dekoracje kokpitu. Tyle że z recenzji i materiałów wideo wynika jasno, do czego służą naprawdę: do wyłączenia irytujących komunikatów i jazdy bez realnego nadzoru.
Według relacji cytowanej przez Wired jeden z kierowców przejechał w ten sposób około 250 mil z trasy liczącej 400 mil. Przez 30 minut nie dostał ani jednego ostrzeżenia, choć jedną ręką jadł pestki słonecznika, a drugą nagrywał film.
To nie jest autonomiczna jazda, tylko poziom 2
Tu trzeba powiedzieć rzecz oczywistą, ale najwyraźniej wciąż potrzebną: Autopilot i FSD (Supervised) nie są systemami autonomicznymi. To poziom 2 według klasyfikacji SAE, czyli asysta kierowcy wymagająca ciągłego nadzoru człowieka.
To ważne, bo cała logika tych systemów opiera się na założeniu, że kierowca patrzy na drogę i w każdej chwili może przejąć kontrolę. Jeśli zamiast człowieka „patrzy” plastikowa głowa, założenie przestaje działać.
Innew podobnym temacie
Problem nie polega więc na tym, że ktoś znalazł zabawny gadżet. Problem polega na tym, że system bezpieczeństwa można obejść czymś, co wygląda jak rekwizyt z automatu z zabawkami.
Wyścig zbrojeń trwa od lat
To nie jest pierwszy przypadek obchodzenia zabezpieczeń Tesli. Wcześniej kierowcy używali obciążników kierownicy, żeby oszukać czujnik momentu obrotowego i udawać, że trzymają ręce na wieńcu.
Jeden z bardziej znanych produktów, „Autopilot Buddy”, zwrócił uwagę amerykańskiego NHTSA i dostał cease and desist. To jednak niewiele zmieniło, bo rynek szybko zapełnił się kopiami i zamiennikami.
Tesla odpowiedziała wtedy mocniejszym wykorzystaniem kamery kabinowej. W teorii to miało być rozwiązanie sprytniejsze od pomiaru siły na kierownicy. W praktyce okazało się, że wystarczy dobrze ustawiona plastikowa twarz.
Według opisów z Chin użytkownicy idą dalej. Oprócz głów lalek pojawiają się wydruki lentikularne, małe ekrany pokazujące mrugające oczy i uchwyty montowane przy zagłówkach lub desce rozdzielczej. Jeśli producent łata jedną dziurę, część użytkowników szuka następnej.
Co to mówi o systemie Tesli
Najprostszy wniosek brzmi tak: obecny monitoring uwagi nie jest wystarczająco odporny na oszustwa. Jeśli kamera akceptuje statyczny obiekt jako skupionego kierowcę, to znaczy, że algorytm ma problem z wykrywaniem „żywotności” twarzy.
To nie jest detal. W systemach monitorowania kierowcy liveness detection powinno odróżniać człowieka od zdjęcia, ekranu czy plastikowej figurki. Skoro tego zabrakło albo działa zbyt słabo, Tesla ma problem techniczny, nie tylko wizerunkowy.
Z drugiej strony nie ma też sensu udawać, że da się zbudować zabezpieczenie, którego nikt nigdy nie obejdzie. Każdy taki system balansuje między dwiema skrajnościami. Jeśli jest zbyt czuły, irytuje normalnych użytkowników i generuje fałszywe alarmy. Jeśli jest zbyt pobłażliwy, zaczynają się sztuczki z gadżetami za kilkadziesiąt dolarów.
Po tej historii widać, że Tesla przechyliła się za bardzo w stronę pobłażliwości.
Szczególnie zły moment dla Tesli
Sprawa wybucha w chwili, gdy Tesla rozwija FSD (Supervised) poza Ameryką i próbuje przekonać rynek, że jej software jest coraz dojrzalszy. W Chinach system dopiero buduje reputację, a już pojawia się obrazek, który trudno będzie odkręcić: FSD da się obejść plastikową głową.
Do tego dochodzą wcześniejsze napięcia wokół samej nazwy „Full Self-Driving”. W Chinach grupa właścicieli złożyła pozew związany z obietnicami wokół tego systemu. Osobno pojawiały się też informacje o ponad 100 tysiącach aut korzystających z nieautoryzowanych urządzeń odblokowujących funkcje FSD tam, gdzie oprogramowanie nie było dopuszczone.
Widać z tego pewien wzór. Część użytkowników traktuje zabezpieczenia i ograniczenia nie jak element bezpieczeństwa, tylko jak przeszkodę, którą trzeba obejść. Tesla zna ten problem od lat, ale najwyraźniej nadal nie ma na niego dobrej odpowiedzi.
Skutki nie są teoretyczne
W dyskusji o takich trikach łatwo wpaść w ton „internetowej ciekawostki”. To byłby błąd. Systemy poziomu 2 popełniają błędy, a gdy kierowca nie patrzy na drogę, margines bezpieczeństwa znika.
Amerykański NHTSA analizował już dziesiątki incydentów związanych z FSD, w tym przypadki przejazdu na czerwonym świetle czy wjazdu na niewłaściwy pas. Śledztwo objęło 3,2 mln pojazdów, co pokazuje skalę problemu, a nie jednostkową wpadkę.
Do tego dochodzą konkretne zdarzenia nagłaśniane przez media: kolizje podczas demonstracji FSD, błędy przy przejazdach kolejowych, wypadki w trakcie livestreamów. Wspólny mianownik jest prosty: software zakładał, że człowiek nadzoruje sytuację. Człowiek tego nie robił.
Plastikowa głowa nie przejmie kierownicy, nie zauważy rowerzysty, nie odczyta nietypowej sytuacji na drodze. Ona ma tylko jedno zadanie: oszukać kamerę.
Dlaczego ludzie to robią
Odpowiedź jest mało zaskakująca. Część kierowców chce „hands-free” bez odpowiedzialności i bez ostrzeżeń. Chcą jeść, patrzeć w telefon, nagrywać film albo po prostu odsunąć od siebie obowiązek nadzoru, który przy poziomie 2 jest cały czas po ich stronie.
Sama Tesla też częściowo zapracowała na ten problem własnym marketingiem. Nazwa „Full Self-Driving” od początku sugeruje więcej, niż system faktycznie daje. Dopisek „Supervised” porządkuje sprawę tylko częściowo, bo przez lata do użytkowników szedł przekaz: auto prawie jeździ samo.
A skoro „prawie jeździ samo”, to część klientów zaczyna traktować ostrzeżenia jako przeszkadzajki, nie jako sedno działania systemu. Potem wystarczy rynek akcesoriów i gotowy biznes.
Co Tesla powinna zrobić
Pierwsza rzecz to lepsze wykrywanie żywej twarzy i realnej uwagi kierowcy. Nie chodzi tylko o pozycję głowy, ale o mikroruchy, głębię obrazu, naturalne zmiany spojrzenia i korelację z pozycją ciała.
Druga rzecz to szybsze reakcje na próby oszustwa. Jeśli system widzi nienaturalnie nieruchomy „profil twarzy” przez dłuższy czas, powinien założyć próbę obejścia, a nie wzorową koncentrację.
Trzecia sprawa jest mniej techniczna, bardziej komunikacyjna: Tesla musi przestać zakładać, że użytkownik będzie współpracował. Historia Autopilota i FSD pokazuje coś odwrotnego. Spora grupa właścicieli będzie testowała granice systemu tak długo, aż znajdzie lukę.
To nie jest problem wyłącznie Tesli, ale dziś to właśnie ona jest najbardziej wystawiona, bo najmocniej sprzedała klientom wizję jazdy „prawie autonomicznej”.
Na końcu zostaje stary, niewygodny wniosek: nawet najlepszy system poziomu 2 jest tak bezpieczny, jak bezpieczny jest człowiek za kierownicą. Czy Tesla powinna mocniej blokować FSD po wykryciu prób oszustwa, nawet kosztem większej liczby fałszywych alarmów?
Dołącz do dyskusji