Una recente e approfondita indagine dell'agenzia di stampa Reuters, resa pubblica tramite Electrek, ha scosso le fondamenta del "Full Self-Driving" (FSD) di Tesla, in particolare le tanto celebrate statistiche di sicurezza. Il rapporto rivela una metodologia profondamente errata alla base dei dati. Ma ciò che è ancora più preoccupante: persino gli stessi data-labeler di Tesla, i dipendenti che addestrano il sistema di IA e ne conoscono meglio i limiti, non si fidano abbastanza della tecnologia da farsi trasportare.
La rivelazione di Reuters: Statistiche errate e sfiducia interna
Le ricerche di Reuters si basano su interviste con ex e attuali dipendenti Tesla, documenti interni e analisi dei dati. Dipingono un quadro che contrasta nettamente con le dichiarazioni pubbliche di Tesla ed Elon Musk, che presentano FSD come significativamente più sicuro dei conducenti umani. I difetti nell'aggregazione e interpretazione dei dati potrebbero portare a una rappresentazione fuorviante delle reali prestazioni di sicurezza di FSD. Ciò è particolarmente problematico, poiché la sicurezza è un fattore cruciale per l'accettazione e l'approvazione dei sistemi di guida autonoma a livello globale, e in particolare nel mercato europeo regolamentato.
[!IMPORTANTE] L'indagine di Reuters suggerisce che il modo in cui Tesla raccoglie e presenta i propri dati di sicurezza FSD potrebbe fornire una rappresentazione distorta e potenzialmente fuorviante delle reali prestazioni del sistema, con conseguenze di vasta portata per la credibilità.
La sfiducia degli addestratori di IA è un segnale allarmante. Questi professionisti trascorrono ore ogni giorno ad annotare gli scenari di traffico più complessi e difficili per addestrare la rete neurale. Vedono i cosiddetti "casi limite", situazioni in cui FSD ha difficoltà o commette errori. Se coloro che lavorano più a stretto contatto con la tecnologia esitano a usarla essi stessi, la dice lunga sull'attuale maturità e affidabilità del sistema.
Impatto sul lancio europeo di FSD
Per l'Europa, le implicazioni di questa rivelazione sono gravi. Mentre Tesla introduce gradualmente FSD (Supervised) in alcuni paesi europei come Belgio, Paesi Bassi e Lituania (vedi Svolta in Belgio), le autorità di regolamentazione come l'UNECE (Commissione economica per l'Europa delle Nazioni Unite) prestano particolare attenzione alle prove di sicurezza. Imprecisioni o mancanza di trasparenza nelle statistiche di sicurezza potrebbero rallentare significativamente o addirittura bloccare il processo di approvazione. Lo scetticismo dei propri addestratori potrebbe rafforzare gli argomenti contro una rapida e ampia approvazione di FSD in Germania e in altri paesi dell'UE.
In passato ci sono già state lamentele e preoccupazioni riguardo alle promesse di Tesla FSD. Ad esempio, Tesla è stata citata in giudizio in Cina per frode sul "Full Self-Driving" (vedi Promesse FSD sotto accusa) e un manager di Oracle ha vinto una causa negli Stati Uniti contro Tesla per promesse FSD (vedi Causa USA contro Tesla). L'attuale indagine di Reuters aggiunge a queste preoccupazioni una nuova dimensione interna.
La strada verso una vera fiducia
Le rivelazioni di Reuters sottolineano la necessità di una verifica indipendente e di una presentazione trasparente dei dati nel campo della guida autonoma. Per Tesla, ciò significa una sfida per riconquistare la fiducia sia dei propri dipendenti che del pubblico e delle autorità di regolamentazione. Solo attraverso un confronto aperto e onesto con i limiti e la fornitura di proof di sicurezza verificabili, la visione della guida autonoma potrà davvero affermarsi, specialmente nell'Europa critica e regolamentata.