Een recent en uitgebreid onderzoek van het persbureau Reuters, dat via Electrek openbaar is gemaakt, heeft de fundamenten van Tesla's 'Full Self-Driving' (FSD) – met name de hooggeroemde veiligheidsstatistieken – doen wankelen. Het rapport onthult een diep gebrekkige methodologie die ten grondslag ligt aan de data. Maar wat nog verontrustender is: zelfs Tesla's eigen data-labelers, de medewerkers die het AI-systeem trainen en de grenzen ervan het beste kennen, vertrouwen de technologie niet om zichzelf te laten rijden.
De Reuters-onthulling: Gebrekkige statistiek en intern wantrouwen
De Reuters-onderzoeken zijn gebaseerd op interviews met huidige en voormalige Tesla-medewerkers, interne documenten en data-analyses. Ze schetsen een beeld dat in schril contrast staat met de publieke uitspraken van Tesla en Elon Musk, die FSD als aanzienlijk veiliger dan menselijke bestuurders presenteren. De tekortkomingen in de data-aggregatie en -interpretatie kunnen leiden tot een misleidende weergave van de werkelijke FSD-veiligheidsprestaties. Dit is bijzonder problematisch omdat veiligheid een cruciale factor is voor de acceptatie en goedkeuring van autonome rijsystemen wereldwijd, en met name in de gereguleerde Europese markt.
Het wantrouwen van de AI-trainers is een alarmerend signaal. Deze professionals besteden dagelijks uren aan het annoteren van de meest complexe en uitdagende verkeersscenario's om het neurale netwerk te trainen. Zij zien de zogenaamde 'edge cases', de grenssituaties waarin FSD moeite heeft of fouten maakt. Als degenen die het dichtst bij de technologie werken, ervoor terugschrikken om deze zelf te gebruiken, zegt dat veel over de huidige rijpheid en betrouwbaarheid van het systeem.
Gevolgen voor de Europese FSD-uitrol
Voor Europa zijn de implicaties van deze onthulling ernstig. Terwijl Tesla FSD (Supervised) stapsgewijs in sommige Europese landen zoals België, Nederland en Litouwen wordt geïntroduceerd (zie Doorbraak in België), letten regelgevende instanties zoals de UNECE (Economische Commissie voor Europa van de Verenigde Naties) extra nauwkeurig op veiligheidsbewijzen. Onnauwkeurigheden of ondoorzichtigheid bij veiligheidsstatistieken kunnen het goedkeuringsproces aanzienlijk vertragen of zelfs stoppen. De scepsis van de eigen trainers zou de argumenten tegen een snelle en vergaande goedkeuring van FSD in Duitsland en andere EU-landen kunnen versterken.
In het verleden waren er al rechtszaken en zorgen over de beloften van Tesla FSD. Zo werd Tesla in China aangeklaagd wegens 'Full Self-Driving'-fraude (zie FSD-belofte onder vuur) en won een Oracle-manager een Amerikaanse rechtszaak tegen Tesla over FSD-beloften (zie Amerikaanse rechtszaak tegen Tesla). Het huidige Reuters-onderzoek voegt een nieuwe, interne dimensie toe aan deze zorgen.
De weg naar echt vertrouwen
De onthullingen van Reuters onderstrepen de noodzaak van onafhankelijke verificatie en transparante datapresentatie op het gebied van autonoom rijden. Voor Tesla betekent dit een uitdaging om het vertrouwen van zowel de eigen medewerkers als het publiek en de regelgevende instanties terug te winnen. Alleen door een open en eerlijke omgang met de beperkingen en door het leveren van navulgbare veiligheidsbewijzen kan de visie van autonoom rijden echt voet aan de grond krijgen, vooral in het kritische en gereguleerde Europa.