Michael Persson
Nu de eerste dode is gevallen in een Tesla met de automatische piloot aan het stuur, heeft de automatische piloot het natúúrlijk niet gedaan, vindt Tesla.
Nee, het is toch echt de fout van de bestuurder, een goedgelovige early adapter, die waarschijnlijk een filmpje aan het kijken was en zijn lot in handen had gelegd van een machine. Iets té early geadapt.
Juridisch heeft Tesla waarschijnlijk gelijk. Wanneer je in zo’n Model S de automatische piloot aanzet komt er een disclaimer op het scherm, die Tesla ontslaat van elke aansprakelijkheid. Want de auto mag dan wel semiautonoom zijn, Tesla voelt zich verre van semi-verantwoordelijk. Tesla is moedig in het opzoeken van technische en sociale grenzen, maar laf in het dragen van de consequenties daarvan. Alsjeblieft, een nieuwe wondertechnologie, maar als het misgaat is dat jullie zorg.
Moreel heeft Tesla daarom geen gelijk. Het heeft veel te grote woorden gebruikt. Het systeem heette ‘autopilot’, met alle zelfsturende suggesties van dien, en Tesla’s visionaire baas Elon Musk had zelf gezegd dat het systeem veiliger was dan een echte bestuurder. Zijn vrouw plaatste een filmpje waarin ze zonder handen achter het stuur zat. Boodschap: zo ver zijn we al!
Musk is een visionair, in de tamelijk letterlijke zin van het woord: hij kijkt voortdurend door een verrekijker naar de perfecte toekomst, maar vergeet daarbij het gemodder van de actuele werkelijkheid. Hij maakt de techniek zo mooier dan hij is. Dat is naïviteit, of marketing, of oplichterij.
Tesla hield na het ongeluk vol dat de computerbesturing veiliger is dan menselijke bestuurders, en wees erop dat er in de VS elke 151 miljoen km een automobilist sneuvelt, terwijl de auto’s van Tesla collectief al 209 miljoen km met de autopilot ingeschakeld hebben afgelegd. Dus onze autopilot is veiliger, stelt Tesla.
Maar die statistiek zegt niets over de veiligheid van de robotmodus. Waarschijnlijk hadden veel bestuurders namelijk gewoon de handen aan het stuur. Dit getal zegt dus alleen dat de combinatie van machine en mens veiliger is dan een mens alleen.
Maar voor Musk is techniek meer dan een eenvoudig hulpmiddel. Musk is een echte techniekbluffer, zoals Steve Jobs dat ook was. Daar moet je voor oppassen, maar veel mensen lopen blind achter hem aan. Toen ik in oktober een kritische column over Tesla’s automatische piloot schreef, kreeg ik veel boze fanmail – voor veel ingenieurs is Musk een held. Terwijl juist zij zouden moeten weten dat de techniek altijd achterloopt bij de verkooppraatjes van vooruitgangsprofeten.
Ik schreef toen dat een systeem nog zo zelflerend kan zijn (dat was het argument waarmee Tesla zijn bètatest rechtvaardigde), maar dat dat begint en eindigt met de kwaliteit van de sensoren. Bij het ongeluk vorige maand bleek de Teslarobot een witte vrachtwagen tegen een witte achtergrond te hebben gemist. Het systeem zal ervan hebben geleerd. De bestuurder ook.
Michael Persson is wetenschapsjournalist en correspondent voor De Volkskrant in New York.
