« Disons qu’une IA foire très souvent »
généralisation abusive, ça dépend totalement des IA , de leur niveau de spécialisation. certaines font bien mieux que les humains, et depuis longtemps (deepblue, alphago, alphafold …)
« Si tu foires 1 fois en 10000 heures, c’est déjà beaucoup trop, car ça fera un mort. »
pas nécessairement, ça fera un accident.
par contre, à 1.5h de déplacement quotidien, 10 000h ça fait 25 ans de conduite en domicile/travail.
Si la moyenne nationale n’avait aucun accident en 20ans déjà, ce serait probablement mieux que la conduite humaine.
Maintenant si on prends une approche bayésienne :
-
prenons UNE caisse qui fait juste autant qu’un humain : statistiques neutres : c’est déjà à mon avis un argument POUR la machine.
-
prenons une majorité de caisses dans le trafic qui dans la situation initiale, faisaient juste aussi bien qu’un humain, on se retrouve avec un parc auto qui aura un comportement beaucoup moins erratique que s’il était conduit par des humains.
-
du coup on baisse la charge d’interprétation des machines, et on abaisserait probablement très fortement l’accidentologie, par un trafic devenant beaucoup plus prédictible.
-
cette prédictibilité profiterait même en boucle aux derniers chauffeurs humains, c’est comme jouer contre des bots dans un jeu vidéo
"Autrement dit, la conduite autonome n’a pas le droit à l’erreur. "
Elle a le droit à l’erreur, mais pas plus, en moyenne, que la moyenne des humains.
" Alors que l’IA est assez bordélique et dit souvent de la merdouille."
ne confonds pas le IA génératives, très particulières, avec des IA de pure reconnaissance de situation ( typiquement la conduite autonome) .
La surcouche générative+ transformers c’est une branche totalement à part du processus.
Et concernant Musk et Tesla, on a un problème fondamental, l’absence de Lidar, qui mène à une « absence de certitude » et un mode exclusivement déductif.
C’est très probablement la clé de tous les foirages nocturnes et freinages fantômes : jamais un système à mesure absolue et discriminant n’informe l’IA d’une certitude de distance envers l’obstacle, elle le devine par photogramétrie stéréoscopie, N fois par seconde (elle remodélise en 3D l’environnement en comparant les écarts de rendu entre deux photos)
ça a beaucoup d’avantages mais des défauts si fondamentaux qu’aucun de ses compétiteurs n’a abandonné le Lidar, et ça a valu un divorce entre MobilEye et Musk au départ du projet.