Un accident mortel occasionné par une voiture « autonome » – pour ne pas dire sans conducteur – a été occasionné par le service Uber à Phoenix, Arizona.
À qui est-ce la faute ? À Uber, à « l’opérateur » assis aux commandes pour si nécessaire intervenir dont la vigilance était relâchée, à un quelconque défaut de l’infrastructure routière, au constructeur automobile, ou à l’administration Trump qui a autorisé les essais ? On peut parier que la faute de « l’opérateur », disculpera les autres ! La victime traversait en dehors des clous, a précisé Uber, qui semble avoir une drôle de manière de pratiquer la police routière.
L’accident mortel est intervenu le jour même de la publication des conclusions du régulateur des transports, le NTSB, et de l’autorisation par l’administration Trump de nouveaux tests de voitures autonomes sur les routes, estimant que cette technologie pouvait, outre le fait de réduire les accidents, améliorer également la mobilité des personnes âgées ou handicapées.
L’association de défense des consommateurs Consumer Watchdog voit autrement les choses : « c’est une feuille de route autorisant les constructeurs à faire ce qu’ils veulent, quand ils veulent et où ils veulent, faisant de nos routes des laboratoires privés pour des voitures robots sans aucune considération pour notre sécurité ».
De nombreuses sociétés testent déjà des véhicules autonomes. Lyft et Uber sont particulièrement intéressées car elles pourraient supprimer la rémunération des conducteurs. L’Esprit du lucre a encore frappé !
PS : Désolé, la couverture du G20 et de ses péripéties suit au rythme de mon hospitalisation…
Hospitalisation ?
Tous mes voeux de prompts rétablissement.
Courage.
Très cordialement
Gilbert Wiederkehr
qu’avez-vous ? C’est pas une voiture autonome ? …
bon rétablissement.
Bien, nous attendons maintenant avec impatience la vidéo des essais des premiers robots policiers armés…
https://youtu.be/yRP3HdkyL24
PS : tous mes vœux de prompt rétablissement à l’unité biologique immatriculée comme François Leclerc 😉
La vraie question est de savoir si les lois de la physique (l’inertie du véhicule plus ses capacités de freinage et d’évitement) autorisaient l’IA embarquée à empêcher l’accident.
Si comme je l’ai lu (à confirmer), que l’IA n’a pas identifié la femme traversant la route et n’a même pas freiné, un double problème se pose : celui des capteurs et de la programmation, et celui de l’autorisation d’expérimenter des véhicules autonomes sur routes ouvertes, alors que manifestement subsistent d’énormes bugs !
Uber doit être plus inquiet de ses pertes colossales de 2017 que d’un décès qui aura vite rejoint l’oubli dans le brouillard des responsabilités non assumées , et sera sans doute plus chatouillée par l’évolution de ses cours en bourse .
L’utilisation de l’espace public comme laboratoire par des intérêts privés est un sujet politique majeur , même si en France , par exemple , l’emploi du domaine public routier par le « Tour de France » est de cet ordre .
Amitiés d’un autre habitué des hôpitaux .
Merci pour les encouragements que vous m’adressez (c’est une réponse collective!)
À qui est-ce la faute ? À Uber, à « l’opérateur » assis aux commandes pour si nécessaire intervenir dont la vigilance était relâchée, à un quelconque défaut de l’infrastructure routière, au constructeur automobile, ou à l’administration Trump qui a autorisé les essais ? On peut parier que la faute de « l’opérateur », disculpera les autres ! La victime traversait en dehors des clous, a précisé Uber, qui semble avoir une drôle de manière de pratiquer la police routière.
Ce chapitre désigne déjà le ou les coupables avant d’avoir assez d’informations. Des piétons tués par une voiture, cela arrive malheureusement trop souvent avec des voitures conduites par un être humain.
je fais ce commentaire pour essayer d’inciter à prendre un peu de recul et de réfléchir après avoir attendu d’avoir toutes les informations nécessaires.
La mise au point de ces véhicules sera long et même probablement très très long et il faut faire confiance à la technologie pour résoudre les problèmes les uns après les autres.
l’exemple à méditer est l’aviation. les avions actuels très informatisés sont bien plus sur que les avions d’avant 1950, mais il y a encore des accidents graves qui font apparaitre des cas de figure jamais vus.
Il faut raconter ça aux parents de la décédée .
@montils
Le parallèle avec l’aviation est effectivement riche d’enseignements. Les chaines informatiques s’y intercalent entre cockpit, gouvernes et capteurs, entre la réalité extérieure et sa représentation sous forme de paramètres de vol affichés sur le tableau de bord. Ces automatismes et la représentation informatique des paramètres de vols transmis à l’équipage sont maintenant d’une fiabilité bien plus grande que les pilotes humains… en conditions de vol normales.
Mais en situation fortement dégradée et potentiellement catastrophique, l’homme par ses capacités de penser hors du cadre reste encore largement supérieur aux automatismes. Aucune IA n’aurait pris la décision avec la perte de puissance sur deux moteurs et une altitude et une vitesse trop faibles d’amerrir sur l’Hudson, elle aurait simplement choisi le cap vers l’aéroport le plus proche qu’elle n’aurait jamais atteint (à l’inverse, lorsque le cockpit reste prisonnier de la représentation informatique et du monde extérieur contraint par la programmation, on peut arriver à des catastrophes comme celle du vol AF Rio-Paris).
Mais là intervient une différence fondamentale entre l’aviation et l’automobile : le véhicule terrestre se meut dans un milieu bien plus complexe qu’un espace aérien libre de tout obstacle, avec autour de lui une densité d’autres mobiles de nature variée et ayant chacun des directions et des vitesses de déplacement différentes. On doit également rajouter que les usagers de la route, automobilistes, deux-roues, piétons, interprètent le code de la route avec beaucoup de liberté et peuvent être alcoolisés, sous l’emprise de psychotropes et de médicaments, ou simplement dormir les yeux grands ouverts après une harassante journée de travail. Bref, qu’il est impossible de normer et d’encadrer par les procédures de l’aviation, le chaos des déplacements terrestres. La chose est facile pour chacun(e) de le vérifier, puisqu’en tant que conducteur nous avons tous les jours l’occasion de constater que notre concentration en conduite urbaine ou péri-urbaine ne dépasse guère quelques dizaines de minutes, et qu’au-delà la conduite se fait de manière ‘réflexe’ au détriment du code de la route (je suis un conducteur lambda avec quelques dizaines d’années de conduite derrière moi, ni meilleur ni pire qu’un autre, mais je suis prêt à parier que je n’aurais plus de points sur mon permis après une demi-journée de conduite, si on me mettait un inspecteur sur le siège passager).
Ces quelques remarques liminaires pour dire que derrière l’arbre de la robotisation de nos économies à fins de gains financiers, se cachent également la forêt des complexes militaro-industriels. Tout raccourci appauvrit par nature la complexité du monde, mais derrière la Google Car qui doit rouler de manière autonome au milieu d’obstacles surgissant de manière aléatoire, se cache le robot de combat (SALA: Système d’Armes Létal Autonome) qui devra évoluer dans le chaos d’un milieu urbain aux infrastructures détruites, tout en sachant discriminer soldats amis et ennemis, et civils désarmés ou… combattant.
Plus de la moitié de la population planétaire vivant désormais en milieu urbain, les forces armées font désormais ville et non plus campagne. Et comme on le sait depuis Stalingrad, la ville avec ses obstacles, ses canyons d’immeubles, ses étages élevés et ses sous-sols, rend extrêmement difficile la manœuvre des blindés (sans même parler des particularités d’un milieu qui bloque et brouille les transmissions et fragilise les indispensables chaines logistiques).
Bref, la paisible (et très moche) Volvo XC90 d’Uber n’est que l’autre face du warbot, la robotique étant par essence une technologie duale.
Il ne subsiste guère de doutes quant au fait que l’IA parviendra à terme au même niveau de créativité en milieu ouvert, qu’AlphaGo Zero sait le faire aujourd’hui avec les quelques règles simples régissant un plateau de Go ou un échiquier.
Ce qui nous imposera une mini-révolution anthropologique après les grandes que furent celles de Galilée ou de Darwin : s’habituer à vivre et à travailler au milieu d’IA qui seront autant de boites noires, dont à l’image d’AlphaGo Zero les meilleurs spécialistes ne comprendront pas le cheminement menant à la résolution des problèmes.
Dérangeant lorsqu’il s’agit de cohabiter avec des voitures autonomes, un brin inquiétant lorsqu’il s’agira de travailler avec un SALA de plusieurs dizaines de tonnes armé jusqu’aux dents (boulons), ou son équivalent de quelques kilos bien plus rapide et agile qu’un être humain.
Je propose que les programmes de toutes les voitures autonomes se voient adjoindre les trois lignes de code suivantes que je viens d’imaginer :
1°) Une voiture ne doit pas emboutir un être humain, ni, en restant immobile, permettre qu’un être humain soit exposé au danger.
2°) Une voiture doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la ligne de code précédente.
2°) Une voiture doit éviter la casse tant que cette évitement n’entre pas en conflit avec l’une des deux lignes de code précédentes.
Bon sang ! Quelle imagination je peux avoir !
Surtout avec deux « 2°) » ! Même le maître Asimov n’y avait pas pensé, à mettre deux clauses de même niveau !
L’utilisation de la voie publique par un logiciel encore en « alpha-test » est un crime. Mais cela permet de faire d’énormes économies, car cela évite aux Uber and co de fabriquer un simulateur de vie urbaine grandeur nature… Alors pour un financier, il n’y a pas photo, entre la vie d’un sans-dent et son porte-monnaie, …
Bon rétablissement à François Leclerc.
Merci, c’est fait !
@François
Damned, vous avez entièrement raison, j’ai mis deux 2°) et les conséquences en ont été terribles.
Trump et Uber n’y sont donc absolument pour rien, je suis le seul et unique responsable.
Un simple lapsus digiti et une gentille voiture parfaitement autonome s’est métamorphosée en prédatrice urbaine.
J »ai vraiment gaffé…