Opinion de Laurent Alexandre - L'Express 22 aout 2018 et droit de réponse de Frédéric Echassoux
Pilote de ligne
La réponse de Frédéric Echassoux
Le 6 septembre 2018
Monsieur ALEXANDRE,
Votre article publié le 23 août dernier dans l’Express-L’Expansion intitulé « Les pilotes
d'avion sont les nouveaux maréchaux-ferrants » a retenu mon attention.
Il a le mérite d’animer le débat sur la part croissante que va prendre l’intelligence artificielle
dans nos vies et nos sociétés et d’anticiper les bienfaits mais aussi les inévitables
dommages collatéraux qu’elle va entrainer.
Chaque nouvelle technologie arrive avec de nouveaux avantages mais aussi de nouveaux
inconvénients, l’automobile qui a remplacé l’hippomobile n’a pas fait pas exception.
J’ai le grand honneur d’exercer le métier de Pilote de ligne depuis plus de 20 ans
maintenant. Mon propos n’est pas ici de défendre coûte que coûte une corporation que
d’évidence vous êtes impatient de voir disparaître. Si pour rendre un meilleur service la
technologie doit remplacer les pilotes dans les postes de pilotage elle le fera et rien ni
personne ne pourra l’empêcher. En toute humilité mon but est avant tout pédagogique. Je
souhaiterais vous livrer un éclairage sur ce métier que j’aime profondément et que
beaucoup, comme vous, critiquent, et parfois même conspuent, sans savoir de quoi il est
vraiment fait. S’il faut « virer » les pilotes des avions au moins que cela ne soit pas pour de
mauvaises raisons.
Je souhaiterais aussi alimenter ce débat et vous livrer la réflexion d’un citoyen sur la
responsabilité, un sujet qui me paraît au coeur des choix sociétaux auxquels nous allons être
collectivement confrontés avec l’avènement de ces technologies de rupture.
Sécurité, Confort, Coût, sont les trois fondements sur lesquels s’appuie une compagnie
aérienne pour réaliser son exploitation. Les pilotes de ligne se préoccupent en tout premier
lieu de la sécurité de tous, ensuite du confort de leurs passagers et enfin du coût de la
mission…quand ils ont le temps et que les deux premières priorités ne requièrent pas toute
leur attention. Les industriels à la tête des compagnies aériennes, surtout quand ils sont
uniquement formés à la gestion d’entreprise sans connaissances spécifiques du métier de
transporteur aérien, ont un ordre de priorité plutôt inverse. Leurs préoccupations
quotidiennes vont en premier lieu au contrôle des coûts de production, c’est indispensable
pour la pérennité de l’entreprise, en deuxième le confort des passagers, pour espérer les voir
revenir, et enfin la sécurité des vols dont ils perçoivent toute l’importance mais au sujet de
laquelle ils se questionnent en permanence, ce poste très couteux ayant des effets
désastreux quand un accident se produit mais ne rapportant rien quand tout se passe bien.
De fait, ils se soumettent à l’expertise et l’inflexibilité des Pilotes et des Personnels de
maintenance pour freiner leurs ardeurs à tailler dans les dépenses sur ce poste.
Dans ce contexte chacun fait donc son travail dans un équilibre des forces en perpétuel
réajustement. C’est ainsi que cela fonctionne partout sur la planète et pas seulement en
France. Les autorités de tutelle de chaque pays gardent quant à elles un oeil très attentif à ce
qui se passe en exigeant d’être directement informées des anomalies d’exploitation
rapportées spontanément par les pilotes, et il y en a régulièrement. Leur but premier est
évidemment la sécurité de tous, personnels, passagers et évidemment habitants des pays
survolés qui peuvent être eux aussi impactés par la défaillance du système.
De cette confrontation au quotidien, parfois tendue c’est vrai, mais pourtant fructueuse, est
né le système le plus sûr existant dans la gestion du risque industriel tous secteurs
confondus au point qu’il ne cesse jamais d’alimenter la réflexion et les évolutions
méthodologiques des autres métiers exposés au risque vital tels la médecine et la production
d’énergie nucléaire.
L’intelligence artificielle, dont vous vantez les mérites, non encore vérifiables, saura-t-elle
jouer ce rôle qui irrite tant les donneurs d’ordres et qui consiste à pouvoir dire « Non cet
avion ne part pas ! » quand toutes les conditions de sécurité ne sont pas réunies pour
effectuer la mission ? Tout dépendra des priorités, voire même des valeurs dont elle aura été
investie, quant à apprendre par elle-même de ses erreurs par le deep learning, qui osera lui
permettre de faire des essais et qui continuera de la laisser agir quand elle se sera trompée
une première fois…
Bien présomptueux celui qui dit qu’elle ne se trompera jamais.
Il ne suffit donc pas de savoir guider un avion sur une trajectoire prédéfinie pour être un
pilote, quand les conditions sont réunies les automates savent d’ailleurs faire cela très bien
depuis plus d’un demi-siècle et ni eux ni les pilotes humains n’ont besoin pour cela de savoir
interpréter les signaux des milliers de capteurs que compte un avion de ligne. Il faut en
revanche souvent plus de dix ans d’expérience à un copilote pour accéder à la fonction de
Commandant de Bord qui a lui-même appris le métier au contact d’un collègue plus ancien
dans un poste de pilotage à deux pilotes au minimum (parfois trois ou quatre) où se
partagent au quotidien les connaissances, les expériences, l’appréciation des situations et
des évolutions technologiques très fréquentes dans ce métier. Le deep learning n’est pas né
avec l’intelligence artificielle, l’humanité en pratique les principes depuis 4 millions d’années
et nous sommes toujours là, héritiers de nos prédécesseurs qui, quel que soit le domaine,
ont avant nous inventé, essayé, parfois réussi, quelquefois échoué, ont appris et ont
transmis à leurs descendances le fruit de leurs expériences dans des apprentissages
qu’aucune vie humaine ne peut appréhender seule dans sa courte durée.
Être Commandant de Bord d’un avion de ligne aujourd’hui c’est être capable d’organiser la
réflexion d’un équipage en temps réel afin de prendre in situ, des dizaines de fois par
mission, des décisions aux conséquences vitales dans des situations parfois complexes,
quelquefois incertaines, toujours fortement contraintes par le temps…
et cela fonctionne
plutôt bien. Plus de 100'000 avions de ligne décollent chaque jour dans le monde, en 2017
4.1 milliards de passagers ont été transportés sans qu’aucun décès dû à l’accident d’un
avion de plus de 20 places n’ait été à déplorer (0 sur 4'100'000'000 oui c’est bien le chiffre).
Prendre l’ascenseur (automate total dans un système fermé) est devenu plus dangereux que
prendre un avion de ligne (un hybride homme-automate dans une système ouvert).
Vous citez Monsieur CAINE Président de THALES une entreprise qui fournit notamment des
équipements à l’industrie aéronautique civile. Ce Chef d’entreprise est évidemment dans son
rôle lorsqu’il vante les avancées de son Bureau d’Etudes. Les constructeurs d’avions, Airbus
et Boeing, responsables en première ligne de la sécurité des avions qu’ils fabriquent,
avancent quant à eux bien plus prudemment que vous ne le dites tous les deux sur
l’implémentation des nouvelles technologies dans leurs avions et ce n’est pas sans raison.
Les processus de certification dans l’Aviation Civile sont effectivement d’un niveau
d’exigence inégalé, ils visent à confirmer la stabilité d’un système souvent bien au-delà du
million d’occurrences alors que les O.S. de nos si puissants ordinateurs ne sont plus certifiés
au-delà de 95%. Même si aujourd’hui les avions de ligne sont d’une très grande fiabilité les
interventions humaines pour traiter les anomalies de fonctionnement sont quotidiennes. A
titre d’illustration sur plus de 400 drones militaires perdus par l’USAF depuis qu’ils sont
intégrés à l’arsenal de l’armée américaine (Predator, Reaper, Hunter, etc., ce n’est pas
encore de l’A.I. mais cela le devient, au moins il n’y a plus de pilotes à bord ce qui devrait
vous plaire…) plus de la moitié l’ont été pour une cause non liée au combat. Les publications
sont nombreuses sur le sujet, je vous suggère la lecture de article du Washington Post paru
en janvier 2016 « MoreAirForcedronesarecrashingthaneverasmysteriousnewproblems
emerge».
Vous pouvez m’opposer que tout n’est qu’une question de temps pour que l’intelligence
artificielle qui double son niveau de performance chaque année ne parvienne à résoudre
tous ces problèmes mais ce qui ce dessine pour accélérer la transition vers un monde où
l’automate aura dépassé l’humain est en train de prendre une toute autre forme. En effet,
dans le même temps les lobbyistes de l’industrie de la voiture autonome, des précurseurs de
l’intelligence artificielle comme Google et Uber, tentent de faire pression sur le législateur
américain pour se protéger des recours possibles devant les tribunaux en cas d’accident
conséquences des choix des automates qu’ils sont en train de concevoir. Ils souhaitent
notamment inscrire dans la loi des taux « acceptables » d’accidents, un système de
compensation indépendant de la recherche d’une quelconque responsabilité, autrement dit,
des indemnités forfaitaires plafonnées en cas de blessures et de décès les dégageant
simultanément de toutes leurs responsabilités. Ces entreprises s’appuient sur une rhétorique
pour l’instant non vérifiable suivant laquelle il y aura moins d’accident avec des voitures
autonomes qu’avec des conducteurs humains et qu’il sera en tout état de cause impossible
de définir une quelconque responsabilité individuelle quand un automate se sera trompé
celui-ci étant constitué de plusieurs millions de lignes de programme dont il deviendra
impossible d’identifier et reproduire les erreurs de conception.
Se prémunir de ce que l’on ne sait pas anticiper avec une entière exactitude n’est pas ici le
fond du débat au contraire. Les Pilotes de ligne sont des experts de la gestion du risque
qu’ils côtoient au quotidien et qu’ils apprennent sans cesse à connaître, mesurer, contrôler
pour s’y exposer sans mettre quiconque en danger. Le débat ne se situe pas non plus entre
être pour ou contre l’Intelligence Artificielle ou comment et pourquoi lui résister. La question
de fond est : Qui pour endosser la responsabilité de l’échec, de l’accident, des victimes
collatérales de la défaillance ?
La révolution technologique que nous sommes en train de vivre et qui semble effectivement
inévitable ne va pas seulement transformer les outils que nous utilisons, elle va bouleverser
les principes sur lesquels nos sociétés sont bâties et notamment le principe de la
responsabilité individuelle et celle des entreprises, d’autant plus vite que nous ne prendrons
pas rapidement notre part de citoyen à ces évolutions et que nous laisserons faire.
Ce n’est pas une fantasmagorie, nous l’observons chaque jour, une douzaine d’entreprises
dans le monde que vous citez régulièrement en exemple (les GAFA : Google Amazon,
Facebook, Apple, les NATU : Netflix, AirBnb, Tesla, Uber ou encore les BATX : Baidu,
Alibaba, Tencent, Xiaomi) avancent avec une stratégie hégémonique sur l’Humanité tout en
tentant par tous les moyens de dégager leur responsabilité des conséquences de leurs actes
et de leur influence. Les enjeux éthiques, moraux, légaux, la régulation des échanges, la
propriété intellectuelle, les frontières nationales, la fiscalité, les solidarités, la responsabilité
sociale des entreprises, les libertés individuelles, etc. sont autant d’obstacles sur leur chemin
qu’elles s’emploient à contourner ou faire tomber pour s’emparer de tous les secteurs où il
est possible de transformer un citoyen en client. De leur point de vue, comme du votre, rien
ne va assez vite pour leur permettre de poursuivre la quête sans fin de leurs seuls intérêts
contre ceux du reste du monde quelles qu’en soient les conséquences. C’est une quête de
pouvoir sans la responsabilité dans laquelle sont engagées ces entreprises, un caprice
d’enfant qui va aussi loin qu’on le laisse aller, bien loin de la démarche en conscience d’un
pilote de ligne lorsqu’il est aux commandes de son avion qui ne cesse, lui, d’apprendre où
sont ses propres limites, de s’exposer à une surveillance permanente et automatisée de
chacune de ses actions, du choix de chacun de ses gestes, parfois même des mots qu’il
prononce à son poste de travail, de se soumettre plusieurs fois par an à des contrôles de
compétence susceptibles de remettre en question son droit d’exercer son métier et ce
jusqu’au jour de son départ en retraite. La responsabilité n’est pas un « sens » que l’on peut
s’auto-attribuer, c’est un acte volontaire de soumission aux lois communes.
D’un côté, ceux qui ont le pouvoir sans la responsabilité, de l’autre ceux qui ont la
responsabilité sans le pouvoir, c’est ainsi que se dessine le monde qui se présente à nous,
l’Intelligence Artificielle n’étant que le bras armé des premiers contre les seconds.
Votre article va sans doute alimenter le débat dans les prochains mois où il fera bon accabler
les Pilotes de ligne de tous les maux, une fois encore. Vous ne risquez rien à
vous prononcer ainsi sur votre désir et votre impatience de voir cette corporation remplacée
par l’intelligence artificielle. Quoi qu’il arrive, dans ce futur que vous nous prédisez, personne
ne vous demandera de rendre des comptes sur ce que vous aurez écrit et promu. Dans ce
monde que vous trouvez si lent et englué dans des valeurs si archaïques rien ne vous a
empêché de notablement vous enrichir (vente du site DOCTISSIMO au Groupe
LAGARDERE : 140 Millions d’Euros) et de conserver une position d’influenceur au sein des
plus hauts cercles de décision où se jouent nos avenirs. « Malheur à ceux qui maudissent
les phénomènes dont ils chérissent les causes. » disait Bossuet. Je ne vous souhaite aucun
malheur Monsieur ALEXANDRE et soyez assuré que lorsque vous vous retrouverez la
prochaine fois à bord d’un avion de ligne quelle que soit la compagnie aérienne qui l’exploite,
pour quelques décennies encore je l’espère pour nous tous, des professionnels pilotes,
navigants commerciaux, mécaniciens d’avions, contrôleurs aériens, personnels d’assistance
et de secours et tant d’autres pour qui vous ne serez jamais un éventuel dommage collatéral
acceptable, mettront tout en oeuvre discrètement pour vous permettre de réaliser vos
ambitions quelles qu’elles soient (même si elles nous conduisent tous dans le mur…) tout en
assurant votre sécurité quel qu’en soit le prix.
En tant que citoyens de ce monde en mouvement ne sommes-nous pas en droit d’exiger que
ceux qui nous font prendre des risques assument les conséquences de leurs actes? Que
gagne l’humanité à remettre son destin entre les mains de ceux qui s’organisent pour n’être
responsables de rien ?
Frédéric Echassoux, Pilote de ligne
PS : THALES ? Est-ce bien l’entreprise qui fournissait les sondes Pitot de l’AF447 ?
Pardonnez cette pointe d’ironie elle cache parfois de la peine et parfois une très grande
méfiance devant ce qui se prépare.