25 octobre 2017
Débat "Intelligence artificielle, enjeux économiques et cadres légaux" (ORDRE DU JOUR RÉSERVÉ À NOTRE GROUPE)
Claude MALHURET - Introduction au débat
Monsieur le président,
Monsieur le secrétaire d'État chargé du numérique,
Mes chers collègues,
La troisième révolution industrielle, celle des technologies NBIC – nano, bio, informatique et sciences cognitives – a commencé en même temps que ce siècle. Elle ne ressemblera pas aux deux précédentes, celle de la machine à vapeur au XIXe siècle et celle de l’électricité, du pétrole, des transports et des communications au XXe siècle.
En effet, son objet est non plus la maîtrise de la matière inanimée, mais la transformation de notre biologie, de notre génome et de notre intelligence, c’est-à -dire tout simplement de l’homme, tout en dotant les machines d’une intelligence et d’une autonomie propres. C’est le défi de l’intelligence artificielle.
Ce défi en entraîne beaucoup d’autres. Le premier est économique, et il est alarmant. Pour la première fois depuis deux siècles, la France et l’Europe non seulement ne sont pas à l’origine de cette révolution, mais sont tellement distancées que leur retard peut désormais paraître irrattrapable. Les États-Unis avec les GAFAM – Google, Amazon, Facebook, Apple, Microsoft – et la Chine avec les BATX– Baidu, Alibaba, Tencent et Xiaomi – sont désormais en situation de duopole au niveau mondial. Pas un seul acteur européen ne s’en approche, même de très loin !
Au cours des six derniers mois, le Gouvernement a rappelé à plusieurs reprises son intention de redéfinir en profondeur nos politiques numériques. Vous avez vous-même, monsieur le secrétaire d'État, dressé une feuille de route en dix points, qui comporte notamment la couverture numérique complète du territoire et la création d’un fonds de soutien de 10 milliards d'euros dédié à l’innovation de rupture.
En juin dernier, au salon Viva Tech, le Président de la République a précisé ses ambitions en matière d’engagement de la France dans ces chantiers « d’innovation de rupture ». L’internet des objets, l’intelligence artificielle, le développement des clean techs et green techs sont autant de perspectives prometteuses pour l’industrie française. Ces initiatives sont de puissants gisements d’emplois et de richesses pour notre pays.
À l’heure où nous parlons, Angers accueille la 22e édition du World Electronics Forum, le Salon mondial de l’électronique, de retour en Europe pour la première fois depuis 2005. Je crois que vous y participerez dans deux jours, monsieur le secrétaire d'État.
Cette édition française du rendez-vous mondial des leaders de l’électronique pose la question de savoir si notre pays a encore un rôle à jouer dans l’aventure numérique, si nos territoires peuvent faire partie de la dynamique mondiale des nouvelles technologies et si nous pouvons rattraper notre retard. Elle nous invite aussi, en tant que décideurs politiques, à penser cette révolution numérique avant que le vide juridique entourant ces nouvelles technologies ne nous dépasse.
Le deuxième défi est social. Contrairement aux prédictions pessimistes qui ont accompagné les deux premières révolutions industrielles, celles-ci, loin d’avoir supprimé des emplois, en ont au contraire créé par millions.
De nombreux experts pensent qu’il risque de ne pas en être de même aujourd’hui et que l’automatisation est désormais susceptible de détruire plus d’emplois qu’elle n’en crée. Ils pensent surtout qu’elle est susceptible de créer un marché du travail à deux vitesses : une minorité d’emplois très qualifiés pour une élite surdiplômée, innovante et maîtrisant les nouveaux codes et une majorité de travailleurs précaires dont les compétences ne rapporteront pas assez pour vivre, sans parler du chômage créé par la substitution pure et simple des logiciels aux emplois les moins qualifiés.
Pas seulement aux moins qualifiés, d’ailleurs, puisque plusieurs spécialistes expliquent de façon crédible, par exemple, que les médecins, à commencer par les chirurgiens et les radiologues, sont sans doute à une échéance de trente ou quarante ans les plus menacés par la robotisation et l’intelligence artificielle. Les chauffeurs ne seront donc pas les seuls à voir leur travail remplacé partout par la voiture, le train ou le camion autopilotés.
Cela nous amène directement au troisième défi, qui est sans doute le plus redoutable, celui de l’éducation. Le plus redoutable notamment pour notre pays, car la naissance de l’intelligence artificielle coïncide avec une chute brutale depuis deux décennies de la France dans tous les classements internationaux, qu’il s’agisse de l’école primaire, de l’enseignement secondaire ou de l’université, qu’il s’agisse de l’enseignement des mathématiques, de la langue maternelle ou des langues étrangères ou encore qu’il s’agisse de la montée des inégalités dans l’accès à la connaissance.
C’est au moment où l’école va devoir affronter le rendez-vous d’une remise en cause et d’une adaptation drastique au monde nouveau des logiciels que notre pays s’y présente en situation d’extrême faiblesse. La question est simple : l’éducation nationale française est-elle aujourd’hui susceptible d’aborder dans de bonnes conditions la révolution du développement des compétences qui seront de plus en plus transmises par les nouvelles technologies ?
À première vue, la réponse paraît négative. Il semble bien que le nouveau ministre de l’éducation nationale soit fort conscient de ce problème, mais quel défi va-t-il lui falloir relever ! En 2017, selon les classifications et les études internationales, 17 % des jeunes Français de 15 à 29 ans sont des NEETs, des young people Not in Education, Employment or Training.
Cette éducation nationale qui n’est pas aujourd’hui en grande forme va devoir, en plus de son rôle actuel, former des enfants et des adolescents à vivre dans un monde où intelligences biologiques et artificielles devront cohabiter, et cela avec un corps enseignant qui, dans son immense majorité, et ce n’est un secret pour personne, ne maîtrise pas encore lui-même les nouvelles technologies.
Le quatrième défi est juridique et pose mille questions différentes, inédites et, la plupart du temps, contradictoires.
J’en donnerai quelques exemples seulement : quel statut pour ces machines qui, de simples exécutants informatiques, sont devenues des apprenants et même des créateurs ? À qui reviendront les droits d’auteur ? Seront-ils attribués à la machine autoapprenante et créatrice ? À moins qu’ils ne soient reconnus à son propriétaire ou au programmateur du logiciel ? À qui reviendra la propriété des milliards de données hébergées dans les data centers ? Comment se prononcer sur l’assignation de responsabilité en cas d’accident d’un véhicule autonome ? Il y a des milliers de questions comme celles-là !
La loi du 24 octobre 2016 relative au renforcement de la sécurité de l’usage des drones civils nous a permis de nous engager dans ce débat de la responsabilité de l’intelligence artificielle et des robots. Elle a comblé un vide juridique, définissant clairement le rôle de chaque acteur, constructeur, vendeur, exploitant ou client. Elle nécessite d’être approfondie et étendue au champ des véhicules autonomes, afin d’accompagner le développement de ces technologies.
Enfin, le dernier défi que j’évoquerai, mais il y en a bien d’autres, est peut-être l’un des plus difficiles à relever : c’est celui de l’éthique et de la morale.
Il se pose dès aujourd’hui. Toutes les applications en faveur de la santé ou de la préservation de la vie interrogent très fortement sur le respect de la vie privée. Comment s’assurer que ces données de santé ne seront pas vendues à une compagnie privée ou à un futur employeur ? Comment conjuguer cette collecte massive de données de santé de chaque Français et le respect du « droit à l’oubli » ? Bref, comment s’assurer qu’intelligence artificielle et robotique riment avec traitement des données éthique ?
Ce défi se pose dès aujourd’hui, mais il sera encore plus sérieux demain. Franchirons-nous l’étape du transhumanisme, cette idée que l’homme peut être « augmenté » ou « amélioré » par la machine ? Et si nous la franchissons, ce qui est désormais probable et en cours de réalisation, notamment en Chine, un pays évidemment moins soucieux que le nôtre du respect des droits, comment accepter que cette « augmentation » ou cette « amélioration » de l’humain soit réservée à ceux qui pourront en payer les coûts extravagants ?
Cet enjeu de l’hybridation de l’homme et du robot ne peut s’envisager sans règles. De même que la recherche sur les cellules souches ou les embryons fait l’objet d’une réglementation forte, le couplage de l’intelligence artificielle et de l’homme doit être encadré par un texte précis. La transformation du corps humain sous l’effet de l’intelligence artificielle est un sujet radical, sur lequel un débat public doit être mené en y associant l’ensemble des parties prenantes.
Je parlais des défis éthiques d’aujourd’hui et de demain, mais ils ne sont rien par rapport aux défis d’après-demain, lorsqu’apparaîtra l’intelligence artificielle dite « forte » dotée de conscience, mais inscrite sur un support de silicone et non plus sur le support organique de notre ADN et de notre cerveau. Ce jour-là – il n’est heureusement pas encore à l’horizon, mais il arrivera –, nous devrons décider si nous permettons, pour reprendre la très belle phrase de Michel Foucault à la fin des Mots et les choses, que la figure de l’homme s’efface peu à peu, « comme à la limite de la mer un visage de sable ». Et même si cette décision est une affaire de plusieurs décennies, peut-être vaut-il mieux commencer à y réfléchir dès maintenant.
Il reste un dernier problème à aborder, celui de la dimension européenne du sujet. L’Europe est confrontée à un dilemme fondamental qui n’est pas résolu et qui la place dans une situation intenable face à ses concurrents américains et chinois. Elle a donné jusque-là la priorité à la protection des citoyens quant à l’utilisation qui peut être faite des données les concernant.
Cette position nous paraît une évidence, mais il faut bien comprendre qu’une de ses conséquences est le monopole américano-chinois sur l’intelligence artificielle. Peut-on trouver aujourd’hui, et dans le cadre d’une discussion toujours longue et difficile, car nous sommes vingt-sept, la juste mesure entre la protection des droits et l’utilisation des données permettant de faire naître chez nous l’équivalent des GAFAM et des BATX ? C’est l’un des enjeux fondamentaux de la place de l’Europe dans le monde de demain et, en fait, dans le monde d’aujourd’hui.
En janvier 2017, le Parlement européen a adopté un projet de résolution de la Commission européenne contenant des recommandations concernant les règles de droit civil sur la robotique. Le législateur européen a notamment mis en place un régime de responsabilité limitée pour les différents acteurs de la filière et un fonds de compensation. Ce sont des engagements forts, que la France doit accompagner.
Mes chers collègues, si nous avons choisi d’interpeller aujourd’hui le Gouvernement sur cette question de l’intelligence artificielle, c’est parce que nous estimons qu’elle suscite de formidables occasions, mais pose aussi de profondes questions économiques, sociales, juridiques et éthiques. Il est du devoir du politique d’anticiper ce genre de rupture et de ne pas seulement agir en réaction au quotidien.
C’est la dernière raison pour laquelle, monsieur le secrétaire d'État, le groupe Les Indépendants, soucieux de relever ce pari numérique, souhaite savoir quelles mesures le Gouvernement envisage pour accompagner le développement de l’intelligence artificielle et pour mettre en place un cadre juridique et légal national, et bien sûr européen, permettant à notre continent, tout en se protégeant d’éventuelles dérives, de garder son rang dans un monde où le changement ne cesse de s’accélérer.
Emmanuel CAPUS - question à Mounir Mahjoubi, secrétaire d'État chargé du Numérique
Notre débat permet de poser les limites économiques, juridiques et éthiques de l’intelligence artificielle. Je vous remercie par ailleurs, monsieur le secrétaire d'État, d’avoir mentionné les occasions qu’elle offre en termes de développement économique pour notre industrie française et, en particulier, d’avoir cité Angers, mon territoire, où se déroule, en ce moment même et toute cette semaine, le World Electronic Forum.
Ce Forum international de l’électronique constitue une occasion extraordinaire de faire valoir nos savoir-faire et de défendre la filière électronique française. L’ensemble des décideurs du monde entier, de l’Inde, de la Chine ou des États-Unis s’y réunit pour débattre des grandes questions qui nous intéressent aujourd’hui : la vie digitale, l’industrie 4.0 ou l’écosystème numérique français.
Vous y serez demain et après-demain, monsieur le secrétaire d’État, et le Premier ministre y viendra vendredi. Il aura fallu, vous l’avez dit, un combat de plusieurs années, sinon de plusieurs décennies, ainsi qu’une volonté politique forte, pour faire venir ces décideurs en Anjou, sur notre territoire, et mettre ainsi en valeur nos savoir-faire.
C’est aussi l’accompagnement et le développement des réseaux French Tech dans le monde entier. Nous devons continuer à développer ces nouvelles technologies en nous appuyant sur notre filière industrielle d’excellence.
Telle est l’ambition du label French Tech qui est développé en ce moment, notamment à travers les réseaux que vous avez cités, monsieur le secrétaire d’État.
Malheureusement, face aux géants américains et chinois, nous devons aujourd’hui être plus offensifs dans la protection de nos intérêts. Notre pays doit rapidement s’engager dans une stratégie de souveraineté numérique. Cette dynamique peut d’ailleurs trouver un écho à l’échelon européen, comme l’a rappelé Claude Malhuret.
Ma question est simple : quelle est la volonté du Gouvernement et quels sont les moyens accordés par l’État à la défense de notre souveraineté numérique et au développement d’une filière industrielle française de l’intelligence artificielle ?
M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique.
Monsieur le sénateur, votre question me donne l’occasion de répondre sur le volet financier et de souligner également le dynamisme de Dijon, avec la Food Tech, à la première édition de laquelle je me rendrai la semaine prochaine ; j’y retrouverai d'ailleurs François Patriat.
Il faut bien préciser qu’il n’y a pas qu’un seul territoire capable d’innover sur ces sujets.
Sur le financement, plusieurs annonces ont déjà été formulées. Je le répète encore une fois : je ne viens pas avec toutes les réponses. Dans la lettre de mission que nous avons adressée à M. Villani et dans les différents rapports qui ont été remis est affichée la volonté d’identifier les secteurs dans lesquels nous pensons qu’il faut mobiliser des moyens publics ou faciliter la mobilisation des moyens privés, et à quelle hauteur. Nous pouvons nous comparer aux Chinois ou aux Américains, mais nous devons le faire aussi avec nos amis européens et voir ce que nous sommes capables de faire ensemble.
Nous créons un fonds pour l’industrie et l’innovation. Ce sont les fameux 10 milliards d’euros que Bruno Le Maire a annoncés et que nous avons réussi à rassembler par la valorisation de titres déjà détenus dans d’autres entreprises. Cette somme, constituée en fonds, nous permettra de mobiliser plusieurs centaines de millions d’euros par an sur les fameuses technologies de rupture, qui ont aussi une composante d’intelligence artificielle.
En effet, comme je l’ai rappelé tout à l’heure, les grandes innovations liées à l’intelligence artificielle sont surtout dans les usages finaux. J’ai évoqué la lauréate du prix StartHer, dont l’innovation consiste à personnaliser le traitement du cancer, à diviser par deux les quantités de soins à transmettre aux malades et à multiplier les capacités de survie des patients.
C’est sur de telles transformations qu’il nous faudra être capables de décider et de dire s’il faut d’urgence être compétitifs sur la santé ou au contraire sur l’agriculture. Ce qui est certain, c’est que nous n’avons pas les mêmes retards ni les mêmes chances dans toutes les technologies. Si des pays sont déjà allés très loin dans certains domaines, il n’est peut-être pas pertinent – sans pour autant renoncer – de mobiliser tous nos moyens sur ces secteurs.
Le PIA 3, c'est-à -dire le troisième volet du programme d’investissements d’avenir, constitue un autre élément très important. Il n’est qu’à voir les différents appels à projets dont les résultats ont été rendus publics ces derniers jours : des programmes de recherche, de nouvelles formations, de nouveaux instituts de recherche, de nouvelles écoles de recherche ont été labellisés et financés sur les technologies de rupture. Quel plaisir de constater que, en France, on peut avoir des centres de recherche sur des sujets dont les termes mêmes nous semblent exotiques et lointains, tellement ils incarnent la complexité scientifique !
Oui, en matière de recherche, la France est entrée dans une dynamique. Oui, nous investissons déjà . Oui, nous finançons déjà . Reste que l’enjeu même de cette stratégie, c’est d’être capable, au début de l’année 2018, d’annoncer ce sur quoi nous nous mobiliserons de façon majeure.
J’aurai sans doute l’occasion d’aborder un peu plus tard un autre volet, celui du cofinancement européen.
