L’intelligence artificielle aurait-elle mauvaise presse ? On l’accuse ici et là de prendre la place des humains, de supprimer des millions d’emplois, voire de se préparer à prendre le pouvoir. Cette vision d’une intelligence artificielle hors de contrôle, d’une créature prête à prendre le pas sur son créateur, même si elle est largement exagérée, a quand même poussé David Kenny, le directeur général du programme d’intelligence artificielle Watson d’IBM, à adresser, le 27 juin 2017, une lettre ouverte aux membres du congrès américain.
Message : n’écoutez pas les mauvais prophètes, l’intelligence artificielle est l’ami du peuple américain !
Au-delà d’une vision très optimiste et tranchée du progrès technologique, le texte de David Kenny a le mérite de forcer chacun de nous à se demander dans quelle société il souhaite vivre demain.
Extraits de la lettre ouverte de David Kenny (IBM Watson) aux membres du Congrès américains.
Chers membres du Congrès, responsable industriels et experts politiques,
L’Intelligence Artificielle est en train de redéfinir le monde dans lequel nous vivons. C’est un moment excitant, mais un de ces moments qui soulève de nombreuses questions (…)
De sinistres prophètes
Le débat autour de l’IA est aujourd’hui clairement orienté autour de ses implications sociétales, avec de sinistres prophètes qui imaginent des pertes massives d’emploi, et décrivent même une super IA qui au final contrôlera l’humanité. Je dois dire que je ne suis pas d’accord avec cette vision dystopique.
Quand vous travaillez sur les machines intelligentes, et que vous mettez effectivement en application cette science dans le monde réel, comme on le fait chez IBM avec notre système intelligent Watson, vous comprenez immédiatement que cette technologie n’a rien à voir avec les propos alarmistes qui sont aujourd’hui associés à l’IA.
Ne pas savoir ce qu’on pourrait savoir
Le vrai désastre serait d’abandonner ou d’entraver le développement de ces technologies de l’intelligence avant d’avoir exploiter leur potentiel. On paye un prix élevé chaque jour de ne pas savoir ce qu’on pourrait savoir. Ne pas savoir de quoi souffre un malade ; ne pas savoir où trouver des ressources naturelles essentielles ; où ne pas savoir où se cache le risque dans nos économies.
Il est temps d’aller au-delà de nos peurs et de recentrer le débat sur l’Intelligence Artificielle autour de 3 priorités, qui, je crois, constituent le cœur de la discussion : objectif, prérequis et données.
Objectif : l’augmentation de l’humain contre le remplacement de l’humain
Le progrès technologique s’est toujours accompagné de peurs et de préoccupations concernant la destruction massive d’emplois. Mais l’histoire nous apprend que l’IA, comme d’autres révolutions technologiques par le passé, ne remplacera pas la force de travail humaine. Au contraire, elle participera à l’enrichissement de certaines tâches (…)
D’ailleurs, les systèmes les plus avancés d’Intelligence Artificielle sont spécifiquement conçus pour accroître l’intelligence humaine, et pas pour remplacer la force de travail (…) Les décisions importantes exigent le jugement humain, des conceptions morales et de l’intuition. L’IA ne changera pas ça.
Prérequis : formation et éducation
Tout ça ne veut pas dire que nos gouvernants et responsables économiques devraient s’asseoir dans un coin et ne rien faire. Il y a des actions à mener pour s’assurer que la force de travail est prête à accueillir l’ère de l’Intelligence Artificielle (…) Nos politiques actuelles n’ont tout simplement pas encore préparé le terrain.
D’abord il faudrait abandonner tout projet de taxation des systèmes automatisés (…) On ne peut pas non plus s’illusionner avec l’histoire d’un revenu universel de base qui viendrait résoudre les conséquences de l’automatisation de certaines tâches.
De telles prescriptions ne sont que des échappatoires de court terme qui ignorent le vrai problème : l’Amérique manque de travailleurs qualifiés pour travailler en collaboration avec les systèmes d’Intelligence Artificielle (…)
Algorithmes : transparence et gouvernance des données
Nous devons aussi être capable de comprendre comment un système d’IA parvient à une conclusion plutôt qu’à une autre. Les gens ont le droit de demander comment un système intelligent nous oriente vers certaines décisions et pas vers d’autres, en particulier lorsque la technologie est appliquée à des domaines comme la santé, la banque ou la cybersécurité. Et nous en tant qu’industriel avons la responsabilité d’apporter une réponse.
Les entreprises doivent être en mesure d’expliquer comment est construit le processus décisionnel de leurs algorithmes. Si elles ne peuvent pas, alors leurs systèmes ne devrait pas être sur le marché.
On doit aussi s’assurer que ceux qui travaillent avec l’IA sont des gardiens responsables des données publiques et privées.
Les américains doivent être certains que leurs données et leurs droits seront protégés (…)
Voilà ainsi définis les espaces à l’intérieur desquels les débats sur l’Intelligence Artificielle devraient débuter.
David Kenny,
Directeur général d’Ibm Watson et de la plateforme cloud