Intelligence artificielle Tant qu’elles n’auront pas d’identité humaine, les machines resteront des machines

L’intelligence artificielle sera-t-elle bientôt plus intelligente que l’humanité? Deux experts nous parlent de l’hypothèse de la singularité.

Chaque année, les applications de l’intelligence artificielle (IA) gagnent en diversité. Si vous avez récemment pris contact avec un service clients via messagerie instantanée, il est bien possible que vous ayez été le seul participant humain de cet échange. Ces services sont de plus en plus assurés par des robots – des programmes de communication automatiques – capables de comprendre et de répondre aux questions des clients grâce à un algorithme ainsi que d’apprendre de leurs expériences et d’évoluer en permanence.

La singularité, ou quand le rapport de l’homme à la machine bascule

Alexa et Siri, les assistants vocaux d’Amazon et Apple, reposent également sur l’IA et s’améliorent d’eux-mêmes à chaque interaction humaine. Où nous mène cette évolution? Les machines répondront-elles bientôt à tous nos besoins? Ou l’IA prendra-t-elle le dessus pour finir par se retourner contre l’humanité?

Les théories relatives au futur de l’intelligence artificielle sont réunies sous le terme de «singularité», une hypothèse selon laquelle l’intelligence artificielle déclencherait une croissance technologique incontrôlable et transformerait la civilisation humaine. Un scénario présenté sous forme hollywoodienne dans le film Terminator 3 où un programme informatique tout puissant appelé Skynet prend le contrôle des systèmes d’armes de l’armée et déclenche une attaque nucléaire contre l’humanité.

Pas de place à l’erreur pour les voitures autonomes

Inutile toutefois de se faire du mouron vis-à-vis de tels scénarios catastrophe, car ces technologies n’en sont encore qu’à leurs balbutiements. N’oublions jamais qu’elles sont développées par l’homme: nous décidons nous-mêmes de l’orientation du développement de l’intelligence artificielle et de la manière dont elle sera mise en œuvre. Il s’agit de distinguer les domaines où l’intelligence artificielle répond à un besoin, où elle constitue un «luxe», et où elle doit impérativement fonctionner sans accroc.

Si cinq pour cent des clients ne sont par exemple pas satisfaits des prestations d’un robot d’assistance client, la situation n’est pas dramatique. C’est tout au plus une source d’énervement et il suffit de réessayer. «Mais le même taux d’erreur appliqué au droit pénal ou aux voitures autonomes poserait un véritable problème», explique Ranga Yogeshwar. Le physicien et journaliste scientifique allemand souligne qu’un taux de cinq pour cent de personnes emprisonnées par erreur ou percutées par une voiture autonome serait tout bonnement impensable.

Quid de l’éthique des machines?

De telles réflexions débouchent rapidement sur la question des principes éthiques régissant l’IA. Les humains savent faire preuve d’éthique, mais qu’en est-il des machines? Pour Peter G. Kirchschläger de l’Université de Lucerne, il va de soi que des machines comme des voitures autonomes sont capables de respecter des principes éthiques, c’est-à-dire d’être programmées pour ne renverser personne juste pour gagner du temps sur le trajet le plus efficient de A à B. «Les machines ne seront toutefois jamais capables de développer d’elles-mêmes des valeurs éthiques comme le font les humains», tempère le professeur de théologie morale.

Pour Ranga Yogeshwar, présentateur du magazine scientifique «Quarks», l’IA a beaucoup à voir avec notre humanité et notre identité qui nous distinguent des machines: «A l’image d’Aristote qui s’était penché sur ce qui sépare l’homme de l’animal, la question se pose actuellement entre l’homme et la machine». Il part du principe que les machines feront bientôt partie intégrante de nos vies et plaide en faveur d’un recours généralisé aux machines partout où cela s’avère pertinent et bénéfique pour l’humanité. Le processus semble être lancé, puisque des chercheurs de l’EPFL ont récemment permis à une personne paralysée de remarcher grâce à une nouvelle technologie.

Des contradictions d’un côté comme de l’autre

Des exemples négatifs d’évolutions technologiques existent déjà à l’heure actuelle, à l’instar de machines de guerre comme des drones tueurs autonomes déployés par certaines armées. Cela dit, précisons que ces drones n’effectuent ces tâches que parce que des humains les ont construits et programmés ainsi. Des principes éthiques humains interviennent donc, même s’ils sont condamnables.

L’approche adoptée par les géants de la technologie est également loin d’être irréprochable. Peter G. Kirchschläger prend notamment l’exemple de Mark Zuckerberg, le CEO de Facebook, qui a acheté les propriétés voisines de la sienne pour davantage d’intimité. La politique de données de Facebook n’est toutefois pas connue pour être aussi soucieuse de la vie privée de ses utilisateurs. Ranga Yogeshwar quant à lui ne serait pas surpris d’apprendre que Google allait bientôt se lancer dans le marché des assurances maladie. Après tout, qui n’a jamais recherché ses symptômes sur Internet? Le «Dr Google» dispose peut-être déjà de davantage d’informations sur notre état de santé que notre propre médecin de famille.

Cela dit, nous sommes encore à des dizaines d’années d’une éventuelle singularité technologique. L’être humain reste encore et toujours l’architecte des technologies qui l’entourent. Les machines ne seront pas humaines tant qu’elles ne disposeront pas d’une identité bien à elles, avec leur propre système de valeurs.

À propos du Blog durabilité

Vous trouverez ici les conseils des collaborateurs et des spécialistes de Swisscom en matière de développement durable et d’utilisation des nouveaux médias. De même, nous y présentons des entreprises et des technologies qui offrent des solutions répondant aux défis sociaux et écologiques de notre temps. Abonnez-vous dès maintenant à notre newsletter pour rester informé. Le portail Bluewin est une unité d’entreprise de Swisscom (Suisse) SA.