Technologies Crise existentielle chez OpenAI, la crainte de dérives de l'IA en question

Roi de l'intelligence artificielle générative depuis un an, OpenAI est menacé de disparition après le débarquement de son patron, Sam Altman, qui a déclenché une crise majeure sur fond de craintes quant aux dangers potentiels de l'IA.

Crise existentielle chez OpenAI, la crainte de dérives de l'IA en question - Gallery

Sam Altman, patron d'OpenAi, le 16 novembre 2023 à San Francisco, en Californie

OpenAI est menacé de disparition après le débarquement de son patron, Sam Altman, qui a déclenché une crise majeure sur fond de craintes quant aux dangers potentiels de l'IA

Les domaines d'applications de la recherche sur l'IA

Sans rien provoquer, Microsoft a récupéré Sam Altman, de même que plusieurs anciens cadres ayant choisi de quitter OpenAI

Crise existentielle chez OpenAI, la crainte de dérives de l'IA en question - Gallery

Sam Altman, patron d'OpenAi, le 16 novembre 2023 à San Francisco, en Californie

OpenAI est menacé de disparition après le débarquement de son patron, Sam Altman, qui a déclenché une crise majeure sur fond de craintes quant aux dangers potentiels de l'IA

Les domaines d'applications de la recherche sur l'IA

Sans rien provoquer, Microsoft a récupéré Sam Altman, de même que plusieurs anciens cadres ayant choisi de quitter OpenAI

Lundi soir, près de 700 des quelque 770 employés de la start-up californienne avaient signé la lettre promettant leur départ si le conseil d'administration refusait de démissionner, selon plusieurs médias.

Le conseil reprochait a Sam Altman de prioriser le développement à marche forcée d'OpenAI, créateur de l'interface ChatGPT, sans prendre le temps d'analyser les risques associés, ont rapporté des médias américains.

Pour Brendan Dolan-Gavitt, professeur d'informatique à l'université NYU Tandon, cette thèse est validée par l'arrivée d'Emmett Shear, désigné pour succéder à Sam Altman. «Il a souvent exprimé sa préoccupation quant à la sûreté de l'intelligence artificielle», rappelle l'universitaire.

«On en est arrivé là parce que de minuscules risques ont été amplifiés par des esprits amateurs de science-fiction et des journalistes à sensation», a dénoncé, dans une tribune publié par le site The Information, Vinod Khosla, fondateur de la société de capital-investissement Khosla Ventures, actionnaire d'OpenAI.

Parmi les menaces posées par le développement de l'IA générative, la possibilité que les programmes soient utilisés à des fins militaires, de désinformation ou deviennent autonomes et s'en prennent aux humains.

L'IA révolutionne la guerreJusqu'où iront les robots tueurs et les armes autonomes?

«Il est temps de s'intéresser aux risques de l'IA, mais pas au point de ralentir le progrès et de nous priver de ses avantages», a plaidé Vinod Khosla.

Les événements des derniers jours ont mis en évidence les limites du modèle d'OpenAI, qui voulait placer sous le contrôle d'une holding à but non lucratif une société sur laquelle des acteurs financiers ont misé des milliards de dollars.

Les administrateurs «avaient perdu le sens des réalités», a estimé Carolina Milanesi, du cabinet Creative Strategies. «Comment pouvez-vous rester une société à but non lucratif une fois que vous acceptez ces montants de gens comme Microsoft?»

Le géant de Redmond (Etat du Washington) a débloqué, selon plusieurs médias, une enveloppe de dix milliards de dollars pour son partenariat avec OpenAI, notamment en lui offrant des capacités massives de traitement des données pour développer ses modèles.

Microsoft en vainqueur

La séquence «met en lumière le fait qu'on ne peut pas laisser les entreprises auto-réguler l'IA, alors qu'il existe des divergences au sein de leur propre gouvernance», a commenté, sur X (ex-Twitter), Gary Marcus, spécialiste d'intelligence artificielle et entrepeneur.

«S'il vous plaît, ne renoncez pas à l'+AI Act+; nous en avons plus besoin que jamais», a-t-il poursuivi, en référence au texte destiné à encadrer l'intelligence artificielle et en cours de discussion au sein de l'Union européenne.

Le schisme d'OpenAI «va accélérer beaucoup de choses sur le front de la régulation», a prévenu Ryan Steelberg, directeur général de Veritone, société d'analyse de données grâce à l'IA.

Pour autant, «cela ne va pas ralentir la course à l'IA générative», prévient Carolina Milanesi. «Il s'agit simplement de péripéties de salle de réunion, qui mettent Microsoft en meilleure position.»

Même si la situation est loin d'être figée chez OpenAI, le créateur de Windows apparaît déjà comme le grand vainqueur de cette saga.

Sans rien provoquer, Microsoft a récupéré Sam Altman, de même que plusieurs anciens cadres ayant choisi de quitter OpenAI.

Selon Miguel Fierro, cadre de Microsoft, le directeur général Satya Nadella s'est engagé à embaucher tous les salariés d'OpenAI qui choisiraient de démissionner, faute de départ des administrateurs.

Le géant des systèmes d'exploitation devenu monstre de l'informatique à distance (cloud) et de l'IA aurait alors absorbé les forces vives d'OpenAI sans avoir à se préoccuper de l'aval du régulateur. «Si Microsoft avait essayé d'acheter OpenAI, ils n'auraient jamais eu le feu vert des autorités de la concurrence», considère Carolina Milanesi.

«Microsoft vient de réaliser l'acquisition la moins chère jamais vue», a abondé Paul Barrett, directeur adjoint du centre des affaires et des droits humains de l'université NYU Stern. «Mon souci», tempère l'universitaire, «c'est que cela va accélérer la course à l'IA», menée par des entreprises privées, à but lucratif, «et faire oublier aux gens que tout cela devrait faire l'objet d'un débat public.»

AFP