SOCIÉTÉ
5 MIN DE LECTURE
Crise existentielle chez OpenAI, la crainte de dérives de l'IA en question
Roi de l'intelligence artificielle générative depuis un an, OpenAI est menacé de disparition après le débarquement de son patron, Sam Altman, qui a déclenché une crise majeure sur fond de craintes quant aux dangers potentiels de l'IA.
Crise existentielle chez OpenAI, la crainte de dérives de l'IA en question
L'ex-patron d'OpenAI et créateur de ChatGPT, Sam Altman / Photo: AFP
21 novembre 2023

Lundi soir, près de 700 des quelque 770 employés de la start-up californienne avaient signé la lettre promettant leur départ si le conseil d'administration refusait de démissionner, selon plusieurs médias.

Le conseil reprochait a Sam Altman de prioriser le développement à marche forcée d'OpenAI, créateur de l'interface ChatGPT, sans prendre le temps d'analyser les risques associés, ont rapporté des médias américains.

Pour Brendan Dolan-Gavitt, professeur d'informatique à l'université NYU Tandon, cette thèse est validée par l'arrivée d'Emmett Shear, désigné pour succéder à Sam Altman. "Il a souvent exprimé sa préoccupation quant à la sûreté de l'intelligence artificielle", rappelle l'universitaire.

"On en est arrivé là parce que de minuscules risques ont été amplifiés par des esprits amateurs de science-fiction et des journalistes à sensation", a dénoncé, dans une tribune publié par le site The Information, Vinod Khosla, fond ateur de la société de capital-investissement Khosla Ventures, actionnaire d'OpenAI.

Parmi les menaces posées par le développement de l'IA générative, la possibilité que les programmes soient utilisés à des fins militaires, de désinformation ou deviennent autonomes et s'en prennent aux humains.

"Il est temps de s'intéresser aux risques de l'IA, mais pas au point de ralentir le progrès et de nous priver de ses avantages", a plaidé Vinod Khosla.

Les événements des derniers jours ont mis en évidence les limites du modèle d'OpenAI, qui voulait placer sous le contrôle d'une holding à but non lucratif une société sur laquelle des acteurs financiers ont misé des milliards de dollars.

Les administrateurs "avaient perdu le sens des réalités", a estimé Carolina Milanesi, du cabinet Creative Strategies. "Comment pouvez-vous rester une société à but non lucratif une fois que vous acceptez ces montants de gens comme Microsoft?"

Le géant de Redmond (Etat du Washington) a débloqué, selon plusieurs médias, une enveloppe de dix milliards de dollars pour son partenariat avec OpenAI, notamment en lui offrant des capacités massives de traitement des données pour développe r ses modèles.

Microsoft en vainqueur

La séquence "met en lumière le fait qu'on ne peut pas laisser les entreprises auto-réguler l'IA, alors qu'il existe des divergences au sein de leur propre gouvernance", a commenté, sur X (ex-Twitter), Gary Marcus, spécialiste d'intelligence artificielle et entrepeneur.

"S'il vous plaît, ne renoncez pas à l'+AI Act+; nous en avons plus besoin que jamais", a-t-il poursuivi, en référence au texte destiné à encadrer l'intelligence artificielle et en cours de discussion au sein de l'Union européenne.

Le schisme d'Op enAI "va accélérer beaucoup de choses sur le front de la régulation", a prévenu Ryan Steelberg, directeur général de Veritone, société d'analyse de données grâce à l'IA.

Pour autant, "cela ne va pas ralentir la course à l'IA générative", prévient Carolina Milanesi. "Il s'agit simplement de péripéties de salle de réunion, qui mettent Microsoft en meilleure position."

Même si la situation est loin d'être figée chez OpenAI, le créateur de Windows apparaît déjà comme le grand vainqueur de cette saga.

Sans rien provoquer, Microsoft a récupéré Sam Altman, de même que plusieurs anci ens cadres ayant choisi de quitter OpenAI.

Selon Miguel Fierro, cadre de Microsoft, le directeur général Satya Nadella s'est engagé à embaucher tous les salariés d'OpenAI qui choisiraient de démissionner, faute de départ des administrateurs.

Le géant des systèmes d'exploitation devenu monstre de l'informatique à distance (cloud) et de l'IA aurait alors absorbé les forces vives d'OpenAI sans avoir à se préoccuper de l'aval du régulateur.

"Si Microsoft avait essayé d'acheter OpenAI, ils n'auraient jamais eu le feu vert des autorités de la concurrence", considère Carolina Milane si.

"Microsoft vient de réaliser l'acquisition la moins chère jamais vue", a abondé Paul Barrett, directeur adjoint du centre des affaires et des droits humains de l'université NYU Stern.

"Mon souci", tempère l'universitaire, "c'est que cela va accélérer la course à l'IA", menée par des entreprises privées, à but lucratif, "et faire oublier aux gens que tout cela devrait faire l'objet d'un débat public."

SOURCE:AFP
Divers
Maroc: Boujloud, ce mythe qui a la peau dure
Lyon : quand le marché du ramadan et la chorba du coeur rassemblent
Etats-Unis: après un vote au Congrès, la menace d'une interdiction de TikTok se précise
Examiner le narratif israélien: ce devoir intellectuel périlleux
Un réalisateur israélien menacé de mort pour avoir dénoncé “l’apartheid” d’Israël en Cisjordanie
Alger inaugure, avec faste, sa Grande Mosquée
Affaire “Escobar du désert”: arrestation d’un YouTubeur marocain pour “diffamation”
Hijabis At Work: l'initiative qui révolutionne l'inclusion des musulmanes dans le marché de l'emploi
Des objets archéologiques rapatriés des États-Unis et du Royaume-Uni exposés au musée d'Antalya
Une piscine en banlieue parisienne comparée à "la mer Noire": un tweet choc attribué à  Bardella
Au Maroc la réforme du code de droit de la famille suscite encore le débat
Séisme d’Al Haouz : le savoir-faire ancestral au service de la reconstruction
La solitude : Pandémie silencieuse qui vole des joies et des vies
Une danse palestinienne dans la liste du patrimoine immatériel de l’UNESCO
L’augmentation de maladies respiratoires en Chine inquiète l’OMS, Pékin se veut rassurant
La démocratie américaine est-elle menacée par l'intelligence artificielle?
En 2024, les plus de 65 ans seront plus nombreux que les moins de 15 ans en Europe
La santé mentale des Français, surtout des jeunes, reste dégradée
Des poissons sur la Lune? Une expérimentation française "très prometteuse"
Progression d'une maladie hémorragique épizootique en France