Matt Levine est un chroniqueur de Bloomberg . Ancien banquier d’investissement chez Goldman Sachs, il a été avocat en fusions et acquisitions chez Wachtell, Lipton, Rosen & Katz ; un greffier à la Cour d’appel des États-Unis pour le 3e circuit ; et rédacteur en chef de Dealbreaker.
Par Matt Levine
Vendredi, le conseil d’administration à but non lucratif d’OpenAI, son décideur ultime, a licencié Sam Altman, son co-fondateur et PDG, affirmant qu’« il n’était pas toujours franc dans ses communications avec le conseil d’administration, ce qui entravait sa capacité à exercer ses responsabilités ». Apparemment, le conseil d’administration a estimé qu’Altman agissait de manière trop agressive en commercialisant les produits d’OpenAI comme ChatGPT, et craignait que cette vitesse de commercialisation n’augmente le risque de créer une intelligence artificielle malveillante qui, vous savez, assassinerait ou asservirait l’humanité.
Alors le Conseil l’a juste viré. « Microsoft a été choqué vendredi lorsqu’il a reçu un préavis de quelques minutes seulement » du licenciement, bien qu’il ait investi quelque 13 milliards de dollars dans OpenAI. D’autres investisseurs et employés ont également été pris au dépourvu. Et c’est cela le problème !
Le conseil d’administration décide, mais il ne répond ni aux investisseurs ni aux salariés et ne tient pas compte de leurs intérêts. Sa seule préoccupation concerne « l’humanité ».
Sauf qu’OpenAI a ensuite passé le week-end à faire marche arrière et à essayer de réembaucher Altman, sous la pression de Microsoft Corp., d’autres investisseurs et employés. Les conditions imposées par Altman pour revenir, autant que je sache, étaient que le conseil d’administration devait démissionner et que la gouvernance devait changer ; Je suppose que cela signifie à peu près qu’OpenAI devait devenir une entreprise technologique normale avec lui en tant que fondateur-PDG généralement puissant. Ils y sont presque arrivés, mais ils n’y sont pas parvenus. Ce matin, OpenAI a annoncé qu’Emmett Shear, l’ancien PDG de Twitch, serait son nouveau PDG par intérim, tandis que Microsoft a annoncé avoir embauché Altman pour diriger ses efforts internes en matière d’intelligence artificielle.
Ce matin également, « plus de 500 des plus de 700 employés d’OpenAI ont signé une lettre ouverte exhortant le conseil d’administration d’OpenAI à démissionner » et menaçant de démissionner pour rejoindre l’équipe Microsoft d’Altman. Incroyablement, l’un des signataires de cette lettre est Ilya Sutskever, le scientifique en chef d’OpenAI, qui fait partie du conseil d’administration et a apparemment dirigé les efforts visant à licencier Altman. « Je regrette profondément ma participation aux actions du conseil d’administration », a-t-il tweeté ce matin, d’accord. Je me demande si Altman l’embauchera chez Microsoft.
Alors : le contrôle d’OpenAI est-il indiqué par le mot « contrôles » ou par le mot « ARGENT » ? D’un certain point de vue technique, le premier diagramme est correct ; ce conseil d’administration a vraiment licencié ce PDG. D’un point de vue pratique, si Microsoft dispose d’une licence perpétuelle sur la technologie OpenAI et désormais également sur la plupart de ses employés — « Vous pouvez faire valoir que Microsoft vient d’acquérir OpenAI pour 0 $ et aucun risque de poursuite antitrust », écrit Ben Thompson — l’argent en quelque sorte gagné.
Quelle devrait être la réponse ? Eh bien, cela pourrait aller dans les deux sens. Vous pourriez écrire une histoire de fiction économique spéculative avec une intrigue ressemblant à celle-ci3 :
L’histoire d’OpenAI
OpenAI a été fondée en tant qu’organisation à but non lucratif « dans le but de construire une intelligence artificielle générale sûre et bénéfique au profit de l’humanité ». Mais « il est devenu de plus en plus clair que les dons à eux seuls ne suffiraient pas à suffire au coût de la puissance de calcul et des talents nécessaires pour faire avancer la recherche fondamentale », alors OpenAI a créé une structure d’entreprise étrange, dans laquelle une filiale « à bénéfices plafonnés » collecterait des milliards de dollars. auprès des investisseurs (comme Microsoft) en leur offrant un rendement juteux (mais plafonné !) sur leur capital, mais le conseil d’administration à but non lucratif d’OpenAI contrôlerait en fin de compte l’organisation. « La filiale à but lucratif est entièrement contrôlée par OpenAI Nonprofit », dont « le principal bénéficiaire est l’humanité, et non les investisseurs d’OpenAI ».
Et cela a incroyablement bien fonctionné : OpenAI a collecté de l’argent auprès d’investisseurs et l’a utilisé pour créer des artefacts.
Et cela a incroyablement bien fonctionné : OpenAI a collecté des fonds auprès d’investisseurs et les a utilisés pour construire une intelligence artificielle générale (AGI) de manière sûre et responsable. L’AGI qu’elle a construite s’est avérée incroyablement lucrative et évolutive, ce qui signifie que, comme tant d’autres grandes entreprises technologiques avant elle, OpenAI est rapidement devenue une source de liquidités sans qu’il soit plus nécessaire de lever de nouveaux capitaux extérieurs. À ce moment-là, le conseil d’administration à but non lucratif d’OpenAI a regardé autour de lui et a dit : « Hé, nous avons été un peu trop favorables aux investisseurs et pas assez respectueux de l’humanité ; nos sociétés de capital-risque sont riches mais des milliards de personnes sont encore pauvres. Nous allons donc licencier notre PDG de type entrepreneurial, commercial et capital-risque et vraiment revenir à notre mission d’aider l’humanité. Et Microsoft et les autres investisseurs d’OpenAI se sont plaints, et le conseil d’administration a simplement exploité le diagramme – le premier diagramme – et a dit « hé, nous contrôlons tout cela, c’est l’accord que vous avez accepté ».
Et les investisseurs ont pleuré et grincé des dents, mais c’est vrai, c’est ce qu’ils ont accepté, et ils n’ont eu aucun recours légal. Et le nouveau PDG d’OpenAI et son conseil d’administration à but non lucratif leur ont fait un chèque pour leur rendement plafonné et leur ont dit « au revoir » et ont recommencé à gérer OpenAI pour le bénéfice de l’humanité. Il s’est avéré qu’une superintelligence artificielle bénigne et soigneusement gouvernée est vraiment bonne pour l’humanité, et OpenAI a rapidement résolu tous les problèmes de l’humanité et a inauguré une ère de paix et d’abondance dans laquelle personne ne voulait de rien ni n’avait besoin de produits Microsoft. Et le capitalisme a pris fin.
Cette histoire est fondamentalement cohérente et c’est, je pense, à peu près ce qu’au moins certains des fondateurs d’OpenAI pensaient faire.4 OpenAI est, dans cette histoire, essentiellement une organisation à but non lucratif, juste une organisation inhabituellement avide de puissance de calcul et hautement rémunérée. ingénieurs. Il a donc fallu faire un détour calculé vers le monde à but lucratif. Il a décidé de lever des milliards de dollars auprès d’investisseurs pour acheter des ordinateurs et des ingénieurs, et de les utiliser pour bâtir une entreprise qui, si elle fonctionne, devrait être extrêmement lucrative. Mais son plan était qu’une fois arrivé là-bas, il enverrait aux investisseurs un rendement solide et une poignée de main amicale, puis redeviendrait une organisation à but non lucratif avec pour mission de bénéficier au monde. Et sa structure juridique a été conçue pour protéger cette voie : l’organisation à but non lucratif contrôle toujours le tout, les investisseurs n’obtiennent jamais de siège au conseil d’administration ni n’ont leur mot à dire dans la gouvernance, et en fait, les administrateurs ne sont pas autorisés à détenir des actions afin d’empêcher une conflit d’intérêts, car ils ne sont pas censés être alignés sur les actionnaires.5 « Il serait sage de considérer tout investissement dans OpenAI Global, LLC dans l’esprit d’un don », dit en fait son accord d’exploitation (aux investisseurs !), « étant entendu qu’il peut être difficile de savoir quel rôle l’argent jouera dans un monde post-AGI.
Mais aussi plausible que soit cette histoire, dans le monde réel, nous n’en sommes pas encore au bout. À ma connaissance, OpenAI n’a pas encore construit d’intelligence artificielle générale, mais plus précisément, elle n’a pas encore construit d’intelligence artificielle rentable. Il y a une semaine, le Financial Times rapportait qu’OpenAI « restait non rentable en raison des coûts de formation » et « s’attendait à « lever beaucoup plus au fil du temps » auprès de [Microsoft], entre autres investisseurs, pour faire face aux coûts exorbitants liés à la construction d’une IA plus sophistiquée. des modèles. »
Il n’est pas difficile de savoir quel rôle joue l’argent dans le monde actuel ! Le rôle que joue l’argent est le suivant : OpenAI en a (encore) besoin en grande partie, et les investisseurs l’ont. Si vous êtes une startup technologique prometteuse (et OpenAI l’est tout à fait), vous pouvez lever beaucoup d’argent auprès des investisseurs (et OpenAI l’a fait) tout en leur donnant peu de droits de gouvernance formels (et OpenAI le fait beaucoup). Vous pouvez même dire « écrivez-moi un chèque de 13 milliards de dollars, mais considérez-le dans l’esprit d’un don » et ils le feront.
Vous ne pouvez tout simplement pas dire ça ! Il y a des limites! Vous ne pouvez pas simplement appeler Microsoft et lui dire « hé, vous savez, le PDG que vous aimez, celui qui a négocié votre investissement de 13 milliards de dollars ? Nous avons décidé qu’il était un peu trop commercial, un peu trop concentré sur la création d’un produit rentable pour les investisseurs. Nous l’avons donc viré. Le communiqué de presse sort dans une minute. Passe une bonne journée. »
Je veux dire, techniquement, vous pouvez le faire, et le conseil d’administration d’OpenAI l’a fait. Mais ensuite, Microsoft, lorsqu’ils se remettront de leur choc, vous rappellera et vous dira des choses comme « si vous voulez voir plus de notre argent, vous le réembauchez d’ici lundi matin ». Et vous direz « non non non, vous ne comprenez pas, nous profitons à l’humanité ici, nous contrôlons l’entreprise, nous n’avons aucune obligation fiduciaire envers vous, c’est notre décision qui compte ». Et Microsoft exploitera le diagramme – le deuxième diagramme – et dira d’une grande voix verte : « ARGENT ». Et tu as toujours besoin d’argent.
Pour la suite de cette passionnante histoire , cliqué ICI