Le scandale qui a éclaté , cette semaine, à l’intérieur de OpenAI, cette Startup spécialisée dans le domaine de l’Intelligence Artificielle (IA) et financée par le géant de l’informatique Microsoft, mérite que l’on s’y attarde. Il fournit l’occasion de comprendre les vrais enjeux de l’IA.
Après le retour de Sam Altman à OpenAI, nombreux sont ceux qui se demandent est-ce qu’on peut faire confiance à OpenAI pour construire l’AGI (Artificial Général Intelligence) , définie comme un système autonome qui dépasse les capacités humaines dans la majorité des tâches économiquement intéressantes.
L »ex fondateur de OpenAI à publié sur son compte X/Twitter cette lettre d’anciens employés de OpenAI qui expose les « méthodes et les intentions » de Sam Altman,
Au conseil d’administration d’OpenAI :
Nous vous écrivons aujourd’hui pour vous exprimer notre profonde préoccupation face aux récents événements survenus à OpenAI, en particulier les allégations de mauvaise conduite contre Sam Altman.
Nous sommes d’anciens employés d’OpenAI qui ont quitté l’entreprise pendant une période de troubles et de bouleversements importants. Comme vous avez maintenant été témoin de ce qui se passe lorsque vous osez tenir tête à Sam Altman, vous comprendrez peut-être pourquoi tant d’entre nous sont restés silencieux par peur des représailles. Nous ne pouvons plus rester silencieux.
Nous estimons que le conseil d’administration a le devoir d’enquêter de manière approfondie sur ces allégations et de prendre les mesures appropriées. Nous vous invitons à :
Élargir la portée de l’enquête d’Emmett pour inclure un examen des actions de Sam Altman depuis août 2018, lorsque OpenAI a commencé à passer d’une entité à but non lucratif à une entité à but lucratif.
Lancer un appel ouvert aux déclarations privées des anciens employés d’OpenAI qui ont démissionné, ont été mis en congé de maladie ou ont été licenciés au cours de cette période.
Protéger l’identité de ceux qui se manifestent pour garantir qu’ils ne soient pas soumis à des représailles ou à d’autres formes de préjudice.
Nous pensons qu’un nombre important d’employés d’OpenAI ont été expulsés de l’entreprise pour faciliter sa transition vers un modèle à but lucratif. En témoigne le fait que le taux d’attrition des employés d’OpenAI entre janvier 2018 et juillet 2020 était de l’ordre de 50 %.
Tout au long de notre séjour chez OpenAI, nous avons été témoins d’un schéma inquiétant de tromperie et de manipulation de la part de Sam Altman et Greg Brockman, motivés par leur quête insatiable d’atteindre l’intelligence générale artificielle (AGI). Leurs méthodes ont cependant soulevé de sérieux doutes quant à leurs véritables intentions et à la mesure dans laquelle elles accordent véritablement la priorité au bénéfice de l’humanité toute entière.
Beaucoup d’entre nous, initialement optimistes quant à la mission d’OpenAI, ont choisi de donner à Sam et Greg le bénéfice du doute. Cependant, à mesure que leurs actions devenaient de plus en plus inquiétantes, ceux qui osaient exprimer leurs inquiétudes ont été réduits au silence ou expulsés. Cette réduction systématique au silence de la dissidence a créé un environnement de peur et d’intimidation, étouffant de fait toute discussion significative sur les implications éthiques du travail d’OpenAI.
Nous fournissons des exemples concrets de la malhonnêteté et de la manipulation de Sam et Greg, notamment :
Sam demande aux chercheurs de retarder la publication des progrès réalisés dans le cadre d’initiatives de recherche « secrètes », qui ont ensuite été démantelées parce qu’elles n’avaient pas fourni de résultats suffisants et suffisamment rapidement. Ceux qui ont remis en question cette pratique ont été rejetés comme étant une « mauvaise culture » et ont même été licenciés, certains juste avant Thanksgiving 2019.
Utilisation par Greg d’un langage discriminatoire à l’encontre d’un membre de l’équipe en transition de genre. Malgré de nombreuses promesses pour résoudre ce problème, aucune mesure significative n’a été prise, sauf que Greg a simplement évité toute communication avec la personne concernée, créant ainsi un environnement de travail hostile. Ce membre de l’équipe a finalement été licencié pour sous-performance présumée.
Sam ordonne au personnel informatique et opérationnel de mener des enquêtes sur les employés, y compris Ilya, à l’insu ou sans le consentement de la direction.
L’exploitation discrète mais routinière par Sam des ressources à but non lucratif d’OpenAI pour faire avancer ses objectifs personnels, particulièrement motivée par sa rancune contre Elon suite à leur dispute.
L’acceptation tacite par l’équipe des opérations des règles spéciales qui s’appliquaient à Greg, en parcourant des exigences complexes pour éviter d’être sur liste noire.
La promesse non tenue de Brad Lightcap de rendre publics les documents détaillant la structure des bénéfices plafonnés d’OpenAI et le plafond des bénéfices pour chaque investisseur.
Les promesses incongrues de Sam de rechercher des projets de recherche pour obtenir des quotas de calcul, provoquant une méfiance interne et des luttes intestines.
Malgré les preuves croissantes des transgressions de Sam et Greg, ceux qui restent chez OpenAI continuent de suivre aveuglément leur leadership, même au prix d’un coût personnel important. Cette loyauté inébranlable découle d’une combinaison de peur des représailles et de l’attrait des gains financiers potentiels grâce aux unités de participation aux bénéfices d’OpenAI.
La structure de gouvernance d’OpenAI, spécialement conçue par Sam et Greg, isole délibérément les employés de la supervision des opérations à but lucratif, précisément en raison de leurs conflits d’intérêts inhérents. Cette structure opaque permet à Sam et Greg d’opérer en toute impunité, à l’abri de toute responsabilité.
Nous exhortons le conseil d’administration d’OpenAI à prendre une position ferme contre ces pratiques contraires à l’éthique et à lancer une enquête indépendante sur la conduite de Sam et Greg. Nous pensons que la mission d’OpenAI est trop importante pour être compromise par les agendas personnels de quelques individus.
Nous vous implorons, en tant que membres du conseil d’administration, de rester ferme dans votre engagement envers la mission initiale d’OpenAI et de ne pas succomber aux pressions des intérêts axés sur le profit. L’avenir de l’intelligence artificielle et du bien-être de l’humanité en dépend.