OpenAI vise à remplacer « l’humain médian » par une IA générale : une nouvelle polémique
Sam Altman, PDG et cofondateur d’OpenAI, envisage de créer une intelligence artificielle générale (IAG) dotée des mêmes compétences qu’un « humain médian », pouvant ainsi être employée pour n’importe quel poste. Cette vision suscite à nouveau la controverse, certains experts qualifiant le terme « humain médian » d’offensant et dégradant pour l’humain. Elle laisse clairement entendre qu’OpenAI a l’intention de nous remplacer par la technologie.
Aujourd’hui, l’IA démontre des capacités que nous n’aurions jamais pensé possibles et s’intègre à presque tous les domaines tels que l’art, l’écriture, la recherche scientifique, les services publics, etc. Bien qu’elle apporte d’énormes avantages dans certains secteurs, son utilisation soulève des débats dans d’autres. Malgré sa croissance rapide, son champ d’application reste encore relativement limité.
Depuis quelques années, Sam Altman envisage de maximiser les capacités de la technologie avec l’IAG. Contrairement à l’IA classique dite « étroite » (ou faible), l’IAG est une forme « forte » possédant des facultés que la première ne pourrait jamais atteindre. Alors que l’IA étroite repose sur des algorithmes pour assimiler d’énormes quantités de données et faire des prédictions spécifiques à un domaine, l’IAG possède une intelligence presque indiscernable de celle de l’humain. Ainsi, elle pourrait se consacrer à la résolution de tout problème, sans se limiter à un seul domaine.
Sam Altman déclare : « Notre mission est de garantir que l’IAG – des systèmes d’IA généralement plus performants que les humains dans de nombreuses tâches – profite à l’ensemble de l’humanité. » Il estime que cette nouvelle forme d’IA stimulerait l’économie mondiale plus que jamais et pourrait conduire à des découvertes scientifiques repoussant les limites du possible.
Cependant, la tendance à vouloir faire en sorte que l’IAG égale voire surpasse l’intelligence humaine suscite des préoccupations. Non seulement elle pourrait entraîner des risques d’utilisation abusive, mais elle pourrait également provoquer des changements majeurs dans notre société. De plus, l’utilisation du terme « humain médian » par le PDG semble indiquer une ambition de remplacer les employés humains par cette technologie.
À terme, l’IAG afficherait les capacités de l’humain moyen tout en conservant le potentiel de devenir experte dans un domaine, comme les IA conventionnelles. Cette polyvalence quasi illimitée pourrait permettre à l’IAG de surpasser n’importe quel scientifique ou employé de bureau. Cette course vers l’IAG soulève des inquiétudes quant à la qualité des versions produites, pouvant ne pas prendre suffisamment en compte le bien-être humain et être utilisées de manière inappropriée, notamment dans le domaine de l’armement. Stephen Hawking avait même suggéré que l’IAG pourrait être la « pire erreur de l’histoire » de l’humanité.
OpenAI tente d’atténuer ces risques en évoquant des méthodes de développement prudentes et réfléchies. Altman s’engage à des processus de développement transparents et ouverts, et affirme que l’objectif est que l’IAG profite de manière égale à l’ensemble de l’humanité. Cependant, l’utilisation du terme « humain médian » soulève des questions quant à la cohérence de ces affirmations.