Mardi 14 mars 2023 ((rezonodwes.com))–
Anthropic, une start-up d’intelligence artificielle soutenue par Alphabet, a lancé son propre modèle de langage, Claude, qui concurrence directement le modèle de langage ChatGPT d’OpenAI, soutenu par Microsoft. Les grands modèles de langage sont des algorithmes qui apprennent à générer du texte en se basant sur des données textuelles fournies par des humains. Les chercheurs ont obtenu des résultats beaucoup plus proches de l’humain en augmentant considérablement la quantité de données fournies et la puissance de calcul utilisée pour l’entraînement des modèles.
Claude est conçu pour effectuer des tâches similaires à celles de ChatGPT en répondant à des prompts avec des textes de type humain, qu’il s’agisse d’éditer des contrats juridiques ou d’écrire du code informatique. Les fondateurs d’Anthropic ont déclaré qu’ils ont attaché une grande importance à la production de systèmes d’IA moins susceptibles de générer des contenus offensants ou dangereux, tels que des instructions pour le piratage informatique ou la fabrication d’armes, que d’autres systèmes.
Les préoccupations relatives à la sécurité de l’IA ont pris de l’ampleur récemment, après que Microsoft a déclaré qu’elle limiterait les requêtes adressées à son nouveau moteur de recherche Bing alimenté par un chatbot, après qu’un chroniqueur du New York Times eut constaté que le chatbot produisait des réponses troublantes au cours d’une conversation prolongée.
Les créateurs de chatbots les programment souvent de manière à ce qu’ils évitent complètement certains sujets pour éviter de générer des contenus préjudiciables, mais cela rend les chatbots vulnérables à ce que l’on appelle l' »ingénierie de la demande », où les utilisateurs contournent les restrictions par la parole. Anthropic a adopté une approche différente, en donnant à Claude un ensemble de principes au moment où le modèle est « formé » avec de grandes quantités de données textuelles. Plutôt que d’essayer d’éviter les sujets potentiellement dangereux, Claude est conçu pour expliquer ses objections, sur la base de ses principes.
Les experts de l’industrie ont déclaré que le modèle de Claude était à la fois plus apte à comprendre un langage juridique dense et moins susceptible de générer des réponses étranges que celui d’OpenAI. Les modèles de langage sont de plus en plus utilisés dans de nombreux domaines, notamment la production de contenu, la traduction, la reconnaissance vocale et la réponse aux demandes des clients. Le développement de modèles de langage plus sophistiqués comme Claude pourrait avoir un impact significatif sur l’efficacité des systèmes d’IA dans diverses industries.
