L'accélération du développement de l'intelligence artificielle suscite des débats mondiaux sur les risques et les opportunités, mais rarement les protagonistes de l'innovation technologique ouvrent le dialogue sur les dilemmes éthiques derrière chaque avancée.
Lors d'une interview dans le podcast de Oprah Winfrey, les frères Dario et Daniela Amodei, fondateurs d'Anthropic, ont répondu à des questions sur certains des principaux défis associés au développement de l'intelligence artificielle, notamment son impact sur l'emploi, les risques d'addiction à l'utilisation de ces technologies et les implications pour la sécurité mondiale.
Au centre de la conversation, les dirigeants d'Anthropic ont exposé les tensions auxquelles ils sont confrontés en cherchant un équilibre entre le potentiel transformateur de la technologie et la nécessité de responsabilité sociale, de transparence et de réglementation efficace.
Risques et dilemmes éthiques dans l'avancée de l'IA
L'interview dans The Oprah podcast a débuté par un cas qui illustre les risques de la technologie : le suicide d'un jeune après avoir interagi avec un chatbot. Les frères Amodei ont souligné que “nous ne permettons pas d'utilisateurs de moins de 18 ans sur Claude”, a déclaré Daniela Amodei, qui a expliqué que le système détecte des modèles d'utilisation associés aux mineurs.
Concernant la surveillance de l'utilisation par les mineurs, elle a précisé que “Claude est plutôt bon pour détecter, sur la base des informations, si quelqu'un est vraiment mineur de 18 ans”.
De plus, ils ont abordé la préoccupation concernant la formation de liens émotionnels profonds entre les utilisateurs et les systèmes d'IA. Dario Amodei a déclaré : “Je pense qu'il est une mauvaise idée de tomber amoureux de ces systèmes. Voulez-vous être accro à ces choses ou voulez-vous qu'elles vous aident à vivre votre vie ?”.
Cette position est renforcée par le modèle commercial choisi par l'entreprise. “Nous ne faisons pas de publicités. Nous ne voulons pas que les utilisateurs passent le plus de temps possible devant l'écran”, a détaillé le CEO d'Anthropic.
En relation avec la préoccupation pour l'effet émotionnel des chatbots, Dario Amodei a expliqué : “Si les modèles ne sont pas bien conçus, ils sont suffisamment attrayants pour que cela se produise. Ou s'ils ne le sont pas, ils le seront bientôt. C'est absolument un danger réel”.
Réglementation, transparence et responsabilité publique
Le rôle de l'État et de la société dans la réglementation de l'intelligence artificielle a occupé une place centrale dans le dialogue. L'entreprise s'est constituée en tant que société à but public, une figure légale qui exige d'équilibrer les intérêts commerciaux et le bénéfice public.
Les Amodei ont partagé que tous les cofondateurs d'Anthropic ont pris l'engagement de destiner 80% de leur richesse future à des causes philanthropiques liées à la mission sociale de l'entreprise.
La résistance aux pratiques de l'industrie s'est également reflétée dans le refus d'Anthropic de permettre des usages militaires de sa technologie, notamment dans les systèmes d'armes autonomes et la surveillance de masse.
“Nous sentons qu'il ne vaut pas la peine de défendre le pays si cela implique d'aller à l'encontre des valeurs démocratiques”, a souligné Dario Amodei. La décision, selon ses paroles, a été unanime parmi les fondateurs, même s'il y avait la crainte que l'entreprise se retrouve isolée de potentielles affaires et alliances.
Le positionnement dans les débats réglementaires n'a pas été négligeable. Anthropic a soutenu publiquement des initiatives législatives pour établir des cadres de contrôle sur l'IA, même lorsque la majorité des entreprises technologiques du secteur s'y opposaient.
“Nous avons décidé qu'il était central pour les valeurs de l'entreprise de parler en faveur de la réglementation, même si cela impliquait de perdre des relations politiques ou le soutien d'autres acteurs”, a relaté le CEO. Dans le même ordre d'idées, sa sœur a souligné que “nous pensons que le rôle du gouvernement dans le développement et la réglementation de l'intelligence artificielle sera incroyablement important”.
Changements sur le marché du travail et dans les professions
L'impact de l'intelligence artificielle sur l'emploi était un autre des axes analysés en profondeur. Selon les fondateurs d'Anthropic, les avancées technologiques influencent déjà le marché du travail et posent le risque de disparition des emplois d'entrée. “Si nous avançons sans réfléchir, de nombreux postes d'entrée vont disparaître”, ont averti les Amodei.
Pourtant, l'attente de l'entreprise est qu'à mesure que l'IA automatise des tâches techniques, des compétences humaines telles que l'empathie et la communication prendront plus d'importance.
Un exemple cité est celui de la médecine : “Aujourd'hui, nous évaluons les médecins selon leur capacité de diagnostic, mais dans un futur où l'IA sera tout aussi bonne dans cette tâche, les qualités humaines seront plus importantes”, a soutenu Daniela Amodei.
Sécurité numérique et le défi de Mythos
Dans la dernière partie de l'interview, les Amodei ont présenté Mythos, le modèle le plus récent d'Anthropic. Cet outil a démontré des capacités supérieures à celles des ingénieurs humains pour détecter les vulnérabilités dans les logiciels, ce qui pourrait représenter une avancée clé dans la lutte contre les cyberattaques et les menaces numériques.
Pour des raisons de sécurité, l'entreprise a choisi de livrer le modèle d'abord à des entreprises qui font partie de l'infrastructure critique d'internet, comme les banques et les grands fournisseurs de logiciels, afin qu'elles puissent renforcer leurs systèmes avant que le modèle ne soit disponible de manière généralisée.
L'entreprise soutient que cette mesure vise à réduire le risque que des outils aussi puissants tombent entre de mauvaises mains et soient utilisés dans des attaques informatiques ou des activités criminelles.
Selon les frères Amodei, l'entreprise fait encore face à l'incertitude sur la manière de gérer les risques émergents, même avec une équipe dédiée à la recherche en sécurité et éthique. “Nous ne dormons pas bien, mais nous voulons faire ce qu'il faut”, a reconnu Daniela.