Les progrès rapides qu'a connus le développement de l'intelligence artificielle et l'impact qu'elle commence à avoir sur la vie de millions de personnes et d'entreprises ont généré de fortes inquiétudes dans certains secteurs et beaucoup se demandent si les êtres humains seront conçus. propre extinction.
Une incertitude qui n'est pas ignorée par Mustafa Suleyman , co-fondateur de la division IA de Google , qui a réitéré à plusieurs reprises la nécessité de plus en plus urgente de mettre des limites à cette technologie pour éviter un scénario catastrophique.
Suleyman a assuré dans une récente interview avec le MIT Technology Review que toute possibilité permettant à cette technologie de mettre à jour son propre code source sans supervision humaine devait être exclue.
Pour le co-fondateur de DeepMind , « l’auto-amélioration récursive » , concept qui fait référence à la capacité de l’IA à s’améliorer au fil du temps ; Cela implique de grands risques qui doivent être gérés. En fait, de son point de vue, la mise à jour de ces systèmes "devrait peut-être être une activité autorisée , comme la manipulation de l'anthrax ou des matières nucléaires ".
Ce pionnier de l'intelligence artificielle estime également qu'il est très important que les gens établissent « des limites qu'une IA ne peut pas franchir, et veillent à ce que ces limites créent une sécurité démontrable depuis le code lui-même jusqu'à la manière dont il interagit » avec d'autres modèles et avec les humains.
Cependant, Suleyman, qui a cofondé l’année dernière la startup Inflection AI , s’est montré « optimiste » quant à la possibilité de réglementer efficacement cette technologie. Selon lui, il y a "environ 101 questions plus pratiques" sur lesquelles il faudrait se concentrer avant de penser à un scénario apocalyptique, comme c'est le cas des questions liées à la vie privée , à la reconnaissance faciale ou à la modération des contenus.
Pour l’exécutif, le plus grand défi auquel nous serons confrontés au cours de la prochaine décennie sera la prolifération du pouvoir car elle amplifiera les inégalités et accélérera la polarisation dans un contexte où il sera plus facile que jamais de diffuser des informations erronées.
Dans le contexte actuel, une plus grande attention a été accordée à la question de la régulation de l'IA au niveau institutionnel, notamment la semaine dernière, plusieurs poids lourds du monde de la technologie, comme Sam Altman, Elon Musk et Mark Zuckerberg, se sont réunis à Washington dans une réunion à huis clos. séance à domicile pour discuter de la question.
Suleyman, pour sa part, développe actuellement avec son entreprise un chatbot à intelligence artificielle appelé Pi , conçu pour être un auditeur neutre et apporter un soutien émotionnel à ses utilisateurs. Et même si, selon l'homme d'affaires, le système ne possède pas autant de propriétés que d'autres générateurs de texte, il est "incroyablement contrôlable".
L’intelligence artificielle sera le « coach personnel et compagnon » de la plupart des gens
Suleyman assure que dans cinq ans seulement, tout le monde aura accès à une IA « super intelligente » qui « comprend votre histoire personnelle ». Il considère même qu'"il sera un assistant, un coach personnel et un compagnon" car "il saura vous faire réfléchir pendant la journée, vous aider à prioriser votre temps pour inventer et être beaucoup plus créatif".
Le PDG d' Inflection AI prévoit que cette intelligence artificielle "sera totalement alignée sur vos intérêts et vous aidera à gérer et traiter toutes les informations dont vous avez besoin" et ira au-delà de la simple assistance virtuelle.
Selon Suleyman, dans seulement une demi-décennie, « chacun aura son propre chef de cabinet » ; un métier dont l'objectif est d'aider les cadres supérieurs à prendre de meilleures décisions d'affaires et pour certains c'est le bras droit du patron.