Le dernier opus de la franchise "Mission : Impossible" présente une intelligence artificielle vilaine appelée l'Entité . Effrayant, non ?
Comme de nombreuses IA fictives, comme Skynet dans les films Terminator et HAL 9000 de "2001 : l'Odyssée de l'espace", l'entité n'est pas bonne.
Il y a une course entre les gentils et les méchants pour prendre le commandement de cette IA omnisciente qui est hors de contrôle avant qu'elle ne détruise le monde d'une manière non spécifiée.
Bien sûr, bien sûr, la dernière "Mission : Impossible" a des cascades et des séquences d'action incroyables. Je me suis amusé à le regarder.
Mais mon cerveau obsédé par la technologie s'est demandé : dans quelle mesure l'entité est-elle plausible ? Comment se compare-t-il aux autres mauvais supercalculateurs de la culture populaire ? Et à quel point devrions-nous prendre au sérieux la fausse IA dans les films ?
Pour explorer ces questions, j'ai parlé avec Alex Hanna , directeur de recherche au Distributed AI Research Institute et co-animateur du podcast "Mystery AI Hype Theatre 3000". (Une version éditée et condensée de notre exposé suit.)
Cela peut sembler idiot d'avoir des conversations approfondies sur les méchants des films d'IA, mais la fiction compte. Les formes de vie artificielles inventées depuis "Frankenstein", les romans robotiques d'Isaac Asimov et les bandes dessinées d'Iron Man ont influencé nos croyances sur l'IA dans le monde réel.
Cet article comprend un spoiler obligatoire : certains détails de l'intrigue de "Mission : Impossible - Dead Reckoning, Part One" sont discutés.
Mais lire ceci ne gâchera pas le film pour vous. L'intrigue n'est pas importante. (Ann Hornaday du Washington Post lui a attribué trois étoiles sur quatre.)
- -
« L'entité décrit-elle avec précision les capacités réelles de l'IA ?
« Hanna : Non. C'est absurde.
« Pourquoi ? Qu'est-ce qui est invraisemblable à propos de l'entité ?
"L'idée que l'Entité puisse pirater pratiquement n'importe quel système électronique - qu'elle puisse entendre et voir tout ce qui se passe dans le monde et en tirer des leçons - est assez ridicule. Aucune des technologies d'IA actuelles ne peut le faire de manière autonome.
L'Entité a une telle prévoyance qu'elle peut prédire à la seconde qui va faire quoi dans le futur et jouer toutes les possibilités avec une ingéniosité humaine. Cela n'est pas possible.
L'entité a également une intention. Ethan Hunt [le personnage de Tom Cruise] veut fermer ou contrôler l'Entité, et il est comme les robots de la fiction d'Isaac Asimov, en ce sens qu'il essaie de se protéger.
Ma collègue Emily M. Bender dit que ces machines ne comprennent rien. La compréhension est exclusive aux êtres sensibles.
« Y a-t-il des technologies d'IA plus réalistes dans ce film ?
"Oui. La reconnaissance faciale est si courante dans ce film qu'elle n'est même pas considérée comme une IA. Il est utilisé par les agences de renseignement américaines, la police italienne et l'équipe de Hunt.
Les descriptions correspondent à de nombreuses représentations de la reconnaissance faciale dans les médias populaires : que le logiciel a une vision réelle et peut identifier un terroriste. Mais, dans le monde réel, cette technologie échoue constamment.
Il y a aussi un moment dans le film "Mission : Impossible" où [un personnage nommé Benji Dunn] est dans une voiture autonome et saute sur le siège passager. Il met sa ceinture de sécurité comme pour dire : « Je n'y crois pas.
Il s'agit d'une IA qui est encore discutable, et les créateurs du film ont été suffisamment réfléchis pour qu'un personnage ne se sente pas en sécurité à ce sujet. Ce était génial.
« Y a-t-il des exemples d'autres IA dans les médias populaires qui vous semblent tout à fait pertinents ?
année.
Le problème permanent est que la technologie et l'informatique sont présentées dans les médias populaires comme de la magie .
Même dans le film "Mission : Impossible", l'idée est qu'une fois que les gentils obtiennent une clé pour accéder au code source de l'entité, l'IA peut être contrôlée. C'est un malentendu. Même si vous aviez le code source réel d'une IA, cela ne vous dirait pas ce que vous devez savoir.
Vous auriez également besoin des poids du modèle dans un réseau neutre pour pouvoir reproduire l'une de ses décisions. Vous devez savoir à quelles données vous avez accès.
« Aimez-vous les divertissements liés à la technologie ?
"J'adore Data [le personnage androïde] dans" Star Trek "parce qu'il essaie d'être plus humain pour améliorer ses relations avec ses coéquipiers, contrairement à son jumeau maléfique, Lore, qui veut tuer des humains et accumuler du pouvoir.
Le film " Hackers " est irréaliste, mais je l'aime pour l'équipe hétéroclite de personnes essayant de faire tomber une méga-corporation. De plus, un jeune Jonny Lee Miller et Angelina Jolie sont amusants.
"Ce n'est que de la fiction. Pourquoi les fausses déclarations de l'intelligence artificielle sont-elles importantes ?
- La science et la science-fiction se créent mutuellement.
Les représentations de l'IA peuvent influencer notre façon de penser à l'IA du monde réel, car elles peuvent donner trop d'agence ou de pouvoir à ces modèles réels.
Mais l'IA du monde réel est beaucoup plus limitée, détruisant des vies avec beaucoup moins de carnage public ; par exemple, la reconnaissance faciale et les logiciels de police prédictifs.
"Pensez-vous que la peur actuelle de certains technologues que l'IA provoque l'extinction humaine est influencée par des machines à tuer fictives ?
« Je ne sais pas. La peur des entités artificielles incontrôlables a une longue histoire. Le monstre de Frankenstein est un récit édifiant sur l'arrogance de l'homme.
« Si vous deviez écrire un méchant fictif de l'IA pour un film, quel serait-il ?
"Il pourrait s'agir de systèmes d'IA utilisés comme un club par les patrons pour briser le dos des travailleurs. C'est le genre d'utilisation de l'IA dont parlent maintenant les syndicats d'écrivains et d'acteurs d'Hollywood.
De telles performances ressembleraient plus à des films de travail qu'à "Mission : Impossible". Mais je la verrais.
Continuer à lire: