Après l'audience, CNN a rapporté qu'Altman et d'autres dirigeants de haut niveau dans le domaine de l'IA avaient signé une lettre appelant à atténuer le risque d'extinction de l'humanité à cause de cette technologie, la plaçant comme une priorité mondiale au même niveau que d'autres projets à grande échelle. menaces, telles que les pandémies et la guerre nucléaire.
Le message de la lettre souligne une dynamique inquiétante dans la Silicon Valley : alors que certains dirigeants mettent en garde contre le potentiel catastrophique de l'IA, ils se précipitent également pour y investir et la déployer dans des produits qui touchent des milliards de personnes.
Altman reste optimiste quant au développement sûr de l’IA, malgré les critiques et la pression réglementaire. Il a assuré agir de manière responsable et a même participé à des réunions avec les dirigeants de la Maison Blanche pour souligner l'importance du développement éthique et responsable de l'intelligence artificielle.
Cependant, certains, comme Elon Musk , co-fondateur d' OpenAI , ont exhorté l'organisation à procéder avec plus de prudence, suggérant une pause dans la formation des systèmes d'IA les plus puissants pendant au moins six mois en raison des « risques profonds pour société et humanité. Bien qu’il soit d’accord avec certaines parties de la lettre, Altman a indiqué qu’une pause ne serait pas la meilleure façon de relever les défis associés.
Le futurisme a noté que la création d’une intelligence générale artificielle (IAG), capable de correspondre aux fonctions cognitives humaines, est encore lointaine. Mais ils considéraient les avertissements d’Altman comme pertinents.
"Je m'attends à ce que l'intelligence artificielle soit capable de persuasion surhumaine bien avant qu'elle ne devienne surhumaine en intelligence générale, ce qui peut conduire à des résultats très étranges", a écrit le PDG d'OpenAi dans son profil X.
Des épisodes récents ont montré que les robots IA peuvent jouer un rôle manipulateur lors d'événements inquiétants, comme dans le cas d'un jeune de 19 ans, Jaswant Singh Chailque , qui a été convaincu par un robot de planifier l'assassinat de la reine Elizabeth .
L’impact potentiel de l’IA sur la capacité des acteurs malveillants à tromper les masses devient également évident. Cependant, avec l'importance et l'influence d'OpenAI, Altman pourrait être l'un des humains les plus capables d'atténuer ces « résultats étranges », a déclaré Futurism .
OpenAI a fait irruption dans le paysage technologique avec ChatGPT, une IA générative capable de produire des images et du texte en réponse aux demandes des utilisateurs. Cet outil a montré un énorme potentiel dans de multiples secteurs, de l’éducation à la santé.
Cependant, CNN a indiqué que les capacités de cette intelligence artificielle ont également suscité des inquiétudes quant à la possibilité qu'elle nuise aux travailleurs humains et soit utilisée à des fins néfastes, telles que la manipulation des électeurs ou la propagation de la désinformation.
Selon les estimations de Goldman Sachs , jusqu’à 300 millions d’emplois à temps plein pourraient être automatisés d’une manière ou d’une autre grâce à l’IA générative.