Sam Altman, PDG d' OpenAI et l'un des créateurs de ChatGPT , a assuré que ces derniers temps, une inquiétude est apparue quant à l'effet négatif que peut avoir cette plateforme, qui a connu une croissance exponentielle et a inspiré d'autres systèmes d'intelligence artificielle. .
"Ce qui me fait le plus perdre le sommeil, c'est l'idée hypothétique que nous avons déjà fait quelque chose de vraiment mal en lançant ChatGPT", a déclaré le responsable dans une interview avec Time of India.
Bien qu'il ne considère pas l'idée de la plateforme et le fait de l'avoir mise sur le marché comme une erreur, il réfléchit à son impact sur l'industrie et à ce qu'ils peuvent en faire.
"Il y a l'hypothèse qu'en lançant ChatGPT dans le monde, nous avons abattu l'industrie d'un railgun et maintenant nous n'aurons plus beaucoup d'impact", a-t-il déclaré.
L'un des aspects les plus mentionnés au milieu de la croissance de l'intelligence artificielle est la nécessité de la réglementer, car la portée de cette technologie a permis aux cybercriminels de disposer de meilleurs outils d'escroquerie. Mais l'obligation se pose aussi pour les entreprises d'en faire un usage responsable et de fixer des limites à leurs développements.
Pour obtenir une réglementation, Altman dit qu'il est nécessaire d'avoir "un système en place afin que nous puissions auditer les personnes qui le font" et également d'avoir suffisamment de "tests de sécurité" avant de déployer une plateforme et d'ouvrir l'accès aux personnes.
OpenAI s'inquiète de l'intelligence artificielle
Ce n'est pas la première fois qu'Altman s'exprime sur les effets que cette technologie pourrait avoir à l'avenir. Il y a quelques jours, l'exécutif faisait partie des dirigeants qui ont signé une déclaration publiée par le Center for Artificial Intelligence Security , qui assure que l'IA pourrait générer d'éventuels événements "d'extinction" pour la société.
Dans le texte, il est suggéré que, pour démarrer le règlement, la conversation devrait se concentrer sur la réduction des dangers possibles que comporte la création de versions plus avancées.
"Atténuer le risque d'extinction de l'IA devrait être une priorité mondiale avec d'autres risques pour la société tels que les pandémies et la guerre nucléaire", indique le communiqué.
Le PDG de la société a répété à plusieurs reprises qu'une réglementation était nécessaire pour cette technologie afin de protéger les utilisateurs. De plus, il a précisé que l'intelligence artificielle avec la capacité de dominer le monde n'apparaît que dans les films, mais il craint qu'elle puisse être utilisée pour générer du contenu visant à désinformer les gens.
"L'une de mes plus grandes craintes est que nous, cette industrie, cette technologie, causons un préjudice important à la société. Si cette technologie va dans le mauvais sens, elle peut aller assez loin. Et nous voulons travailler avec le gouvernement pour empêcher que cela ne se produise », a assuré Altman il y a quelques jours devant le Sénat américain.
L'homme d'affaires a rappelé que, bien qu'OpenAI soit une entreprise privée, elle est contrôlée par une organisation à but non lucratif, ce qui l'oblige à "œuvrer pour une large diffusion des bénéfices de l'IA et à maximiser la sécurité des systèmes basés sur l'IA". Mais en même temps, ils savent que "l'intelligence artificielle a le potentiel d'améliorer presque tous les aspects de nos vies".