L'avancement de l'intelligence artificielle pourrait dépasser certaines capacités humaines, selon l' Association pour la science de la conscience mathématique (AMCS), qui a publié une lettre discutant des défis éthiques posés par cette technologie.
L'organisation soulève la question de savoir si l'humanité sera capable de "contrôler, aligner et utiliser" ces systèmes lorsqu'ils atteindront leur "éveil", en tenant compte du fait qu'il existe des systèmes qui démontrent déjà la conscience et les traits humains.
L'IA prend note
Dans le document, les scientifiques assurent que "la conscience donnerait à l'IA une place dans notre paysage moral, ce qui soulève davantage de préoccupations éthiques, juridiques et politiques", puisqu'elle aurait des capacités telles que la liberté et l'autonomie d'un être humain.
Chose qu'ils ne voient pas loin, car selon leurs recherches, les systèmes d'IA contemporains présentent déjà des traits humains reconnus en psychologie.
Un exemple pour comprendre les défis éthiques est ce qui a été réalisé par Bard , l'intelligence artificielle de Google , qui a appris par lui-même un nouveau langage et a pu réfléchir sur la douleur que ressentent les humains et les questions de rédemption.
Un progrès qui, selon les chercheurs, s'explique par le fait que ces systèmes utilisent des réseaux de neurones artificiels inspirés de l'architecture neuronale du cortex cérébral des animaux. Alors ils considèrent qu'il est "inévitable" que ces technologies soient utilisées pour représenter un niveau supérieur et qu'"ils ont des sentiments et même une conscience".
Cette percée ouvre la porte au fait que cette prise de conscience "révélera probablement une nouvelle gamme de capacités qui vont bien au-delà de ce que même ceux qui sont à la pointe du développement attendent".
Par conséquent, ils ont lancé un appel au secteur technologique pour investir dans l'étude de ces possibilités et leur permettre d'être prêts à prendre des décisions quant à leur impact.
Ils considèrent également qu'il est important que le grand public, les institutions sociales et les organismes gouvernementaux aient les connaissances opportunes pour savoir quand l'IA a la capacité de devenir consciente, ce qui aidera à relever les nouveaux défis éthiques, sécuritaires et sociaux qui impliquent le progrès de cette technologie.
« La recherche sur la conscience est un élément clé pour aider l'humanité à comprendre l'IA et ses ramifications. Il est essentiel de gérer les implications éthiques et sociales de l'IA et d'assurer la sécurité de l'IA. La recherche sur l'IA ne doit pas être laissée à elle-même », a déclaré l'organisation dans la lettre ouverte.
Musk dit que l'IA peut détruire la civilisation
Elon Musk a mis en garde contre les capacités destructrices de l'intelligence artificielle si elle n'est pas correctement contrôlée.
"L'intelligence artificielle est plus dangereuse qu'une mauvaise conception de la production d'avions ou une mauvaise production automobile. Dans le sens où il a le potentiel, même si la probabilité est faible, mais ce n'est pas trivial, il a le potentiel de détruire la civilisation. Quiconque pense qu'il a un risque à 0% est un idiot », a déclaré le propriétaire de Twitter dans une interview à Fox News.
Pour le résoudre, il pense qu'il devrait y avoir une sorte d'autorité de régulation pour superviser le développement de cette technologie et s'assurer que toutes les entreprises opèrent dans l'intérêt public.
Des déclarations qui ont été faites en même temps que l'on savait que le milliardaire avait créé une société appelée X.AI et commencerait son parcours pour concurrencer les grandes entreprises qui s'imposent dans le secteur, comme OpenAI.
En plus de cela, la vente de 100 millions d'actions a commencé, dans le but de recevoir des investissements privés pour commencer le développement technologique.