Toutes les mises en garde, qui se sont multipliées de manière exponentielle ces derniers mois, sur l'utilisation de l'Intelligence Artificielle (IA) omettent cependant la capacité - que ces IA - possèdent effectivement de "former" et, par conséquent, de "gérer" la façon de penser des êtres humains.
Cela peut sembler exagéré. Ce n'est peut-être pas "l'intention" de ses créateurs, mais néanmoins, il est concret que la façon dont nous interagissons en tant que personnes avec des robots IA conduit, inéluctablement, à réfléchir à cette capacité de manipulation et de formation de la pensée humaine - en établissant les contenus - , qui ont et auront de plus en plus, l'IA
Pour paraphraser le célèbre scientifique Stephen Hawking, si quelque chose est disponible, en termes d'intérêt scientifique et d'avancement, il n'y a pas de lois qui empêchent l'avancement de la recherche.
Ni lois écrites, ni lois éthiques. Hawking souligne à juste titre que "quelqu'un" sera toujours inévitablement tenté d'avancer dans le développement de toute recherche scientifique éventuelle. Et il en résultera aussi inévitablement, que quelqu'un, tombe dans la tentation d'aller de l'avant, jusqu'à atteindre un accomplissement. Même si le développement scientifique en question est interdit, ou classé comme contraire à l'éthique.
C'est ainsi que l'humanité se déplace en termes d'avancées scientifiques et continuera de le faire.
Par conséquent, suivant la pensée du scientifique anglais, les évolutions possibles - en l'occurrence, la possibilité de modifier les formes et les critères de la pensée humaine, en fonction du contenu qui est fourni par les robots IA - auront tendance à augmenter même si ses conséquences sont néfastes, voire désastreuses.
Il va sans dire que, si les critères et les concepts sont modifiés, ce qui sera modifié, - selon la discrétion de ceux qui « forment » (donnent du contenu) aux IA - ce seront les comportements humains, et ils le feront de plus en plus.
Ce qui précède est beaucoup plus inquiétant pour la liberté des personnes que la possibilité que, comme cela a été dit ces derniers temps, l'IA ait dépassé l'intelligence humaine dans tous les aspects. Ce dernier sujet est en discussion quant à sa possibilité réelle de se matérialiser mais, évidemment, la capacité à former des pensées et des critères - et par conséquent des comportements - semble être un fait déjà acquis. Sans doute quelque chose de dérangeant.
Lorsque l'homme a commencé à utiliser des calculatrices (d'abord simplement mécaniques puis numériques), il a abandonné le calcul mental et la procédure mathématique de base consistant à additionner, multiplier, soustraire et diviser dans sa tête.
En fait, il est très probable que la plupart des gens aujourd'hui doivent «s'asseoir» et réfléchir longtemps s'ils sont confrontés à une simple division avec des décimales. Nous sommes si peu habitués à effectuer ces procédures.
Il s'avère d'autant plus facile que de nombreux jeunes ayant une scolarité assez récente ne se souviennent même pas de la manière dont cette procédure est effectuée. Tout simplement parce qu'on leur a appris très superficiellement comment le faire. Et, on leur a enseigné superficiellement parce que les enseignants sont pleinement convaincus que, dans leur vie future, ces enfants et jeunes n'effectueront jamais ces opérations, manuellement ou mentalement. En fait, ils ont raison.
Tous les êtres humains utilisent aujourd'hui, pour tout calcul, même les plus élémentaires, une « calculatrice numérique » ou ses évolutions ultérieures qui simplifient à l'extrême les calculs les plus complexes. Les ordinateurs, Excel et autres applications plus sophistiquées résolvent instantanément n'importe quelle équation ou calcul complexe, sans autre intervention humaine que la saisie des nombres qui composent le problème à résoudre. C'est "dire" - même simplement verbalement, sans même écrire - à un ordinateur programmé quel calcul vous voulez résoudre. En quelques millisecondes, vous obtenez une réponse immédiate et fondamentalement précise. Incontestablement exact.
L'IA a tendance à fonctionner de la même manière. À toute question que nous vous posons, vous aurez une réponse instantanée. Qu'on l'interroge sur le climat ou sur la pensée d'un auteur, l'interprétation d'un fait historique ou l'avenir du monde face au changement climatique.
Cependant, la réponse sera forcément biaisée , elle rejoindra la pensée de ceux qui ont programmé cette IA.
Sans référence à aucune source, le. AI nous fournit une réponse immédiate. Même dans le cas d'applications d'IA qui « citent des sources » (par exemple, Perplexity AI), les sources sont sélectionnées par le même algorithme pour correspondre à la réponse fournie.
Sans parler des cas d'erreurs grossières dans lesquelles tombent les Chats GPT lorsque, par exemple, ils marquent l'inexistence de livres célèbres effectivement publiés par des auteurs connus, ou qu'ils nous listent des œuvres d'un auteur qu'il n'a pas écrit, ou ils "résument" sa pensée d'une manière maintes fois opposée au vrai dire et penser de l'auteur recherché.
De simples expériences "maison" nous montrent que les robots IA fonctionnent de cette manière. Il est facile, pour ceux qui connaissent le sujet interrogé par le bot, de se rendre compte qu'il ment, déforme et même interprète un auteur d'une manière parfaitement opposée à ses véritables expressions.
Il est même possible que l'IA bot soit invité à résumer un article, à copier-coller le texte intégral de l'article dans la question et, si cet article ne respecte pas les directives (toujours "politiquement correctes") avec lesquelles le bot a été programmé, ce dernier finit par fournir un "résumé" qui dit exactement le contraire de ce qui est indiqué dans l'article.
Le sujet est très vaste et devrait être longuement débattu. Il existe de nombreuses excuses pour ces réponses incorrectes ou apparemment malveillantes.
Cependant, si la logique humaine de la loi du moindre effort est suivie (une loi économique, l'une des rares qui soient irréfutables), le jour pourrait venir où elle ne sera plus enseignée , comme cela s'est produit avec le calcul mathématique - du moins jusqu'à la fin. majorité de la population - rien de plus que superficiellement, l'histoire, la géographie, la logique, la grammaire et, soit dit en passant, pas l'éthique non plus.
Ce jour-là, les machines (sans qu'il soit nécessaire de vaincre efficacement la pensée humaine), utilisant les faiblesses humaines, nous donneront toutes les réponses à toutes les questions, tout comme Excel nous fournit une réponse numérique que nous ne remettons pas en question, qui nous réduisons exactement.
Ce jour-là , la pensée critique des gens aura été supprimée et, comme nous l'avons dit, leur comportement sera régulé en dictant aux êtres humains, la façon dont ils se sentent, agissent et pensent. Ce jour-là aura supprimé la liberté des gens.
Mais les IA seront-elles celles qui réglementeront à volonté les libertés individuelles ou le petit groupe d'individus qui les contrôlera-t-il ?
La logique, que nous gérons toujours, indique que ce sera ce petit groupe de personnes qui contrôlent l'IA (ils la « forment » et la programment), qui le fera. Le reste des êtres humains courra le risque certain de perdre sa liberté et la manipulation et le contrôle des comportements auront atteint leur point culminant dans l'histoire de l'humanité, un point extrême.
Continuer à lire: