Au début de la semaine, un groupe de parents a organisé un sit-in devant la porte principale de l' école Saint-Georges de Chorrillos et a signalé qu'un groupe d'élèves de cette même institution utilisait des images d' élèves féminines retouchées avec l'intelligence artificielle ( AI) sur des corps nus pour ensuite les commercialiser sans leur consentement. L'affaire, sur laquelle le parquet enquête, n'est pas seulement considérée comme du cyberharcèlement ou du cyberharcèlement, mais elle évalue même s'il y a eu une violation du droit pénal en raison de la pédopornographie.
Même si une enquête nationale menée par SOS Villages d'Enfants a montré que 91 % des parents estiment que leurs enfants n'ont jamais été victimes de cyberharcèlement, ce chiffre contraste avec 61 % des enfants qui affirment avoir vécu cette situation.
En outre, sur 990 filles, garçons et adolescents âgés de 10 à 17 ans interrogés, 63 % ont déclaré se sentir en sécurité lorsqu'ils naviguaient sur Internet, tandis que 37 % ont déclaré le contraire. En outre, 61% ont déclaré avoir subi du cyberharcèlement, 23% ont réalisé des défis viraux dangereux, tandis que dans une moindre mesure, il y a eu des cas de toilettage avec 12% et de sextorsion avec 4%, selon les chiffres publiés dans le journal El Comercio.
IA et retouche d'images
« Maintenant, cela peut être fait plus rapidement et avec un plus grand nombre d'images. Vous pouvez demander à l'IA de changer une photo de vous avec ce même visage ou de manipuler la photo comme vous le souhaitez. Vous n'avez pas besoin d'être un expert en graphisme, maintenant n'importe qui peut le faire en manipulant les applications », a-t-il déclaré à Infobae Pérou.
Par ailleurs, il a souligné que ces montages sont possibles non seulement avec des photos, mais aussi avec des vidéos. "Il existe des programmes payants qui sont de très bonne qualité, tandis qu'il y en a d'autres qui sont des logiciels gratuits, mais de moindre qualité."
Les photos et vidéos créées par l'intelligence artificielle n'ont pas toujours de code interne permettant d'identifier que ces images ont été réalisées avec l'IA , de sorte que seul l'œil humain peut discerner s'il s'agit d'une image qui reflète quelque chose de faux et de VRAI.
Les restrictions ne servent à rien
Concernant les interdictions de ces outils, le spécialiste a indiqué que, bien qu'il y ait eu des tentatives pour restreindre l'utilisation, par exemple, de ChatGPT dans les écoles et autres centres d'études pour empêcher les étudiants de les utiliser afin que la technologie puisse faire leurs devoirs, pour eux , cela a été de peu d’utilité.
D'autre part, il a souligné qu'ils envisagent également de restreindre, par le biais de lois, l'utilisation de certains programmes d'intelligence artificielle, mais que pendant ce temps, de nouveaux outils sont générés, ce qui rend presque impossible d'empêcher leur utilisation. « Que pourraient-ils restreindre si tout est si dynamique ? Et cela ne fait que commencer, nous sommes au début de l’intelligence artificielle générative et de nouvelles choses arrivent », a-t-il déclaré.
En outre, il a expliqué que désormais l’intelligence artificielle elle-même est même utilisée pour générer des modèles d’IA plus puissants et plus fiables, ce qui rend la création de ce type de technologie encore plus dynamique. « Les nouveaux modèles open source qui sortent n'ont pas la capacité d'embaucher des milliers de personnes pour affiner le modèle et utilisent ChatGPT 4 comme si c'était la personne qui devait corriger sa réponse. Autrement dit, un modèle (plus sophistiqué) indique à un autre comment réagir », a-t-il indiqué, estimant que l'intelligence artificielle n'est pas mauvaise en soi , mais qu'elle dépend plutôt de l'usage qui en est fait.
La cyberintimidation et ses dangers sur le plan psychologique
« Maman, est-ce que mes photos seront vues à l'avenir ? Mes enfants verront-ils ces photos ? », sont quelques-unes des questions que les élèves posent à leurs mères.
Dans le même sens, le psychiatre de l'hôpital Almenara de EsSalud, le Dr David Arce , a expliqué que le harcèlement est toute forme de violence psychologique, verbale ou physique , qui se produit entre étudiants de manière répétée pendant une période déterminée, tant en classe qu'en classe. en dehors de lui et à travers n’importe quel réseau social, cela prend le nom de cyberharcèlement ou de cyberintimidation.
Le psychiatre a expliqué que, dans la première phase de la pandémie, lorsque les écoliers n'allaient pas à l'école, le harcèlement continuait à se manifester virtuellement à travers des actions telles que le fait d'ignorer les commentaires et de les laisser « à la vue ». Cela s'est manifesté par l'exclusion ou le blocage de certains groupes WhatsApp, la création de groupes alternatifs dédiés exclusivement à rire ou à se moquer, et la création de mèmes ou d'images ridiculisant ou affectant les camarades de classe, comme dans le cas de l'école Saint-Georges.
Par ailleurs, le Dr Beatrice Macciota Felices, psychiatre à l'Hôpital National Edgardo Rebagliati Martins, a indiqué que la tranche d'âge la plus à risque se situe entre 9 et 15 ans , c'est-à-dire dans les dernières années du primaire et du secondaire.
"La raison pour laquelle ils deviennent plus vulnérables au cours de cette période est que c'est l'âge auquel ils subissent des changements, tant physiologiques que psychologiques, et sont plus susceptibles d'être déstabilisés émotionnellement par toute attitude de harcèlement ou de rejet", a déclaré le spécialiste. , selon l'agence Andina.
Jusqu'à présent cette année, le service de santé mentale de l'hôpital national Edgardo Rebagliati a enregistré plus de 600 nouveaux cas de mineurs d'âge scolaire pour des symptômes d'anxiété et de dépression, dont entre 4 et 5 % seraient associés à du harcèlement .
Pahola Albújar Chávez, spécialiste en neuropsychologie infantile à l'hôpital Alberto Sabogal, recommande aux parents que « s'ils veulent permettre à leurs enfants d'accéder aux réseaux sociaux, ils doivent les surveiller car ces espaces virtuels sont également accessibles à des personnes qui se camouflent et Ils se font passer pour des enfants, les font tomber amoureux et sont souvent victimes de harcèlement ou d'abus sexuels.
Les parents assurés qui ont besoin de téléassistance et de téléguidage pour leurs enfants peuvent appeler le 411 8000 option 10.