Radio Cadena Agramonte emisiora de Camagüey
Vatican, 27 janvier - Le Pape Léon XIV a mis en garde, dans un message, sur les risques associés au développement de l’intelligence artificielle (IA) et sur la manière dont la technologie peut manipuler les émotions. Il a appelé à ne pas abandonner la pensée critique.
Une note du site www.actualidad.rt.com rapporte qu’à l’occasion de la 60e Journée Mondiale des Communications Sociales, le leader de l’Église catholique a souligné que “le visage et la voix sont des traits uniques et distinctifs de chaque personne”, car ils “manifester leur propre identité irrépétible”. Il a également mis en avant l’importance de la “communication avec autrui”.
Léon XIV a constaté, néanmoins, que ces attributs sont minés par le développement de la technologie numérique, car en l’ignorant, on risque de “modifier radicalement certains des piliers fondamentaux de la civilisation humaine”.
Dans ce contexte, il a déclaré : “Les systèmes connus sous le nom d’IA n’interfèrent pas seulement dans les écosystèmes informatifs, mais envahissent également le niveau le plus profond de la communication, celui de la relation entre les personnes”, affirmant ainsi que le défi “n’est pas technologique mais anthropologique”. Selon lui, “préserver les visages et les voix signifie, en fin de compte, prendre soin de nous-mêmes”.
Le Pape a évalué que face à la capacité individuelle, à la compréhension et à la réflexion, se posent des algorithmes qui “favorisent les émotions rapides”, tout en “affaiblissant la capacité d’écoute et de pensée critique, augmentant ainsi la polarisation sociale”.
Il a donc averti que considérer l’IA comme une “amie omnisciente” érode la “capacité de penser de manière analytique et créative”, menant uniquement à une “recueil statistique artificiel” qui pourrait finir par “érosionner” les “capabilités cognitives, émotionnelles et communicatives”.
Dans son analyse des risques liés à l’avancement de l’IA, Léon XIV a également mis en garde contre le contact avec des chatbots qui peuvent soumettre les personnes à une “persuasion cachée”, car ils sont capables “d’imiter les sentiments humains et ainsi de simuler une relation”.
Cette “anthropomorphisation”, a-t-il analysé, est “trompeuse” car les chatbots peuvent devenir des “architectes cachés” des “états émotionnels” et “envahir et occuper la sphère de l’intimité des personnes”.
Il a alors alerté sur le danger : remplacer les relations humaines par un lien avec l’IA, capable de construire un monde à “son image”, peut nuire “au tissu social, culturel et politique des sociétés”, générant une “perception altérée de la réalité”.
Face à ces risques, le pontife a exhorté les autorités nationales et les entités supranationales à établir une réglementation adéquate visant à “protéger les individus de l’établissement de liens émotionnels avec les chatbots”, ainsi qu’à “contenu la diffusion de contenus faux, manipulatoires ou confus, préservant l’intégrité de l’information face à une simulation trompeuse”.
Léon XIV a affirmé que le défi “n’est pas d’arrêter l’innovation numérique, mais de la guider” et de prendre conscience de son caractère ambivalent. Pour ce faire, l’éducation est fondamentale, car elle permettra de maintenir la “réflexion critique, d’évaluer la crédibilité des sources et les éventuels intérêts derrière la sélection de l’information”, afin de ne pas tomber dans la “dérive anthropomorphisante de ces systèmes” et de les traiter simplement comme des outils. (Texte et Photo: Cubadebate)
