Le nouveau cadre juridique européen sur l’intelligence artificielle (IA), le EU AI Act, est entré en vigueur le 1er août dernier dans le but d’éviter les violations des droits qui peuvent survenir avec l’application de cette technologie. La réglementation classe l’IA selon le niveau de risque qu’elle peut présenter pour les individus et la société, et interdit les technologies qui représentent un « risque inacceptable », telles que celles qui manipulent et exploitent la vulnérabilité des personnes.
Une technologie qui pourrait entrer dans cette catégorie sont les soi-disant deadbots, que certaines entreprises développent déjà pour les lancer sur le marché dans un proche avenir. Il s’agit de chatbots conçus à partir de l’empreinte numérique d’une personne décédée (messages WhatsApp, réseaux sociaux, e-mails, etc.) et qui sont capables de maintenir des conversations avec les proches et les amis du défunt, en émulant sa personnalité. Bien que cela puisse ressembler à de la science-fiction, ce n’est pas le cas, et des services de ce type sont de plus en plus proches de ce que nous pouvons imaginer.
La docteure en Psychologie Belén Jiménez, professeure des Études de Psychologie et des Sciences de l’Éducation et chercheuse du groupe CareNet, de l’IN3 de l’Universitat Oberta de Catalunya (UOC), est spécialiste de la médiation technologique du deuil, et l’un de ses axes de recherche sont les deadbots, domaine dans lequel elle a publié plusieurs études.
Un débat complexe sans réponses claires
« Bien que les deadbots ne soient pas encore commercialisés, il est nécessaire de réfléchir sur les aspects bioéthiques de cette technologie. Il est possible que leur usage se normalise bientôt, comme cela a été le cas avec d’autres applications qui, à leurs débuts, ont pu surprendre socialement, mais dont l’utilisation est aujourd’hui répandue, comme, par exemple, les applications de rencontres. De plus en plus d’entreprises émergent dans le domaine de la soi-disant digital afterlife industry, et elles améliorent constamment la technologie », explique Jiménez. La docteure en Psychologie pense qu’il est essentiel « d’étudier comment les deadbots médiatisent le deuil et peuvent transformer celui-ci. C’est un domaine sur lequel il n’existe presque pas d’études scientifiques et il n’y a pas de réponses claires, car leur utilisation et leurs effets dépendent de plusieurs facteurs, y compris de la manière dont ces technologies sont conçues ».
Entre autres aspects, la nouvelle législation européenne stipule que les chatbots doivent informer l’utilisateur qu’il communique avec un programme informatique et non avec une personne. Bien qu’elle classe cette technologie comme « risque limité », dans des contextes sensibles comme celui de la santé — ce qui serait le cas des deadbots —, les implications de ces programmes doivent être analysées minutieusement.
Dans les recherches menées par Belén Jiménez, également membre du groupe de recherche CERPOP de l’Université de Toulouse, il a été observé que les endeuillés expriment une attitude ambivalente envers cette nouvelle technologie : le désir de maintenir des liens affectifs avec leurs proches se mêle à l’inquiétude suscitée par l’interaction avec un programme basé sur l’empreinte numérique du défunt.
Les deadbots s’appuient sur les soi-disant « liens continus » entre la personne endeuillée et le défunt, un terme fréquent dans le champ de la psychologie du deuil. La chercheuse de l’UOC assure que « ces technologies profitent du besoin des êtres humains d’établir des liens émotionnels ». En réalité, cela pourrait être équivalent à une version technologique et avancée de converser de manière imaginaire avec notre être cher devant sa tombe ou de maintenir sa mémoire à travers des photographies et des vidéos. « Ce besoin de maintenir les liens n’a pas forcément à être pathologique — explique Jiménez —, et c’est quelque chose de normal pour de nombreuses personnes. Cependant, dans l’utilisation des deadbots, certaines précautions doivent être prises, et il est essentiel de réguler leur utilisation, car les intérêts commerciaux des entreprises qui les commercialisent peuvent ne pas être alignés avec le potentiel usage thérapeutique que peut avoir cette technologie ».
En l’absence d’études, Jiménez indique que les effets psychologiques de ces technologies seront déterminés par l’utilisateur lui-même, par la relation qu’il entretenait avec le défunt et par la relation qu’il établit avec le chatbot. « L’un des dangers est que l’on pourrait générer des effets négatifs, comme la création d’une relation de dépendance et, même, la souffrance provoquée par une seconde perte si le deadbot disparaît — par exemple, en raison de problèmes techniques — ».
Réguler la digital afterlife industry
Notre aspiration à l’immortalité et le progrès technologique donnent des ailes à la digital afterlife industry, un secteur qui numérise la mémoire des personnes décédées dans le but d’étendre leur mémoire et même leur activité numérique. Tout cela comporte de nombreuses implications éthiques et sociales. Les entreprises poursuivent des fins commerciales et économiques qui peuvent être contradictoires avec les objectifs thérapeutiques potentiels de ces outils. Des stratégies telles que l’envoi de notifications par les deadbots et d’autres actions pour maintenir l’endeuillé « accroché » peuvent être éthiquement discutables, selon Jiménez.
« Nous sommes face à un nouveau développement technologique basé sur l’intelligence artificielle qui comporte des risques élevés et qui doit être régulé afin de prévoir ses possibles effets négatifs, tout en tenant compte de sa dimension éthique », affirme la chercheuse. « La nouvelle réglementation européenne est axée sur la promotion de la transparence de ces technologies, ce qui est fondamental dans des aspects aussi sensibles que le deuil. De plus, les entreprises qui développent ces services devront se conformer à des standards rigoureux et investir dans des programmes d’audit, de transparence et de documentation », explique-t-elle. L’AI Act prévoit des amendes allant jusqu’à 30 millions d’euros ou de 6 % du chiffre d’affaires d’une corporation si elle ne respecte pas cette réglementation.
En l’absence d’une réglementation spécifique pour les deadbots, Jiménez propose que la régulation « veille particulièrement au respect et à la dignité de la personne décédée, ainsi qu’à promouvoir le bien-être psychologique de l’utilisateur, surtout s’il est en deuil ».
Source : UOC – Belén Jiménez