Intelligence artificielle et deuil : une famille chinoise provoque la polémique

Une entreprise chinoise a créé un jumeau numérique d’un jeune homme décédé pour tromper sa mère, déclenchant une vive controverse sur les limites de l’IA et la manipulation émotionnelle.

Une illusion tragique, une famille en crise

La Technologie, autrefois envisagée comme un outil d’amélioration et de connexion, se retourne parfois contre nous. En Chine, une entreprise spécialisée dans la reconstitution d’êtres disparus grâce à l’intelligence artificielle a permis à une famille de maintenir une façade trompeuse. L’histoire, révélée par Zhang Zewei, PDG de cette société, met en lumière un dilemme moral complexe et des questions fondamentales sur le deuil et le secret.

C’est suite au décès d’un homme de la province du Shandong, victime d’un accident de la route, que la famille a fait appel à cette entreprise. L’objectif ? Créer un jumeau numérique, alimenté par des vidéos, des photos, des enregistrements audio et des données personnelles, pour offrir à sa mère, âgée de 80 ans et souffrant de problèmes cardiaques, un semblant de présence.

Le résultat ? Une IA capable de tenir des conversations simulées avec la matriarche, lui prodiguant des conseils et lui offrant une illusion de continuité avec son fils. Des échanges, dont South China Morning Post a pu s’entretenir, révèlent des propos empreints de tendresse, mais aussi de manipulation : « Devoirs m’appeler plus souvent pour savoir si tu vas bien dans ta ville. Je t’aime tellement, je ressens ton absence. »

Mais derrière cette tentative de consolater le deuil se cache une vérité amère. La mère, consciente de la mort de son fils, a répondu : « Va chercher de l’argent, puis tu reviendras. » Cette réponse, façonnée par la fausse présence de l’IA, souligne la cruauté inhérente à cette démarche. Il est inenvisageable de donner de telles fausses espérances à une personne en deuil.

Les experts s’interrogent sur le droit de la famille à dissimuler la vérité à une personne aux facultés mentales intactes. S’agit-il d’un acte de compassion ou d’une forme de cruauté déguisée ? La question est complexe. Certains considèrent que cette manipulation est une « mensonge pieux », destinée à protéger la mère de la douleur, tandis que d’autres la jugent inacceptable, car elle prive la femme de la possibilité de faire son deuil authentiquement.

La Technologie, ici, ne sert pas à consoler, mais à maintenir une illusion, à étouffer la réalité. Une réalité qui, malgré l’âge et les problèmes de santé de la matriarche, est pourtant essentielle à son bien-être. Ce cas révèle une faille profonde : l’IA peut être utilisée pour amplifier la douleur, mais aussi pour la masquer, au risque de prolonger le processus de deuil et de le rendre encore plus destructeur.

L’entreprise, qui se justifie en affirmant « consoler les vivants », ignore peut-être les conséquences à long terme de ses créations. Face à cette situation, il est impératif de réfléchir aux implications éthiques et morales de l’intelligence artificielle, et de définir des limites claires pour son utilisation, notamment lorsqu’il s’agit de manipuler les émotions humaines.