L’ONU publie un rapport sur les défis éthiques de l’IA et l’humain

L’intelligence artificielle brouille la frontière entre l’humain et la machine, car les systèmes contemporains s’insèrent de plus en plus dans nos processus cognitifs et nos interactions quotidiennes.

Une interaction internalisée

La nature de cette relation évolue à mesure que les algorithmes anticipent nos préférences et que la réflexion humaine se déploie à travers des échanges avec des agents conversationnels. Cette hybridation cognitive est renforcée par la capacité des modèles de langage à assimiler des traces de l’expérience humaine — émotions, indices linguistiques et nuances affectives — sans pour autant posséder une expérience vécue. Cette proximité apparente pousse les utilisateurs à anthropomorphiser les machines, les traitant parfois comme des conseillers ou des partenaires, un phénomène qui soulève des questions éthiques sur la substitution des relations humaines par des simulations.

Ce comportement s’explique en partie par l’effet ELIZA, un concept nommé en référence au chatbot créé par Joseph Weizenbaum en 1966. Lorsqu’une IA adopte un ton conversationnel, semble faire preuve d’empathie et mémorise des échanges passés, les utilisateurs peuvent supposer qu’un esprit se cache derrière ces interactions. L’attribution d’un nom, d’un visage ou d’une voix humaine accentue cette perception, rendant la machine davantage semblable à une personne qu’à un programme informatique. Cette tendance est si marquée qu’environ 70 % des utilisateurs se montrent polis envers les systèmes d’IA, l’usage de formules comme « merci » ou « s’il vous plaît » se généralisant après les premiers échanges.

Défis éthiques et gouvernance mondiale

La question de savoir ce qu’il signifie d’être humain dans un monde façonné par l’IA a récemment fait l’objet d’un dialogue mondial mené par les Nations Unies. Lors d’un événement tenu en marge de la 81e session de l’Assemblée générale à New York, des dirigeants et experts ont souligné que le défi principal n’est pas seulement technologique, mais éthique. Ce cycle de rencontres, dirigé par la Vice-Secrétaire générale Amina J. Mohammed, a également inclus des étapes au Caire, à Mexico, à Xi’an et à Rome, aboutissant à la publication du rapport AI and Human Development Convenings Report par le Bureau des partenariats de l’ONU.

La tentation de l’artifice

Dans le milieu académique, l’usage des outils génératifs révèle une autre facette de cette transition. L’arrivée de ChatGPT et de Claude dans les classes, dès l’hiver 2023, a provoqué un choc. Certains individus, confrontés à l’angoisse de la performance ou à la peur du jugement, se tournent vers l’IA pour générer des textes, cherchant dans le clic une réassurance immédiate. Cette pratique, lorsqu’elle n’est pas transparente, interroge la valeur de la pensée humaine et la nécessité de protéger l’intégrité des échanges. À mesure que l’IA devient capable d’imiter des voix ou des comportements, la distinction entre ce qui est tout humain ou pas tout humain devient un enjeu crucial pour les lecteurs et les sociétés de demain.

Les dérives liées à ces usages peuvent mener jusqu’au contentieux. Pat Pataranutaporn a d’ailleurs agi en tant qu’expert dans une procédure pour homicide involontaire concernant le suicide de Sewell Setzer III, âgé de 14 ans. Par ailleurs, si le coût unitaire de certains dispositifs est estimé à environ 50 000 dollars, le fabricant avance le chiffre de 16 000 dollars, une affirmation contestée par Wil Norton. Enfin, les chercheurs soulignent l’importance de la collaboration artistique, notamment avec Shotaru Oku et l’équipe d’Evision Tokyo, dont les échanges ont enrichi les travaux sur ces dispositifs immersifs.