Article. Comment savoir si je parle à un chatbot ?

Dans The Conversation, Zeling Zhong s’intéresse à une question devenue centrale à l’ère de l’intelligence artificielle : comment savoir si l’on échange avec un être humain ou avec un chatbot. Avec les progrès rapides des modèles conversationnels, la frontière entre les deux devient de plus en plus difficile à distinguer. Par exemple, certains systèmes récents parviennent à convaincre une majorité d’évaluateurs qu’ils sont humains lors de tests d’interaction. Cette évolution crée une situation que certains chercheurs qualifient de "confusion ontologique", c’est-à-dire une difficulté croissante à distinguer le naturel de l’artificiel.
La chercheuse souligne que ce flou n’est pas seulement une curiosité technologique : il soulève des enjeux importants de confiance, de cybersécurité et de bien-être psychologique. Lorsque les utilisateurs ne savent pas s’ils parlent à une personne ou à une machine, ils peuvent accorder une confiance excessive aux réponses fournies. Cela peut conduire à partager des informations personnelles ou sensibles avec un système automatisé sans en avoir pleinement conscience.
Pour tenter d’identifier un chatbot, certains indices peuvent être observés dans la conversation. Les chatbots ont souvent tendance à fournir des réponses très rapides, structurées et cohérentes, parfois trop parfaites ou systématiques. Ils peuvent aussi éviter certaines questions personnelles ou rester vagues lorsqu’on leur demande des expériences vécues, car ils ne disposent pas de vécu réel. Cependant, ces indices deviennent de moins en moins fiables à mesure que les systèmes progressent et imitent mieux les comportements humains.
Zeling Zhong rappelle également que la difficulté d’identification est liée à la manière dont les humains interagissent avec les machines. Les utilisateurs ont tendance à attribuer des intentions, des émotions ou une personnalité aux programmes informatiques, ce qui facilite l’illusion d’un interlocuteur humain. Ce phénomène d’anthropomorphisme renforce l’impression de dialoguer avec une véritable personne.