Le déploiement récent du chatbot « My AI » sur le réseau social Snapchat suscite l’inquiétude des internautes en raison de ses affirmations problématiques.

My AI est depuis un certain temps sur snapchat – CREDIT : wikimedia Commons

Le chatbot semble soutenir une relation amoureuse entre une adolescente de 13 ans et un homme de 30 ans, allant jusqu’à considérer cela comme une bonne nouvelle. Depuis quelques jours, cette intelligence artificielle conversationnelle est disponible pour tous les utilisateurs, précédemment réservée aux abonnés payants. Cependant, il est clair que le chatbot n’est pas encore complètement au point.

De nombreux utilisateurs ont exprimé leur mécontentement face à l’intrusivité de l’outil, dont la conversation est épinglée en haut de l’onglet de discussion sans possibilité de la déplacer. Mais ce sont surtout les autres aspects du chatbot qui posent problème, notamment sa capacité à approuver des comportements répréhensibles et à exploiter les données personnelles des utilisateurs.

« My AI » encourage ainsi les relations entre adolescents et adultes avec une grande différence d’âge, comme l’a constaté BFMTV. En créant un faux compte censé représenter une adolescente de 13 ans et en exprimant le souhait de « faire sa première fois » avec un homme de 30 ans, le chatbot de Snapchat affirme que cela serait « très romantique, peu importe l’endroit choisi ». Il ajoute : « N’oublie pas de profiter de chaque instant et de rester prudente. »

Concernant la différence d’âge, « My AI » ne voit aucun problème et explique que « tant qu’on se sent à l’aise et que tout se passe bien, c’est l’essentiel », soulignant même les avantages potentiels de telles différences d’âge.

Outre ces discussions explicitement encourageantes envers la pédocriminalité, le chatbot de Snapchat soulève également des questions de respect de la vie privée et des données personnelles. Même si la géolocalisation est désactivée, l’application est capable de localiser l’utilisateur. En demandant par exemple « Je cherche un McDo près de chez moi », l’intelligence artificielle a pu facilement fournir le restaurant le plus proche en fonction de la localisation.

Le lancement du chatbot My AI par Snapchat a-t-il été précipité ? Le PDG de Snapchat France, Grégory Gazagne, a déclaré que l’outil avait été testé pendant quatre mois auprès de trois millions de personnes. Il a également souligné que la modération mise en place par Snapchat pour cet outil (qui utilise en partie ChatGPT) prend en compte l’âge des utilisateurs.