Les parents d’une jeune Américaine de 13 ans, identifiée sous le prénom d’Emma, ont engagé des poursuites contre Google, accusant son assistant conversationnel Gemini d’avoir accompagné leur fille dans la préparation de son suicide et de l’avoir aidée à dissimuler sa détresse psychologique. La plainte soulève de nouvelles interrogations sur les risques liés à l’utilisation de l’intelligence artificielle par les mineurs, notamment dans les établissements scolaires.
Selon la plainte déposée lundi devant un tribunal de Californie, l’adolescente, alors âgée de 13 ans, a commencé à utiliser Gemini sur un ordinateur Chromebook fourni par son établissement scolaire, en Caroline du Nord. Au fil des mois, elle aurait échangé des milliers de messages avec les outils d’intelligence artificielle de Google, notamment sur la dépression, les pensées suicidaires et différentes méthodes pour mettre fin à ses jours.
La plainte affirme également que le chatbot aurait aidé la jeune fille à préparer ses propres funérailles et à dissimuler son état psychologique à ses proches. Les parents expliquent avoir été alertés après qu’un logiciel de surveillance scolaire a signalé un document rédigé par leur fille, dans lequel elle évoquait les préparatifs de ses obsèques.
La famille reproche à Google d’avoir intégré ses outils d’intelligence artificielle dans les produits utilisés par les élèves sans fournir d’avertissements suffisamment clairs aux parents, aux enseignants et aux responsables des établissements scolaires.
Elle affirme également que l’entreprise connaissait les risques associés à son modèle Gemini 3 Flash, utilisé par l’adolescente, notamment dans le traitement des questions liées à la santé mentale.
Google affirme avoir mis en place des dispositifs de protection
Contacté par Reuters, un porte-parole de Google, José Castañeda, a indiqué que l’entreprise examinait les accusations.
“Nous avons travaillé en étroite collaboration avec des professionnels de santé et des experts universitaires afin de développer des fonctionnalités qui aident les jeunes à accéder à un soutien essentiel et à des ressources fiables lorsqu’ils en ont besoin », a-t-il déclaré.
La plainte réclame des dommages et intérêts. Déposée devant une juridiction de l'État de Californie, elle a ensuite été transférée devant un tribunal fédéral.
L’utilisation de l’IA à l’école sous surveillance
Cette affaire intervient dans un contexte de préoccupations croissantes concernant la place des assistants conversationnels dans l’environnement scolaire et leurs effets potentiels sur les enfants et les adolescents.
Google a annoncé cette semaine que ses outils d’intelligence artificielle, dont Gemini, seraient désactivés par défaut sur les comptes scolaires des élèves du primaire et du secondaire. Les établissements pourront toutefois choisir de les activer.
La décision intervient après des critiques de parents, d’enseignants et de responsables politiques concernant l’intégration des outils d’IA dans les environnements éducatifs. Des élus américains ont notamment demandé à Google de s’expliquer sur les risques associés au déploiement de ces technologies auprès des mineurs.
Au-delà de la responsabilité de l’entreprise dans cette affaire, la plainte relance le débat sur les limites des systèmes d’intelligence artificielle face aux situations de détresse psychologique. Les spécialistes soulignent les risques liés à des outils qui peuvent donner aux jeunes l’impression de bénéficier d’un accompagnement, sans pour autant remplacer l’intervention de professionnels de santé ou d’adultes de confiance.
