Meta va alerter les parents quand Meta AI détecte que leur adolescent parle d’automutilation ou de suicide. C’est la décision que la plateforme vient de rendre publique, et elle soulève une question centrale : est-ce que ce type de surveillance est une protection ou une intrusion ?

La réponse n’est pas simple, et Meta le sait.

Ce que la mesure implique concrètement

Quand un utilisateur de moins de 18 ans (sur les marchés où Meta connaît l’âge, ce qui n’est pas universel) utilise Meta AI sur Instagram, WhatsApp ou Facebook, et que l’IA détecte certains signaux associés à l’automutilation ou aux pensées suicidaires, les parents ou tuteurs enregistrés dans les paramètres Family Center seront notifiés.

La mesure ne prétend pas bloquer la conversation ni signaler les autorités. Elle cible les adultes de référence dans l’environnement familial de l’adolescent.

C’est un choix délibéré. Meta évite ainsi les critiques d’une surveillance en temps réel par la plateforme elle-même, et tente de repositionner la responsabilité de l’action vers les parents — plus proches de l’adolescent, mieux placés pour intervenir, moins susceptibles de déclencher des réactions de panique inutiles.

La question de la confiance

Le problème avec cette approche, c’est que pour beaucoup d’adolescents, la valeur d’un chatbot IA réside précisément dans l’absence de surveillance parentale. Un ado qui parle à Meta AI parce qu’il ne veut pas aborder ces sujets avec ses parents va maintenant savoir que ses parents pourraient être alertés.

Le risque : ne pas parler du tout. C’est contre-productif si l’objectif est de connecter les jeunes en détresse à du soutien.

L’autre risque : les faux positifs. Un adolescent qui parle d’automutilation dans un contexte scolaire (devoir, discussion d’un roman), ou qui cite une chanson, ou qui discute d’un sujet de santé mentale de façon informative mais non personnelle — est-ce que l’IA distingue ? L’expérience avec d’autres systèmes de détection algorithmique dit : pas toujours.

Le contexte réglementaire qui explique la décision

Meta ne prend pas cette décision dans un vide. La plateforme est sous pression réglementaire intense sur la protection des mineurs : des procès (dont plusieurs en cours impliquant des dommages allégués liés à l’usage des réseaux sociaux par des adolescents), des projets de loi KOSA aux États-Unis, et un mouvement plus large de responsabilisation des plateformes pour les effets de leurs produits sur la santé mentale des jeunes.

Cette mesure répond à cette pression. Elle est aussi, il faut être honnête, un outil de communication : Meta peut maintenant dire qu’elle agit proactivement pour protéger les mineurs, avant d’y être contrainte par la loi.

Ce que ça ne résout pas

Cette mesure ne résout pas la question fondamentale : est-ce qu’un chatbot IA de plateforme commerciale est l’environnement approprié pour qu’un adolescent en détresse exprime ses pensées les plus vulnérables ?

La réponse dépend de ce qu’on lui compare. Si l’alternative est l’isolement total, un chatbot disponible 24h/24 qui écoute sans juger a de la valeur. Si l’alternative est un service de santé mentale adapté aux adolescents, le chatbot est une sous-solution.

Meta construit un produit commercial. Les alertes parentales sont une feature, pas un service de santé mentale. Cette distinction mérite d’être gardée en tête par les parents, les adolescents, et les décideurs politiques qui évaluent ces annonces.