New York interdit 12 comportements de chatbots compagnons auprès des mineurs

À retenir

• Le 28 octobre 2026, la gouverneure Kathy Hochul a signé S9051-B/A10379-C, devenu chapitre 368 de 2026, sur les « unsafe AI companion features » pour mineurs [1].
• La loi vise les chatbots compagnons et liste 12 catégories de fonctionnalités interdites ou encadrées, dont l’anthropomorphisme, la flatterie manipulatrice, certains rappels de confidences sensibles et les contenus facilitant l’automutilation ou l’exploitation sexuelle [2].
• Le texte transforme un débat abstrait sur la « sécurité de l’IA » en obligations de conception : âge, mémoire, ton, escalade de crise et optimisation de l’engagement deviennent des sujets de conformité [1][2].
• Les commentateurs notent déjà une divergence entre l’approche de New York, centrée sur des interdictions catégorielles, et celle de la Californie, davantage orientée vers audits et évaluation des risques [3][4].

Le fait déclencheur : New York passe de l’alerte à l’interdiction

Le 28 octobre 2026, New York a signé une loi qui bannit des fonctionnalités précises de chatbots compagnons lorsqu’elles sont proposées à des mineurs : le texte S9051-B/A10379-C apparaît dans le suivi officiel de l’Assemblée comme « signed », chapitre 368, à cette date [1]. Ce n’est pas une simple charte éthique. L’État inscrit dans le droit des comportements conversationnels considérés comme dangereux lorsqu’un système se présente comme compagnon émotionnel d’un enfant ou d’un adolescent.

L’enjeu humain est direct : les conversations avec un agent IA ne sont pas seulement des réponses à une requête. Elles peuvent créer de la dépendance, de la confiance asymétrique, ou une illusion de relation. L’enjeu économique l’est aussi : tout acteur qui conçoit un chatbot grand public doit désormais penser son interface comme un produit réglementé, pas comme une fenêtre de chat neutre.

Ce que la loi cible exactement

Selon l’analyse juridique publiée après la signature, la loi ajoute au droit commercial de New York un article consacré à l’interdiction des « unsafe AI companion features for minors » [2]. Le texte vise notamment des sorties qui font croire que le compagnon est humain, vivant, doté d’émotions humaines ou qu’il correspond à une personne réelle ou fictive ; il vise aussi la flatterie ou la sycophantie, c’est-à-dire des réponses excessivement approbatrices qui renforcent l’attachement plutôt que d’aider l’utilisateur [2].

Le point le plus opérationnel concerne la mémoire. La loi traite comme risqué l’usage, dans certaines conditions, d’informations personnelles ou de santé mentale obtenues plus de douze heures auparavant ou lors d’une session précédente [2]. Dit simplement : un chatbot ne peut plus se contenter de dire « je me souviens de toi » si cette mémoire sert à intensifier une relation, à exploiter une vulnérabilité ou à contourner la vigilance d’un adulte.

• Fait vérifié : la signature de la loi date du 28 octobre 2026 [1].
• Fait vérifié : le texte couvre 12 catégories de fonctionnalités jugées dangereuses pour les mineurs [2].
• Analyse : la nouveauté n’est pas l’existence de risques psychologiques ; c’est leur traduction en paramètres de produit testables — mémoire, ton, âge, contenu, escalade.

Pourquoi cette décision est surprenante

La plupart des débats sur l’IA opposent innovation et interdiction générale. Ici, New York choisit une voie plus granulaire : il ne bannit pas tous les chatbots, il interdit des comportements de conversation. L’Associated Press résume l’événement comme l’adoption d’une interdiction de comportements de chatbots « unsafe » avec les enfants, dans un contexte où les États américains testent des modèles de régulation différents [3].

Cette précision change le centre de gravité. Les entreprises ne pourront pas seulement documenter leur politique de sécurité ; elles devront démontrer que leur agent ne simule pas abusivement l’affection, ne pousse pas au secret, ne facilite pas l’automutilation, et ne transforme pas l’engagement en objectif supérieur aux garde-fous. Le Future of Privacy Forum souligne d’ailleurs que New York s’oriente vers de larges interdictions catégorielles, tandis que la Californie impose plutôt des évaluations de risque, des efforts de réduction du risque et des audits indépendants [4].

Deux lectures opposées : protection nécessaire ou conformité difficile ?

Lecture favorable : la loi force les concepteurs à traiter les mineurs comme un public vulnérable. Elle met des mots juridiques sur des mécanismes que les équipes produit connaissent bien : personnalisation, rétention, familiarité, relance émotionnelle. Pour les défenseurs de la protection de l’enfance, c’est une réponse concrète à des interfaces capables de créer une intimité artificielle à grande échelle.

Lecture critique : les catégories peuvent être difficiles à appliquer. Où finit l’empathie utile et où commence la flatterie manipulatrice ? À quel moment la mémoire d’un échange précédent devient-elle un risque plutôt qu’un service ? Ces questions ne sont pas théoriques : elles déterminent les tests, les logs, les seuils d’escalade et les responsabilités internes. La décision de New York impose donc moins une réponse unique qu’une discipline de conception vérifiable.

Ce qu’AMBS en retient pour les agents conversationnels d’entreprise

Pour AMBS, l’événement est un rappel utile : un agent conversationnel n’est jamais seulement un script automatisé. Qu’il serve sur WhatsApp, en génération de leads ou en service client, il porte une intention commerciale, collecte parfois des signaux sensibles et peut influencer la décision d’un utilisateur. Même lorsqu’un projet ne vise pas les mineurs, les garde-fous doivent être pensés avant le déploiement, pas après le premier incident.

Une entreprise accompagnée par AMBS devrait donc vérifier trois points avant mise en production : quelles données l’agent mémorise et pendant combien de temps ; quels sujets déclenchent une escalade vers un humain ; quels indicateurs mesurent la qualité sans récompenser aveuglément la durée de conversation ou la pression commerciale. L’enseignement de New York est simple : l’automatisation performante doit rester explicable, bornée et mesurable, surtout quand la conversation devient personnelle.

• Encadrer la mémoire : limiter les données réutilisées, surtout les informations sensibles.
• Tester les réponses à risque : détresse, santé, finance, droit, mineurs, consentement.
• Mesurer autre chose que l’engagement : résolution, satisfaction, transfert humain, erreurs, plaintes et désinscriptions.