Pourquoi les confidences conversationnelles changent le risque
Les utilisateurs ne parlent pas selon la structure d'une base de données. Ils racontent une journée, puis évoquent une fatigue ou une situation personnelle. Un système conversationnel doit donc examiner les informations qu'il traite au-delà de ses champs d'inscription. La CNIL rappelle que les chatbots peuvent traiter des données personnelles et recevoir des informations sensibles dans des échanges libres. CNIL, recommandations sur les chatbots
Cette observation ne signifie pas que toute phrase est une donnée de santé. La qualification dépend de la nature des informations, de leur croisement et de l'usage qui en est fait. La CNIL explique notamment que certaines données permettent de tirer une conclusion sur l'état de santé et relèvent alors de cette catégorie. L'analyse doit être faite au cas par cas. CNIL, définition des données de santé
La conséquence sectorielle est simple : il faut cartographier les traitements réels. Le nom d'une fonctionnalité ne suffit pas à décrire son risque. Une mémoire conversationnelle, un résumé ou une analyse d'émotion peuvent traiter des informations différentes et produire de nouvelles inférences. Chaque étape doit avoir un objectif compréhensible, plutôt qu'être justifiée par une promesse générale d'amélioration du service.
Personnaliser sans tout mémoriser
La personnalisation peut concerner un sujet préféré, une façon de s'adresser à l'utilisateur ou une information pratique choisie. Ces usages n'exigent pas nécessairement de conserver l'intégralité des échanges. Notre proposition analytique est de commencer par le minimum utile, puis de justifier chaque ajout. La question devient : quelle information est nécessaire pour rendre ce service précis, et pendant combien de temps ?
Prenons un exemple fictif : un utilisateur apprécie de parler de jardinage. Retenir cette préférence, lorsqu'il le souhaite, n'implique pas de stocker chaque récit familial qui accompagne la conversation. L'entreprise peut distinguer une préférence volontaire d'une confidence circonstancielle. Cette distinction demande des choix de conception et une information claire ; elle ne doit pas être présentée comme une garantie déjà mise en œuvre sans vérification.
Une mémoire utile doit aussi rester corrigible. Une personne peut changer de préférence ou ne plus vouloir qu'un sujet soit évoqué. La possibilité de rectifier ou de supprimer une information doit être pensée comme une partie normale du service. La personnalisation perd sa valeur si l'utilisateur ne comprend pas ce que le système croit savoir de lui ou ne peut pas reprendre la main.
Le partage familial demande une décision explicite
Le fait qu'un proche finance ou installe un service ne lui donne pas automatiquement un accès légitime à toutes les conversations. La silver economy doit distinguer la personne qui utilise, celle qui accompagne et celle qui paie. Leurs intérêts peuvent converger, mais ils peuvent aussi diverger. Concevoir le produit uniquement pour rassurer l'aidant risque de réduire le senior au rôle de personne observée.
Une approche proposée consiste à définir les informations que l'utilisateur choisit de partager et les destinataires concernés. Il faut éviter les autorisations trop générales dont les conséquences ne sont pas comprises. Un résumé peut contenir autant d'informations intimes qu'une transcription, même s'il paraît plus court. Le format de sortie ne dispense donc pas d'examiner la finalité et les accès.
Cette réflexion ne doit pas créer une promesse de surveillance permanente. Un compagnon conversationnel n'est pas automatiquement un système de détection, d'alerte ou de secours. Les attentes doivent correspondre aux capacités effectivement disponibles et vérifiées. Une formulation rassurante mais ambiguë peut conduire une famille à compter sur un service pour une fonction qu'il n'assure pas.
La catégorie est désormais examinée comme un marché relationnel
La Federal Trade Commission américaine a annoncé en septembre 2025 une enquête auprès de plusieurs entreprises proposant des chatbots compagnons. Les questions portent notamment sur les pratiques de sécurité, les données et la communication, avec une attention particulière aux enfants et adolescents. Il s'agit d'une enquête sectorielle, pas d'une conclusion générale d'infraction ni d'une règle française. FTC, annonce de l'enquête
Cette démarche montre que la relation artificielle constitue un objet d'analyse distinct : ce que le produit laisse croire, les comportements qu'il encourage et les informations qu'il reçoit doivent être examinés ensemble. Même si les publics seniors sont différents de ceux évoqués dans l'enquête, cette grille fournit des questions utiles au secteur. Elle ne permet pas de transposer directement des conclusions sur un autre âge ou un autre territoire.
Pour les entreprises, une communication transparente devient donc un élément de crédibilité. Expliquer qu'un système est artificiel, qu'il peut se tromper et qu'il a un périmètre précis ne doit pas rester un texte enterré dans des conditions d'utilisation. Cette compréhension doit être testée dans l'expérience réelle, avec des mots adaptés aux utilisateurs et sans jargon excessif.
Quels KPI pour une confiance observable ?
Le premier indicateur proposé est la compréhension : les utilisateurs peuvent-ils expliquer ce qui est conservé, à quoi cela sert et qui peut y accéder ? Le test doit vérifier une compréhension réelle, pas simplement la présence d'une page d'information. Les réponses incorrectes peuvent signaler une formulation trop complexe ou une différence entre ce que l'entreprise dit et ce que l'interface suggère.
Le deuxième examine la maîtrise : facilité à modifier une préférence, retirer un accès ou demander une suppression. On peut mesurer les demandes abouties, les difficultés et le temps nécessaire, dans un périmètre défini. Aucun objectif chiffré universel n'est présenté ici. Le tableau de bord doit aussi inclure les problèmes résolus avec assistance, pour ne pas surestimer l'autonomie du parcours.
Le troisième concerne la sobriété : quelles catégories sont conservées, pour quelles finalités et selon quelles durées ? Une revue périodique peut repérer les données accumulées sans utilité démontrée. Réduire cette accumulation ne constitue pas, à lui seul, une conformité complète ; cela rend toutefois les traitements plus faciles à comprendre, à expliquer et à gouverner.
Enfin, un contrôle de cohérence compare les promesses publiques au fonctionnement observé. Une entreprise doit pouvoir relier chaque affirmation à une preuve ou à une procédure vérifiée. Pour Hello Anna, notre ligne éditoriale consiste à parler clairement de ces enjeux, sans inventer de certification ou de résultat. Dans un marché de compagnons, la confiance se construit par des choix précis et visibles, autant que par la qualité de la conversation.
