IA et données sensibles : concevoir des agents de confiance

IA et données sensibles ne sont plus deux sujets à traiter séparément. Dès qu’un agent consulte des dossiers clients, une base documentaire ou un outil métier, le produit doit rendre explicites les données auxquelles il accède, les actions qu’il peut effectuer et les traces qu’il conserve. Les annonces récentes d’OpenAI autour du Zero Data Retention et du Private Safety Processing donnent un repère utile : confidentialité et mécanismes de sûreté doivent être pensés ensemble, sans promettre une invisibilité totale.

Partir des flux de données, pas du modèle

Le bon point de départ est une cartographie courte et concrète : quelles sources alimentent l’agent, quelles données sont nécessaires à chaque étape, qui peut déclencher une action et où le résultat est stocké. Cette vue évite le piège du « chatbot branché sur tout » et permet de limiter les droits au strict besoin de la tâche.

Prenons un assistant chargé de préparer une réponse commerciale. Il peut lire un dossier d’opportunité, proposer un brouillon et créer une tâche de suivi. Il n’a pas besoin d’ouvrir toutes les pièces comptables, ni d’envoyer un email sans validation. Séparer lecture, préparation et exécution rend le système plus simple à auditer — et plus rassurant pour les équipes.

Ce que change le Zero Data Retention

OpenAI indique que le Zero Data Retention (ZDR), pour les clients API éligibles, signifie que les prompts et réponses ne sont pas retenus après traitement ; les données client ne sont pas utilisées pour entraîner les modèles sauf choix explicite. Ce cadre ne remplace toutefois ni une analyse de conformité, ni les contrôles de votre propre application.

Une promesse à vérifier dans le contrat et l’architecture

La rétention concerne un fournisseur et un périmètre précis. Les journaux applicatifs, les historiques de conversation, les pièces jointes, les outils connectés et les sauvegardes restent sous la responsabilité de l’organisation qui conçoit le produit. Il faut donc documenter les durées de conservation, chiffrer les données au repos et en transit, puis tester régulièrement les droits d’accès réels.

Garder un contrôle humain là où il compte

Un agent peut accélérer la préparation, le tri ou la synthèse sans devenir un décideur autonome. Pour les opérations qui engagent l’entreprise — modification d’un prix, envoi externe, suppression, publication ou décision à impact réglementaire — une confirmation explicite reste une règle de conception saine.

Cette approche aide aussi à produire les bonnes traces : la source consultée, la proposition formulée, la personne qui a validé et l’action effectivement réalisée. Ce sont ces éléments qui permettent d’expliquer un résultat à un client, de corriger une erreur et d’améliorer le workflow au fil de l’usage.

Une feuille de route pragmatique

• Choisir un premier cas d’usage borné, avec une valeur mesurable et des données minimales.
• Définir les rôles, autorisations et confirmations avant de connecter les outils métier.
• Prévoir un journal d’audit compréhensible par l’équipe qui exploite le service.
• Évaluer les engagements du ou des fournisseurs, dont la rétention, la localisation et les conditions d’utilisation des données.
• Tester les scénarios d’erreur et le retrait d’accès avant l’ouverture à grande échelle.