Des données utilisées à une nouvelle échelle
Les IA agentiques ne se limitent plus à répondre à une demande. Elles peuvent coordonner plusieurs agents spécialisés, consulter des messageries, agendas, fichiers ou bases de données, puis accomplir différentes actions sans intervention humaine à chaque étape. Leur mémoire persistante leur permet aussi d’enrichir progressivement le profil de l’utilisateur.
Cette organisation multiplie les échanges de données entre agents et services extérieurs. Elle peut rendre plus difficile l’identification des informations utilisées, des finalités poursuivies, des durées de conservation et des destinataires. Les principes du RGPD relatifs à la minimisation, à l’exactitude, à la transparence et à l’effacement des données restent applicables, mais leur mise en œuvre devient plus complexe.
Renforcer la traçabilité et la supervision humaine
L’autonomie de ces systèmes peut entraîner des erreurs en cascade, des suppressions ou transmissions inadaptées et des décisions produisant des effets significatifs pour les personnes. L’article 22 du RGPD encadre les décisions reposant exclusivement sur un traitement automatisé. Une intervention humaine simplement formelle ne suffit pas : elle doit pouvoir influer réellement sur la décision finale.
La note propose de renforcer la traçabilité des actions, de permettre à l’utilisateur de choisir les données accessibles et d’imposer une validation humaine pour les opérations les plus sensibles. Elle évoque également le cloisonnement des mémoires, les environnements isolés, la surveillance en temps réel et un dispositif permettant d’interrompre immédiatement un processus agentique.
La publication : https://urls.fr/cUgDyo