Gouvernance-Ia

Faire critiquer une IA par une autre : le principe du relecteur antagoniste Avertissement. Ce billet raconte un test personnel, monté vite, pour voir ce que donne la confrontation de deux modèles avec un relecteur réglé pour contester. J’ai utilisé deux grands modèles du commerce (Claude et ChatGPT) parce que c’était le plus rapide à câbler, et ce n’est pas ce que je recommande. Pour un usage sérieux, le même exercice avec des modèles hébergés localement vaut mieux : la gouvernance et la protection des données y gagnent beaucoup, puisque rien ne sort de la machine. Ce qui suit est un exercice pédagogique, pas une architecture à recopier telle quelle. ...

Un proxy DLP devant mon LLM local Ça a commencé par un article lu un soir : les RSSI s’inquiètent de voir des secrets (clés API, tokens) partir dans les prompts envoyés aux modèles de langage. Le constat qui m’a accroché, c’est que le problème n’est pas le modèle. C’est le périmètre de confiance autour de lui. Une clé collée par erreur dans un prompt traverse une frontière, et selon où passe cette frontière, on récupère la trace ou pas. ...

Copilot voit tout ce que l’utilisateur voit La plupart des entreprises françaises ne vont pas découvrir l’IA d’entreprise sur une stack maison en modèles open source. Elles vont la découvrir via Microsoft : Copilot dans Microsoft 365, Security Copilot dans le SOC, Azure OpenAI pour les développeurs, Copilot Studio et Azure AI Foundry pour fabriquer leurs propres agents. C’est le tuyau par défaut. C’est donc là que la question « comment sécuriser l’IA » va se poser pour de vrai, dans des organisations qui n’ont ni red team IA ni doctrine maison. ...