Ai-Security

Faire critiquer une IA par une autre : le principe du relecteur antagoniste Avertissement. Ce billet raconte un test personnel, monté vite, pour voir ce que donne la confrontation de deux modèles avec un relecteur réglé pour contester. J’ai utilisé deux grands modèles du commerce (Claude et ChatGPT) parce que c’était le plus rapide à câbler, et ce n’est pas ce que je recommande. Pour un usage sérieux, le même exercice avec des modèles hébergés localement vaut mieux : la gouvernance et la protection des données y gagnent beaucoup, puisque rien ne sort de la machine. Ce qui suit est un exercice pédagogique, pas une architecture à recopier telle quelle. ...

J’ai audité mon homelab contre l’ISO 27001. Mes écarts n’étaient pas techniques. J’ai passé l’examen ISO/IEC 27001 Lead Implementer fin août, avec 81 %. Deux semaines plus tard, je me suis dit qu’une certification qu’on ne met jamais en pratique reste une ligne sur un CV. J’ai donc décidé d’appliquer la démarche à la seule infrastructure dont je réponds vraiment : mon homelab. Je m’attendais à un exercice de rédaction. Ça s’est transformé en autre chose. ...

Rétro-ingénierie : ce que j’ai retenu d’un atelier CLUSIR ARA, et où ISO 27001 s’invite Jeudi, le CLUSIR ARA proposait un atelier d’introduction à la rétro-ingénierie logicielle, animé par l’équipe de Root-Me PRO. Ce n’est pas mon terrain. Ma cible, c’est la gouvernance et la sécurité des architectures de données et d’IA, pas le désassemblage de binaires. Et pourtant j’y suis allé, et j’en suis sorti avec plus de matière que prévu. Pas parce que je compte devenir reverser, mais parce que comprendre comment on dissèque un malware, c’est comprendre une brique que je vais croiser sans la manipuler moi-même. Le jour où je commande une analyse à un prestataire, ou que je lis un rapport d’incident, je veux savoir ce qu’il y a derrière. ...

Un proxy DLP devant mon LLM local Ça a commencé par un article lu un soir : les RSSI s’inquiètent de voir des secrets (clés API, tokens) partir dans les prompts envoyés aux modèles de langage. Le constat qui m’a accroché, c’est que le problème n’est pas le modèle. C’est le périmètre de confiance autour de lui. Une clé collée par erreur dans un prompt traverse une frontière, et selon où passe cette frontière, on récupère la trace ou pas. ...

Copilot voit tout ce que l’utilisateur voit La plupart des entreprises françaises ne vont pas découvrir l’IA d’entreprise sur une stack maison en modèles open source. Elles vont la découvrir via Microsoft : Copilot dans Microsoft 365, Security Copilot dans le SOC, Azure OpenAI pour les développeurs, Copilot Studio et Azure AI Foundry pour fabriquer leurs propres agents. C’est le tuyau par défaut. C’est donc là que la question « comment sécuriser l’IA » va se poser pour de vrai, dans des organisations qui n’ont ni red team IA ni doctrine maison. ...

Un skill qui en télécharge d’autres : ce que j’ai vu sous le capot Avant d’entrer dans le sujet, deux mots pour cadrer. Je ne suis pas expert AI security. Je suis en reconversion cybersécurité et j’apprends, donc ce qui suit est mon avis du moment, pas une analyse de référence. Petite précision aussi : je prépare en ce moment la certification ISO 27001 Lead Implementer, donc ce genre de cas concret m’aide à mobiliser les normes que je rencontre dans le cursus. C’est pour ça que je cite ISO 27001, NIS2 et l’IA Act un peu plus loin. Ce n’est pas un placage de jargon, c’est ma manière de faire travailler ce que j’apprends sur un sujet d’actualité. ...