Ai-Security

Rétro-ingénierie : ce que j’ai retenu d’un atelier CLUSIR ARA, et où ISO 27001 s’invite Jeudi, le CLUSIR ARA proposait un atelier d’introduction à la rétro-ingénierie logicielle, animé par l’équipe de Root-Me PRO. Ce n’est pas mon terrain. Ma cible, c’est la gouvernance et la sécurité des architectures de données et d’IA, pas le désassemblage de binaires. Et pourtant j’y suis allé, et j’en suis sorti avec plus de matière que prévu. Pas parce que je compte devenir reverser, mais parce que comprendre comment on dissèque un malware, c’est comprendre une brique que je vais croiser sans la manipuler moi-même. Le jour où je commande une analyse à un prestataire, ou que je lis un rapport d’incident, je veux savoir ce qu’il y a derrière. ...

Un proxy DLP devant mon LLM local Ça a commencé par un article lu un soir : les RSSI s’inquiètent de voir des secrets (clés API, tokens) partir dans les prompts envoyés aux modèles de langage. Le constat qui m’a accroché, c’est que le problème n’est pas le modèle. C’est le périmètre de confiance autour de lui. Une clé collée par erreur dans un prompt traverse une frontière, et selon où passe cette frontière, on récupère la trace ou pas. ...

Copilot voit tout ce que l’utilisateur voit La plupart des entreprises françaises ne vont pas découvrir l’IA d’entreprise sur une stack maison en modèles open source. Elles vont la découvrir via Microsoft : Copilot dans Microsoft 365, Security Copilot dans le SOC, Azure OpenAI pour les développeurs, Copilot Studio et Azure AI Foundry pour fabriquer leurs propres agents. C’est le tuyau par défaut. C’est donc là que la question « comment sécuriser l’IA » va se poser pour de vrai, dans des organisations qui n’ont ni red team IA ni doctrine maison. ...

Un skill qui en télécharge d’autres : ce que j’ai vu sous le capot Avant d’entrer dans le sujet, deux mots pour cadrer. Je ne suis pas expert AI security. Je suis en reconversion cybersécurité et j’apprends, donc ce qui suit est mon avis du moment, pas une analyse de référence. Petite précision aussi : je prépare en ce moment la certification ISO 27001 Lead Implementer, donc ce genre de cas concret m’aide à mobiliser les normes que je rencontre dans le cursus. C’est pour ça que je cite ISO 27001, NIS2 et l’IA Act un peu plus loin. Ce n’est pas un placage de jargon, c’est ma manière de faire travailler ce que j’apprends sur un sujet d’actualité. ...