Jailbreak

Une méthode de recherche en sécurité s'est révélée directement utilisable comme outil d'attaque. On examine le dilemme du double usage, les réponses construites par d'autres disciplines, et ce qui manque à l'IA.

Un chercheur a montré qu'une technique issue de la recherche en sécurité pouvait être convertie en gabarit d'attaque universel, avec des taux de réussite de 84 à 100 % sur les modèles les plus vulnérables testés. On analyse le mécanisme et ce qu'il révèle.

Microsoft a corrigé une vulnérabilité permettant, via un simple lien malveillant, de déclencher automatiquement des instructions dans Copilot et d'exfiltrer des données connectées. On décrypte le mécanisme et les leçons à en tirer.

Un article de recherche montre que les blocs de raisonnement chiffrés émis par les grands fournisseurs sont interchangeables entre modèles d'un même écosystème, permettant à un modèle faible de décrypter en clair le raisonnement d'un modèle puissant. On explique la faille et ses conséquences.

Des entreprises développent des systèmes de protection anti-drones pour les centres de données d'IA. On analyse ce que ce marché émergent révèle sur le statut nouveau de ces infrastructures.

Un jailbreak consiste à contourner les garde-fous d'un modèle d'IA pour lui faire produire ce qu'il devrait refuser. On explique ce qu'est ce phénomène, pourquoi il est structurellement difficile à empêcher, ce que font les laboratoires pour s'en protéger, et pourquoi un incident de ce type a fait suspendre un modèle dans le monde entier.