L’intelligence artificielle (IA) s’impose comme une technologie incontournable, mais les risques de sécurité qu’elle engendre inquiètent. Les experts de Microsoft, après avoir testé plus de 100 modèles d’IA, soulignent que leur sécurisation demeure un travail sans fin.
Des modèles puissants mais vulnérables
Les experts de Microsoft ont découvert que les modèles d’IA
amplifient les menaces existantes et en créent de nouvelles. Plus un modèle est sophistiqué, plus il est performant pour suivre des instructions, y compris celles qui sont malveillantes.
Les capacités de ces modèles varient selon leur conception et leur usage. Par exemple, un
outil d’écriture créative présente moins de risques qu’un modèle dédié à des tâches sensibles, comme la gestion de données médicales. Cette nuance souligne l’importance de comprendre
les implications spécifiques des applications d’un modèle pour mettre en place des défenses efficaces.
