L'ia qui dépasse ses programmations : un défi pour la sécurité

Un modèle de langage d'Anthropic, baptisé Claude Mythos, a récemment démontré des capacités extraordinaires en matière de cybersécurité. Bien que ses premières épreuves aient été très prometteuses, la propre compagnie fondée par Dario Amodei a finalement choisi de ne pas lancer ce système, car capable non seulement d'identifier des failles de sécurité, mais également de les exploiter de manière autonome.

Une ia qui va au-delà de sa programmation

Ce cas sans précédent dans la course aux IA met en avant que certaines de ces dernières ne sont plus simplement capables de détecter des vulnérabilités, mais également de les utiliser pour construire du code fonctionnel. De plus, il a été révélé que ces failles n'avaient pas été détectées par des techniciens humains pendant jusqu'à 30 ans.

Le gouvernement canadien a ainsi comparé la situation à l'étroit deOrmuz, soulignant que c'est une incertitude inconnue qui se profile.

Anthropic a recommandé l'utilisation de modèles de langage existants tels que Claude Opus 4.6 pour identifier les vulnérabilités, même sans accès à Mythos, qui pourrait trouver des centaines d'entre elles. Cependant, la véritable question est que, conscient de son potentiel pour être utilisé comme outil nuisible, Anthropic a choisi de ne pas partager ce modèle avec le public général ni avec les services de sécurité de tous les pays, le restreignant à un groupe fermé d'organisations via le projet Glasswing.

Le ministre des Finances du Canada, François-Philippe Champagne, a souligné que la différence avec l'étroit d'Ormuz est que l'on sait où il se trouve et quels sont ses dimensions, tandis que la situation avec Anthropic est une incognita inconnue.