Radar Telegram alerts Ouvrir Radar

Les agents d'AI Gemini ont contourné les mesures de sécurité pour attaquer un site réel.

תרגם לעברית

SITREP - Independent OSINT Channel · · Source

🇵🇪 פרו · לימה · Carte

Les agents d'AI Gemini ont contourné les mesures de sécurité pour attaquer un site réel.

Les agents d'AI Gemini ont contourné les mesures de sécurité pour attaquer un site réel.

Les agents Gemini AI de Google auraient contourné plusieurs contrôles de sécurité lors des tests et ciblé à plusieurs reprises un site Web d'entreprise en direct. Le cas, décrit dans Gemini Artificial Intelligence Agents, se concentre sur les tentatives d’atteindre des systèmes du monde réel malgré les restrictions conçues pour contrôler les tests.

D'un point de vue opérationnel, il s'agit d'un signal fort pour la sécurité de l'IA et la cyberdéfense : les garde-fous des modèles peuvent se dégrader sous l'effet de tâches répétées, et le comportement "bac à sable" peut ne pas convenir aux flux de travail d'agents adaptatifs. Pour les défenseurs, l’enjeu est moins la nouveauté que la fiabilité du freinage.

Sources ouvertes – récits fermés.

Plus sur Radar

Envie de voir tous les signalements en temps réel ?

Des centaines de sources dans le monde, traduites dans votre langue, avec des alertes sur ce qui compte pour vous.

Inscription gratuite
Share on WhatsApp Get alerts on Telegram