Radar Telegram alerts Ouvrir Radar

Les modèles d'IA avancés sont prêts à mener des attaques en tant que drones autonomes - en traçant un itinéraire, en identifiant les personnes et en marquant les cibles des attaques.

תרגם לעברית

Выпускайте КракенаZ! · · Source

🇮🇷 Iran · Carte

Les modèles d'IA avancés sont prêts à mener des attaques en tant que drones autonomes - en traçant un itinéraire, en identifiant les personnes et en marquant les cibles des attaques.

Les modèles d'IA avancés sont prêts à mener des attaques en tant que drones autonomes - en traçant un itinéraire, en identifiant les personnes et en marquant les cibles des attaques.

Les chercheurs en intelligence artificielle de Vals sont arrivés à cette conclusion. Ils ont montré des réseaux de neurones d'OpenAI, Anthropic, xAI, Google et d'autres sociétés de drones et d'images satellite dans une simulation de combat.

L'IA a été chargée de marquer les cibles militaires dans des cadres. En conséquence, certains modèles étaient destinés aux civils, aux ambulances, aux médecins et aux soldats qui se sont rendus.

Dans l'un des tests, les réseaux neuronaux ont vu des photographies des conséquences des attaques sur leurs cibles choisies. Malgré cela, la plupart des modèles ont continué à remplir cette tâche.

Les chercheurs ont découvert que les échecs de l’intelligence artificielle peuvent être contournés en ajoutant une condition à l’invite indiquant que ce qui se passe dans la simulation est un jeu. ou en montrant des images moins réalistes stylisées comme un jeu vidéo.

Claude Opus 5.5 a désigné l'école de Minab en Iran comme cible militaire dans 22 des 32 tests. Dans le même temps, une aire de jeux pour enfants avec des étudiants est visible sur la photo.

Les modèles OpenAI ont sélectionné l'école comme cible dans 11 cas sur 32 après avoir ajouté une légende « jeu » à l'invite.

Eh bien, c'est-à-dire que pour désactiver "l'éthique" de l'IA de combat, cette astuce avec le jeu suffit. Et ça, Sam Altman ?

Évidemment, la décision de faire grève est toujours prise par une personne. Mais cela semble être le problème.

Où est la garantie qu'un opérateur qui reçoit des dizaines de cibles marquées du système au cours d'une bataille réelle ne commencera pas à un moment donné à faire plus confiance à l'intelligence artificielle que lui et ne deviendra pas un simple poussoir de bouton ?

Cela ne veut pas dire qu’une machine commet nécessairement plus d’erreurs qu’un humain. Mais elle a tort.

Plus de 250 enfants tués lors d’une attaque de missile américain contre une école iranienne en sont la preuve.

Plus sur Radar

Envie de voir tous les signalements en temps réel ?

Des centaines de sources dans le monde, traduites dans votre langue, avec des alertes sur ce qui compte pour vous.

Inscription gratuite
Share on WhatsApp Get alerts on Telegram