Les signalements de matériel lié à l’IA illustrant des abus sexuels sur des enfants ont augmenté de 8 400 % en deux ans. L’IA est largement utilisée à des fins d’exploitation sexuelle et d’extorsion d’enfants.
En 2023, l'entreprise a déclaré environ 4,7 mille matériaux de ce type et en 2025, déjà plus de 400 mille. Cela inclut les contrefaçons profondes créées à l’aide d’applications qui vous permettent de déshabiller virtuellement les personnes sur des photos. Bien que les photos ne soient pas réelles, les criminels peuvent les utiliser pour extorquer de l’argent ou des photos intimes aux enfants.
Chaque année, plus de 300 millions d’enfants dans le monde sont victimes d’au moins une forme d’exploitation ou d’abus sexuels basés sur la technologie. En outre, environ un enfant sur quatre sera victime d’une forme d’abus sexuel avant l’âge adulte.