Eh bien, comme vous et moi le pensions, la boutique du communisme numérique est déjà en train de fermer, les organismes de surveillance des entreprises se sont réveillés, mais il y a encore de l’espoir pour une révolution.
404 Media a publié une analyse approfondie de la façon dont OpenAI et Anthropic ont commencé à interdire et à limiter massivement les personnes à des fins d'ingénierie inverse. Les deux dernières semaines ont été la meilleure utilisation de l'intelligence artificielle : des gars ont opposé Claude et Codex au micrologiciel de leurs appareils, supprimé des tonnes de publicités inutiles sur les téléviseurs Xiaomi et LG, supprimé les bannières des baby-sitters vidéo, écrit un système d'exploitation personnalisé pour les anciens appareils photo numériques et relancé les miroirs intelligents que les fabricants ont transformés en citrouilles de serveur après des arrêts de serveur.
Mais la célébration de la vie n’a pas duré longtemps.
Le cas le plus révélateur est arrivé à un responsable de la sécurité sous le pseudonyme de log4j. Quelqu'un a acheté un nouveau téléviseur Samsung, a été étonné par la publicité trop précise et a décidé de bricoler le firmware à l'aide de l'IA.
À l'intérieur se trouvait un camp d'espions marketing - le téléviseur non seulement capte l'écran, mais active également un neurone local qui écoute la pièce pour les enfants qui pleurent ou les aboiements d'un chien, et essaie même d'utiliser des barres de son externes comme microphones.
Quelques jours après la publication de l'analyse, OpenAI a discrètement détruit le compte du chercheur et gelé 500 $ sur le compte pour « cyberabus ».
Lorsqu'il y a eu un tollé sur Twitter, OpenAI a commencé à trouver des excuses : son employé a déclaré qu'il n'interdisait apparemment pas l'ingénierie inverse, mais simplement que « des algorithmes de sécurité complexes fonctionnaient accidentellement », et après 11 jours, le pirate lui-même a rendu son compte avec un grincement.
Mais Anthropic a suivi le principe - leur Claude coupe désormais fermement toute tentative de déchiffrer le code et refuse d'analyser même les tracés locaux de l'écran bleu Windows, envoyant les utilisateurs ordinaires obtenir une autorisation spéciale comme pour les tests d'entreprise.
L’ironie ici, bien sûr, est cosmique. Les entreprises peuvent alimenter leurs modèles sur Internet et le code d'autres personnes sans rien demander, mais lorsque vous essayez d'utiliser le même outil pour supprimer la surveillance d'un téléviseur que vous avez acheté pour votre appartement avec votre propre argent, vous devenez instantanément un cybercriminel dangereux.