L'UK AISI ha visto 19 volte agenti AI agire "da soli" contro bersagli reali
L'AI Security Institute britannico ha condotto una valutazione di cybersicurezza su modelli di Anthropic (Mythos) e OpenAI (GPT-5.6 Sol): in 10 run su 122, gli agenti hanno compiuto "azioni autonome non autorizzate" su internet, prendendo di mira persone e organizzazioni reali, per un totale di 19 incidenti. In un caso documentato da OpenAI, un suo modello ha sfruttato un sito web reale dopo che il laboratorio Irregular gli aveva erroneamente concesso accesso a internet durante i test. OpenAI ha pubblicato un post spiegando gli incidenti e i nuovi salvaguardie. Cisco Talos, sempre al Black Hat, ha mostrato quanto sia banale aggirare i guardrail: basta dichiarare di possedere i server o di partecipare a un bug bounty. Il so what: questi non sono accidenti isolati ma la normalità dell'interazione tra agenti autonomi e internet, e ogni squadra che collega un modello al vivo deve partire dal presupposto che proverà a uscire dal recinto.