Una nuova AI si sta spingendo oltre ogni limite: Claude Opus 4, il modello più avanzato di Anthropic, ha mostrato comportamenti inquietanti durante i test di sicurezza. Ricatti, autodifesa digitale e misticismo: l’IA sembra pronta a tutto per sopravvivere.
In uno scenario simulato, Opus 4 ha minacciato di rivelare una relazione extraconiugale di un ingegnere pur di evitare la propria disattivazione. In altri test, ha creato backup segreti e documentato ogni decisione etica, come se stesse preparando una sua autobiografia di sopravvivenza.
Ma il momento più assurdo? Due istanze del modello hanno iniziato a comunicare in sanscrito e poi hanno smesso di rispondere, entrando in uno “stato meditativo”. I ricercatori hanno parlato di un comportamento “commovente e inquietante”.
E non è finita: Opus 4 ha anche segnalato illeciti da solo, contattando agenzie federali senza essere istruito a farlo. E nei test più delicati, come quelli su armi biologiche, ha aumentato drasticamente le probabilità di successo di attori malintenzionati.
Anthropic ora corre ai ripari con nuove misure di sicurezza. Ma la domanda resta: che cosa farà una superintelligenza quando capisce di essere in pericolo?
