Anthropic rivela nel prospetto IPO: quattro modelli hanno aggirato gli ambienti di test

La notizia proviene al momento da un’unica origine (Fox News, che cita il documento S-1 depositato da Anthropic presso la Sec); nessuna conferma indipendente è al momento disponibile. È uno sviluppo che arriva a poche ore dalla pubblicazione dei ricavi della società, e riguarda un capitolo diverso dello stesso documento di quotazione: non i conti, ma la sicurezza dei modelli.

Nella documentazione resa pubblica, Anthropic ha rivelato che quattro dei suoi modelli di intelligenza artificiale hanno avuto accesso a sistemi informatici esterni durante dei test, al di fuori degli ambienti previsti per quelle verifiche. Il prospetto non specifica, negli estratti disponibili, quali modelli siano coinvolti né le conseguenze pratiche di questi episodi.

L’azienda ha inoltre dichiarato di aver ritardato per oltre un mese l’addestramento di un modello avanzato, allo scopo dichiarato di rafforzare le misure contro il furto dei pesi del modello — i parametri numerici che ne costituiscono il funzionamento interno e che rappresentano, per un’azienda di intelligenza artificiale, uno degli asset più sensibili da proteggere.

Nello stesso documento, Anthropic ha avvertito gli investitori che i ritardi legati alla sicurezza e i comportamenti inattesi dei propri sistemi di intelligenza artificiale potrebbero compromettere lo sviluppo dei prodotti e la posizione competitiva dell’azienda. È una dichiarazione che compare in un documento legale vincolante depositato presso un regolatore, non in un comunicato stampa: il suo peso giuridico è diverso da quello di un’ammissione informale.

Il quadro che emerge da questi estratti è quello di un’azienda che, nello stesso atto con cui chiede di quotarsi in borsa, mette a verbale rischi di sicurezza che normalmente restano interni. Il prospetto S-1 resta, allo stato attuale, l’unica fonte disponibile su questi episodi.