Oltre un quarto delle attività di ricerca dell’azienda è ormai guidato direttamente dall’IA. Intanto, i ricercatori utilizzano lo stesso sistema per individuare gravi vulnerabilità informatiche nei server di OpenAI.
NEW YORK. – Il settore dell’intelligenza artificiale sta attraversando una fase di accelerazione senza precedenti, avvicinandosi a uno dei traguardi più complessi e dibattuti dell’era digitale: l’auto-miglioramento dei sistemi tecnologici. A tracciare questo nuovo confine è Anthropic, una delle aziende leader del comparto, rivelando come il proprio modello Claude stia assumendo un ruolo sempre più autonomo nella programmazione e nello sviluppo del suo stesso codice.
Oltre il 25% dello sviluppo in mano all’IA
Secondo un’analisi interna diffusa dall’azienda e ripresa dal Washington Post, Claude è oggi in grado di “guidare” in autonomia il 26% delle attività di ricerca e sviluppo di Anthropic. Un balzo concettuale impressionante, se si considera che solo lo scorso febbraio questa percentuale era pari a zero.
L’azienda ci tiene a precisare che non si tratta di una piena e incontrollata autonomia: gli ingegneri umani mantengono un ruolo di supervisione e impostano le direttive generali. Tuttavia, l’impiego massiccio di circa 30.000 “agenti” virtuali di IA nella ricerca quotidiana evidenzia un cambio di passo epocale.
Questa capacità di autoprogrammazione porta con sé interrogativi cruciali legati al cosiddetto auto-miglioramento ricorsivo. Se i sistemi diventano abbastanza intelligenti da velocizzare il proprio sviluppo in modo autonomo, il rischio è che per l’uomo sia sempre più difficile comprendere, stare al passo e controllare le dinamiche interne dell’IA. Per questo motivo, Anthropic dedica circa il 6% della propria capacità di calcolo alla sicurezza e ha invitato i competitor a pubblicare dati analoghi per garantire massima trasparenza.
Quando Claude trova le falle di OpenAI: il test dei ricercatori
A confermare la crescente versatilità operativa del sistema di Anthropic c’è un singolare episodio di sicurezza informatica emerso dal Wall Street Journal. Un gruppo di esperti indipendenti della società Hacktron AI ha utilizzato proprio la nuova versione di Claude per condurre un test di vulnerabilità autorizzato sui sistemi della concorrente OpenAI.
Sfruttando una falla nella gestione delle immagini sul forum aziendale di OpenAI, Claude è stato in grado di generare codice mirato per superare le barriere di sicurezza. L’incursione etica ha permesso ai ricercatori di ottenere i token di autenticazione di alcuni dipendenti, arrivando a leggere file riservati presenti nell’archivio software di OpenAI (“Monorepo”).
Raggiunta la prova dell’accesso, i ricercatori hanno interrotto la procedura e segnalato l’errore alla società creatrice di ChatGPT, che ha tempestivamente risolto il problema ed erogato una ricompensa per il bug individuato.
Sicurezza ed etica: il dibattito si scalda
L’evento ha spinto OpenAI a correre ai ripari, mobilitando temporaneamente il 25% dei propri ingegneri di produzione sul fronte della difesa informatica per correggere ulteriori criticità.
Allo stesso tempo, il tema della velocità di sviluppo resta infuocato a livello politico e industriale. Di recente, l’amministratore delegato di Anthropic, Dario Amodei, ha proposto un rallentamento coordinato tra le grandi aziende del settore per potenziare le tutele e i protocolli di sicurezza. Una linea di prudenza che ha già trovato le resistenze di parte del mondo politico statunitense, tra cui le critiche del presidente Donald Trump, evidenziando quanto il confine tra corsa tecnologica e sicurezza sia diventato il vero banco di prova del futuro.
(Redazione)
