Anthropic Mythos potrebbe essere rilasciato al pubblico. Il fantastico rilevatore di bug basato sull’IA disponibile per tutti non appena sarà reso più sicuro
Anthropic ha annunciato l’intenzione di rendere accessibili al pubblico i modelli di intelligenza artificiale di classe Mythos, una volta sviluppate adeguate misure di sicurezza. Attualmente, questi modelli sono disponibili solo per partner selezionati.
L’annuncio è stato dato nell’ambito di un primo aggiornamento sul Progetto Glasswing, il programma di Anthropic che fornisce accesso limitato a Mythos. Il modello di Anthropic, quello più potente mai creato che ha fatto paura al mondo, potrebbe essere disponibile per tutti.
L’azienda ha riconosciuto che nessuna organizzazione, inclusa Anthropic, ha ancora sviluppato misure di sicurezza sufficientemente solide per prevenire l’uso improprio o i potenziali danni derivanti da tali modelli. Non ha specificato in quale arco di tempo si intenda il rilascio pubblico a breve termine.
Inoltre, Anthropic intende ampliare il Progetto Glasswing per includere un maggior numero di partner, come il governo degli Stati Uniti e i governi alleati, prima di rendere i modelli ampiamente disponibili così che venga testato a lungo prima del rilascio.
Cos’è il modello Mythos di Anthropic e cosa ha scoperto finora
Mythos è un modello di intelligenza artificiale creato da Anthropic, noto per la sua capacità di identificare vulnerabilità di sicurezza nel codice del software. È stato presentato per la prima volta all’inizio di aprile. Invece di un rilascio pubblico, Anthropic ha limitato l’accesso a organizzazioni selezionate tramite Project Glasswing, adducendo la preoccupazione che i criminali informatici potessero utilizzare un accesso illimitato per trovare e sfruttare rapidamente le falle prima che potessero essere corrette.
I partecipanti al Progetto Glasswing hanno riferito che Mythos è efficace nell’individuare numerose vulnerabilità, sebbene a volte il volume superi la sua capacità di correggerle tutte in tempi brevi. Anthropic riferisce che Mythos ha analizzato oltre 1.000 progetti open source che supportano gran parte di Internet e l’infrastruttura di Anthropic stessa.
I risultati finora ottenuti includono un totale di 23.019 falle identificate, di cui 6.202 sono considerate vulnerabilità di gravità elevata o critica. Delle 1.752 vulnerabilità elevate o critiche verificate da Anthropic, il 90,6% (1.587) sono state confermate come difetti validi. Tra queste, il 62,4% (1.094) sono state confermate come di gravità elevata o critica.
Sfide in termini di divulgazione e correzione delle vulnerabilità di Mythos.
Anthropic verifica ogni vulnerabilità con la comunità di sicurezza prima di segnalarla ai manutentori, quindi redige report dettagliati per i progetti interessati. Delle 530 vulnerabilità di livello elevato o critico segnalate, 75 sono state corrette e per 65 sono stati emessi avvisi pubblici.
La mole di bug scoperti da Mythos sta mettendo sotto pressione gli sviluppatori, già oberati da un elevato numero di segnalazioni di bug di bassa qualità generate dall’IA. Alcuni manutentori hanno chiesto ad Anthropic di rallentare il ritmo di divulgazione per dare loro più tempo per sviluppare le patch.
Perché è importante per gli utenti comuni e per chi si occupa di difesa dei diritti degli utenti
Anche prima del rilascio pubblico dei modelli di classe Mythos, la conseguenza più ampia è che i modelli di intelligenza artificiale meno sofisticati sono già in grado di individuare vulnerabilità del software. I difensori dovrebbero aspettarsi che gli aggressori sfruttino un numero maggiore di falle con maggiore frequenza, anche prima che siano disponibili le patch.
Diversi governi hanno già reagito all’esistenza di Mythos. Il Giappone ha ordinato un’ampia revisione della sicurezza, mentre le autorità indiane hanno richiesto interventi di patch alle istituzioni finanziarie. Non è stata fornita alcuna tempistica per il rilascio pubblico dei modelli della classe Mythos.
