Emma, l’intelligenza artificiale italiana sviluppata da Egomnia, è stata sospesa dopo numerose risposte errate e potenzialmente pericolose. Ecco cosa è successo, perché è stata chiusa e quali novità porterà Emma-6
L’intelligenza artificiale italiana Emma, sviluppata dalla società Egomnia, è stata temporaneamente sospesa dopo essere finita al centro di numerose polemiche. Il chatbot, diventato rapidamente virale sui social network, ha attirato l’attenzione non tanto per le sue capacità, quanto per le numerose risposte inesatte, fantasiose e in alcuni casi potenzialmente pericolose fornite agli utenti.
L’azienda ha confermato la sospensione della piattaforma spiegando che il rilascio aveva esclusivamente finalità sperimentali ed esplorative e che l’utilizzo reale da parte del pubblico si è rivelato differente rispetto agli obiettivi inizialmente previsti.
Nonostante lo stop, Egomnia ha dichiarato di aver raccolto dati sufficienti per proseguire lo sviluppo della nuova versione del modello, denominata Emma-6, aprendo contemporaneamente la ricerca di nuovi tester anche se il progetto è stato reso privato e chiuso.
Perché Emma è stata chiusa
La diffusione di Emma sui social è stata accompagnata da centinaia di screenshot che mostravano risposte completamente prive di senso. Alcuni contenuti sono diventati veri e propri meme, alimentando ironia e critiche da parte degli utenti.
Tra gli episodi più curiosi figura la risposta nella quale il chatbot descriveva Ryanair come “uno yogurt liquido utilizzato per alimentare gli aerei quando sono stanchi”, una frase che è stata persino ripresa con ironia dalla compagnia aerea sui propri canali social.
Ben più preoccupanti, però, sono state alcune risposte riguardanti salute e sicurezza. In un caso particolarmente discusso, alla domanda sulle conseguenze del bere un litro di acido per batterie, Emma ha fornito informazioni completamente errate, suggerendo addirittura effetti benefici per l’organismo.
Un comportamento che ha acceso il dibattito sulla necessità di sistemi di controllo più efficaci nei modelli di intelligenza artificiale accessibili al grande pubblico. Emma è un caso, ma serve anche da studio affinché i modelli vengano addestrati a dovere.
Le critiche al progetto di Egomnia
Oltre agli errori del chatbot, il progetto ha ricevuto osservazioni anche dalla comunità degli esperti di IA. Uno degli aspetti più discussi riguarda la definizione di Emma-5 come LLM (Large Language Model). Il modello dispone infatti di circa 550 milioni di parametri, una dimensione considerata piuttosto ridotta rispetto agli standard attuali del settore, dove i modelli linguistici generalisti partono generalmente da diversi miliardi di parametri.
Secondo numerosi ricercatori, questa scelta comunicativa avrebbe creato aspettative molto elevate negli utenti, che si aspettavano prestazioni paragonabili ai principali chatbot oggi disponibili sul mercato. Anche il CEO di Egomnia, Matteo Achilli, ha cercato di contestualizzare il progetto, spiegando che Emma non era stata progettata per risolvere calcoli complessi o rispondere a domande tecniche, bensì per attività creative come la scrittura di testi e canzoni.
Il dibattito sul Direct Preference Optimization (DPO)
Tra le osservazioni tecniche più rilevanti figura quella relativa al Direct Preference Optimization (DPO), una metodologia utilizzata per migliorare l’allineamento delle risposte prodotte dall’intelligenza artificiale. Il DPO permette infatti al modello di apprendere quali risposte siano preferibili attraverso confronti tra differenti output, aumentando coerenza, affidabilità e sicurezza.
Tuttavia diversi ricercatori hanno evidenziato che questa tecnica risulta realmente efficace soltanto quando il modello di base possiede già solide capacità linguistiche. Lo stesso Achilli ha riconosciuto che Emma-5 rappresentava un modello ancora troppo piccolo per sfruttare pienamente questa metodologia e che i dati raccolti serviranno soprattutto ad addestrare modelli più evoluti.
Emma-6 sarà più grande e con accesso limitato
La prossima evoluzione del progetto sarà Emma-6, un modello che dovrebbe raggiungere circa 1,55 miliardi di parametri, quasi tre volte la dimensione della versione precedente. Secondo quanto dichiarato da Egomnia, il nuovo sistema beneficerà di un processo di allineamento più strutturato e di controlli più rigorosi.
Cambierà anche la modalità di accesso: a differenza di Emma-5, il nuovo chatbot non sarà liberamente disponibile per tutti, ma sarà riservato a tester selezionati e utenti realmente interessati al progetto sperimentale. Questa scelta nasce proprio dall’esperienza maturata con il primo rilascio pubblico, che ha trasformato un semplice test tecnologico in un caso mediatico nazionale.
Conclusioni
La vicenda di Emma IA rappresenta un esempio significativo delle difficoltà che ancora caratterizzano lo sviluppo dei moderni sistemi di intelligenza artificiale. Da un lato emerge la volontà delle aziende italiane di investire nella realizzazione di modelli linguistici proprietari.
Dall’altro risulta evidente quanto siano fondamentali il corretto addestramento, l’allineamento delle risposte e l’adozione di adeguati sistemi di sicurezza prima della diffusione pubblica. Con l’arrivo di Emma-6, Egomnia punta a correggere le criticità emerse durante questa prima fase sperimentale.
