opinione · OpenAI
Why language models hallucinate
Fonte: OpenAIPubblicato: 05 Sep 2025Tipo: opinione
Di cosa parla
OpenAI spiega perché i grandi modelli di linguaggio tendono ad “allucinare”: cioè a inventare risposte false o non verificabili. La ricerca esplora come capire meglio queste occorrenze e sostiene che migliorando i modi in cui si valutano le risposte si possono trovare strumenti per rendere i sistemi più affidabili, più onesti e più sicuri.
Cosa permette di osservare
Invita a considerare se cambiare i criteri e i metodi di valutazione possa effettivamente ridurre le risposte inventate e quali scelte di progettazione favoriscono onestà e sicurezza nei sistemi di linguaggio.
Dalla fonte
OpenAI’s new research explains why language models hallucinate. The findings show how improved evaluations can enhance AI reliability, honesty, and safety.