Robustness of AI-Art Detectors under Generator Shift
Di cosa parla
Hanno testato strumenti che cercano di riconoscere immagini create dall'intelligenza artificiale confrontando sistemi addestrati su generatori vecchi con immagini prodotte da un generatore più recente e diverso. I rilevatori funzionano bene sui dati su cui sono stati addestrati, ma spesso non riconoscono le immagini del nuovo generatore e le classificano come opere umane; strumenti di interpretazione mostrano segnali più deboli nei casi non riconosciuti. Gli autori sottolineano che c'è un divario di generalizzazione e propongono di considerare i rilevatori come una parte di una difesa stratificata contro contenuti sintetici.
Cosa permette di osservare
Domanda centrale: quanto possono restare affidabili i rilevatori di immagini man mano che i generatori evolvono? Questo spinge a esplorare come valutare i rilevatori su generatori diversi e come combinarli in più livelli di controllo per mantenere l'affidabilità nel tempo.
Dalla fonte
Text-to-image generative models have advanced rapidly, with modern Diffusion Transformer architectures producing images that are increasingly difficult to distinguish from human-created artwork. This development has raised significant concerns regarding copyright protection, misinformation, fraud, impersonation, and the authenticity of digital content. Most AI-art detectors are trained and evaluated on the same generator family, leaving robustness to newer architectures underexplored. In this chapter, we analyze generator shift based on a Stable Diffusion 3.5 Medium (SD3.5m) artwork dataset spanning ten art styles through reverse prompting of held-out human artwork samples. Five detectors are trained on U-Net-based latent diffusion artwork and evaluated in a zero-shot cross-generator setting on the SD3.5m dataset. Deep learning models perform strongly in-distribution but degrade under g…