Improving verifiability in AI development
Di cosa parla
Un gruppo di ricercatori e organizzazioni ha raccolto dieci meccanismi pratici per rendere verificabili le affermazioni sui sistemi di intelligenza artificiale. Si tratta di strumenti che gli sviluppatori possono usare per fornire prove che i loro sistemi sono sicuri, protetti, equi o rispettosi della privacy, e che consentono a utenti, responsabili politici e società civile di valutare i processi di sviluppo.
Cosa permette di osservare
Permette di esplorare quali strumenti concreti possono fornire prove sulle caratteristiche di un sistema AI e in che modo sviluppatori, regolatori e cittadini possono usarli per controllare e valutare lo sviluppo.
Dalla fonte
We’ve contributed to a multi-stakeholder report by 58 co-authors at 30 organizations, including the Centre for the Future of Intelligence, Mila, Schwartz Reisman Institute for Technology and Society, Center for Advanced Study in the Behavioral Sciences, and Center for Security and Emerging Technologies. This report describes 10 mechanisms to improve the verifiability of claims made about AI systems. Developers can use these tools to provide evidence that AI systems are safe, secure, fair, or privacy-preserving. Users, policymakers, and civil society can use these tools to evaluate AI development processes.