Attacking machine learning with adversarial examples
Di cosa parla
Gli "adversarial examples" sono input creati apposta per indurre errori nei sistemi di intelligenza artificiale, come fossero illusioni ottiche per le macchine. Il testo spiega come questi inganni funzionano in diversi tipi di dati e contesti e discute perché è difficile proteggere i sistemi contro di essi.
Cosa permette di osservare
Permette di esplorare quanto sia possibile progettare input che ingannano un'IA e quali sono le difficoltà pratiche nel mettere contromisure efficaci, cioè capire come e perché le difese possono non bastare.
Dalla fonte
Adversarial examples are inputs to machine learning models that an attacker has intentionally designed to cause the model to make a mistake; they’re like optical illusions for machines. In this post we’ll show how adversarial examples work across different mediums, and will discuss why securing systems against them can be difficult.