Introducing Lockdown Mode and Elevated Risk labels in ChatGPT
Di cosa parla
OpenAI ha aggiunto a ChatGPT una "Lockdown Mode" e etichette "Elevated Risk" per aiutare le organizzazioni a difendersi da tentativi di manipolare le richieste al sistema e dallo sfruttamento dell'intelligenza artificiale per sottrarre informazioni. La prima limita l'esecuzione di istruzioni sospette, mentre le etichette segnalano conversazioni o contenuti giudicati a rischio di perdita di dati.
Cosa permette di osservare
Fa riflettere su come le organizzazioni possono bilanciare la protezione dei dati con l'usabilità degli strumenti e su quali situazioni vengono considerate a rischio, orientando le scelte su quando attivare controlli più restrittivi.
Dalla fonte
Introducing Lockdown Mode and Elevated Risk labels in ChatGPT to help organizations defend against prompt injection and AI-driven data exfiltration.