comunicato aziendale · OpenAI
Evaluating fairness in ChatGPT
Fonte: OpenAIPubblicato: 15 Oct 2024Tipo: comunicato aziendale
Di cosa parla
OpenAI ha verificato se il nome di una persona cambia il modo in cui ChatGPT risponde, esaminando risposte associate a nomi diversi. Per ridurre rischi per la privacy, hanno utilizzato assistenti di ricerca automatici per raccogliere e analizzare i dati senza esporre informazioni personali. L'obiettivo è capire se il modello tratta gli utenti in modo diverso in base al nome.
Cosa permette di osservare
Permette di esplorare se i sistemi conversazionali rispondono diversamente a seconda dei nomi e quali metodi si possono usare per valutare e proteggere la privacy quando si controlla l'equità delle risposte automatiche.
Dalla fonte
We’ve analyzed how ChatGPT responds to users based on their name, using AI research assistants to protect privacy.