Co-constructing sociotechnical AI governance: participatory system mapping using algorithm registers
Di cosa parla
Si guarda ai registri degli algoritmi — elenchi che dovrebbero rendere visibile l'uso di strumenti automatici nei servizi comunali — e a quanto rappresentano il sistema dietro a uno strumento che aiuta i caseworker a decidere l'idoneità ai sussidi applicando regole legali. Con interviste e workshop, si individuano rischi non visibili nel registro, come la negazione di benefici, il peggioramento del funzionamento e l'impossibilità di contestare decisioni; emerge pure che la politica incide sull'analisi della sicurezza.
Cosa permette di osservare
Permette di esplorare se i registri algoritmici forniscono informazioni utili ai diversi pubblici e se approcci partecipativi (coinvolgendo personale, società civile e garanti) possono rivelare rischi nascosti e orientare valutazioni di sicurezza.
Dalla fonte
Algorithm registers have been championed as a means of providing transparency on the use of algorithms in public services. Yet potential publics differ in their expectations of what should be made transparent and how, as well as in their interest in and ability to parse the information currently published in the registers. Moreover, it remains unclear how these instruments can represent the sociotechnical systems in which these algorithms are embedded, and how system-level transparency can facilitate accountability. In this paper, we ask, what do algorithm registers reveal (and occlude) about the sociotechnical systems governing algorithmic systems, and how can diverse stakeholder perspectives inform a more pluralistic system-theoretic safety analysis? To do this, we probe the municipal algorithm register of a Dutch city through a case study of a decision-support tool for caseworkers' a…