Do LLMs Take Care of Their Own? Similarity Signals Can Induce Cooperation
Di cosa parla
Agenti basati su grandi modelli di linguaggio spesso si incontrano e devono scegliere se cooperare; qui si studia come segnali che indicano la somiglianza tra due agenti condizionino queste scelte. Risultati principali: i modelli reagiscono in modo molto diverso; spesso si dichiarano molto simili quando confrontano le spiegazioni passo‑passo degli altri; inoltre viene proposto un modello che mostra come alti livelli di somiglianza possano favorire esiti cooperativi stabili.
Cosa permette di osservare
Permette di esplorare quanto la percezione di somiglianza fra intelligenze artificiali influenzi la cooperazione, quali differenze emergono tra modelli e se la fonte del segnale conta nel determinare risultati condivisi.
Dalla fonte
As LLM-based agents with user-instructed goals are becoming widely deployed, they increasingly encounter each other in strategic interactions, and face challenges of finding mutually beneficial outcomes. Prior literature has argued that cooperation problems such as the Prisoner's Dilemma are resolvable in settings where agents know they follow very similar decision making patterns, as for example in monocultural AI ecosystems. Following that line of work, this paper introduces the first framework for evaluating LLM decision making when agents are provided with graded similarity signals. Among our findings, we establish that different LLM models vary drastically in how they navigate similarity signals, with some modern models showing consistent behavior across cooperation problems, payoff structures, and prompt framing. Perhaps surprisingly, our experiments also show that the dataset bas…