On the Definition of Intelligence
Di cosa parla
L'idea concreta è che si possa definire l'intelligenza guardando se, dati alcuni esempi di un concetto, un sistema è in grado di produrne altri che sembrino appartenere allo stesso concetto. Chiamano questa capacità «fedeltà all'entità»: essere capaci di generare esemplari che non si distinguono dagli originali. Propongono una cornice formale, protocolli di prova e discutono le implicazioni per valutazione, sicurezza e generalizzazione.
Cosa permette di osservare
Permette di esplorare se valutare l'intelligenza con esempi riproducibili è una scelta sensata, quali test e procedure servirebbero per applicarla e come questa definizione potrebbe influenzare valutazione, sicurezza e capacità di adattamento.
Dalla fonte
To engineer AGI, we should first capture the essence of intelligence in a species-agnostic form that can be evaluated, while being sufficiently general to encompass diverse paradigms of intelligent behavior, including reinforcement learning, generative models, classification, analogical reasoning, and goal-directed decision-making. We propose a general criterion based on \textit{entity fidelity}: Intelligence is the ability, given entities exemplifying a concept, to generate entities exemplifying the same concept. We formalise this intuition as \(\varepsilon\)-concept intelligence: it is \(\varepsilon\)-intelligent with respect to a concept if no chosen admissible distinguisher can separate generated entities from original entities beyond tolerance \(\varepsilon\). We present the formal framework, outline empirical protocols, and discuss implications for evaluation, safety, and generali…