Non Possiamo Comprendere l'IA Utilizzando il Nostro Vocabolario Esistente

We Can't Understand AI Using our Existing Vocabulary

February 11, 2025

Autori: John Hewitt, Robert Geirhos, Been Kim

cs.AI

Abstract

Questo position paper sostiene che, per comprendere l'IA, non possiamo affidarci al nostro vocabolario esistente di parole umane. Invece, dovremmo sforzarci di sviluppare neologismi: nuove parole che rappresentino concetti umani precisi che desideriamo insegnare alle macchine, o concetti delle macchine che dobbiamo imparare. Partiamo dal presupposto che umani e macchine abbiano concetti diversi. Ciò significa che l'interpretabilità può essere inquadrata come un problema di comunicazione: gli umani devono essere in grado di fare riferimento e controllare i concetti delle macchine, e comunicare i concetti umani alle macchine. Creare un linguaggio condiviso tra umani e macchine attraverso lo sviluppo di neologismi, crediamo, potrebbe risolvere questo problema di comunicazione. I neologismi di successo raggiungono un livello utile di astrazione: non troppo dettagliati, in modo da essere riutilizzabili in molti contesti, e non troppo generali, in modo da trasmettere informazioni precise. Come prova di concetto, dimostriamo come un "neologismo della lunghezza" consenta di controllare la lunghezza delle risposte dei modelli linguistici (LLM), mentre un "neologismo della diversità" permetta di campionare risposte più variabili. Nel complesso, sosteniamo che non possiamo comprendere l'IA utilizzando il nostro vocabolario esistente, e che espanderlo attraverso neologismi crea opportunità sia per controllare che per comprendere meglio le macchine.

English

This position paper argues that, in order to understand AI, we cannot rely on our existing vocabulary of human words. Instead, we should strive to develop neologisms: new words that represent precise human concepts that we want to teach machines, or machine concepts that we need to learn. We start from the premise that humans and machines have differing concepts. This means interpretability can be framed as a communication problem: humans must be able to reference and control machine concepts, and communicate human concepts to machines. Creating a shared human-machine language through developing neologisms, we believe, could solve this communication problem. Successful neologisms achieve a useful amount of abstraction: not too detailed, so they're reusable in many contexts, and not too high-level, so they convey precise information. As a proof of concept, we demonstrate how a "length neologism" enables controlling LLM response length, while a "diversity neologism" allows sampling more variable responses. Taken together, we argue that we cannot understand AI using our existing vocabulary, and expanding it through neologisms creates opportunities for both controlling and understanding machines better.