We kunnen AI niet begrijpen met ons bestaande vocabulaire.

We Can't Understand AI Using our Existing Vocabulary

February 11, 2025

Auteurs: John Hewitt, Robert Geirhos, Been Kim

cs.AI

Samenvatting

Dit position paper betoogt dat we, om AI te begrijpen, niet kunnen vertrouwen op onze bestaande woordenschat van menselijke termen. In plaats daarvan moeten we streven naar het ontwikkelen van neologismen: nieuwe woorden die precieze menselijke concepten vertegenwoordigen die we machines willen aanleren, of machineconcepten die wij moeten leren. We vertrekken vanuit de premisse dat mensen en machines verschillende concepten hebben. Dit betekent dat interpreteerbaarheid kan worden opgevat als een communicatieprobleem: mensen moeten in staat zijn om machineconcepten te refereren en te controleren, en menselijke concepten aan machines te communiceren. Het creëren van een gedeelde mens-machine taal door het ontwikkelen van neologismen, zo geloven wij, zou dit communicatieprobleem kunnen oplossen. Succesvolle neologismen bereiken een nuttig niveau van abstractie: niet te gedetailleerd, zodat ze herbruikbaar zijn in veel contexten, en niet te hoog overkoepelend, zodat ze precieze informatie overbrengen. Als proof of concept demonstreren we hoe een "lengte-neologisme" het mogelijk maakt om de lengte van LLM-reacties te controleren, terwijl een "diversiteits-neologisme" het mogelijk maakt om meer gevarieerde reacties te genereren. Samengevat betogen we dat we AI niet kunnen begrijpen met onze bestaande woordenschat, en dat het uitbreiden ervan door middel van neologismen kansen creëert om machines zowel beter te controleren als te begrijpen.

English

This position paper argues that, in order to understand AI, we cannot rely on our existing vocabulary of human words. Instead, we should strive to develop neologisms: new words that represent precise human concepts that we want to teach machines, or machine concepts that we need to learn. We start from the premise that humans and machines have differing concepts. This means interpretability can be framed as a communication problem: humans must be able to reference and control machine concepts, and communicate human concepts to machines. Creating a shared human-machine language through developing neologisms, we believe, could solve this communication problem. Successful neologisms achieve a useful amount of abstraction: not too detailed, so they're reusable in many contexts, and not too high-level, so they convey precise information. As a proof of concept, we demonstrate how a "length neologism" enables controlling LLM response length, while a "diversity neologism" allows sampling more variable responses. Taken together, we argue that we cannot understand AI using our existing vocabulary, and expanding it through neologisms creates opportunities for both controlling and understanding machines better.