No podemos comprender la IA utilizando nuestro vocabulario actual.

We Can't Understand AI Using our Existing Vocabulary

February 11, 2025

Autores: John Hewitt, Robert Geirhos, Been Kim

cs.AI

Resumen

Este documento de posición argumenta que, para comprender la IA, no podemos depender de nuestro vocabulario existente de palabras humanas. En su lugar, deberíamos esforzarnos por desarrollar neologismos: nuevas palabras que representen conceptos humanos precisos que queremos enseñar a las máquinas, o conceptos de máquinas que necesitamos aprender. Partimos de la premisa de que los humanos y las máquinas tienen conceptos diferentes. Esto significa que la interpretabilidad puede enmarcarse como un problema de comunicación: los humanos deben poder referenciar y controlar los conceptos de las máquinas, y comunicar conceptos humanos a las máquinas. Creemos que crear un lenguaje compartido entre humanos y máquinas mediante el desarrollo de neologismos podría resolver este problema de comunicación. Los neologismos exitosos logran un nivel útil de abstracción: no demasiado detallados, para que sean reutilizables en muchos contextos, y no demasiado generales, para que transmitan información precisa. Como prueba de concepto, demostramos cómo un "neologismo de longitud" permite controlar la extensión de las respuestas de los LLM, mientras que un "neologismo de diversidad" permite muestrear respuestas más variables. En conjunto, argumentamos que no podemos comprender la IA utilizando nuestro vocabulario existente, y que expandirlo a través de neologismos crea oportunidades tanto para controlar como para entender mejor a las máquinas.

English

This position paper argues that, in order to understand AI, we cannot rely on our existing vocabulary of human words. Instead, we should strive to develop neologisms: new words that represent precise human concepts that we want to teach machines, or machine concepts that we need to learn. We start from the premise that humans and machines have differing concepts. This means interpretability can be framed as a communication problem: humans must be able to reference and control machine concepts, and communicate human concepts to machines. Creating a shared human-machine language through developing neologisms, we believe, could solve this communication problem. Successful neologisms achieve a useful amount of abstraction: not too detailed, so they're reusable in many contexts, and not too high-level, so they convey precise information. As a proof of concept, we demonstrate how a "length neologism" enables controlling LLM response length, while a "diversity neologism" allows sampling more variable responses. Taken together, we argue that we cannot understand AI using our existing vocabulary, and expanding it through neologisms creates opportunities for both controlling and understanding machines better.