Intelligenz am Rand des Chaos

Intelligence at the Edge of Chaos

October 3, 2024

Autoren: Shiyang Zhang, Aakash Patel, Syed A Rizvi, Nianchen Liu, Sizhuang He, Amin Karbasi, Emanuele Zappala, David van Dijk

cs.AI

Zusammenfassung

Wir erforschen das Aufkommen intelligenten Verhaltens in künstlichen Systemen, indem wir untersuchen, wie die Komplexität von regelbasierten Systemen die Fähigkeiten von Modellen beeinflusst, die darauf trainiert sind, diese Regeln vorherzusagen. Unsere Studie konzentriert sich auf elementare zelluläre Automaten (ECA), einfache, aber leistungsstarke eindimensionale Systeme, die Verhaltensweisen von trivial bis hochkomplex erzeugen. Durch das Training unterschiedlicher großer Sprachmodelle (LLMs) auf verschiedenen ECAs haben wir die Beziehung zwischen der Komplexität des Verhaltens der Regeln und der Intelligenz bewertet, die von den LLMs gezeigt wird, wie sie sich in ihrer Leistung bei nachgelagerten Aufgaben widerspiegelt. Unsere Ergebnisse zeigen, dass Regeln mit höherer Komplexität zu Modellen führen, die eine größere Intelligenz aufweisen, wie durch ihre Leistung bei Denk- und Schachzugvorhersageaufgaben gezeigt wird. Sowohl gleichmäßige als auch periodische Systeme und oft auch stark chaotische Systeme führten zu einer schlechteren Leistung bei nachgelagerten Aufgaben, was einen optimalen Bereich der Komplexität hervorhebt, der förderlich für Intelligenz ist. Wir vermuten, dass Intelligenz aus der Fähigkeit entsteht, Komplexität vorherzusagen, und dass die Schaffung von Intelligenz möglicherweise nur die Exposition gegenüber Komplexität erfordert.

English

We explore the emergence of intelligent behavior in artificial systems by investigating how the complexity of rule-based systems influences the capabilities of models trained to predict these rules. Our study focuses on elementary cellular automata (ECA), simple yet powerful one-dimensional systems that generate behaviors ranging from trivial to highly complex. By training distinct Large Language Models (LLMs) on different ECAs, we evaluated the relationship between the complexity of the rules' behavior and the intelligence exhibited by the LLMs, as reflected in their performance on downstream tasks. Our findings reveal that rules with higher complexity lead to models exhibiting greater intelligence, as demonstrated by their performance on reasoning and chess move prediction tasks. Both uniform and periodic systems, and often also highly chaotic systems, resulted in poorer downstream performance, highlighting a sweet spot of complexity conducive to intelligence. We conjecture that intelligence arises from the ability to predict complexity and that creating intelligence may require only exposure to complexity.