Inteligência na Margem do Caos

Intelligence at the Edge of Chaos

October 3, 2024

Autores: Shiyang Zhang, Aakash Patel, Syed A Rizvi, Nianchen Liu, Sizhuang He, Amin Karbasi, Emanuele Zappala, David van Dijk

cs.AI

Resumo

Exploramos o surgimento de comportamento inteligente em sistemas artificiais investigando como a complexidade de sistemas baseados em regras influencia as capacidades de modelos treinados para prever essas regras. Nosso estudo se concentra em autômatos celulares elementares (ECA), sistemas unidimensionais simples, porém poderosos, que geram comportamentos que vão de triviais a altamente complexos. Ao treinar diferentes Modelos de Linguagem Grandes (LLMs) em ECAs distintos, avaliamos a relação entre a complexidade do comportamento das regras e a inteligência exibida pelos LLMs, conforme refletido em seu desempenho em tarefas subsequentes. Nossas descobertas revelam que regras com maior complexidade levam a modelos que exibem maior inteligência, conforme demonstrado por seu desempenho em tarefas de raciocínio e previsão de movimentos de xadrez. Tanto sistemas uniformes e periódicos, quanto sistemas altamente caóticos, resultaram em desempenho inferior em tarefas subsequentes, destacando um ponto ideal de complexidade propício à inteligência. Conjeturamos que a inteligência surge da capacidade de prever a complexidade e que criar inteligência pode exigir apenas exposição à complexidade.

English

We explore the emergence of intelligent behavior in artificial systems by investigating how the complexity of rule-based systems influences the capabilities of models trained to predict these rules. Our study focuses on elementary cellular automata (ECA), simple yet powerful one-dimensional systems that generate behaviors ranging from trivial to highly complex. By training distinct Large Language Models (LLMs) on different ECAs, we evaluated the relationship between the complexity of the rules' behavior and the intelligence exhibited by the LLMs, as reflected in their performance on downstream tasks. Our findings reveal that rules with higher complexity lead to models exhibiting greater intelligence, as demonstrated by their performance on reasoning and chess move prediction tasks. Both uniform and periodic systems, and often also highly chaotic systems, resulted in poorer downstream performance, highlighting a sweet spot of complexity conducive to intelligence. We conjecture that intelligence arises from the ability to predict complexity and that creating intelligence may require only exposure to complexity.