컴퓨팅 파워와 인공지능의 거버넌스

Computing Power and the Governance of Artificial Intelligence

February 13, 2024

저자: Girish Sastry, Lennart Heim, Haydn Belfield, Markus Anderljung, Miles Brundage, Julian Hazell, Cullen O'Keefe, Gillian K. Hadfield, Richard Ngo, Konstantin Pilz, George Gor, Emma Bluemke, Sarah Shoker, Janet Egan, Robert F. Trager, Shahar Avin, Adrian Weller, Yoshua Bengio, Diane Coyle

cs.AI

초록

컴퓨팅 파워, 즉 "컴퓨트(compute)"는 인공지능(AI) 역량의 개발과 배포에 있어 핵심적인 요소이다. 이에 따라 정부와 기업들은 AI를 통제하기 위한 수단으로 컴퓨트를 활용하기 시작했다. 예를 들어, 정부들은 국내 컴퓨트 역량에 투자하고, 경쟁국으로의 컴퓨트 유출을 통제하며, 특정 산업에 대한 컴퓨트 접근을 지원하고 있다. 그러나 이러한 노력들은 컴퓨트가 AI 개발과 배포를 통제하는 데 활용될 수 있는 잠재력의 표면만을 긁어내고 있다. AI의 다른 주요 입력 요소(데이터와 알고리즘)에 비해, AI 관련 컴퓨트는 특히 효과적인 개입 지점이다: 이는 탐지 가능하고, 배제 가능하며, 정량화가 가능하며, 극도로 집중된 공급망을 통해 생산된다. 이러한 특성들과 최첨단 AI 모델에 대한 컴퓨트의 독보적인 중요성을 고려할 때, 컴퓨트를 통제함으로써 AI의 안전성과 유익한 사용을 보장하는 것과 같은 공통의 정책 목표를 달성하는 데 기여할 수 있다. 보다 구체적으로, 정책 결정자들은 컴퓨트를 활용하여 AI에 대한 규제 가시성을 확보하고, 유익한 결과를 촉진하기 위해 자원을 배분하며, 무책임하거나 악의적인 AI 개발과 사용에 대한 제재를 강제할 수 있다. 그러나 컴퓨트 기반 정책과 기술이 이러한 영역에서 도움을 줄 잠재력을 가지고 있음에도 불구하고, 이들의 실행 준비도에는 상당한 차이가 있다. 일부 아이디어는 현재 시범적으로 시행되고 있는 반면, 다른 것들은 근본적인 연구의 필요성으로 인해 방해를 받고 있다. 더욱이, 컴퓨트 통제에 대한 순진하거나 잘못된 접근 방식은 프라이버시, 경제적 영향, 권력 집중과 같은 영역에서 상당한 위험을 초래할 수 있다. 우리는 이러한 컴퓨트 통제로 인한 위험을 최소화하기 위한 가드레일을 제안하며 글을 마무리한다.

English

Computing power, or "compute," is crucial for the development and deployment of artificial intelligence (AI) capabilities. As a result, governments and companies have started to leverage compute as a means to govern AI. For example, governments are investing in domestic compute capacity, controlling the flow of compute to competing countries, and subsidizing compute access to certain sectors. However, these efforts only scratch the surface of how compute can be used to govern AI development and deployment. Relative to other key inputs to AI (data and algorithms), AI-relevant compute is a particularly effective point of intervention: it is detectable, excludable, and quantifiable, and is produced via an extremely concentrated supply chain. These characteristics, alongside the singular importance of compute for cutting-edge AI models, suggest that governing compute can contribute to achieving common policy objectives, such as ensuring the safety and beneficial use of AI. More precisely, policymakers could use compute to facilitate regulatory visibility of AI, allocate resources to promote beneficial outcomes, and enforce restrictions against irresponsible or malicious AI development and usage. However, while compute-based policies and technologies have the potential to assist in these areas, there is significant variation in their readiness for implementation. Some ideas are currently being piloted, while others are hindered by the need for fundamental research. Furthermore, naive or poorly scoped approaches to compute governance carry significant risks in areas like privacy, economic impacts, and centralization of power. We end by suggesting guardrails to minimize these risks from compute governance.