경쟁하는 윤리적 AI 비전: OpenAI 사례 연구

초록

서론. AI 윤리는 행위자와 이해관계자 집단에 따라 뚜렷이 다르게 구성된다. 본 연구는 OpenAI의 윤리적 AI 담론 사례 분석 결과를 보고한다. 방법론. 연구는 다음과 같은 문제를 다루었다: 시간에 따라 OpenAI의 공개 담론이 '윤리', '안전', '정렬' 및 이와 유사한 관련 개념을 어떻게 활용해 왔으며, 이러한 담론이 실무상의 구성 방식을 무엇으로 신호하는가? 일반 대중을 위한 커뮤니케이션과 학계 대상 커뮤니케이션을 구분한 구조화된 코퍼스를 공개 문서에서 조립하였다. 분석. 윤리적 주제에 대한 질적 내용 분석은 귀납적으로 도출된 코드와 연역적으로 적용된 코드를 결합하였다. 양적 분석은 NLP를 통한 계산적 내용 분석 방법을 활용하여 주제를 모델링하고 시간에 따른 수사적 변화를 정량화하였다. 집계 결과는 시각화하여 보고된다. 재현 가능한 결과를 위해 코드를 https://github.com/famous-blue-raincoat/AI_Ethics_Discourse 에 공개하였다. 결과. 결과에 따르면 안전과 위험 담론이 OpenAI의 공개 커뮤니케이션과 문서화를 지배하고 있으며, 학계 및 옹호 단체의 윤리 프레임워크나 어휘는 적용되지 않고 있다. 결론. 거버넌스에 대한 함의와 함께 산업계의 윤리 회피 관행에 대한 논의를 제시한다.

English

Introduction. AI Ethics is framed distinctly across actors and stakeholder groups. We report results from a case study of OpenAI analysing ethical AI discourse. Method. Research addressed: How has OpenAI's public discourse leveraged 'ethics', 'safety', 'alignment' and adjacent related concepts over time, and what does discourse signal about framing in practice? A structured corpus, differentiating between communication for a general audience and communication with an academic audience, was assembled from public documentation. Analysis. Qualitative content analysis of ethical themes combined inductively derived and deductively applied codes. Quantitative analysis leveraged computational content analysis methods via NLP to model topics and quantify changes in rhetoric over time. Visualizations report aggregate results. For reproducible results, we have released our code at https://github.com/famous-blue-raincoat/AI_Ethics_Discourse. Results. Results indicate that safety and risk discourse dominate OpenAI's public communication and documentation, without applying academic and advocacy ethics frameworks or vocabularies. Conclusions. Implications for governance are presented, along with discussion of ethics-washing practices in industry.

경쟁하는 윤리적 AI 비전: OpenAI 사례 연구

Competing Visions of Ethical AI: A Case Study of OpenAI

초록

Support