커뮤니티 노트가 전문 팩트체커를 대체할 수 있을까?

Can Community Notes Replace Professional Fact-Checkers?

February 19, 2025

저자: Nadav Borenstein, Greta Warren, Desmond Elliott, Isabelle Augenstein

cs.AI

초록

소셜 미디어에서 잘못된 정보의 확산을 막기 위해 일반적으로 사용되는 두 가지 전략은 (i) 전문 기관의 팩트 체크와 (ii) 플랫폼 사용자들의 커뮤니티 중재입니다. 트위터/X와 최근 메타의 정책 변화는 팩트 체크 기관과의 협력에서 벗어나 크라우드소싱된 커뮤니티 노트에 대한 의존도를 높이는 방향으로 전환되고 있음을 보여줍니다. 그러나 팩트 체크와 유용한 커뮤니티 노트 간의 의존 관계의 정도와 성격은 여전히 명확하지 않습니다. 이러한 질문을 해결하기 위해 우리는 언어 모델을 사용하여 트위터/X 커뮤니티 노트의 대규모 코퍼스를 주제, 인용된 출처, 그리고 더 넓은 잘못된 정보 서사와 연결된 주장을 반박하는지 여부와 같은 속성으로 주석 처리했습니다. 우리의 분석에 따르면, 커뮤니티 노트는 이전에 보고된 것보다 최대 다섯 배 더 많은 팩트 체크 출처를 인용합니다. 팩트 체크는 특히 더 넓은 서사와 연결된 게시물에 대한 노트에서 중요한데, 이러한 노트는 다른 출처에 비해 팩트 체크 출처를 참조할 가능성이 두 배 더 높습니다. 결론적으로, 우리의 결과는 성공적인 커뮤니티 중재가 전문적인 팩트 체크에 크게 의존하고 있음을 보여줍니다.

English

Two commonly-employed strategies to combat the rise of misinformation on social media are (i) fact-checking by professional organisations and (ii) community moderation by platform users. Policy changes by Twitter/X and, more recently, Meta, signal a shift away from partnerships with fact-checking organisations and towards an increased reliance on crowdsourced community notes. However, the extent and nature of dependencies between fact-checking and helpful community notes remain unclear. To address these questions, we use language models to annotate a large corpus of Twitter/X community notes with attributes such as topic, cited sources, and whether they refute claims tied to broader misinformation narratives. Our analysis reveals that community notes cite fact-checking sources up to five times more than previously reported. Fact-checking is especially crucial for notes on posts linked to broader narratives, which are twice as likely to reference fact-checking sources compared to other sources. In conclusion, our results show that successful community moderation heavily relies on professional fact-checking.