Top
검색버튼 메뉴버튼

Management Information Systems

SNS에서 가짜 뉴스 막는 2가지 방법, 적용은 어떻게

이동원 | 352호 (2022년 09월 Issue 1)
0014


Based on “The effect of platform intervention policies on fake news dissemination and survival: An empirical examination.”(2021) by Ka Chung Ng, Jie Tang, Dongwon Lee in Journal of Management Information Systems, 38(4): 898-930.

무엇을, 왜 연구했나?

소셜미디어는 정보를 습득하고 확산하는 중요한 채널로 자리매김했다. 그런데 정보를 쉽게 제작, 변형시킬 수 있게 되면서 ‘가짜 뉴스’가 소셜미디어를 통해 확산되는 현상이 사회적인 문제로 대두했다. 이용자는 충분한 배경지식과 사실관계에 근거하지 않은 채 콘텐츠를 쉽게 변경, 왜곡해 만든 가짜 뉴스를 빠르게 확산시킬 수 있다.

소셜미디어 플랫폼들은 이런 가짜 뉴스의 생산과 확산을 막기 위해 다양한 방법을 동원하고 있다. 예컨대, 왓츠앱은 가짜 뉴스의 포워딩을 제한하고, 메타는 팩트 체크 프로그램을 활용해 페이스북과 인스타그램에서 공유되는 광고, 기사, 사진, 동영상, 게시물의 허위 정보를 검토하고 평가한다. 또 중국의 시나웨이보의 경우 커뮤니티 매니지먼트 센터를 운영해 가짜 뉴스를 식별한다. 하지만 이런 소셜미디어 플랫폼의 노력에도 불구하고 가짜 뉴스의 확산은 멈추지 않고 있다. 소셜미디어 플랫폼의 개입 조치가 제대로 효과를 거두지 못하고 있는 것이다.

소셜미디어 플랫폼 사업자는 가짜 뉴스의 확산을 막기 위해 크게 두 가지 방향의 정책을 펼칠 수 있다. 첫째, 가짜 뉴스로 판명된 포스팅에 표식을 부여해 해당 콘텐츠가 가짜 뉴스임을 알리는 식으로 콘텐츠에 개입하는 것이다. 둘째, 가짜 뉴스를 생성하고 공유하는 사용자들을 대상으로 포스팅의 노출 및 포워딩을 제한하는 식으로 사용자에게 개입하는 방법이 있다. 그렇다면 이렇게 사용자 혹은 콘텐츠에 개입하는 정책이 실제로 어떤 효과를 발휘할 수 있을까? 본 연구는 소셜미디어 플랫폼의 가짜 뉴스 확산 방지 정책이 가짜 뉴스의 확산과 존속에 어떤 영향을 미치는지를 연구했다.

무엇을 발견했나?

중국 최대의 소셜미디어 플랫폼인 시나웨이보는 2012년 5월 콘텐츠 매니지먼트 센터를 통해 가짜 뉴스로 식별된 콘텐츠에 별도 표식을 부여했다. 또 2013년 8월부터 가짜 뉴스를 생성하고 공유한 사용자들의 포스팅의 포워딩을 제한하는 사용자 규제 정책을 시행했다. 이에 본 연구는 2012년 6월부터 2014년 5월까지 2년간 시나웨이보에서 가짜 뉴스로 식별된 1514건의 가짜 뉴스와 해당 가짜 뉴스에 댓글을 달거나 포워드를 한 약 41만 명의 사용자를 대상으로 소셜미디어 플랫폼의 가짜 뉴스에 대한 콘텐츠 표식과 가짜 뉴스 유포자에 대한 포워딩 제한 효과를 각각 분석했다.

연구 결과, 가짜 뉴스에 표식을 부여하는 조치는 가짜 뉴스가 소셜미디어 일반 이용자 전반에 넓고 빠르게 확산되는 것을 방지하는 데 기여했다. 그런데 다른 한편으로 콘텐츠 표식을 한 가짜 뉴스는 유포자와 직접 연결된 팔로워들 사이에서 포워딩이 늘어나는 현상도 나타났다. 영향력 있는 소셜미디어 사용자, 즉 인플루언서들이 가짜 뉴스로 판명돼 표식이 붙게 된 콘텐츠를 포워딩해 가짜 뉴스의 소셜미디어 내 영향력을 증가시킨 것이다.

반면, 특정 사용자의 포스팅 포워딩을 제한하는 정책은 가짜 뉴스가 유포자의 팔로워들 사이에서 직접 포워딩되는 현상은 줄인 반면 다른 일반 이용자들에게 가짜 뉴스를 넓고 빠르게 확산시키는 부작용을 낳았다. 또한 포워딩 제한 정책은 가짜 뉴스의 소셜미디어 내 존속 기간1 을 단축시켰다.

연구 결과가 어떤 교훈을 주나?

본 연구 결과는 가짜 뉴스의 확산을 막기 위한 소셜미디어 차원의 정책적 개입이 그 종류에 따라 서로 다른 효과를 가진다는 점을 보여준다. 특히 콘텐츠에 별도 표식을 통해 가짜 뉴스라는 것을 알릴 경우 가짜 뉴스가 널리 확산되는 것은 막을 수 있었지만 가짜 뉴스가 일부 인플루언서를 중심으로 집중 공유되는 부작용이 나타났다. 즉, 가짜 뉴스가 소규모 사용자들 사이에서 폐쇄적으로 공유됨으로써 그 부작용이 증폭, 강화되는 ‘반향실(echo chamber) 효과’가 증가했다. 다른 한편, 가짜 뉴스 유포자의 포워딩을 제한하는 조치는 가짜 뉴스의 직접적인 포워딩과 존속 기간을 모두 줄인 반면 가짜 뉴스가 넓고 빠르게 퍼져나가는 현상은 지속됐다. 사회 연결망 이론 관점에서 보면 포워딩 제한 조치는 가짜 뉴스 유포자와 소셜미디어 내에서 강한 연대(strong tie)를 가진, 즉 유포자와 직접 연결돼 있는 사용자들의 포워딩을 줄일 수 있었지만 약한 연대(weak tie)를 가진 일반 사용자들의 가짜 뉴스 공유가 늘어나는 것은 막지 못했기 때문이다.

본 연구 결과를 바탕으로 소셜미디어 플랫폼 사업자는 정책적 개입이 가짜 뉴스의 확산 방지에 기여할 수 있음을 인식하고 가짜 뉴스 확산 방지를 위해 적절한 정책적 개입이 무엇인지를 고민할 필요가 있다. 특히 가짜 뉴스가 소셜미디어에서 어떻게 확산되고 있는지에 대한 데이터를 바탕으로 정책을 설계해야 한다. 콘텐츠에 개입할지, 혹은 사용자에게 개입할지 등 개입 방식에 대한 의사결정도 데이터에 기반해 이뤄져야 한다.

또 중요한 점은 가짜 뉴스 확산을 방지할 수 있는 하나의 완벽한 해결 방안은 존재하지 않는다는 점을 인식하는 것이다. 정책적 개입의 구체적인 목적에 따라 개입 방식도 달라질 수 있다. 예컨대 가짜 뉴스가 넓게 확산되는 것을 방지하는 게 목적인지, 확산의 속도를 늦추는 게 목적인지, 혹은 성향이 비슷한 사용자들 사이의 반향실 효과를 방지하는 게 목적인지, 영향력 있는 사용자를 통한 확산 방지가 목적인지 등에 따라 개입 방식과 방향이 달라질 수 있다.

이동원 홍콩과학기술대학교 경영대학 정보시스템(ISOM) 교수 dongwon@ust.hk
필자는 KAIST에서 컴퓨터공학 학사, IT 비즈니스 석사를 받고 미국 메릴랜드대에서 정보시스템 박사 학위를 받았다. 메릴랜드대에서 강의했으며 2017년부터 홍콩과기대 경영대학에서 조교수로 재직 중이다. 주요 연구 분야는 비즈니스 데이터 분석, 모바일 커머스, 디지털 너지 디자인, 디지털 전환, 프로토콜 경제 등이다.
관련기사