소셜미디어(SNS)가 가짜뉴스의 온상으로 지목되면서 페이스북과 옛 트위터 엑스(X) 등 SNS 플랫폼들도 촉각을 세우고 있다.

내년 미 대선을 앞두고 SNS에 유통되는 가짜뉴스에 대한 경계령이 이미 발동된 데 더해 이스라엘과 팔레스타인 무장정파 하마스간 전쟁 국면에서도 가짜뉴스가 극에 달하면서다. 자극적인 가짜뉴스는 순식간에 수십만회가 조회되고, 퍼다 나르기를 통해 다른 SNS로 확산하고 있다. 이스라엘의 한 모니터링 기관에 따르면 이번 전쟁 관련 SNS 계정 5개 중 1개는 가짜다.

이에 이들 플랫폼은 ‘가짜뉴스’에 대응하기 위한 전담 부서를 신설하고, 대규모 인력을 투입해 실시간 모니터링을 강화하고 있다. 가짜 정보로 의심되는 콘텐츠와 의심 계정은 즉시 삭제하고, 정치 광고 등에는 인공지능(AI) 활용 여부를 공개해 ‘진짜’ 같은 가짜를 걸러낸다는 방침이다.

미 대선을 비롯, 내년 각국이 주요 선거를 앞두고 있는 점도 가짜뉴스를 예방·차단하기 위한 빅테크 기업들의 발걸음을 더욱 분주하게 하고 있다.

가짜뉴스의 확산은 ‘가짜 계정’을 통해 주로 확산하고 있다. 가짜 계정을 이용해 의도적으로 가짜뉴스를 확산시킴으로써 유리한 여론을 형성하려는 의도다. 인공지능(AI)을 기반으로 한 딥페이크 기술이 콘텐츠 조작에 손쉽게 이용되면서 가짜뉴스 구분을 더욱 어렵게 하고 있다.

하마스의 이스라엘 공습 이후 ‘이스라엘·하마스 전시 상황’이라는 제목의 영상이 한 SNS에 게시됐다. 이 SNS 계정 소유자는 ‘BBC 기자’라고 돼 있었다. 그러나 이 영상은 인공지능(AI)으로 합성해 만든 가짜였고, 영상이 게시된 계정 역시 가짜였다. BBC도 계정 주인을 부인했다.

이스라엘의 허위 정보 모니터링 플랫폼 사이아브라(Cyabra)에 따르면 전쟁 발생 일주일 후 전쟁 관련 정보를 올린 SNS 계정 5개 중 1개에 달했다. 사이아브라는 X와 틱톡 등 주요 SNS 플랫폼에서 활동하는 가짜 계정을 약 4만개로 추정했다. 여기에는 가짜 신분으로 만든 계정과 자동으로 콘텐츠를 생산하고 전달하는 봇(bot) 계정 등도 포함됐다.

특히 4만개의 계정 중 상당수는 1년 전에 만들어진 뒤 오랫동안 휴면 상태에 있다가 이번 전쟁을 계기로 본격적인 활동에 나섰다. 하마스의 이스라엘 공습 이후 일부 계정에서는 갑자기 하루에 600개 이상의 콘텐츠가 게시됐다.

소통의 창인 SNS가 가짜뉴스로 불안을 확산하고 있다는 비판이 커지면서 페이스북과 X, 틱톡, 유튜브 등 주요 플랫폼은 가짜뉴스와 전쟁을 벌이고 있다. 이들 플랫폼은 가짜뉴스 확산을 막기 위해 수십만건에 달하는 콘텐츠를 삭제하고 이와 연계한 계정도 차단하고 있다.

하마스 공습 후 가짜뉴스가 가장 많이 확산한 일론 머스크 테슬라 최고경영자(CEO)가 소유한 X는 하마스와 연계한 계정을 차단하고 콘텐츠 수만개를 삭제했다.

또 가짜뉴스 등을 게시하는 것으로 추정되는 수백개의 하마스 연계 계정을 확인하고 차단했다고 전했다.

페이스북과 인스타그램, 왓츠앱 등을 운영하는 메타는 가짜뉴스와 폭력적 콘텐츠 등에 대한 모니터링 기준을 일시적으로 낮추는 방식으로 ‘감시활동’을 강화했다. 이를 통해 전쟁 시작 일주일 만에 80만건의 콘텐츠를 삭제했고, 가짜뉴스를 유통하는 것으로 의심되는 계정을 막았다.

중국 바이트댄스가 소유한 틱톡은 “50만개 이상의 동영상을 제거하고 이 지역에서 8천개의 라이브 스트리밍을 폐쇄했다”고 밝혔다.

구글 유튜브도 가짜 뉴스로 의심되는 수천 개의 영상을 삭제하고, 텔레그램도 하마스와 연계된 계정을 차단했다. 아울러 AI 기술 등을 이용해 가짜뉴스와 폭력적 콘텐츠에 대한 자동 감지 시스템을 업데이트했다. 또 미성년자에 대해서는 특정 주제에 대한 반복적인 콘텐츠 추천을 제한하기로 했다.

이들 플랫폼은 가짜뉴스와 전쟁을 위해 대규모 자원을 투입하며 전담 부서를 구축하는 등 콘텐츠 등에 대한 24시간 모니터링을 강화하고 있다.

메타는 이스라엘과 하마스 간 충돌 이후 가짜뉴스에 대응하기 위한 ‘특별운영센터’를 구성했다. ‘특별운영센터’는 히브리어와 아랍어에 능통한 전문가 수십명들로 꾸려졌으며, 실시간 게시물 모니터링을 통해 가짜뉴스를 걸러내고 있다.

틱톡도 가짜뉴스 게시물에 대한 감시 강화를 위해 지휘센터를 설치했다. 아랍어와 히브리어를 구사하는 전문가를 두고 콘텐츠 내용을 일일이 체크하고 있다. 인원도 대거 배치했다.

구글 유튜브는 24시간 모니터링 체제를 강화하면서 의심되는 영상에 대한 감시를 강화하고 있다. 자체 SNS 이용 정책 기준도 일시적으로 강화했다.

메타는 정책을 위반한 특정 인스타그램 해시태그는 검색할 수 없게 하고, 과거 정책 위반자는 페이스북과 인스타그램 라이브 사용도 제한했다.