내년 전세계 50개국에서 중요한 선거가 치러질 예정인 가운데, 최근 몇 년간 급속히 발달한 인공지능(AI) 기술이 선거에 악영향을 미칠 수 있다는 우려가 나온다.

외신에 따르면 2024년 미국 대선을 비롯해 러시아, 인도, 멕시코 등에서 선거가 열려 20억명 이상이 투표소로 향할 예정이다. 한국에서도 제22대 국회의원 선거가 내년 4월 치러진다.

하지만 전문가들은 가짜 이미지 등을 쉽게 만들어낼 수 있는 AI 도구가 더 정교해지면서 선거를 앞두고 허위 정보가 그 어느 때보다 더 판칠 수 있다고 경고한다.

반면 이를 제어할 수 있는 온라인상의 안전장치는 전보다 약해진 탓에 가짜 뉴스의 급속한 확산이 선거판을 뒤흔들 위험이 더 커졌다는 것이다.

◇ 생성형 AI, 딥페이크 기술로 정보 조작 '뚝딱'

지난해 등장한 챗GPT 등 생성형 AI 기술은 마치 동화 속 도깨비방망이처럼 그럴듯한 가짜 정보나 이미지를 쉽게 만들어낼 수 있게 한다.

AP 통신은 26일 AI 기술이 선거에 미칠 영향을 집중 조명하는 기사에서 "선거와 관련한 조작된 이미지와 동영상이 새로운 것은 아니지만, 2024년 미국 대통령 선거는 클릭 몇 번으로 몇 초 만에 가짜를 만들어낼 수 있는 정교한 AI 도구가 나온 이래 치러진 첫 번째 선거가 될 것"이라고 짚었다.

AI 전문가인 워싱턴대 명예교수 오런 에치오니는 선거를 앞두고 "잘못된 정보의 쓰나미를 예상한다"며 "내 예상이 틀리면 좋겠지만, 재료는 널려 있고 나는 정말 겁이 난다"고 말했다.

그는 특히 '사악한' 버전의 딥페이크 이미지가 투표를 며칠 앞두고 소셜미디어에 퍼질 경우 사람들이 쉽게 속을 수 있다고 지적했다.

그는 "사람들은 대선 후보인 조 바이든 대통령이 병원에 실려 가는 모습을 볼 수 있고, 어느 후보자가 실제로 한 적이 없는 말을 하는 것을 볼 수 있다"며 "사람들이 은행에 돈을 인출하러 뛰어가는 모습이나, 실제로 일어나지 않은 폭탄 테러와 폭력도 볼 수 있다"고 설명했다.

브레넌 정의센터의 선거 부문 책임자 래리 노든은 첨단기술로 만들어진 가짜 뉴스가 이미 전 세계에 영향을 미치고 있다고 전했다.

그는 최근 슬로바키아에서 선거를 며칠 앞두고 자유주의 진영 후보가 맥주 가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 AI 생성 오디오 녹음이 사실인 것처럼 확산한 사례가 있다고 설명했다.

또 AI 도구는 특정 커뮤니티를 겨냥해 오해의 소지가 있는 메시지를 정교하게 다듬는 데에도 쓰일 수 있으며, 공식 정부 사이트처럼 보이는 가짜 웹사이트로 투표 절차에 관한 허위 정보를 공지할 수도 있다.

허위 정보를 연구하는 캐슬린 홀 펜실베이니아대 아넨버그 공공정책센터 소장은 "실제처럼 보이고 들리도록 만들어진 콘텐츠를 마주하면 우리가 진화를 통해 다듬어온 모든 감각이 진짜 현실보다 조작된 것을 믿게 만드는 데 작용할 것"이라고 말했다.

◇ 정부 규제 미비…소셜미디어 업계는 감시 인력 줄여

하지만 AI 기술이 가장 앞선 미국에서도 관련 규제는 아직 마련되지 않은 상태다.

미 의회와 연방 선거관리위원회에서 정치인들이 AI 생성 기술을 규제하기 위한 조치를 모색하고 있지만, 아직은 어떤 규칙이나 법안도 확정된 게 없다고 AP는 전했다.

이에 따라 정치 관련 AI 딥페이크를 제재하는 유일한 규제는 각 주(州)에 맡겨진 상황이다.

일부 주에서는 딥페이크에 표시를 하거나 후보자의 이미지를 허위로 표현하는 딥페이크를 금지하는 법을 통과시켰지만, 법 위반 행위를 지속해서 적발해낼 수 있을지는 미지수다.

허위 정보 확산을 제재하는 소셜미디어 업체들의 자발적인 정책도 몇 년 사이 더 후퇴했다.

대표적으로 일론 머스크 테슬라 최고경영자는 지난해 10월 트위터(지금의 X)를 인수한 뒤 콘텐츠 감시 부서를 포함해 대규모 인력을 해고했고, 이전에 차단됐던 음모론자와 극단주의자들의 계정도 잇달아 복원했다.

기술·미디어 분야 비영리 단체 프리프레스의 보고서에 따르면 X를 비롯해 페이스북·인스타그램을 운영하는 메타, 유튜브에서 혐오 콘텐츠, 허위 정보와 관련해 미디어 보호 정책을 없앤 사례는 도합 17개에 달한다.

또 X뿐 아니라 메타와 유튜브도 최근 비용 절감을 위해 인력을 줄이면서 콘텐츠 감시 업무 담당자 수가 전보다 적어진 것으로 알려졌다.

워싱턴대의 허위 정보 전문가인 케이트 스타버드는 이처럼 소셜미디어 내 가짜뉴스 관련 팀이 축소된 것이 "2020년 (대선 때)보다 2024년에 상황이 더 나빠질 수 있는 발판을 마련한 것"이라고 지적했다.

게다가 틱톡과 텔레그램, 트루스소셜 등 여러 소셜미디어 플랫폼의 등장은 온라인에서 근거 없는 주장이 퍼질 수 있는 통로를 더 크게 늘렸다.

AP는 특히 유색인종, 이민자 커뮤니티에서 인기가 높은 왓츠앱이나 위챗 같은 앱들의 경우 비공개 채팅이 이뤄지는 탓에 그 안에서 잘못된 정보가 퍼지는 것을 외부에서 확인하기가 어렵다고 지적했다.

◇ 선거 과열시켜 패배 진영에 폭력 부추길 가능성도

가짜뉴스가 후보들의 경쟁을 과열시키고 선거 절차에 대한 불신을 유발해 패배 진영이 선거 결과에 불복하게 하고 폭력적인 행동을 일으키도록 부추길 가능성도 있다.

이미 도널드 트럼프 전 대통령은 지난 대선에서 패배를 인정하지 않고 선거가 조작됐다는 주장을 펼쳐 지지자들의 '1·6 의회 난입 사태'로 이어진 바 있다.

허위 정보를 추적하는 초당파적 단체인 민주주의 안전 연합의 선임 연구원 브렛 셰퍼는 민주주의에 대한 유권자들의 불신이 커지면서 폭력으로 이어질 수 있다고 경고했다.

그는 "사람들이 궁극적으로 선거와 관련된 정보를 신뢰하지 않는다면 민주주의는 작동을 멈추게 된다"며 "허위 정보를 퍼뜨리려는 노력이 효과를 발휘해 미국 인구의 상당수가 영향을 받는다면, '1월 6일'(의회 난입 사태)은 워밍업처럼 보일 것"이라고 말했다.

미국의 선거 관리 당국은 선거 결과를 부정하는 음모론의 부활을 예상하며 나름대로 대비책을 마련하고 있다.

투표 절차를 자세히 설명하는 팀을 각 지역에 파견하고, 외부 단체를 고용해 허위 정보를 모니터링하거나, 개표 장소의 물리적인 보호 장치를 강화하는 등의 조처다.

콜로라도주 총무장관 지나 그리스월드는 선거 업무 종사자들을 조명하는 소셜미디어·TV 광고를 통해 유권자들에게 허위 정보에 대한 경각심을 심어주려 노력해 왔다고 설명했다.

그는 "힘든 싸움이지만 적극적으로 대처해야 한다"며 "허위 정보는 오늘날 미국 민주주의에 큰 위협 중 하나"라고 말했다.

<연합뉴스>