민주주의 선진국인 미국과 영국에서 최근 급속도로 발달 중인 생성형 인공지능(AI)을 두고 허위정보 범람에 대한 우려가 커지고 있다고 영국 일간 가디언이 20일 보도했다.

주요 선거를 앞두고 사실 여부를 쉽게 가려낼 수 없는 가짜뉴스가 대규모로 유통될 경우 주요 선거에 치명적인 악영향을 끼칠 수 있다는 가능성이 제기되면서다.

지난 16일 샘 올트먼 오픈AI 최고경영자(CEO)는 미 의회 청문회에서 "가장 우려하는 분야 중 하나는 이러한 모델이 설득과 조작을 통해 일종의 일대일 대화형 허위 정보를 제공할 수 있는 능력"이라고 경고했다.

리시 수낵 영국 총리가 지난 18일 영국이 AI 위험을 제한하는 데에 앞장서겠다고 공언하고 나서는 등 최근 전세계에서 동시다발적으로 AI 기술에 대한 경계의 목소리가 커지고 있다.

챗GPT가 내뱉는 그럴싸한 답변, 미드저니와 같은 도구가 만들어내는 매끈한 이미지, 일부 '딥페이크' 동영상 등은 이미 현실과 구분하기 어려울 정도로 높은 수준에 도달하고 있다.

특히 이런 생성형 AI 작업물은 사람들에게 일방적으로 전달되는 것이 아니라, 실시간 상호작용을 통해 더 설득력 있는 방식으로 표현된다는 점에서 대규모로 선거에 악용될 여지가 있다는 분석이 전문가들 사이에서 나온다고 가디언은 짚었다.

대만해협 갈등, 성소수자 권리, 기후변화 등 논쟁적 주제에 대한 관련한 특정 논점을 반복하도록 훈련된 AI의 메시지가 수천개의 소셜미디어 계정을 통해 전파될 경우 정치적 반대파의 목소리를 억누르고, 관망하는 이들의 귀를 솔깃하게 하는 식으로 생산적 공론 과정을 차단할 수 있다는 것이다.

영국 앨런 튜링 연구소의 AI 연구 재단을 맡고 있는 마이클 울드리지 교수는 "AI 기술이 만들어낼 가짜뉴스가 내 가장 큰 걱정거리"라고 말했다.

그는 "영국과 미국에서 선거 일정이 다가오고 있고, 소셜미디어가 허위정보 전달의 강력한 도구라는 점은 이미 알려져 있다"며 "생성형 AI는 이런 가짜뉴스를 산업적인 규모에서 찍어낼 수 있다"고 경고했다.

아주 간단한 프로그래밍 지식만 갖고 있다면, 온라인상 허위 계정들을 만든 후 특정 성향이나 특정 지역의 유권자를 겨냥한 맞춤형 가짜뉴스를 생산해낼 수 있다는 것이다.

실제 오픈AI와 구글의 챗봇이 특정 질문에 그럴싸한 오답을 꾸며내는 사례는 심심찮게 보고되고 있다.

지난 3월에는 성추문 사건과 관련해 체포 전망이 제기되던 가운데 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 모습의 AI 가짜 사진이 유포됐고, 프란치스코 교황이 명품 브랜드 발렌시아가 풍의 하얀 패딩 재킷을 입은 허위 이미지도 대중에 실제인 것처럼 인식돼 논란이 벌어진 바 있다.

지난 1월에는 조 바이든 미 대통령의 목소리를 사용해 그가 마치 백악관 회견을 통해 트랜스젠더 혐오 발언을 내뱉은 것처럼 꾸며낸 AI 영상이 만들어지기도 했다.

불법 업자들이 온라인에서 이런 '음성 복제'를 악용, 기업 대표나 공인의 목소리를 베낀 영상을 판매하는 일도 기술적으로 불가능하지 않다고 가디언은 관측했다.

미국 사이버보안 업체인 '레코디드 퓨처'의 알렉산더 레슬리 분석가는 "미국 대선을 앞두고 이런 기술이 더 진보하고, 더 널리 이용 가능해질 수 있다"며 "폭넓은 교육과 인식 개선 없이는 이것이 대선의 진짜 위험요소가 될 수 있다"고 경고했다.

지난 19일 허위정보 추적 단체인 미국의 '뉴스가드'는 챗GPT에 담겨있는 약 1천300개 가량의 가짜뉴스 관련 '흔적'을 토대로 100가지에 이르는 다양한 허위 정보를 생산하도록 유도해냈다고 밝혔다 구글 바드 챗본에서는 총 76개의 가짜뉴스가 도출됐다.

AI가 생성한 가짜뉴스 사이트도 2주만에 약 두배 규모인 125개로 늘어난 것으로 파악됐다.

뉴스가드 공동CEO인 스티븐 브릴은 "누군가 이런 잘못된 이야기를 고의적으로 대량 생산하기 위해 AI를 활용할 수 있다"고 경고했다.

<연합뉴스>