[박재형 칼럼] 발등에 불, AI 부정선거

박재형 재미 정치학자

미국의 도널드 트럼프 전 대통령은 지난 5월 자신을 비판해 온 CNN의 유명 앵커 앤더슨 쿠퍼가 조 바이든 대통령을 비난하는 가짜 영상을 소셜미디어에 올렸다. 이보다 앞서 3월에는 그가 뉴욕 경찰에 체포되는 사진들이 트위터 등을 통해 급속히 퍼졌다. 미 국방부 청사 펜타곤에 폭발이 발생한 가짜 사진 한 장 때문에 미국 증시가 급락한 일도 있었다. 모두 인공지능(AI)으로 만든 가짜 동영상과 사진으로 생긴 일이었다. 

이런 가상 상황도 상상해 볼 수 있다. 2024년 4월 22대 국회의원 총선거 전날 저녁, 그동안 여론조사에서 경합 또는 경합 우세를 보였던 국민의힘 후보 수십 명이 윤석열 정부를 비난하며 후보 사퇴를 선언하는 동영상이 소셜미디어를 통해 삽시간에 확산했다. 사실 여부 확인도 전에 선거는 치러졌고 해당 후보를 지지하는 많은 유권자는 투표를 포기하거나 다른 후보를 선택했다. 결과는 참패를 예상했던 더불어민주당의 의석 과반수 확보였다. 황당해 보이지만 현재의 AI 가짜 동영상 기술로 가능하고도 남을 만한 일이다. 

기존 이미지나 동영상 속 인물을 다른 사람의 모습으로 바꿔치기한 AI 합성 미디어인 딥페이크(Deep Fake) 기술은 하루가 다르게 발전하고 있다. 전문적인 지식 없이도 누구나 스마트폰 앱으로 간단히 딥페이크 영상을 만들 수 있다. 딥페이크로 유명 연예인 등 다른 사람의 얼굴을 합성해 음란물을 만들어 유포하다가 적발되는 일도 흔해졌다.

AI 딥페이크와 가짜뉴스는 우리 사회에 심각한 위협이 되고 있다. 이러한 가짜뉴스가 무분별하게 퍼지면 사회적 신뢰가 무너지고, 불신이 커질 뿐 아니라 여론을 조작할 수도 있다. 가짜뉴스를 AI 기술을 이용한 딥페이크를 이용해 의도적으로 유포할 경우 상황은 더욱 위험해진다.

예를 들어, 정치 행위자는 AI가 생성한 딥페이크를 사용해 경쟁상대의 평판을 훼손하고 정치적 양극화를 조장하거나 선거를 방해하는 거짓된 상황을 만들 수 있다. 마찬가지로 악의적인 개인이나 집단은 AI를 기반으로 폭력을 선동하거나 불화를 조장하고 사회의 건전성을 해치는 방향으로 상황을 조작할 수 있다.

정치, 언론, 문화 등 매우 광범위한 영역에서 악용할 수 있는 딥페이크는 민주적 절차에 심각한 위협이 된다. 딥페이크는 정치인 등의 스캔들을 조작하거나, 연설 내용을 목적에 따라 바꾸거나, 허위 지지자를 만들어 여론에 영향을 미치고 선거 결과를 뒤흔드는 데 사용될 수 있다. 한 국가 내에서만이 아니라 지정학적 영향도 막대해서 분쟁을 촉발하고 국제 관계를 손상할 수도 있다.

급속한 기술의 발달에 따라 이제 AI는 사이버 보안 전문가를 속일 수 있을 정도의 그럴듯한 형태로 잘못된 정보를 생성하는 데 이용된다. 이는 사이버 공격에 대한 방어 노력을 무력화할 수 있으며, 가짜뉴스를 만드는 집단과 그것을 추적, 탐지하는 집단 간의 소위 'AI 군비 경쟁'을 촉발할 수 있다. 

잘못된 정보를 식별하고 관리하는 데 사용되는 기술은 AI, 특히 오픈AI(OpenAI)의 챗GPT, 구글(Google)의 바드(Bard)와 같은 생성형 AI를 기반으로 한다. 이러한 기술은 자연어 처리를 이용해 텍스트를 이해하고 번역, 요약 및 해석한다. 하지만 전문가도 속일 수 있을 만큼 설득력 있는 허위 정보를 생성하는 등 악의적인 목적으로도 이용될 수 있다.

자연어 처리 및 생성을 위해 설계된 AI 알고리즘은 사람이 직접 만든 것과 매우 흡사한 텍스트를 생성할 수 있다. 이러한 알고리즘은 조작된 뉴스 기사를 작성해 소셜미디어 플랫폼 및 기타 디지털 채널에 배포하는 데 이용된다. 이렇게 만들어진 정보는 편견을 악용하거나, 긴장을 고조시키며, 신념을 조작해 불화를 조장한다. 또한 이는 선거에 영향을 미치거나, 기관에 대한 불신을 확산하는 등 다양한 악의적 목적을 달성하기 위해 맞춤화될 수 있다.

기존 가짜뉴스들에 비해 딥페이크가 위험한 이유는 시각적 특성 때문이다. 동영상이나 사진은 텍스트 기반의 가짜뉴스보다 설득력이 강한 경우가 많다. '백문이 불여일견'이라는 말은 딥페이크가 강력한 힘을 발휘하는 이유를 보여준다. 사람이 직접 행동하거나 말하는 모습을 담은 동영상이나 이미지는 텍스트보다 더 강력한 영향력을 발휘한다. 이 때문에 딥페이크는 잘못된 정보를 퍼뜨리는 강력한 도구가 될 수 있다. 전반적으로 소셜미디어의 특성인 빠른 콘텐츠 공유, 에코 체임버 효과, 시각적 콘텐츠의 영향력은 딥페이크의 위력을 더욱 크게 만든다. 

AI의 오용에 따른 허위 정보는 개인의 진실 분별력뿐만 아니라 사회적 안정과 민주적 절차를 위협한다는 점에서 심각한 우려 사항이다. AI 기술이 계속 발전함에 따라 AI 기반 가짜뉴스와 허위 정보를 탐지하고 대응하기 위한 강력한 시스템과 전략을 개발하는 것이 매우 중요한 이유다.

에릭 슈미트 전 구글 최고경영자(CEO)는 얼마 전 미국의 한 방송에 출연해 AI가 만들어 낸 가짜뉴스가 내년 미국 대통령선거를 망칠 수 있다고 경고했다. 그는 소셜미디어 기업들이 AI에 의한 가짜뉴스로부터 이용자를 보호하기 위해 노력 중이지만 아직 해결하지 못했다며, 소셜미디어는 '컴퓨터가 아닌 인간을 위한' 언론의 자유를 허용해야 한다고 강조했다. 

AI와 머신러닝 기술의 급속한 발전은 딥페이크 등 AI 허위 정보가 앞으로 더욱 정교해지고 탐지하기 어려워질 것임을 의미한다. 따라서 이러한 현상과 그 의미, 그리고 이에 대응하는 방법을 이해하는 것은 필수적이다. 이는 디지털 커뮤니케이션의 신뢰와 무결성을 유지하고, 궁극적으로 민주적 가치를 지키기 위한 전제 조건이다.

그렇다면 현재 한국의 정부와 정치권은 딥페이크 등 AI 가짜뉴스가 선거판을 뒤흔들 가능성에 어떻게 대비하고 있는가? 과연 문제를 인식하고 대비하고 있는지 의문이다. 이 문제는 정부, 정치권만이 아닌 네이버, 구글 등 디지털 플랫폼, AI 관련 기술 기업, 그리고 유권자 모두 함께 대응해야만 효과를 얻을 수 있다는 점에서 더욱 간단치 않다. AI시대 부정선거는 흔히 생각하는 투개표 결과 조작, 투표함과 투표지 바꿔치기 같은 고전적 방식으로 이루어지지 않는다는 사실을 명심해야 한다. 

※본란의 칼럼은 본지 견해와 다를 수 있습니다.