“대선 후보가 이런 짓까지 했다고?”…판치는 딥페이크에 정치권도 골머리

[사진 = 챗GPT]

장미대선을 앞두고 딥페이크 영상·사진이 난무하고 있다.

인공지능(AI) 접근성이 향상되고 첨단 기술이 진화하면서 진짜와 가짜의 구분이 어려워지자 정치권과 산업계 모두 골머리를 앓는 모습이다.

특히 대선 후보를 겨냥한 비방용 창작물이 유권자의 판단을 흐리면서 공정 선거에 악영향을 줄 가능성이 존재한다는 우려가 나온다.

7일 정보기술(IT)업계에 따르면 최근 사회관계망서비스(SNS)와 온라인 커뮤니티를 중심으로 정치인에 대한 음해·인신공격 성격을 띤 영상·사진이 확산하고 있다.

구체적으로 수의를 입고 구치소 신세를 지고 있는 이재명 더불어민주당 대선 후보, 스스로 가발을 벗는 한동훈 전 국민의힘 대표, 수영복을 입고 거리를 활보하는 윤석열 전 대통령 부부, 춤을 추는 문재인 전 대통령의 배우자 김정숙 여사 등 딥페이크 영상·사진이 속출했다.

선거철만 되면 난무하는 흑색선전이다.

미국에서도 조 바이든 전 대통령의 목소리로 민주당 당원들에게 투표 거부를 독려하는 가짜 전화 메시지가 유포되고, 볼리디미르 젤렌스키 우크라이나 대통령이 러시아에 항복을 선언하는 가짜 영상이 유튜브에 올라왔다.

튀르키예와 슬로바키아도 선거판이 딥페이크 창작물로 얼룩졌다.

정치인들은 딥페이크 게시물에 대한 법적 책임을 묻고 있다.

실제로 이재명 후보와 배우자 김혜경씨는 딥페이크 영상물 6건을 수사 의뢰한 상태다.

경찰은 전국 278개 경찰서에 선거사범 수사상황실을 설치하고 실시간 모니터링에 나섰다.

중앙선거관리위원회는 허위사실비방공표 특별대응팀을 운영 중이다.

선관위는 지난 총선 때 딥페이크 게시물 391건을 적발해 388건을 삭제한 바 있다.

지난 1일 경기도 수원시 권선구 중앙선거관리위원회 선거연수원에서 열린 제21대 대통령선거 공관 재외선거 담당자 투표관리교육에서 참석자들이 재외투표용지 발급기 운영 실습을 하고 있다. [사진 = 연합뉴스]

IT기업들도 딥페이크 확산을 막기 위해 노력 중이다.

한국인터넷자율정책기구(KISO)는 지난달 간담회를 열고 네이버, 카카오, 네이트, 이스트에이드, 뽐뿌, 인벤 등 주요 플랫폼 및 커뮤니티 관계자와 현안을 공유하고 대책을 논의했다.

선관위는 위법한 게시물에 대한 삭제 요청이 접수되면 플랫폼·커뮤니티가 적극적으로 대응해 달라고 당부했다.

선관위는 지난해 1월부터 딥페이크 영상을 이용한 선거운동을 금지하고 있다.

공직선거법에서는 AI 기술을 이용해 만든 실제와 구분하기 어려운 가상의 음향·이미지·영상 등을 딥페이크로 규정하고 있다.

국립과학수사연구원과 한국전자기술연구원(KETI)도 딥페이크 탐지용 AI 모델을 공동 개발했다.

그리스 신화에서 제우스가 사용하는 방패 이름을 따 ‘아이기스(Aegis)’로 명명했다.

모니터링단이 눈으로 딥페이크 창작물 구분하는 시청각적 탐지를 거친 뒤 구별이 어려우면 AI를 활용해 프로그램 감별을 한다.

아이기스는 이 단계에서 활용된다.

복수의 IT업계 관계자는 “네이버, 카카오, 구글 등은 선관위와 핫라인을 구축했다”며 “AI를 악용한 허위 정보를 신속하게 삭제 또는 수정할 수 있도록 안내하고, 부정행위가 일어나지 않도록 플랫폼 관리를 강화하겠다”고 말했다.

전문가들은 AI 기술의 고도화로 육안 판별이 어려울 수 있다면서도 딥페이크 영상물 구분 방법으로 눈꺼풀의 깜박임 빈도와 점·주름살의 움직임, 단어와 입술 모양의 일치 여부 등을 제시했다.

선관위 관계자는 “이번 선거에서는 생성형 AI를 활용한 위법 게시물 확산 문제와 선거 준비 기간이 짧은 궐위선거 특성상 유권자들이 후보자를 검증할 기회가 줄어든 만큼 흑색선전을 경계하고 철저히 대응하겠다”고 강조했다.