열려있는 정책플랫폼 |
국가미래연구원은 폭 넓은 주제를 깊은 통찰력으로 다룹니다

※ 여기에 실린 글은 필자 개인의 의견이며 국가미래연구원(IFS)의 공식입장과는 차이가 있을 수 있습니다.

딥페이크 선거운동이 금지됐다지만 .... 본문듣기

작성시간

  • 기사입력 2024년02월12일 17시10분
  • 최종수정 2024년02월12일 16시12분

작성자

  • 양창규
  • 서울벤처대학원대학교 교수, 한국벤처창업학회 이사

메타정보

  • 5

본문

지난 해 12월 4.10 총선을 앞두고 이른바 ′딥페이크 선거운동 금지법′이 국회를 통과하였다. 여야의 첨예한 갈등 속에서도 법안이 논의가 되고 통과되었다는 점에서 정치권에서 AI 기술을 악용한 가짜뉴스의 위험성에 대한 공감대가 형성됐다고 할 수 있다. ′딥페이크 선거운동 금지법′은 선거일 90일 전부터 선거일까지 생성형 AI 기술을 이용하여 만든 실제와 구분하기 어려운 가상의 선거홍보자료를 유통할 수 없게 한다는 것이 주요 골자이다.

 90일이 넘게 남았더라도 딥페이크 선거홍보자료는 딥페이크 기술이 적용되었음을 명확하게 인식할 수 있도록 하여야 한다. 법제화를 했다지만 이미 선거철마다 가짜뉴스로 인해 많은 정치인들이 홍역을 치러왔기에, 4.10 총선을 앞두고 딥페이크 영상·음성을 통해 여론을 선동하고 조작하는 것을 철저하게 막을 수 있는지에 대한 많은 염려들이 많다.

 

가짜 영상·음성을 몇 초 만에 만들어 내는 생성형 AI 기술이 더욱 더 정교해지면서, 전 세계적으로 민주주의를 위태롭게 하는 가짜뉴스 유통사례들이 발생하고 있다. 미국과 중국의 대리전 성격으로 뜨거웠던 지난 대만 대선에서는 대만의 의무 군복무 기간이 4개월에서 1년으로 늘어난다는 가짜뉴스가 유포되고, 지난해 1,400여개였던 가짜정보가 올해 1,800여개 이상으로 늘어났다고 한다. 지난해 슬로바키아 총선에서는 투표 이틀 전 야당대표가 맥주가격 인상과 ″선거를 이기기 위해서는 돈을 뿌려야 한다.″는 음성이 사실인 것처럼 퍼졌다. 해당 음성이 가짜로 판명되었지만 여당의 선거승리에 큰 영향을 미쳤다는 분석이다. 

 

올해 대선이 있는 미국은 더욱 심각한 상황이다. 특히, 사회적으로 ′딥페이크 선거운동′을 제어하기 위한 규제에 미온적이기도 하고, 양당의 대립과 선거전이 치열하기 때문이다. 오히려 X와 메타, 유튜브 내의 혐오 또는 허위정보에 대한 미디어 보호 정책을 없애는 추세라고 한다. 재판 중인 도널드 트럼프 전 대통령이 경찰에 체포되는 가짜 영상이 퍼지거나, 성소수자를 폄훼하는 가짜 연설 장면 영상을 접한 조 바이든 대통령이 실제 자신이 한 말로 착각했다는 얘기도 있다.

 

4.10 총선을 앞두고 지난 1월 29일부터 중앙선거관리위원회가 AI 기술이 포함된 프로그램으로 만든 영상·사진·음향을 본인의 당선이나 상대 후보의 낙선을 목적으로 사용하는 것에 대한 규제를 시작했다고 한다. 그러나, 규제를 시작했음에도 딥페이크를 활용해서 빠르게 가짜뉴스를 만들어 SNS를 통해 불특정 다수에게 삽시간에 퍼트릴 수 있는 반면에 가짜뉴스를 즉각 차단하기 어려울뿐더러 가짜뉴스인지 판단하는 데는 수일 또는 수년이 걸리기 때문에 여전히 부족하다는 의견이 많다. 

 

또한, 스마트폰을 사용할 수만 있다면 딥페이크 앱을 통해 전문가가 아니더라도 단 몇 분만에 가짜사진이나 가짜영상을 만들어 낼 수 있다. 완성도가 높지 않더라도 다수가 SNS를 통해 공유하는 정보라는 측면에서 많은 사람들이 가짜정보로 인해 혼란을 겪을 수밖에 없을 것이다. 더욱 염려되는 것은 선관위의 딥페이크 콘텐츠 검증인원이 턱없이 부족하다는 점이다. 60여명의 검증요원과 AI 전문가로 구성되어 있다고 하는데, 전체 총선을 실시간으로 모니터링하기에는 부족하다고 느껴진다.

 

기술적으로 여전히 AI 기술의 딥페이크 콘텐츠를 감별하는 데는 한계가 있고, 해외를 경유하여 가짜뉴스를 퍼트리는 경우에는 확인조차 쉽지 않다. 선관위의 제재 수단도 많지 않다보니, 선거일에 임박해지면서 가짜뉴스를 통해 선동하려는 유혹도 많아질 뿐만 아니라 짧은 시간에 확산되는 경우 선거의 공정성에도 큰 흠결을 가져올 수도 있다. 결국 4.10 총선에 참여하는 정치인들과 시민들이 민주주의를 스스로 지키기 위한 자율규제가 매우 중요하다고 할 수 있다. 

 

그러나, 협치의 정치가 아닌 증오의 정치가 판치는 지금의 정치현실에서는 강성 지지자들의 딥페이크 콘텐츠가 SNS를 통해 삽시간에 퍼진다 해도 이상한 일이 아니라는 생각이다. ′딥페이크 선거운동 금지법′ 제정을 통해 딥페이크 가짜뉴스는 여야 모두에게 공정한 4.10 총선을 위해 없애야만 하는 숙제라는 점에 공감한 바 있다. 선관위에만 의지하지 않고 여야 스스로 가짜뉴스에 대한 상시 모니터링을 통해 상대에 대한 혐오와 증오에 기인한 가짜뉴스를 근절하고 협치의 민주주의로 나아가기를 기대한다.

<ifsPOST>

5
  • 기사입력 2024년02월12일 17시10분
  • 최종수정 2024년02월12일 16시12분

댓글목록

등록된 댓글이 없습니다.