열려있는 정책플랫폼 |
국가미래연구원은 폭 넓은 주제를 깊은 통찰력으로 다룹니다

※ 여기에 실린 글은 필자 개인의 의견이며 국가미래연구원(IFS)의 공식입장과는 차이가 있을 수 있습니다.

딥페이크 기술, 혁신인가 위협인가: 인간 윤리와 법적 대응의 필요성 본문듣기

작성시간

  • 기사입력 2024년10월02일 17시10분
  • 최종수정 2024년09월30일 17시24분

작성자

  • 홍가연
  • 동덕여자대학교 겸임교수

메타정보

  • 13

본문

기술은 눈부신 속도로 발전하고 있다. 인공지능(AI)의 진보는 우리의 일상에 큰 변화를 가져오며, 다양한 혜택을 안겨주고 있다. 하지만 그 중심에 사람이 존재한다는 사실을 잊어서는 안 된다. 기술은 사람이 개발하고, 사람이 사용하며, 그로 인해 이익을 얻는 것도, 피해를 입는 것도 결국 사람이다. 특히 AI의 비약적인 발전은 긍정적인 변화를 가져오지만, 예상치 못한 부작용도 함께 따른다. 그 대표적인 예가 바로 '딥페이크' 기술이다. 

 

딥페이크는 딥러닝(Deep Learning)과 페이크(Fake)의 합성어로, AI 기술을 활용해 실제처럼 보이는 가짜 콘텐츠를 만들어내는 기술을 의미한다. 이는 AI의 데이터 생성 알고리즘을 통해 누구나 쉽게 창작 활동에 참여할 수 있게 하며, 문화산업 발전에도 기여할 수 있다. 과거에는 특정 예술가들만이 창작의 영역에 참여할 수 있었다면, 이제는 일반인도 AI의 도움을 받아 예술 활동의 주체가 될 수 있는 시대가 된 것이다.

 

그러나 기술의 발전이 언제나 긍정적인 방향으로만 흘러가는 것은 아니다. 딥페이크 기술은 성인물 제작이나 타인의 명예를 훼손하는 데 악용될 수 있으며, 이는 심각한 사회적 문제로 이어진다. 타인의 얼굴을 음란물에 합성하거나, 정치인의 이미지를 조작해 가짜 뉴스를 퍼뜨리는 사례는 딥페이크 기술의 부정적인 측면을 여실히 보여준다. 특히 이 기술이 성범죄에 악용되면서 그 사회적 파장은 더욱 커지고 있다. 

 

딥페이크 기술의 핵심인 생성적 적대 신경망(GAN) 알고리즘은 가짜 콘텐츠를 생성하면서 타인의 초상권을 침해하거나, 명예훼손과 같은 법적 문제를 일으킬 수 있다. 기술 자체는 중립적일지 몰라도, 그 사용 방식에 따라 양날의 검이 될 수 있다는 점에서 심각한 경각심이 필요하다. 이러한 문제를 해결하기 위해서는 강력한 법적 규제가 필수적이다. 

 

최근 국회는 딥페이크 성범죄 처벌을 강화하는 성폭력처벌법 개정안을 통과시켰다. 개정된 법안에 따르면, 딥페이크 성 착취물이나 허위 영상물을 소지, 구입, 저장 또는 시청한 자는 3년 이하의 징역 또는 3,000만 원 이하의 벌금에 처해질 수 있다. 또한, 이를 제작한 경우에는 징역 7년 이하 또는 5,000만 원 이하의 벌금을 부과하도록 규정하고 있다. 이는 분명 환영할 만한 조치이지만, 과연 이러한 법 개정이 실제로 딥페이크 성범죄를 효과적으로 막을 수 있을지는 의문이 남는다. 

 

현실을 살펴보면 법적 처벌이 결코 충분하지 않다는 사실이 드러난다. 2020년 6월부터 올해 8월까지 딥페이크 성범죄로 확정판결을 받은 112명 중 실형을 선고받은 사람은 겨우 43명에 불과했다. 법적 처벌이 강화되었다고는 하지만, 사법부의 관대함이 여전히 문제로 남아 있다.

 

더욱 우려되는 것은 딥페이크 성범죄의 주된 가해자들이 청소년이라는 점이다. 올해 1월부터 9월 25일까지 딥페이크 성범죄 피의자 387명 중 83.7%에 해당하는 324명이 10대였으며, 이 중 촉법소년(14세 미만의 형사 미성년자)도 66명(17.1%)에 달했다. 이는 딥페이크 성범죄를 저지른 가해자의 상당수가 처벌 대신 보호 처분의 대상이 될 가능성이 크다는 것을 의미한다. 또한, 딥페이크 기술이 단순한 '놀이문화'로 인식되며 청소년들 사이에서 확산되고 있음을 경고하는 신호이기도 하다.

 

"무심코 던진 돌에 개구리가 맞아 죽는다"는 속담처럼, 청소년들은 자신의 행동이 얼마나 큰 피해를 낳을 수 있는지 자각하지 못하고 있다. 이들이 더 큰 성범죄자가 되기 전에, 사법부의 강력한 대응과 교육을 통해 경각심을 일깨워주어야 한다. 때로는 엄중한 처벌이 최고의 교육이 될 수 있다.

 

딥페이크 성범죄의 확산을 막기 위해서는 기술적 차단도 필수적이다. 성범죄의 수단으로 악용되고 있는 텔레그램과 같은 플랫폼들은 더 이상 자유로운 유통의 장이 아니라, 책임을 져야 하는 공간이 되어야 한다. 플랫폼 기업들은 유통망으로서의 책임을 자각하고, 적절한 규제와 제재를 통해 사회적 안전망을 구축해야 할 것이다.

 

그러나 딥페이크 문제는 법적 규제만으로 해결될 수 없다. 더 큰 문제를 막기 위해서는 강력한 처벌, 청소년에 대한 교육, 기술의 악용 방지를 위한 사회적 노력, 그리고 윤리적 논의가 병행되어야 한다. 무엇보다 AI는 윤리적 주체가 될 수 없으며, 인간이 제공한 데이터를 학습하는 도구에 불과하다. 만약 AI가 비윤리적인 행동을 학습하고 이를 실행한다면, 그 책임은 결국 인간에게 돌아올 수밖에 없다. 인간의 도덕성과 윤리가 바로 서지 않는다면 AI 기술은 잘못된 방향으로 흘러갈 위험이 크다. 

 

결국, 우리는 기술의 발전과 함께 인간 윤리의 중요성을 다시금 인식해야 한다. 딥페이크와 같은 기술은 인간에게 큰 이익을 줄 수 있는 도구가 될 수 있지만, 그 도구를 사용하는 인간의 도덕성과 가치관이 바로 서지 않는다면 그 기술은 언제든지 악용될 수 있다. 기술 규제와 윤리 교육이 병행되지 않으면, 그 기술이 가져올 발전마저 제한될 수 있다. 인간 윤리의 회복이 필요한 이유는 바로 여기에 있다. 이를 통해 우리는 기술의 진보와 사회적 안전이라는 두 가지 목표를 모두 이루어야 할 것이다.

<ifsPOST>

 

13
  • 기사입력 2024년10월02일 17시10분
  • 최종수정 2024년09월30일 17시24분

댓글목록

등록된 댓글이 없습니다.