이준호의 사이버보안 이야기 <6> 사이버보안에 기술적 특이점은 올 것인가? > News Insight

"너무 늦었습니다~"

"암이 전이 속도가 너무 빨라서 더 이상 손을 쓸 수가 없습니다"

의사의 청천병력 같은 냉정한 한마디였다.

'조금만 더 일찍 검사 받으러 갔으면... 하는 생각이 들었지만 이미 후회해도 소용 없었다'

< 너무 늦게 병원에 가게된 상황, 제작-Midjourney >

우리 앞에 다가온 특이점

특이점(Singularity)!

최근에 우리는 특이점이란 단어를 자주 접하게 된다. 미래학자인 커즈와일(Ray Kurzweil)은 2005년 그의 저서 "The Singularity is near"에서 2045년 기계지능이 인간지능을 능가하게 될 것이라고 예측했다. 현재 AI 대중화를 이끈 챗GPT의 기반기술이 된 딥러닝 기술은 2016년 알파고의 등장과 함께 알려졌는데 2005년에 그러한 예측을 했다는 것이 놀랍다.

특이점이란 원래 "급격한 변화"나 "급격한 전환점"으로 특이점 이후 기하급수적으로 변화의 속도가 높아져 뒤로 되돌리기 어려운 전환점을 일컫는 말이다.

생성AI 기술이 대중화되고 인간의 일하는 방식을 바꾸면서 생성AI 기술의 경쟁이 심화되며 엄청난 속도로 발전하고 있다. 이제 곧 AGI(일반인공지능)가 출연하여 스스로 진화하고 소위 지능을 갖는 인공지능이 나올 날이 머지 않았다. 챗GPT의 출연을 벌써 특이점에 도달했다고 하는 사람도 있고 AGI의 출현 시점을 특이점으로 보는 시각도 있다. 중요한 것은 커즈와일이 말했던 2045년보다 더 앞당겨질 것이라는 것이다.

우리 인류를 위협하는 또 다른 특이점이 있다. 바로 기후변화다. 1988년부터 35년간 IPCC(Intergovernmental Panel on Climate Change, 기후변화에 관한 정부간 협의체)는 6개의 보고서를 발간하며 지구의 평균온도가 산업화 이전 대비 1.5도를 넘지 않도록 권고하고 경고해왔다. 왜냐하면 1.5도를 넘어서는 순간부터 그 이전으로 회복이 불가능하다고 판단하기 때문이다. 하지만 2040년에 1.5도에 도달할 가능성이 높다고 했던 것이 최근에는 2030년이면 도달할 것이라 하고 일부 지역에서는 벌써 1.5도를 넘기 시작했다.

AI와 기후변화 모두 특이점에 도달하면 인류가 상당한 어려움에 직면할 것이라 경고하고 있지만 우리 인간은 발전을 멈출 생각이 없다.

사이버보안의 특이점, 과연 올 것인가?

그렇다면 사이버보안에 대한 기술적 특이점은 과연 올 것인가? 궁금해진다.

우선 사이버보안에 대한 기술적 특이점에 대해 정의를 먼저 해보자. 아무도 이런 말을 한 적이 없지만 해커의 기술이 도저히 막을 수 없는 한계점에 도달하는 시점으로 볼 수 있다. 우울한 이야기일 수 있지만 충분히 발생할 수 있는 시나리오다.

필자는 이전 편을 통해서 AI해커의 출현을 예고한 바 있고 AI로 인해 해커대중화시대가 열리고 있다고 경고한 바 있다. 또한 블랙해커가 화이트해커보다 더 열심히 공부한다고도 한 바 있다. 만약 AGI마저 대중화가 된 AI 특이점이 온다면 AI가 스스로 학습해서 마구 공격을 하는 사이버보안에 대한 특이점이 함께 올 수도 있다. 물론 AI를 활용한 방어도 활성화되겠지만 초연결사회를 살아가는 지금 공격의 경로가 너무도 다양하고 공격의 대상 또한 너무도 많은데다가 주체가 다 달라서 이를 모두 막기는 사실상 불가능할 수도 있다.

AI와 양자컴퓨팅, 새로운 위협의 서막

한 가지 더 우려되는 기술이 있다. 바로 양자컴퓨팅이다. 현존하는 보안시스템은 해킹하는 데에 수학적 계산을 엄청나게 많이 해야하기 때문에 해킹에 소요되는 비용이 해킹으로 얻을 수 있는 기대이익보다 많이 들기 때문에 안전하다고 하는 원리다. 하지만 생성AI 또한 엄청난 계산량을 필요로 하고 계산을 빠르게 하는 반도체 기술의 발전과 더불어 해커의 노력비용이 줄어들고 있는데 양자컴퓨팅이 만약 대중화된다면 이건 게임이 완전히 달라진다. 비교한다면 현존 컴퓨터로 100만년 걸려야 풀 수 있는 계산을 양자컴퓨터는 1초에서 하루 안에 풀 수 있다고까지 이야기 한다.

양자컴퓨팅이 대중화된다면 현존하는 보안시스템은 전부 양자암호시스템으로 바꾸지 않으면 안되는 Y2K에 버금가는, 아니 그 이상의 혼란과 대비가 필요해질 수 있다.

< 사이버보안 기술적특이점에 도달한 상상도, 제작-Midjourney >

사이버보안의 특이점, 어떻게 대비할 것인가?

과연 사이버보안에 대한 기술적 특이점은 올까?

온다면 언제 어떤 기술과 함께 어떤 모습으로 올까?

만약에 무조건 올 것이라고 판단된다면 우린 지금부터 어떤 대비를 해야 할까?

이건 가정에서 출발한 질문이라 답변하기가 어렵지만, 충분히 일어날 수도 있는 일이기 때문에 상상력을 동원해서라도 지금부터 그 해답을 찾기 위해 노력해야만 한다.

사이버보안의 특이점에 대비하기 위해서는 다음과 같은 방안을 고려해볼 수 있다:

   ▷ 국제적 협력 강화: 사이버보안은 한 국가의 문제가 아닌 전 지구적 문제다. 국제사회가 힘을 모아 공동 대응 체계를 구축해야 한다.

   ​▷ ​윤리적 AI 개발: AI 기술 발전과 함께 윤리적 가이드라인을 수립하고, 이를 준수하는 AI 개발이 필요하다.

   ​▷ ​양자내성암호(Post-Quantum Cryptography) 연구 가속화: 양자컴퓨터의 위협에 대비하여 기존 암호 체계를 대체할 수 있는 새로운 암호 기술 개발이 시급하다.

   ​▷ ​사이버보안 교육 강화: 기술적 대응과 함께 사용자 교육이 중요하다. 모든 시민이 기본적인 사이버보안 지식을 갖출 수 있도록 해야 한다.

   ​▷ ​지속적인 모니터링과 대응 체계 구축: 실시간으로 새로운 위협을 감지하고 대응할 수 있는 시스템을 구축해야 한다.

결론: 사이버보안 기술적특이점을 대비하는 우리의 자세

우리 인류는 상당히 똑똑하다. 우리는 우리 삶의 방식에서 기후변화를 예측했었고 변화없이 지금처럼 발전한다면 1.5도에 오를 것인지 이미 데이터분석으로 알고 있었다. 인공지능 기술이 발전할수록 인공지능이 결국 인류를 위협할 수 있다고도 사실상 이미 알고 있다. 어찌 보면 사이버보안의 기술적 특이점은 머지않아 올 것이란 것도 우린 이미 알고 있을지 모른다.

그런데 알면서 우리는 그 위험을 맞이하고 있다. 발전을 멈출 생각도 없다. 하루라도 빨리 머리를 맞대어 이 문제에 대해 심도 있게 논의해보고 싶다.

사이버보안의 특이점이 언제 어떤 형태로 올지 정확히 예측하기는 어렵다. 그러나 우리가 알고 있는 위험을 무시하고 발전만을 추구한다면, 그 대가는 엄청날 것이다. 지금부터 우리는 기술 발전의 이면에 숨은 위험을 인식하고, 이에 대한 대비책을 마련해야 한다.

사이버보안의 특이점은 위협이 될 수도 있지만, 동시에 새로운 기회가 될 수도 있다. 우리가 이를 어떻게 준비하고 대응하느냐에 따라 미래는 달라질 것이다. 지금 우리에게 필요한 것은 기술에 대한 맹신이 아닌, 균형 잡힌 시각과 미래를 준비하는 자세다.

<ifsPOST>​