AI가 유토피아에 던지는 질문 > News Insight

SF 작품 속에서 인공지능의 모습

인공지능에 대한 상상력은 인류의 현재와 미래에 대한 욕망, 희망과 두려움을 비춘다. SF 작품도 공간과 시간의 제약 없이 인류의 희망, 욕망 및 두려움을 반영한다. 여러 문화권과 시간을 관통하는 유토피아와 디스토피아의 이미지 또한 다르지 않다.

SF 작품은 기본적으로 과학적 상상이면서 사회적 상상이다. 즉, 공상과학은 SF는 Science Fiction인 동시에 Social Fiction이다. 미국의 SF 드라마 <스타트렉>은 사회적 상상으로 충만했다. 어떤 시리즈에선 탈자본주의 사회를 그린다. 설계도만 있으면 리플리케이터(Replicator)로 무엇이든 만들 수 있다. 갓 로스팅하고 드리핑한 커피에서 하이테크 광선총까지 바로 만들 수 있다. 트라이코더(Tricoder)로 어떤 병이든 진단이 가능하다. 인간의 물질적인 욕구가 제한 없이 충족되는 사회에서 자본주의는 힘을 쓸 수 없다. 스타트렉에 인공지능이 뚜렷하게 등장하지는 않으나, 우주선 조정이나 초광속 여행을 위해서는 인공지능이 필요하다. 인물에 집중해야 하는 드라마에서 인공지능은 눈에 띄지 않는 배경처럼 존재하는 것으로 봐야 한다. 대신 인공지능이 배역으로 등장한다. 인간형 로봇인 안드로이드 데이터는 매력적이며. 엔터프라이즈 선장인 피카드가 물러난 이후 선장으로 활동한다.

2013년 개봉한 영화 <허(Her)>는 아카데미와 골든글로브에서 모두 각본상을 받았다. 남성 주인공이 인공지능 운영체제 OS1인 사만다와 사랑에 빠지는 내용이다. 영화의 결론을 보면, 인간에게서 희망을 찾으라는 것으로 해석할 수 있다. 이 영화는 인공지능에게 반영된 욕망을 잘 드러냈다. 전설적인 만화영화 <공각기동대>에 등장하는 인공지능, <블레이드러너2049>에서 주인공인 라이언 고슬링이 분한 ‘K’의 연인 인공지능 ‘Joy’는 인간의 욕망을 투영한다.

영화 <아이로봇>의 대량생산로봇은 노동 없는 사회를 그린다. <스타워즈> 시리즈에서는 양산된 디스트로이어 우주선과 로봇 군대는 제조업 공정이 자동화되어 있음을 보인다. 스타워즈 시리즈에서 인공지능은 의사에서 군인까지, 우주선 운행보조에서 동시통역까지 수행한다. 스타워즈에서 1차산업에서 4차산업까지 모든 산업이 자동화되어 있다. 그런데도 일부 행성에서 식량부족 현상이 나타나는 것을 보면 부조리와 부조화가 느껴진다. 행성 간 우주여행이 자유로운 미래에 식량 공급이 문제 될 리가 없기 때문이다. 웨스턴 스타일의 총잡이 영화에 대한 오마주로 이해되기는 하나 고개가 갸웃거리는 지점이 적지 않다.

영화 <터미네이터> 시리즈와 <매트릭스> 시리즈는 인공지능에 대한 공포를 드러낸다. 초지능이 등장한다면 그 초지능이 인간과 바퀴벌레를 구분하지 않을 것이라는 가정이다. 현재까지의 인류가 다른 생명 종, 다른 인간 종, 다른 민족에 대했던 태도를 초지능도 그대로 따라 할 것이라는 가정이다. 한편으로는 합리적이고 다른 한편으로는 비합리적이다. 초지능이 인간을 대하는 태도가 아우슈비츠 강제 수용소, 난징 대학살, 제주의 4.3 사건, 혹은 최근 가자 지구에서 인류가 보였던 태도를 따라갈 필연적 이유가 없기 때문이다. 지레 겁먹은 인류의 상상에 불과할 수 있다. 

SF 소설 <듄>에 인공지능이 등장하지 않는다. 듄은 인간중심주의의 등장으로 인공지능이 파괴된 먼 미래를 시대적 배경으로 한다. 터미네이터의 시나리오는 인류가 인공지능에 패배한 시나리오라면 듄은 인공지능을 멸종시킨 이후의 인류 간의 경쟁을 다루었다고 봐야 한다.

인공지능은 어디까지 발전할까?

SF 작품 속의 인공지능은 주로 인공일반지능(Artificial General Intelligence, AGI)이거나 혹은 인공초지능(Artificial Super Intelligence, ASI)이다. AGI의 정의는 풍부하다. 현재 수준의 대규모언어모델(Large Language Model, LLM)을 AGI로 정의해야 한다는 주장에서, 인공의식(Artificial Consciousness)이 AGI의 조건이라는 주장까지 폭은 넓고 종류는 다양하다. 

인공의식을 어떻게 구현해야 하는지에 대해서는 아직 실마리를 못 잡은 상황이다. 데카르트는 ‘나는 생각한다. 고로 존재한다’라는 명제로 철학의 출발점을 삼았다. ‘생각한다’는 인식의 주체가 바로 의식이다. 그런데 이 의식이 뇌의 어느 부위에서 만들어지는지에 대해서 확정적이지 않다. 과학철학자인 고 대니얼 데넷 교수가 말하였든, 우리가 알지 못하는 것을 만들 수 없는 것은 아니다. 그러나 적어도 현재의 컴퓨터 구조와 알고리즘으로는 의식을 만들기는 어려울 것으로 보인다. 포유류의 뇌세포와 실리콘 기반의 인공지능을 결합하여 인공의식을 만들 수도 있다. 그런 경우 부모가 사춘기의 아이를 통제하지 못하는 것처럼, 개발자는 하이브리드 인공지능을 통제하지 못할 것이다. 어렸을 때부터 속박과 고통으로 훈련시킨 코끼리는 기회가 된다면 사육사에게 보복할 수 있다. 설사 인공의식에 대한 통제가 가능하다 하더라도 짧은 미래에 달성될 것으로 보이지 않는다. 

AGI에 대한 정의가 풍부하므로, AGI가 언제 달성될지에 대해 전망하려면 AGI에 대한 정의를 먼저 내려야 한다. AGI에 대한 논의의 출발을 앨런 튜링의 이미테이션 게임(Imitation Game)으로 본다면, 인간과 같은 일반적 역량을 갖춘 인공지능을 AGI로 정의할 수 있다. AGI에 대한 다양한 정의를 묶으면 크게 세 가지로 나눌 수 있다.

  ► 인간 수준 지능 및 지적 작업 역량: AGI를 "복잡성과 속도 면에서 인간의 뇌와 필적하거나 능가하는, 일반적인 지식을 습득, 조작, 추론할 수 있으며, 인간의 지능이 필요한 산업 또는 군사 작전의 모든 단계에서 사용할 수 있는 AI 시스템", 혹은 “사람이 일반적으로 수행할 수 있는 인지 작업을 수행할 수 있는 기계” 등으로 정의

  ►​​ 인간 수준 일 처리 역량: “특정 작업 수행에 특화되어 있지 않지만, 인간처럼 광범위한 작업을 수행하는 방법을 학습할 수 있는 인공지능”, “인간 지능에 필적하는(또는 그 이상의) 수완과 신뢰성을 갖춘 유연하고 일반적인 모든 지능”, 혹은 “오픈 월드에서 복잡한 다단계 작업을 수행할 만한 성능과 일반성을 갖춘 AI 시스템” 등으로 정의

  ►​​ 현 수준 인공지능: "경제적으로 가장 가치 있는 작업에서 인간을 능가하는 고도로 자율적인 시스템"으로 정의하거나, 최신 대규모언어모델인 GPT-4.0, PaLM2, Claude3 등을 AGI로 주장

인간 수준 지능 및 지적 작업 역량은 성능을 인간 수준 일반 역량은 원인을 기준으로 AGI에 대해 접근하는 것으로 보인다. 인간 수준 지능 및 지적 작업 역량은 인간 수준 일반 역량을 전제로 하며, 인간 수준 일반 역량이 있다면 인간 수준 지능 및 지적 작업 역량은 쉽게 달성될 수 있을 것으로 판단된다. 따라서 이 두 가지를 하나로 묶어 ‘이상적 AGI’로 부를 수 있다. 대조적으로 OpenAI는 경제적으로 가치 있는 작업을 기준으로 AGI를 정의한다. 오픈에이아이(OpenAI) 등의 정의한 AGI를 ‘경제적 AGI’로 불러도 좋을 듯하다.

이상적 AGI가 달성되는 데는 적지 않은 시간이 걸릴 것으로 보인다. 블룸(Bloom)이 제안한 교육목표 분류기준인 창조·평가·분석·적용·이해·기억으로 최신 대규모언어모델을 평가하면 상당한 한계가 있기 때문이다. 대신 경제적 AGI는 머지않은 미래에 가능할 것으로 보인다. 미래에 대한 통계적 예측으로 투자자문을 하는 아크 인베스트(Ark Invest)는 2024년 보고서에서 AGI 구현 시기를 2026년으로 보았다. 이러한 주장은 관련 전문가의 의견을 모은 것이기는 하다. 다만 AGI의 정의가 제시되지 않았으며, 그간의 예측이 낙관적이었다는 점으로 인해 비판적으로 볼 필요가 있다. 

낙관적인 주장에 근거가 없는 것은 아닐 것이다. 그러나 이상적 AGI와 ASI를 위한 인공지능 모델 등이 개발되지 않았다는 점 등을 고려해야 한다. AGI를 위한 인공지능 모델에 도달할 수 있는 다양한 방법과 논리를 다룬 책인 <마스터 알고리즘>의 저자인 페드로 도밍고스(Pedro Domingos)는 AGI의 도래시기에 대해 ‘10년 이후 1,000년 이내’라는 상징적 답을 했다. 이상적 AGI의 도래 시기를 장담하기에는 인류가 누적한 지식에는 부족함이 있다고 판단한다. 이상적 AGI가 아니라 하더라도 현재 수준의 인공지능은 인류사회가 원하지 않는 서핑보드를 타게 할 것으로 보인다. 그것도 눈이 막막할 정도로 높은 거대한 쓰나미 위에서 말이다.

SF 작품에서 인공지능은 인류의 욕망과 희망 및 두려움을 반영하며, 그러한 정서가 AGI 개발에 대한 열정, 절제 및 규제의 바탕이 된다. 다른 한편으로 인류의 희망, 욕망과 절망은 인류가 만든 유토피아와 디스토피아의 이미지에 투영되어 있다. 인공지능과 유토피아와 디스토피아의 이미지는 교차하고 중복된다.

인공지능과 유토피아

유토피아라는 단어는 토머스 모어에서 비롯되었으나, 그 기원은 그보다 오래되었다. 구약성경에 가나안은 ‘젖과 꿀이 흐르는 약속의 땅’으로 묘사되었다. 가나안은 중세 유럽의 코케뉴(Cockaigne)와 다르지 않다. 코케뉴의 낙원에 도착하면 나무에서 팬케이크가 열리고, 강에는 포도주가 흐르며, 구운 거위가 공중을 난다. 가나안과 코케뉴는 모두 풍족한 음식에 대한 욕망을 드러낸다. 그림 형제의 동화 주 하나인 <헨젤과 그레텔>에서 마녀가 만든 과자의 집은 코케뉴와 가나안으로의 유혹일 수 있다. 플라톤의 <국가>와 토마스 모어의 <유토피아>는 공화 정치 시스템에 대한 희망과 원려(遠慮)에 해당한다. 중국의 <도화원기(桃花源記)>는 전쟁에서 벗어난 평화를, <홍길동전>의 ‘율도국’은 서자 차별에 대한 당시의 원망(願望)을 담았다.  

중세인의 시각으로 보자면 서울과 한국의 거리는 이미 코케뉴이다. 맛집을 찾고 먹방을 찾아서 보는 평균적 한국인에게는 코케뉴는 과식과 당뇨병을 유발하는 디스토피아로 보일 수도 있다. 플라톤이 주장한 <국가>와 토마스 모어의 <유토피아>는 대부분 달성되었다. ‘율도국’의 서자 차별은 해소되었으며, <도화원기>가 쓰인 당시의 전쟁에 대한 두려움의 상당 부분이 사라졌기 때문이다. 과거의 욕망과 희망이 달성된 인류는 새로운 희망과 욕망을 꿈꾸게 된다. 등 따습고 배부르면 다른 욕망이 생기는 법이다.

20세기 말과 21세기에 새로운 유토피아 이미지가 등장했다. <리얼리스트를 위한 유토피아 플랜>은 새로운 유토피아로 보편적 기본소득, 주당 15시간의 노동, 전세계 국경개방을 요구한다. <완전히 자동화된 화려한 공산주의(Fully Automated Luxury Communism, FALC)>는 정보기술의 발달로 희소자원 사회 이후의 사회가 도래할 것으로 전망한다. <에코토피아(Ecotopia)>는 생태주의 기반의 유토피아를, 고 자크 프레스코(Jacque Fresco)의 ‘비너스 프로젝트(Venus Project)’는 사회경제적 모델을 실천하려 한다. 이들 새로운 유토피아는 명시적이든 묵시적이든 인공지능의 발달을 전제로 한다. 

인공지능의 발달은 인간의 노동을 자동화한다. 2013년 출간된 <고용의 미래(the Future of Employment)>에서 지능형 로봇과 인공지능에 의해 미국을 기준으로 일자리 47%가 자동화될 것으로 전망되었다. 2023년 골드만삭스의 보고서에서 미국 기준으로 직업군 평균 25%의 작업이 자동화될 수 있다고 분석되었다. 참고로 골드만삭스의 보고서는 로봇 도입이 전제되지 않았다. 오픈소스 로봇의 등장과 최근의 대규모언어모델을 넘어선 대규모 멀티모달 인공지능의 발달은 사람과 대화하는 로봇, 주변 상황을 이해하는 지능형 로봇을 가능하게 할 것이고, 이는 작업 자동화 비율을 더욱 높일 것이다.

노동의 자동화는 보편적 기본소득과 FALC를 가능하게 하는 기술적 기반이 된다. 인공지능의 성숙은 인간의 번영과 생태주의의 조화를 가능하게 하며, 사회경제적 모델에서도 재화와 서비스를 충분하게 생산하게 할 수 있다. 다른 한편 노동의 자동화는 기술실업의 위험을 드리운다. 메타버스의 미래를 그린 <레디 플레이어 원>의 배경은 경제적 양극화가 극단적으로 진행된 사회다. 노동의 자동화는 인간을 노동으로부터 자유롭게 하는 것이 아니라, 실직자를 양산하고 거리의 부랑자로 몰아낼 개연성이 크다. 실직자가 거리에 넘치며 가난한 자가 가난한 자를 등치는 불안하고 불행한 사회는 디스토피아다. 인공지능이 현재의 속도로 발달하고 사회가 현재 상태가 유지되면 도달하게 될 디스토피아의 미래 이미지는 인류가 여태 보여주었던 행태의 연장선이다.

다만 기술실업이 극단적으로 갈 가능성이 높지 않다. 유효수요의 부족과 사회적 불안전성으로 인류사회가 새로운 균형점을 찾을 것으로 기대한다. 그러나 균형을 찾아가는 과정 중의 혼란한 요동과 굴곡 속에서 ‘호모 데우스(Homo Deus)’가 된 인류 중의 누군가가 인공지능의 도움을 받아 부엌에서 치명적인 바이러스를 합성할 수도 있다. 식스 시그마(6 Sigman)로 계산한다면 16명, 40세 이하의 인구로는 8명이 넘는다. 넷플릭스에서 방영한 <삼체>의 한 등장인물이 인류에 대한 실망감과 혐오감으로 인류를 멸망시킬 외계인을 불렀는데 그 시나리오가 꽤 그럴듯하다. 영화 <12 몽키즈>에서 인간 혐오로 치명적 바이러스를 전세계에 풀었다. 

인류사에서 식스 시그마의 발생은 상수로 봐야 한다. 인류가 ‘호모 데우스’가 되는 것도 큰 이변이 없을 것으로 보인다. 불확실성은 인류가 새로운 유토피아를 합의하고 이를 실천할 수 있느냐의 여부일 것이다. 인류가 균형점을 찾기 전에 큰 재앙을 맞이할 가능성이 크다. 과거 인류가 보였던 행태를 보면 그 가능성이 높음을 알 수 있다. 인류는 역동적인 균형점에 도달하기 위해 잰걸음으로 움직여야 할 것으로 보인다.

우리에게 필요한 것은 인공지능의 이상의 것이다. 노동의 자동화는 중세의 코케뉴를 닮았다. 코케뉴가 먹을 것에 대한 당시의 희망과 욕망을 반영한 것이라면, 인공지능을 이용한 노동의 자동화는 현재의 욕망과 원망을 드러낸다. 코케뉴가 그린 유토피아는 당뇨병과 비만을 낳았다. 과거의 유토피아인 공화국의 이상은 현재의 근시 민주주의라는 한계를 낳았다. 율도국의 이상은 달성되었으나, 현재의 한국사회는 메리토크라시(Meritocracy)가 새로운 신분이 되고, 소유한 부동산의 금액이 질서가 되어 새로운 신분제도로 등장했다. 노동 없는 사회는 성찰의 부재, 지적 쇠락과 탐욕만 남길 위험이 있다. 인공지능 발달로 인한 정보와 지식의 급격한 증가는 인류에게 지혜로부터 멀어지게 할 위험이 있다.

인공지능이 던지는 번영에 대한 약속과 인류의 정체성에 대한 도전은 새로운 질문을 던지고 생각할 것을 강요한다. 아래는 그중의 일부다.

  ►​​ 노동 없는 인간은 어디서 삶을 배우고 어디서 관계를 얻을 것인가? 

   ►​​ 노동이 고통이라면 고통 없는 인간은 어디서 인간다움을 얻으려 할 것인가?

  ►​​ 인공지능으로 인해 도래하는 동시 통번역이 가능한 신바벨시대에 우리는 다른 언어를 사용하는 다른 민족의 인식과 세계관을 제대로 이해할 수 있을까?

  ►​​ 인공지능이 만들어낸 콘텐츠에 둘러싸인 인류는 창의성의 의미와 가치를 어떻게 찾을 것인가?

  ►​​ 인공지능으로 인한 급격한 지식이 발달하는 세상 속에서, 학습하고(learning), 배운 것을 비우고(Unlearning), 다시 학습하기(Relearning)를 실천할 것인가?

  ►​​ 급격한 수명의 연장으로 전통적인 가족관계의 해체에 어떻게 대응할 것인가?

  ►​​ 인공지능이 불러올 자본주의의 위기에 대응하여 인류는 새로운 정치경제 시스템을 최소한의 폭력으로 합의할 수 있을까?

인류의 지속가능한 발전을 위해 인공지능을 발전시켜야 하는 데는 큰 이론이 없을 것이다. 그와 동시에 우리 인류는 로댕의 지옥문 앞에 앉아서 치열하게 ‘생각하는 사람’처럼 고민하고 참구(參究)하고 성찰해야 한다. 디스토피아를 넘어서서 새로운 유토피아를 그려내고 실천하기 위해서 그래야 한다.

<ifsPOST>​​