인공지능 성숙도 모델 : 광범위 인공지능 수준과 정책 및 전략 수립 > News Insight

ChatGPT와 같은 생성형 인공지능의 발달은 인공일반지능(Artificial General Intelligence, AGI)을 현실화시키는 것처럼 보인다. 인공일반지능이 금방이라도 도래할 것처럼 보인다. 구글 트렌드를 보면 일반인공지능에 대한 관심도가 최근 급격하게 높아지고 있음을 확인할 수 있다. 

인공일반지능은 인류에게 두려움과 희망을 동시에 안긴다. 영화 <스페이스 오딧세이 2001>의 HAL9000, <터미네이터> 스카이넷, <아이로봇>의 비키 등은 모두 두려움을 안기는 인공일반지능에 해당한다. 이에 반해 <바이센테니얼 맨>에서 고 로빈 윌리암스가 분한 앤드류와 드라마 <스타트렉>에 안드로이드 데이터는 우리에게 희망을 안긴다. 그런데 이들 공상과학소설과 영화가 상업적 측면을 무시하지 못한다. 과학적이지 못하고 공상적이며 자극적 내용을 담아야 흥행에 성공할 수 있다. 이들 공상과학 소설과 영화를 진지하게 참고한다면 미래를 만화경으로 보는 것과 다르지 않다. 이들 인공일반지능이 끼칠 기회와 위험을 차분하게 더듬고 정책과 전략을 준비하려면 인공일반지능의 의미에서부터 영향까지 건조하게 바라볼 줄 알아야 한다.

인공일반인공지능은 인공협소지능(Narrow AI)의 상대개념이다. 인공협소지능이란 특정한 소수의 지적 태스크를 할 수 있는 인공지능을 말한다. 예를 들어 알파고, STT(Speach To Text), 무인자동차 인공지능 등이 인공협소지능이다. 참고로 관련한 다양한 용어가 존재한다. 혼란을 방지하기 위해 관련 용어를 사전에 정리할 필요가 있다. 인공일반지능(Artificial General Intelligence), 일반인공지능(General AI), 강인공지능(Strong AI)이 대체로 같은 뜻을 지녔다. 인공협소지능(Artificial Narrow Intelligence), 좁은인공지능(Narrow AI), 약인공지능(Weak AI)을 동일한 의미를 지니는 용어로 분류할 수 있다. 이 글에서는 가독성을 위해 인공일반지능 등을 AGI, 인공협소지능 등을 ANI로 부르겠다.

ANI와 AGI 사이의 거리는 가깝지 않다. 이 거리를 한번에 도약할 수 없다. 점진적으로 가끔은 비약하며 발전할 것이다. 이 먼거리를 몇 단계로 나누어 각 단계별 미래 변화를 전망(anticipation)하고, 관련 정책과 전략을 준비하고 마련해야 한다. 인공지능 발달 단계에 대해 몇몇의 주장이 있으나, 본격적인 주장은 최근 등장하고 있으나 비판의 여지가 있다. 이 글은 AGI 대신 광범위 인공지능 개념 도입을 주장하고 실질적 기준으로 광범위 인공지능을 몇 단계로 나누고, 그 단계에 따라 열린미래(futures)에 대해 열린예측(foresight)을 할 것을 제언한다.

다양한 일반인공지능에 대한 정의

ANI에 비해 AGI에 대한 정의는 다양하다. 그 정의가 다양하다 보니 관련 전문가 100명이 있다면 100가지의 정의가 있을 것이라는 주장은 전혀 과장이 아니다. 이들 주장을 크게 세 가지로 나눌 수 있다. 

 ► 인간 수준 지능 및 지적 작업 역량: AGI를 "복잡성과 속도 면에서 인간의 뇌와 필적하거나 능가하는, 일반적인 지식을 습득, 조작, 추론할 수 있으며, 인간의 지능이 필요한 산업 또는 군사 작전의 모든 단계에서 사용할 수 있는 AI 시스템"(Gubrud, 1997)이라고 정의하거나, “사람이 일반적으로 수행할 수 있는 인지 작업을 수행할 수 있는 기계”(Legg, 2008; Goertzel, 2018)로 정의하는 경우에 해당한다.

 ► 인간 수준 일반 역량: “특정 작업 수행에 특화되어 있지 않지만 인간처럼 광범위한 작업을 수행하는 방법을 학습할 수 있는 인공지능”로 정의(Shanahan, 2015)하거나, “인간 지능에 필적하는(또는 그 이상의) 수완과 신뢰성을 갖춘 유연하고 일반적인 모든 지능”(Marcus, 2022), 혹은 “오픈 월드에서 복잡한 다단계 작업을 수행하기에 충분한 성능과 일반성을 갖춘 AI 시스템”(Suleyman, Bhaskar, 2023)으로 정의한다.

► 인공지능: "경제적으로 가장 가치 있는 작업에서 인간을 능가하는 고도로 자율적인 시스템"(OpenAI, 2018)으로 정의하거나 최신 대규모언어모델인 GPT-4.0, PaLM2, Claude3 등을 AGI(Arcas, Norvig, 2023)로 주장한다.

인간 수준의 지능 및 지적 작업 역량을 갖추기 위해서는 일반적 학습 역량과 추론 역량을 필요로 할 수 있다. 즉 세 가지 견해 중 ‘인간 수준의 지능 및 지적 작업 역량’과 ‘일반 역량’은 큰 차이가 없어 보인다. 전자가 성과를 중심으로 AGI를 정의했다면, 후자는 과정을 중심으로 정의한 것이다. 후자 없이 전자를 달성하기 어려우며, 후자가 달성되면 전자는 자연스럽게 달성되기 때문이다. 그런데 현수준의 인공지능은 대중의 관점에서 상당히 벗어나는 것으로 보인다. 오픈에이아이의 AGI에 대한 정의는 현실적인 것으로 보이기는 하나, 현 수준 혹은 지금 보다 조금 개선된 생성형 인공지능이라면 달성될 수 있는 정도다. GPT-4.0은 미국의 통일변호사시험에서 상위 90%를 달성했고(OpenAI. 2023), 구글의 Med-PaLM2는 미국 의사면허시험 문제집의 85.4%의 정답률을 보였다(Google, N.D.). 특정한 경제적으로 가치 있는 작업에서 인공지능은 인간을 추월하고 있는 것으로 판단된다. 인간 수준의 지능 및 지적 작업 역량을 요구하거나 인간 수준의 일반 역량을 요구하는  AGI를 이상적 AGI이라 하겠다.

인공지능에 대한 정의의 간극이 상당히 넓은데도 성급하게 현수준의 인공지능을 AGI로 정의하고자 하는 이유를 짐작하면, 두 가지를 들 수 있다. 하나는 이상적 AGI와 ANI간의 거리가 너무 넓어, AGI의 정의를 현수준의 인공지능까지 넓혀 그 간극을 메우고자 하는 것이다. 다른 하나는 이상적 AGI가 가지는 이미지를 현수준 AGI를 주도하는 기업이나 사람이 차용하기 위함이다. 기업 입장에서는 시장의 주도권을 가져가려는 전략이 되겠다. 현수준 인공지능을 이상적 AGI가 가지는 이미지로 덧씌울 수 있다면 여기에 상당한 경제적 성과가 일어날 것임은 자명하다. 오픈에이아이의 CEO인 올트만이 7조 달러의 투자를 요구(The Wall Street Journal, 2024.02.08)했다. 그의 꿈이 큰 것인지 그의 욕망이 거대한 것인지는 잘 모르겠다. 어떻든 현수준 인공지능을 AGI라는 주장에 수긍하더라도 이상적 AGI 구현이라는 목표는 여전히 남아 있다.

그간 인공지능은 투자가 메마르는 겨울을 2번 겪었다. AGI에 대한 논의가 활성화되는 요즘이라하더라도, 인공지능에게 다시 겨울이 오지 않을 것이라고 장담하기 어렵다. GPT 3.5가 ChatGPT로 공개된 2021년 11월 이전에 신경망알고리즘의 Deep Learning 인공지능의 한계가 도래할 가능성이 점쳐졌다(Economist Quarterly, 2020.06; 손현주, 윤기영, 김연숙, 이지윤, 2021). 글로벌 IT 기술 예측 조직인 가트너가 2023년 발표한 신흥기술 하이프사이클에 생성형인공지능은 기대의 거품이 가득 끼어 있는 상태다(Gartner, 2023.08.23). 즉 현수준 인공지능이 이상적 AGI로 성장하는 데 적지 않은 난관이 있을 것이다. 이를 위해서는 새로운 인공지능 모델의 등장, 반도체 기술의 발달 등이 필요하며, 혹은 고등동물의 뇌세포와 반도체를 결합한 하이브리드 인공지능 반도체의 연구개발이 필요할 수도 있다. 그 사이 킬러 비즈니스 모델이 등장하지 않는다면 대규모언어모델에 대한 실망이 생길 개연성이 있다. IBM의 왓슨, 테슬라의 완전자율주행자동차의 모습이 현수준 AGI에 재현될 가능성이 있다.

이상적 AGI와 ANI 사이의 거리가 꽤 멀다는 것을 동의한다면. 정책가와 전략가의 시점에서는 이 먼 거리를 몇 단계로 나누어 볼 수 있어야 한다.

AGI와 ANI 협곡은 생각보다 넓다.

레이 커즈와일은 2006년 <특이점이 온다>을 발간했다. 이 책에서 기술적 특이점이 2045년 도래할 것으로 전망했다. 그가 제시한 기술적 특이점이란 초지능이 도래하고 이로 인해 인간의 영생이 가능할 것으로, 인류는 이후 과거의 문화와 사회체제로 돌아갈 수 없다는 주장이다. 이 주장의 배경에는 무어의 법칙이 있다. 무어의 법칙이란 2년마다 반도체 집적도가 2배씩 올라간다는 법칙인데, 2016년 사실상 무어의 법칙이 중단되었다. 반도체 집적도를 무한하게 올릴 수 없음은 물리법칙에 따르면 당연하다. 반도체 선폭이 일정 수치 이하로 줄어들면 반도체의 성격을 잃기 때문이다. 따라서 커즈와일이 주장했던 2045년의 주장이 달성될 지의 여부는 불확실하다. 

AGI가 달성될 지의 여부에 대해서는 다양한 논쟁이 있다. 미래 기술에 대한 전망으로 투자 자문을 하는 Ark Invest의 2024년 보고서는 AGI의 도래 시기에 대한 전망을 제시했다. 

Ark Invest의 AGI 등장에 대한 낙관적 전망은 관련 전문가의 AGI 출현시기에 대한 전망 변화를 통해 도출한 것이다. 2020년에 AGI 출현 시기를 30년 넘게 보았는데 2023이 되자 8년으로 급격히 줄어들었다는 것이다. 관련 전문가의 예견에 오류가 있었다는 주장이다. 전문가가 보수적으로 판단한 것이라면, 즉 예견의 오류가 지속된다면 2026년 AGI가 달성될 것이며, 2023년 전문가의 의견이 맞다면 2030년 AGI가 출현할 것이라는 주장이다. Ark Invest의 예측이 지나치게 낙관적이라는 비판이 일반적으로 있다. 낙관적 예측에 대해 비판하지 않는다 하더라도, Ark Invest의 주장을 점검해야 할 부분이 있다. 그들의 보고서에서 AGI에 대해 어떤 정의도 내리지 않는다는 점이다.

AGI가 가능하냐, 가능하다 하더라도 언제 도달할 것이냐에 대해서는 견해가 풍부하다. AGI가 불가능하다는 주장 중에 신 신비주의(neo mysterianism)가 있다. 이들은 Bloom의 교육목표인 창조, 평가, 분석, 적용, 이해, 기억을 만족하는 인공지능은 구현할 수 없다는 주장이다. AGI가 불가능하다는 주장은 호모 사피엔스로서는 매력적일 수 있다. 그러나 수긍하기 어렵다. 물리적으로 가능하다면 언젠가는 기술적으로 구현 가능하다는 미치오 카쿠 박사는 불가능 유형을 세가지로 나누었다(미치오 카쿠, 2010). 세가지 유형은 지금은 불가능하나 현재의 물리법칙 지식에 위배되지 않는 불가능 1유형, 현재의 물리법칙 지식에 위배되는지가 분명하지 않는 제2유형, 현재의 지식에 위배되는 것이 분명한 제3유형이다. AGI가 불가능하더라도 카쿠 박사의 분류에 따르면 제1유형에 해당한다. 제1유형의 불가능 항목은 일이백 년 안에 실현 가능할 수 있다는 것이 카쿠 박사의 주장이다. 참고로 카쿠 박사는 커즈와일에 대해 기술 복음주의라고 비판했다(미치오 카쿠, 2012).

AGI가 기술적으로 가능하나 경제적으로 이득이 없다는 주장(Denette, 2017)이 불가능성의 뒤를 따른다. 과학철학자인 데넷 교수의 육성을 옮길 가치가 충분히 있다.

강인공지능이 원칙적으로는 가능하지만 현실적으로 불가능하다고 생각하는 이유를 설명할 때, 나는 종종 무게가 지빠귀보다 가볍고 곤충을 즉석에서 잡을 수 있으며 나뭇가지에 착륙할 수 있는 로봇 새를 만드는 작업에 비유하곤 했다. 그런 새에 우주의 신비는 없다고 생각했지만, 그것을 현실화하는 데 필요한 엔지니어링은 맨해튼 프로젝트 수십 개보다 더 많은 비용이 필요하다.

AGI에 경제적 가치가 충분하므로, 데넷 교수의 주장에 반박할 수 있다. 그러나 데넷 교수의 AGI를 일반적 학습역량으로 정의한 것을 고려한다면 필자는 충분히 수긍할 수 있다.

AGI를 구현할 수 있는 알고리즘을 탐색한 책인 <마스터 알고리즘>을 쓴 도밍고스는 2023년 포브스와의 인터뷰에서 AGI의 실현시기를 ‘10년 이후 1,000년 이내’이라고 답했다(Chace, 2023.04.13). 상징적이고 웅변적인 답이다. 이전의 다른 인터뷰에서 ‘20년 이후 2,000년 이내’라고 답한 것에 비하면 긍정적으로 바뀐 것이라고 볼 수 있다. 그러나 AGI의 기술적 달성 시기가 매우 불확실하다는 것을 강조한 점은 같다.

AGI의 실현시기에 대해서는 전문가 사이에 상당한 견해차를 보인다. 그 이면에는 AGI에 대한 서로 다른 정의와 세계관이 있다. 어느 견해가 맞는지, 언제 AGI가 도해할 지에 대해 단정 예측할 수는 없으나, 인간수준의 AGI를 달성하는 데는 적어도 몇 십년 간의 간극이 있을 것으로 판단하는 것이 합리적이다.

광범위 인공지능과 인공지능 성숙도

ANI와 이상적 AGI의 사이에는 수십년이 있으며, 그 사이에 인공지능이 걸어야 할 경로와 단계가 적지 않다. ANI와 이상적 AGI의 사이의 간극을 메울 방법은 크게 두가지가 있다. AGI의 개념을 확대하거나, 혹은 그 사이에 새로운 단계를 설정하는 것이다. ANI의 범위를 확대하자는 견해도 있을 수 있으나, 다수의 지적 업무를 수행할 수 있는 대규모언어모델과 대규모 멀티모달 모델(Large Multi-modal Model, LMM)을 ANI로 분류하기에는 무리가 있다. 

ANI와 AGI 사이의 광활한 공간을 광범위 인공지능(Broad AI)이라 부를 수 있다(IBM, 2021; 윤기영, 2023). 그 광활한 대지를 하나의 대륙으로 묶는 것이 아니라 몇 개의 영토로 나눌 수 있다. 영토를 나누는 기준을 전문적 지식이 있는 인간과 비교하여 비슷하거나 혹은 더 탁월한 성과를 보이는 지적 작업의 개수를 기준으로 선택하거나, 혹은 일반적 학습 역량을 기준으로 결정할 수 있다. 현재 인공지능이 유연한 학습 역량을 가지고 있지 않으므로, 전자를 기준으로 접근하는 것이 더욱 타당할 수 있다. 

구글 딥마인드 연구진은 광범위 인공지능 개념을 도입하는 대신, AGI 수준 5단계를 주장했다. 

 구글 딥마인드 연구진은 인공지능을 폭과 깊이로 접근하여, 폭은 ANI와 AGI, 깊이는 5단계의 수준으로 정리했다. 5단계의 수준은 숙련된 성인을 기준으로 하여 5단계로 나누었다. 그런데 숙련된 성인을 기준으로 하는 경우 ANI에는 적합하나, AGI에서 문제가 된다. 지식이 폭발적으로 증가하는 현 시대에 모든 분야에서 전문적 지식을 갖추는 것은 불가능하다. 모든 분야에서 레벨 2의 AGI라면 이미 인간의 능력을 추월하기 때문이다. 레벨 2의 AGI가 모든 인간을 대체하지는 못하겠으나, 대다수의 인간의 일자리와 노동을 대체할 가능성이 크다. 또한 모든 지식이 융합되어 종합적으로 볼 수 있는 지능이 있다면 이는 새로운 지식의 지평선을 열 수 있다. 예를 들어 모든 전문의료분야에서 각 분야의 전문의 50% 백분위 이상의 지적 작업을 수행할 수 있는 AGI가 등장한다면 종합진단 체계의 근간을 바꿀 것이다. 필자는 딥마인드 연구진의 고민과 연구의 목적에는 공감하나 단계를 나누는 기준에는 위와 같은 이유로 동의하기 어렵다. 거의 모든 지적작업 영역에서 레벨 1과 레벨 2의 거리가 너무 멀기 때문이다. 대신 레벨 2에서 레벨 5까지의 단계는 촘촘하다.

어떻든 구글 딥마인드 연구진의 AGI 수준은 참고할 만한 가치가 있으나, 위에 언급한 한계가 있다. 따라서 핵심적인 지적 작업을 묶고 해당 지적 작업에서의 역량 수준으로 광범위 인공지능의 수준을 정의하는 것이 필요하다.

AGI든 광범위 인공지능이든 그 성숙도 수준에 대한 논의의 핵심은 인공지능 정책과 기업의 전략 및 개인의 미래와 관련이 있기 때문이다. 이를 기준으로 인공지능의 수준을 정리할 필요가 있다. 예를 들어 인공지능이 지적 업무의 자동화에 집중한다면 각 직업군의 자동화 비율로 접근하는 것이 보다 타당할 수 있다. 각 직업군의 자동화 비율은 미국의 O*Net 데이터베이스를 기준으로 측정할 수 있다. 이때 인공지능의 발달에 따라 새로운 직업이 등장할 것인데, 새로운 직업군을 포함하여 평가해야 한다. 이를 통해 광범위 인공지능의 수준을 측정할 수 있고, 그 영향도를 전망할 수 있다. 참고로 미국의 O*Net 데이터베이스는 직업군별로 수행해야 하는 작업을 가장 상세화한 데이터베이스다. 기술실업 등에 대한 연구를 진행한 연구의 다수아 O*Net 데이터베이스를 기반으로 진행했다.

 필자가 제시하는 광범위 인공지능 수준에 대한 제안은 관련 논의를 촉발하기 위한 것이며 확정적이지 않다. 인공지능의 발달 단계와 이로 인한 영향과 정책 및 전략에 대한 논의의 장을 만들자는 제언이자 제안으로 이해해 주길 바란다. 

인공지능 성숙도와 정책 및 전략 관련성

인공지능은 생산성, 지식반감기, 안보, 기대수명, 무역, 인간의 의미와 가치 등에 영향을 미친다. 인간수준의 범용적 역량 혹은 학습역량을 갖춘 AGI가 아니라 하더라도 ANI와 AGI의 사이에 있는 광범위 인공지능 정도라 하더라도 인공지능은 우리 인류에게 답하지 않으면 안되는 긴박한 질문을 기관총 마냥 우리에게 난사한다.

► 노동의 가치는 어디에 있는가? 

► 유효 수요를 어떻게 찾을 것인가?

►​​ 자동화 되는 사회에 대해 우리는 준비되었는가?

►​ 디지털 국가 자본주의 체계에서 한국사회는 어떻게 살아 남을까?

►​ 글로벌 기업이 광범위 인공지능과 AGI를 지배하게 되면 어떻게 될까?

►​ 지식재산권이 독과점되는 세상에서 한국사회는 경쟁력을 유지할 수 있을까?

►​ 인공지능으로 딮페이크가 일반화되는 사회에서 민주주의를 지킬 수 있을까?

►​ 인공지능과 합성생물학이 가볍게 융합되는 미래에 자생적 테러리스트인 Lone Wolf의 등장이 6 시그마로 등장하더라도 그 위험을 감당할 수 있을까?

►​ 우리 정치, 경제 및 사회 시스템은 어느 방향으로 가야 하는가? 

►​ 인간의 가치의 존재 의미를 어디에서 찾을 것인가?

위에 던질 질문은 일부에 불과하다. 아래 생성형 인공지능의 발달에 따른 미래영향을 연상사고와 가설추리 기법으로 도출한 미래전개도(futures wheel)이다.

인공지능은 글로벌, 지역, 국가, 사회, 기업, 개인에게 넓고 깊은 영향을 미친다. 어떤 미래가 도래할 지에 대해 단정적 예측(prediction)과 통계적 예측(forecasting)을 할 수 없다. 대신 그런 예측이 틀릴 것으로는 단언할 수 있다. 인공지능이 만들어 내는 미래에 깊은 불확실성(deep uncertainties)가 있기 대문이다. 현재 우리가 바라보는 전제와 가정으로 미래가 전개되지 않을 것이다. 

우리가 가진 편견과 편향을 걷어내야 한다. 열린미래(futures)를 바라보는 열린예측(foresight)을 해야 한다. 인공지능이 가져올 충격과 영향을 전망하고 이에 따른 전략과 정책을 세워야 한다. 이를 위해서는 막연하게 AGI를 이야기하기보다는 광범위 인공지능 수준을 정의하고 이에 따른 정책과 전략을 고민해야 한다.<끝>

<참고자료>

미치오 카쿠 저, 박병철 역. 2010. 『불가능은 없다』. 김영사

미치오 카쿠 저, 박병철 역. 2012. 『미래의 물리학』. 김영사

손현주, 윤기영, 김연숙, 이지윤. 2021. 『인공지능과 일상생활』. 후마니타스

윤기영. 2021.02. 디지털 경제여, 어디로 가시나이까? 월간SW중심사회

윤기영. 2023.05.12. 광범위 인공지능의 미래. 한국미디어경영학회•한국정보사회학회•사이버커뮤티케이션학회 봄철 공동학술대회: 생성, 무한한 가능성과 제약의 이중성 발제자료.

윤기영, 이명호. (2023.04 ~ 05). 거대언어모델 미래전개도: STEEP 프레임으로 기회와 위험 탐색. 월간SW중심사회

Arcas, Blaise Agüera y & Norvig, Peter. 2023.10.10. Artificial General Intelligence is Already Here. 2024.03.12 방문. https://www.noemamag.com/artificial-general-intelligence-is-already-here/

Ark Invest. 2024. Big Ideas 2024.

Chace, Calum. 2023.04.13. Against Pausing AI Research. With Pedro Domingos. Forbes. 2024.03.12 방문.  https://www.forbes.com/sites/calumchace/2023/04/13/against-pausing-ai-research-with-pedro-domingos/?sh=771b0e16301f

Dennett, Daniel. 2017. From Bacteria to Bach and Back: The Evolution of Minds. W.W. Norton & Company.

Economist Technology Quarterly. 2020.06. An understanding of AI’s limitations is starting to sink in. 2024.03.12 방문.  https://www.economist.com/technology-quarterly/2020/06/11/an-understanding-of-ais-limitations-is-starting-to-sink-in?utm_medium=cpc.adword.pd&utm_source=google&utm_campaign=a.24apt_apac_intropricing&utm_content=conversion.non-brand.anonymous.apac_kr_en_intro-pricing_na_non-brand_google_subs_pmax_other_na_na&gad_source=1&gclid=Cj0KCQjw-r-vBhC-ARIsAGgUO2DV8jlrDvNpSsjkpfHmzA6Vd-UsrSZYsjLzgvLQL4Gxhm1_nuAqN1EaAtxmEALw_wcB&gclsrc=aw.ds

Gartner. 2023.08.23. Hype Cycle for Emerging Technologies. https://www.gartner.com/en/articles/what-s-new-in-the-2023-gartner-hype-cycle-for-emerging-technologies

Goertzel, Ben. 2014. Artificial General Intelligence: Concept, State of the Art, and Future Prospects. Journal of Artificial General Intelligence. DOI: 10.2478/jagi-2014-0001

Goldman Sachs. 2023.03.26. The Potentially Large Effects of Artificial Intelligence on Economic Growth. 

Google. N.D. Med-PaLM: A large language model from Google Research, designed for the medical domain. https://sites.research.google/med-palm/

Gubrud, Mark. 1997. Nanotechnology and International Security. Fifth Foresight Conference on Molecular Nanotechnology. 

Legg, Shane. 2008. Machine Super Intelligence. Doctoral Dissertation submitted to the Faculty of Informatics of the University of Lugano. 

Marcus, Gary. 2022.05.25. Twitter X. 2024.03.12 방문.  https://twitter.com/GaryMarcus/status/1529457162811936768

Morris, Meredith Ringel & Sohl-dickstein, Jascha & Fiedel, Noah, et al. 2023. Levels of AGI: Operationalizing Progress on the Path to AGI. Google Deepmind. arXiv:2311.02462v2 [cs.AI] 5 Jan 2024. 2024.03.12 방문. https://legacy.foresight.org/Conferences/MNT05/Papers/Gubrud/index.html

OpenAI. 2018.04.09. OpenAI Charter. 2024.03.12 방문. https://openai.com/charter

OpenAI. 2023.03. GPT-4 Technical Report. arXiv:2303.08774

Shanahan, Murray. 2015. The Technological Singularity. MIT Press.

Suleyman, Mustafa & Bhaskar, Michael. 2023. The Coming Wave: Technology, Power, and the 21st Century’s Greatest Dilemma. Crown.

The Wall Street Journal. 2024.02.08. Sam Altman Seeks Trillions of Dollars to Reshape Business of Chips and AI: OpenAI chief pursues investors including the U.A.E. for a project possibly requiring up to $7 trillion. 2024.03.12 방문.  https://www.wsj.com/tech/ai/sam-altman-seeks-trillions-of-dollars-to-reshape-business-of-chips-and-ai-89ab3db0

Time. 2014.06.09. Interview with Eugene Goostman, the Fake Kid Who Passed the Turing Test. 2024.03.12 방문. https://time.com/2847900/eugene-goostma​n-turing-test/​

<ifsPOST>