박재천의 디지털경제 이야기 <53> 힌튼은 왜 촘스키를 비판하나? > News Insight

제프리 힌튼의 주장​

스웨덴 왕립 학술 아카데미(IVA)는 2024년 12월 5일 "AI 개발, 인간성, 미래" 패널 토론에 제프리 힌튼을 초청하여 토론을 진행한다. 힌튼은 인공지능 모델 개발의 방향에 대한 특별 강연을 했다. 이 자리에서 노암 촘스키(Chomsky)의 심볼릭 모델에 대해 착오적인 발상이라며 신랄히 비판했다. 신경망을 활용하는 언어모델이 인간의 언어 능력을 재현하는 유일한 모델이라는 것이 그의 주장이다. 본고에서는 힌튼의 발표를 요약게재 한다. 촘스키에 대한 비판의 정당성과  타당성은 독자들에게 맡긴다. 

힌튼의  촘스키에 대한 비판​

노벨물리학상 수상자인 힌튼은  AI를 개발하는 노력이 장기적인 실존적 위협에 노출되어 있다고 주장하는 학자이다. 인간보다 더 지적인 것을 창조하고, 그것들이 우리를 지배하게 될 것이라고 목소리를 높이고 있다.  그는 “이러한 실존적 위협을 많은 사람들이 심각하게 받아들이지 않고 있다.  이유는 현재  AI 시스템이 ‘정말로 이해하고 있다’는 사실을 인정하지 않고 있기 때문입니다.” 라고 답답함을 토로하였다. 

그러면서, 힌튼은 그 이유를  촘스키의 영향을 받은 언어학자들로 구성된 집단 때문이라고 싸잡아 비판하고 있다; 

“이들은 현재 AI를 확률적 앵무새라고 부르고,  이런 것들이 단지 ‘통계적 속임수’일 뿐이라고 생각합니다. 실제로 ‘이해’하는 것은 아니라고 말합니다. 그러나, 나는  ‘우리와 똑같이 이해한다’고 밝힙니다.” 

“그들은 ‘심볼릭 AI’라는, 관념에서 비롯된 이론을 가지고 있습니다. 고전적인 이 이론은  당신의 머리 속에 정리된 언어와 상징적 표현이 있고 이를 사용하는 일정한 규칙이 있다고 생각합니다. 실제로는, 효과가 없는 주장입니다. 하지만 그들은 여전히 이런 주장에 집착합니다. 어떻게든 이론적 배경을 가져야 하기 때문에 그것을 고수하는 것입니다. 지능을 가질 수 있는 유일한 방법은 추론을 위한 논리를 갖는 것이라고 생각합니다. 지능의 본질은 추론이라고 그들은 생각합니다.” 

지능의 본질은 신경망에서 학습하는 것​

힌튼은  촘스키에 대한 이같은 비판에 이어, AI 모델의 핵심을 다음과 같이 설명하고 있다; 

“완전히 다른 패러다임이 있습니다. 지능의 본질은 신경망에서 학습하는 것이고 시각과 운동 제어와 같은 것이 기본입니다. 언어와 추론은 나중에 따라옵니다.” 

“대부분의 사람들은  ‘확실히 이해하고 모든 질문에 답할 수 있는’ 대규모 언어 모델이 무엇인지 알지 못합니다. 현재 개발되고 있는 언어모델은  제가 1985년에 만든 최초의 신경망모델에서 시작된 겁니다. 이 언어 모델은 다음 단어를 예측하고, 오류를 역전파 최적화  하도록 훈련된 언어 모델입니다. 사람들이 문장을 이해하는 것을 모사하는 가장 좋고, 유일한 모델입니다. ” 

그는 이어서, ‘학습과 이해’라는 개념에 대해서 시간을 할애하여 세밀히 부연 설명하고 있다; 

“언어와 언어의 구조는 학습됩니다. 촘스키의 주장처럼 선천적일 필요는 없으며 데이터에서 나옵니다. 신경망과 학습 알고리즘에는 선천적 구조가 있어야 하지만, 모든 언어 패턴은 데이터에서 얻을 수 있습니다.  언어학자인 촘스키는 그런 방법을 알 수 없었기 때문에, 언어능력은 타고난 것이라고 말하고 있읍니다. 그러나 저는 언어처리 인공지능이 ‘우리와 같은 방식으로 학습하고 이해하도록 개발되고 있다’고 생각합니다.” 

힌튼은  말짓기가 인간의 기억이 작동하는 자연스런 방식이라고 설명​

AI의 약점으로 알려진  환각 증상에 대한 비판에 관련해서도 신경과학적 지식을 인용해 반박하고 있다; 

“그들은 AI가 ‘환각(hallucination) 증상을 보이고, 그냥 뭔가를 만들어 낼 뿐’이라고 말하고 있습니다. 그러나 환각이라는 단어를 사용하면 안 됩니다. ‘말짓기’(Confabulation)라는 단어를 사용해야 하며, 심리학자들은 1930년대부터 인간의 말짓기에 대해 연구해 왔습니다. 심리학자 프레더릭 바틀렛(Frederic Bartlett)은 ‘사람들은 항상 꾸며낼 수 있다’고 말합니다.” 

“인간의 기억은  어딘가에서 파일을 가져오는 것으로 구성되지 않습니다. 무언가를 그럴듯하게 만들려 합니다. 방금 무언가를 봤다면, 이제 그럴듯해 보이도록 말짓기를 시도합니다. 꽤 정확한 세부 사항을 기억해 내려고 합니다. 그러나 몇 년 전에 일어난 일을 기억하려고 시도하면 그동안 당신이 배운 모든 것에 영향을 받아  말짓기를 할 겁니다. 당신에게는 그럴듯하게 들리지만 실제로는 당신이 매우 확신하는 세부 사항 중 많은 부분이 틀릴 수 있습니다.”  

힌튼은  말짓기가 인간의 기억이 작동하는 자연스런 방식이라고 설명하고 있다. 그리고 현재 개발되고 있는 언어처리 AI도 환각이 아니라 우리와 똑 같이 말짓기를 하고 있는 것이라고 해명하고 있다. 

<ifsPOST>

 ​