박재천의 디지털경제 이야기<41> 제프리 힌튼: 2024 노벨상 물리학상 공동 수상자 > News Insight

제프리 힌튼은 인공지능에 대한 신념에 가득 차고, 또 헌신적인 공헌으로 2024년 노벨상 물리학을 수상했다. 세계 최고라 일컬어지는 권위를 부여하는 이 학문적 인정은, 2018년 그가 딥 러닝 연구로 "컴퓨팅의 노벨상"으로 여겨지는 튜링상을 받은 지 6년 만에 이루어졌다. 

노벨 위원회로부터 연락을 받았을 때, 힌튼은 겸손하게 말했다. "저는 자신이 어떤 분야에 있는지 잘 모르지만, 뇌가 어떻게 작동하는지 이해하고 싶어 하는 사람이라고 말하고 싶다. 그리고 뇌의 작동 방식을 이해하려는 연구를 통해, 놀랍게도 잘 작동하는 기술을 개발하는 데 도움을 줄 수 있었다." 인공지능을 연구하는 컴퓨터 과학자로 알려진 자신이 물리학상을 받은 것에 조금은 의아한 것 같은 반응이다. 인공지능이 물리학도 포용한 것일까? 

Hinton의 연구는 다층 신경망(심층 신경망)에 기반한 딥러닝의 학습과 최적화에 기초를 마련했다.  ‘홉필드 네트워크’를 개발한 홉필드와 학문적 교류를 통해 인공지능 연구에 큰 진전을 이루었다. 통계 물리학이론을 도입하여 이른바 ’볼츠만 머신’을 설계하고, ‘역전파 알고리즘’을 개발하여, 현대적인 인공지능으로의 발전에 싹을 트였다.   

힌튼의 가장 영향력 있는 논문은 "오류 역전파를 통한 표현 학습(Learning representations by back-propagating errors)"이다. 1986년 네이처(Nature)에 발표되었다. 데이비드 루멜하트, 로널드 윌리엄스와 공동 저술한 이 논문에 의하여 ‘’역전파 알고리즘”이 소개됐으며, 이는 현대 인공지능의 학습과 딥 러닝의 초석이 되었다.  

역전파(오류 역전파의 줄임말)란 인공 신경망을 훈련시키는 데 사용되는 핵심 알고리즘을 말한다. AI가 예측 오류를 줄이기 위해 네트워크의 가중치를 조정함으로써 스스로 학습하고 최적의 추론을 가능하게 하는 모델이다. (역전파에서의 가중치 조정을 이해하려면 기타 튜닝 과정을 생각해 보라; 각 현을 조정해 가면서 정확한 음을 찾아가는 것과 유사하다고 비교되고 있다.) 

힌튼의 공헌은 기술 개발에 그치지 않았다. 1990년대 인공신경망 연구는 한계에 부딪히며 어려운 시기가 찾아왔다. 지원과 투자가 끊기고, 연구개발이 포기되는 시절이 있었다. 하지만 힌튼은 포기하지 않고 계속해서 신경망 연구를 진행한다. 힘든 시기를 견디며 연구를 지속하여 21세기 초 신경망에 대한 관심이 다시 부활하는 계기를 만드는 신념의 연구자로서 이 분야를 이끌기도 했다. 

그의 연구는 현재 활발히 응용되고 있는 합성곱 신경망(CNNs)과 순환 신경망(RNNs)을 포함한 혁신적인 아키텍처 개발에 기여했다. 또, 컴퓨터 비전, 자연어 처리, 음성 인식, 헬스케어, 자율 주행 차량 등 다양한 AI 응용 분야, 광범위한 산업 분야에 영향을 미쳤다. 현재와 미래의 AI 연구자들과 개발자들에게 계속해서 영감을 주고 있다. 인공지능 분야의 진정한 선구자로서 그의 위상은 굳건하여, ‘인공지능의 아버지’로 추앙받고 있다.

<ifsPOST>​