박재천의 디지털경제 이야기 <30> 신경망 모델 (4) 헤브의 연결주의 > News Insight

‘우리가 학습하고 기억한다는 것은 생리학적으로 어떤 활동일까?’ 이 문제를 이해하기 위해 신경과학자와 심리학자들은 오랜기간 연구를 거듭했다. 캐나다의 심리학자인 도널드 헤브는 뉴런의 시냅스 연결 활동에 대한 깊은 관찰을 통해 해답을 제시하였다. 그리고, 그의 연구는 인공지능의 발전에 기초가 된 핵심사상인 연결주의를 발전시키는 공헌을 하였다. 뇌의 시냅스의 연결강도와 딥러닝 모델의 가중치 간의 유사성도 가능하게 하여 인공지능 모델 진화에 핵심적 기여를 제공하였다.  

헤브는 뉴런(뇌신경)에서 학습과 기억이 어떻게 이루어지는지에 대한 이해를 생리학적 연구을 통해 명확하게 제시하였다. 그의 1949년 기념비적인 저서 "행동의 조직(The Organization of Behavior)"에서 두 뉴런 간의 시냅스 연결이 동시에 활성화될 때 강해지는 것을 관찰하고 학습과 기억이 시냅스의 연결활동이라고  주장하였다. 그리고 시냅스 연결의 강도는 뉴런 간의 연결활동이 빈번 할 때 강해지고 연결활동이 소강상태이면 연결강도가 약해진다고 주장하였다.  

헤브의 연구결과는 당시에 만연했던 기호이론에 새로운 시각을 제공한다.  기호주의(symbolism) 학자들은 인간의 모든 지식을 규칙과 논리의 집합으로 보았다. 인공지능을 규칙과 논리로 표현된 기호에 의하여 표현하고 저장하여 만들 수 있다고 보았다. 그러나 헤브는 학습과 기억이 뉴런의 시냅스 연결 활동이며, 이런 연결은 뇌 전체에서 이루어지는 분산된 연결과정임을 주장하고 딥러닝 모델 개발의 근간이 되는 연결주의(connectionism)를 창시하였다. 

헤브의 연구는 로젠블렛의 퍼셉트론 모델 개발로 이어진다.  그리고 퍼셉트론은 딥러닝 모델을 탄생시키며 현재의 인공지능 개발로 이어졌다. 시냅스 연결에 의한 인지와 기억 활동은 인공적 학습 과정의 틀을 만드는데 결정적 아이디어를 제공한 것이다. 또 학습이 뉴런 시냅스 연결의 강도를 조정하는 것과 관련이 있다는 개념은 인공신경망의 가중치로 구현되었다. 그리고 딥러닝 신경망에서 최적의 가중치를 조정하는 알고리즘의 창출에 아이디어를 제공하였다. 시냅스는 뉴런 간 신호 전달의 강도와 영향을 결정하며, 딥러닝 모델에서는 이를 모방하여 가중치가 노드간 연결과 정보전달의 강도를 결정하는 것으로 구현되었다.  

오늘날 인공지능을 개발하는 작업은 딥러닝 모델의 최적 가중치를  발견하는 작업이다. 엄청난 양의 데이터를 입력하여 딥러닝 모델을 학습시키고, 똑똑한 인공지능을 만들어내는 작업은 딥러닝모델 가중치의 가장 적합한 값을 찾아내는 작업이다. 결국 인공지능은 최적화 된 가중치 값들의 집합체인 것이다. 이같이 도널드 헤브는 인공지능의 발전에 필수적인 아이디어를 제공하였다.  

<ifsPOST>