<IT사랑방> OpenAI의 생각하는 AI : AI 추론의 새 시대와 그 이면의 도전과제 > News Insight

OpenAI가 최근 공개한 o1 모델은 인공지능(AI) 기술의 새로운 지평을 열었다. 이 모델의 핵심인 'Chain of Thought' (CoT) 기술은 AI의 추론 능력을 획기적으로 향상시켰는데, 이는 AI가 최종 답변을 도출하기 전 중간 추론 단계를 명시적으로 생성하도록 하는 기술이다. 2022년 Jason Wei 등이 발표한 논문에서 처음 소개된 이 개념은 AI의 사고 과정을 인간의 그것과 유사하게 만드는 것을 목표로 했다.

그러나 CoT 개념을 실제로 구현하고 대중화한 것은 Auto-GPT라는 프로젝트였다. 2023년 3월 30일, Toran Bruce Richards에 의해 공개된 Auto-GPT는 GitHub에서 빠르게 인기를 얻었는데, 이는 OpenAI의 GPT-4 API를 기반으로 하여 사용자가 설정한 목표를 자율적으로 달성하기 위해 여러 단계의 작업을 수행할 수 있는 AI 에이전트를 구현했기 때문이다.

이러한 흐름을 주시하고 있던 OpenAI는 2024년 9월  ChatGPT에 o1 preview를 통해 자체적인 CoT 구현을 선보였다. 

o1의 기술적 특징은 단순히 CoT를 구현하는 데 그치지 않았다. OpenAI의 연구원들은 이를 대규모로 자동화하고 최적화하는 데 성공했으며, 특히 강화학습의 리워드 모델을 최대한 활용하여 추론 과정을 개선했다. 이로 인해 AI는 단순한 패턴 인식이나 정보 검색을 넘어, 복잡한 문제를 단계별로 해결할 수 있게 되었다. 실제 Open-AI의 o1 Preview모델은 국제 수학올림피아드 예선에서 83%의 정확도를 보였으며, 코딩 능력에서도 89%를 기록하며 수학, 코딩분야에서 고도의 추론능력을 보여주었다. 

그러나 이러한 기술적 진보에는 상당한 비용이 따랐다. o1-preview 모델의 가격을 살펴보면, 입력 토큰당 $15.00, 출력 토큰당 $60.00로, 이는 gpt-4o 모델과 비교했을 때 각각 3배와 4배 높은 수준이다. 이러한 가격 상승은 추론 과정에서 발생하는 추가적인 계산 비용을 반영한 것으로 모델에 여러 단계의 생각을 시키는 것이 굉장한 컴퓨팅 자원을 소모한다는 것을 알려주는 것이다. 따라서 당분간 AI 인프라 수요가 증가하는 현상은 계속될 것으로 유추할 수 있다.

이러한 높은 비용 구조는 AI 기술의 발전 방향에 대한 중요한 질문을 제기한다. 과연 이러한 고비용 접근 방식이 장기적으로 지속 가능할 것인가, 아니면 더 효율적인 알고리즘과 하드웨어 개발을 통해 비용을 낮출 수 있을 것인가? 이는 AI 커뮤니티가 앞으로 해결해야 할 중요한 과제로 남아있다.

그럼에도 불구하고, CoT모델이 AI 발전에 미치는 영향은 무시할 수 없다. 안드레이 카파시가 언급한 "내면의 독백" 개념은 이 모델들의 근간을 이루는 철학과 일맥상통하며, 이는 AI가 단순한 정보 처리를 넘어 진정한 의미의 '사고'를 할 수 있는 길을 열어준다. 

더욱이, 이러한 접근 방식은 AI의 설명 가능성(explainability)을 크게 향상시켰다. AI가 결론에 도달하는 과정을 단계별로 보여줌으로써, 사용자들은 AI의 결정 과정을 더 쉽게 이해하고 검증할 수 있게 되었고, 이는 AI 시스템의 신뢰성과 투명성을 높이는 데 크게 기여할 것으로 예상된다.

시인 프루스트는 "진정한 발견의 여행은 새로운 풍경을 찾는 것이 아니라 새로운 눈을 갖는 것에 있다."라고 말했다. o1과 Auto-GPT가 보여준 AI의 새로운 '사고' 방식은, 우리에게 AI를 바라보는 새로운 시각을 제공했다. 이제 우리는 AI를 단순한 도구가 아닌, 함께 사고하고 문제를 해결해 나가는 동반자로 바라볼 수 있게 되었다. 

AI 기술의 발전은 끊임없는 도전과 혁신의 과정이다. 비용과 효율성의 문제는 분명 해결해야 할 과제이지만, 동시에 이는 우리가 더 나은 해결책을 찾아 나가는 원동력이 될 것이다. 우리는 이제 AI와 함께 새로운 길을 만들어가는 여정의 한복판에 서 있다. 이 여정이 어떤 새로운 지평을 열어줄지, 그리고 우리가 어떤 새로운 눈으로 세상을 바라보게 될지, 그 결과를 지켜보는 것은 매우 흥미진진한 일이 될 것이다. 

<ifsPOST>​