박재천의 디지털경제 이야기 <34> ChatGPT 사용법 ④ 맥락을 유지하라 > News Insight

인공지능 모델을 사용할 때 대화의 맥락을 유지하는 것은 응답의 일관성과 관련성을 높이는 데 매우 중요하다. 특히, ChatGPT와 같은 생성형 인공지능 모델을 사용할 때는 이 점이 더욱 부각된다. 이러한 대화의 맥락 유지에는 기술적인 한계가 존재하기 때문이다. 

인공지능 모델은 대화의 맥락을 참조하는 데 있어 ‘컨텍스트 윈도우’라는 기술적 제한을 받는다. 컨텍스트 윈도우는 모델이 대화에서 참조할 수 있는 텍스트의 양을 의미하며, 한 번에 처리할 수 있는 정보의 양을 결정한다. 이 제한으로 인해 대화가 길어지면, 인공지능이 초기 대화 내용을 잊어버리고 맥락에서 벗어나는 문제가 발생할 수 있다. 

이러한 기술적 한계를 극복하고 대화의 일관성을 유지하기 위해서는 몇 가지 방법이 추천된다. 

첫째, 대화를 요약하면서 진행하는 방법이 있다. 이전 대화 내용을 간단히 요약하고 이를 바탕으로 새로운 대화를 시작함으로써 맥락을 이어갈 수 있다. 예를 들어, "지난번에 우리는 인공지능의 윤리에 대해 이야기했었죠. 오늘은 그 주제를 좀 더 깊이 탐구해볼까요?"와 같이 요약을 통해 대화를 이어갈 수 있다. 

둘째, 지난 대화의 주요 키워드를 반복해 사용하는 것도 효과적이다. 이를 통해, 이전 대화와의 연결을 유지하도록 도울 수 있다. 예를 들어, "지난번에 언급한 ‘데이터 프라이버시’ 문제를 다시 한번 짚어볼까요?"와 같이 키워드를 반복 사용하면 맥락을 유지하는 데 도움이 된다. 

셋째, 작업을 작은 부분으로 나누어 대화하는 방법이 있다. 큰 주제를 한 번에 다루기보다는, 작은 질문으로 나누어 진행하며, 필요시 종합하는 방식으로 대화의 맥락을 유지할 수 있다. 예를 들어, "먼저 인공지능의 기본 개념을 이해한 다음, 그 응용 분야에 대해 이야기 해볼까요?"와 같이 작은 부분으로 나누어 진행할 수 있다. 

넷째, 대화의 흐름을 자주 확인하는 방법이 있다. 대화 중간중간에 "지금까지 이야기한 내용을 정리해보면…"과 같이 대화의 흐름을 점검하면 맥락을 유지하는 데 도움이 된다. 

다섯째, 시각적 자료를 활용하는 방법이 있다. 대화 중간에 다이어그램이나 표를 사용하여 정보를 시각적으로 정리하면, 대화의 맥락을 더 쉽게 이해하고 유지할 수 있다. 

이 외에도 다양한 방법들이 있을 수 있으며, ChatGPT를 효과적으로 사용하기 위해서는 사용자 각자가 이러한 기법들을 숙달하는 것이 중요하다. 인공지능 모델의 컨텍스트 윈도우 크기를 이해하고, 그에 맞는 프롬프트 기법을 사용하는 것은 더 일관되고 관련성 있는 상호작용을 얻는 데 큰 도움이 될 것이다. 인공지능의 잠재력을 최대한 활용하기 위해서는 이러한 대화 기법을 익히고 활용하는 것이 무엇보다 중요하다. ​ 

<ifsPOST>