딥시크(DeepSeek)와 인공지능(AI)기본법: 금융권 영향 및 시사점 > News Insight

생성형 AI의 확산에 따라 금융권 지원방안이 발표되고 DeepSeek사의 R1과 같은 저렴한 대안이 제시되고 있는 가운데, 금융분야 AI 가이드라인과 인공지능기본법 등 신뢰성 확보를 위한 조치도 강화되거나 신설됨. 이에 따라 금융권에서는 내부통제 관련 준비와 함께 고영향 AI로 분류될 가능성이 있는 모델의 설명 가능성 제고와 영향평가를 준비할 필요가 있음. 또한 고영향 AI 분류 작업에 선행하여 정부 부처 간에 충분한 논의가 이루어져야 할 것임.

■ 최근 생성형 AI 확산에 대응하여 금융권의 생성형 AI 활용을 위한 지원방안이 발표된 가운데 저비용 오픈소스 AI1)인 DeepSeek R1의 등장으로 기존 생성형 AI의 성능 개선 및 관련 비용 하락에 대한 기대감이 커짐.

  - 2022년 11월 ChatGPT가 출시된 이후 국내 금융권에서는 대형사 위주로 오픈소스 AI를 활용한 자체 모델을 개발하여 사내 업무 효율성 개선을 위해 이용하였으며, 2024년 12월부터는 ChatGPT 등 상용 AI2) 이용을 위한 일반 금융회사의 혁신금융서비스 지정3)도 시작되었음. 

  - 이러한 금융권의 생성형 AI 수요 증가에 대응하여 2024년 12월 「금융권 생성형 AI 활용 지원방안(금융위원회)」이 발표되었으며, 이를 통해 금융권 AI 플랫폼 구축 방안, 금융 분야 특화 데이터 지원방안 등 각종 오픈소스 AI 지원방안이 제시됨. 

   * 상용 AI는 국내외 기술기업들이 상품화한 모델을 구입하여 이용하는 개념이라 오픈소스 AI와 같은 지원방안은 없으나, 혁신금융서비스 지정을 통한 예외적 허용이 일종의 지원방안이라고 볼 수 있음. 

  - 금융권 AI 플랫폼은 ① 수많은 오픈소스 AI 모델 중 금융권에 적합한 모델을 골라주고, ② AI모델 실험을 위한 기능테스트(Proof of Concept)4) 환경을 제공하고, ③ 오픈소스 AI의 내부망 설치를 통합적으로 지원하는 사이트5)로서 2025년 상반기 중 개설될 예정임. 

  - 금융 분야 특화 데이터 지원방안은 오픈소스 AI 모델의 한국어 능력과 금융 분야 전문성을 제고하기 위해 금융 법규와 교육자료 등 금융권 특화 한글 말뭉치는 물론 금융사기 방지, 신용평가, 금융보안 등 공익 목적 데이터를 전술한 플랫폼에서 제공하는 내용임.

  - 최근 일부 금융기관에서 정보 유출 우려로 DeepSeek R1의 접속을 차단하였으나, 공개된 오픈소스 코드6) 및 관련 논문7)에 제시된 강화학습 방식을 활용하면 해당 서비스를 이용하지 않아도 적은 비용으로 기존에 이용 중인 생성형 AI의 성능을 개선할 수도 있을 것으로 기대됨. 

  - 나아가 저사양 하드웨어 선택을 통한 인프라 비용 감축과 알고리즘의 최적화를 통한 운영비(전기료 등) 감축도 가능한 것으로 조사되었으며, 경쟁 확산에 따른 기존 상용 AI 서비스의 이용료 하락도 기대됨.

■ 반면 보안과 안정성이 중요한 금융업의 특성상 금융 분야 AI 가이드라인도 각종 환경의 변화를 반영해 개정되었으며, 최근 통과된 인공지능기본법도 내년부터 금융권에 적용될 예정임.

  - 2024년 12월 발표된 「금융권 생성형 AI 활용 지원방안(금융위원회)」에는 생성형 AI의 출현과 금융권 내부통제 강화 등을 반영한 금융권 AI 활용의 7대 원칙이 제시됨.

  -  금융권 AI 활용의 7대 원칙8)은 기존 3개의 가이드라인 및 안내서9)를 1개의 가이드라인으로 통합하는데 있어서 대원칙이 될 7개의 원칙을 의미하며, 가이드라인의 특성상 법적 강제성은 없음.

  - 단 7대 원칙 중 제2원칙에 해당하는 합법성 규정은 AI 활용에 있어 금융 및 AI 관련 법을 준수하라는 것이어서 법적 강제성도 있는 것으로 해석됨.

  - 2024년 12월 국회 본회의에서 의결된 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 ‘인공지능기본법’)」은 2026년 1월부터 시행될 예정이며, 2025년 상반기 중 시행령과 지침등이 마련될 계획임.

  - 인공지능기본법은 크게 AI 발전을 위한 추진체계 마련, AI 산업육성 지원, 신뢰성 확보 등 세가지 부문으로 구성되어 있는데, 금융권도 AI를 대고객 서비스나 금융상품 개발에 이용하면 동법 제2조(정의)에 따라 인공지능사업자10)로 분류됨.

  - 고영향 AI로 분류된 AI를 이용할 경우 인공지능기본법 제30조(인공지능 안전성·신뢰성 검·인증 등 지원)와 제32조(인공지능 안전성 확보 의무)에 따라 안정성과 신뢰성 확보를 위한 사전적(서비스 제공 전) 검·인증 의무가 부과됨.

   * 고영향 AI는 인공지능기본법 제2조에 따라 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로 정의되며, 에너지법 상 에너지, 먹는물관리법 상 먹는 물, 의료기기법 상 의료기기 등과 함께 ‘채용과 대출 심사’ 관련 AI도 고영향 AI로 적시됨.

  - 또한 고영향 AI를 활용하는 사업자의 경우 동법 제34조(고영향 인공지능과 관련한 사업자의 책무)에 따라 위험관리 방안의 수립과 운영, 학습용 데이터 및 AI가 도출한 결과 도출 기준에 대한 설명, 이용자 보호 방안의 수립 및 운영, AI에 대한 임직원의 관리·감독, 신뢰성 확보 조치 내용의 작성과 보관 등 법적 의무가 발생함.

  - 나아가 고영향 AI를 활용하면 동법 제35조(인공지능 영향평가)에 따라 AI가 인간의 기본권에 미치는 영향을 사전에 평가해야 하며, 이러한 각종 의무사항을 위반할 경우 과학기술정보통신부에서 시정조치를 명할 수 있음.

■ 오픈소스 AI 지원방안의 실행과 DeepSeek R1의 등장 등을 계기로 국내 금융권의 오픈소스 AI 활용 수요가 급증할 것으로 예상되나, 금융 분야 AI 가이드라인과 인공지능기본법의 도입 등 안전조치의 강화로 인해 금융회사의 AI 관련 규제준수 비용도 증가할 것으로 판단됨.

  - 생성형 AI 지원방안이 실행되면 오픈소스 AI 모델의 선택, 테스트, 설치 등이 용이해지는데다 맞춤설정을 위한 학습용 한글 데이터 확보가 가능해지며, DeepSeek R1의 강화학습법을 응용하면 학습비용까지 낮출 수 있어 국내 금융권의 AI 수요가 급증할 수 있음.

  - 다만 최고경영자를 포함한 경영진의 책임 등 내부통제를 강조하는 방향으로 가이드라인이 개정되면 관련 비용이 증가할 수 있으며, 특히 인공지능기본법에 제시된 생성형 AI11) 및 고영향 AI 관련 준수 의무를 이행하기 위해서는 상당한 규모의 투자가 필요할 수 있음.

  - 인공지능기본법 제2조(정의)에 따라 채용과 대출심사 등 개인의 권리 및 의무 관계에 중대한 영향을 미치는 AI는 고영향 AI로 자동 분류됨.

■ 금융권에서는 오픈소스 AI의 활용 편의성 등이 개선되는 동시에 관련 규제준수 비용도 증가한 점을 참조할 필요가 있으며, 정부 차원에서는 고영향 AI에 해당할 수 있는 금융 서비스의 범위 설정과 관련하여 선제적이고 충분한 부처 간 의견 조율이 필요할 것임.

  - 고영향 AI로 분류될 가능성이 있는 AI 모델의 도입을 추진하고 있거나 이용 중인 경우 인공지능기본법이 시행(2026년 1월)되기 전에 설명 가능성을 개선하고 영향평가를 준비할 필요가 있으며, 고영향 AI를 이용하지 않더라도 책무구조도 등 내부통제 관련 준비는 필요함.

  - 인공지능기본법 제33조(고영향 인공지능의 확인)에 따라 개별 AI 모델의 고영향 여부는 과기부에서 결정하는데, 보험과 카드 등 여타 금융상품의 가입과 관련한 심사의 고영향 여부, 대출심사의 일부분만 AI가 처리하는 경우의 고영향 여부 등 애매한 부분이 있으므로 금융에 대한 이해도가 높은 감독당국과의 의견 조율이 중요할 수밖에 없을 것으로 판단됨.<KIF>

--------------------------------------------------------------------------------------------------------------

1) 오픈소스 AI는 핵심 코드가 공개되어 누구나 인터넷에서 무료로 다운로드하여 자신의 필요에 맞게 맞춤설정(customizing)할 수 있는 모델로서 메타(Meta, 구 Facebook)의 Llama가 대표적이며, 한국에서는 네이버, 카카오, SK텔레콤 등이 한국어에 특화된 오픈소스 AI를 개발하여 제공하고 있음.

2) 상용 AI는 핵심 코드가 공개되지 않고 기업에서 무료(개인 일부 무료)나 유료(금융회사 등 기업이 이용 시 유료)로 제공하는 고성능 초대형 모델로서 오픈AI의 ChatGPT와 네이버의 HyperCLOVA 등이 대표적이며, 개발사에 의한 유료 맞춤설정이 가능함. 

3) 2013년 인터넷 등 외부통신망과 내부통신망을 물리적으로 분리하는 물리적 망분리 규제가 도입된 이후 상용 AI 이용을 위한 클라우드 서비스의 이용이 불가했으나, 2024년 8월 발표된 ｢금융분야 망분리 개선 로드맵(금융위원회·금융감독원)｣에 따라 규제 샌드박스를 통한 예외적 허용이 시작됨. 

4) 서비스 개발 이전에 서비스와 기술 등의 실현 가능성을 입증하는 절차를 의미함.

5) 신용정보원이 사이트 운영의 주체이며, 금융결제원과 금융보안원이 조력할 계획임.

6) DeepSeek R1은 ChatGPT o1에 버금가는 성능을 보이는데, 관련 코드가 기밀인 Open AI의 ChaptGPT와 달리 해당 코드가 오픈소스로 공개되어 다운로드 후 필요한 부분만 참고하거나 문제 소지가 있는 부분을 제거할 수 있음. 실제로 DeepSeek R1의 코드를 수정함으로써 정보유출 가능성을 차단한 모델도 벌써 개발된 것으로 알려짐.

7) Guo, D. et al. (2025), “DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning,” arXiv preprint

8) 7대 원칙은 ① 최고경영자를 포함한 경영진의 AI 관련 관심 및 역할·책임 분담, ② 금융과 AI 관련 법규의 준수, ③ AI의 보조성, ④ AI 모델과 관련 데이터의 신뢰성 확보, ⑤ 금융 안정성 위험의 최소화, ⑥ 이용자 이익 우선, ⑦ 보안성 확보 등으로 구성됨.

9) 2021년 발표된 금융분야 AI 운영 가이드라인, 2022년 발표된 금융분야 AI 개발 및 활용 안내서, 2023년 발표된 금융분야 AI 보안 가이드라인 등을 지칭함.

10) AI를 개발하여 제공하면 인공지능개발사업자이고 AI를 이용하여 제품이나 서비스를 제공하면 인공지능이용사업자이기 때문에 금융회사 중 오픈소스 AI 모형을 변형하여 활용하는 회사는 개발사업자 겸 이용사업자에 해당하고 타사가 개발한 모형을 제품이나 서비스에 단순 활

용하는 경우 이용사업자에만 해당함. 단 개발사업자와 이용사업자 모두 인공지능사업자에 해당하므로 AI 관련 서비스나 상품이 있으면 무조건 인공지능사업자에 해당함.

11) 고영향 인공지능과 관련해 전술한 각종 의무와는 별도로 인공지능기본법 제31조(인공지능 투명성 확보 의무)에 따라 고영향 인공지능은 물론 생성형 인공지능을 제품 또는 서비스 제공에 이용하는 경우 인공지능 이용여부 고지 등 투명성 의무가 부여됨.