(서울=NSP통신) 강수인 기자 = 금융당국이 금융권의 생성형 인공지능(AI) 활용 확산에 대응해 새로운 ‘금융분야 인공지능 가이드라인’을 내놨다. AI 에이전트 등 신기술 도입을 지원하되 최종 의사결정과 책임은 금융회사 임직원이 지도록 하는 것이 핵심이다.

18일 금융위원회는 금융권 AI 활용 과정에서 준수해야 할 원칙과 위험관리 체계를 담은 ‘금융분야 인공지능 가이드라인’을 발표했다. 이번 가이드라인은 2021년 금융분야 AI 운영 가이드라인과 2022년 AI 개발·활용 안내서, 2023년 AI 보안 가이드라인을 통합·개편한 것이다.

금융위는 생성형 AI와 AI 에이전트 등 기술 발전, 올해 1월 시행된 인공지능기본법 등을 반영해 금융권이 참고할 수 있는 통합 기준을 마련했다고 설명했다.

가이드라인은 ▲거버넌스 ▲합법성 ▲보조수단성 ▲신뢰성 ▲금융안정성 ▲신의성실 ▲보안성 등 7대 원칙을 제시했다.

특히 금융당국은 AI를 업무 보조수단으로 활용하되 최종 의사결정과 책임은 사람이 부담해야 한다는 ‘보조수단성 원칙’을 강조했다. 대출심사와 보험금 지급, 투자판단 등 금융소비자에게 영향을 미치는 업무에서 AI가 판단을 지원하더라도 최종 결정은 임직원이 내려야 한다는 의미다.

외부 사업자가 제공하는 AI 모델이나 오픈소스 기반 AI를 활용하는 경우에도 책임은 해당 금융회사에 귀속된다고 명시했다. 금융회사가 AI 활용 과정에서 발생할 수 있는 위험을 직접 관리해야 한다는 취지다.

생성형 AI 확산에 따른 새로운 보안 위험에 대한 대응 기준도 담겼다. 금융위는 데이터 오염, 모델 오염, 데이터 및 모델 정보 유출, 프롬프트 인젝션, 탈옥(Jailbreak) 공격 등을 AI 특화 보안 위협으로 규정하고 정기적인 위험 식별과 관리 체계 구축을 요구했다.

또 신용평가나 채용 등 고위험 AI 활용 분야의 경우 위험평가 체계 구축과 인간 감독, 투명성 확보 등을 강화하도록 했다.

금융권에서는 이번 가이드라인이 AI 활용을 전면 제한하기보다 책임 있는 활용 기준을 제시했다는 점에서 의미가 있다는 평가가 나온다. 특히 향후 AI 에이전트가 금융상품 추천이나 자산관리, 업무 자동화 등에 폭넓게 활용될 것으로 예상되는 만큼 금융회사들의 내부 통제 체계 구축도 본격화될 전망이다.

권대영 금융위 부위원장은 “AI의 자율성과 학습능력에 맞는 규제와 감독체계를 새로 짜야한다”며 “AI가 의사결정에 관여해 소비자에게 미치는 영향이 커지는 만큼 책임과 권한을 분명히 해야한다”고 말했다.