카카오뱅크(대표이사 윤호영, Daniel)는 인공지능(AI) 기술의 책임 있는 활용과 윤리적 운영을 위한 내부 관리체계와 기술 고도화를 동시에 추진하고 있다고 2일 밝혔습니다. 카카오뱅크는 2023년 금융권 최초로 국제표준 ‘인공지능경영시스템 인증(ISO/IEC 42001)’을 획득하며 AI 관리체계의 안전성과 윤리성을 공식적으로 인정받았습니다. 이어 2024년에는 AI 거버넌스를 본격적으로 운영하며 역할과 책임, 윤리 원칙, 리더십, 위험 수준 평가 등 전 과정을 체계화했습니다. 이를 통해 AI 의사결정의 신뢰 기반을 완성했다는 평가를 받고 있습니다. 회사는 올해부터 ‘AI 거버넌스 2.0’ 프로젝트를 추진해 지난해 구축한 AI 관리체계를 한 단계 고도화하고 있습니다. 이번 프로젝트는 카카오뱅크가 금융권에서 쌓은 AI 운영 경험을 바탕으로 컴플라이언스, 정책, 조직, 프로세스 등 핵심 영역을 정교화하는 전략 과제로, ▲‘금융분야 AI 가이드라인 개정’ 및 ‘AI 기본법 시행’ 대응 ▲AI 거버넌스 적용 범위 확대 ▲AI 윤리 전담 조직 신설 ▲AI 생애주기 준수 절차 개선 등을 중심으로 추진되고 있습니다. 기술적 측면에서도 카카오뱅크는 AI 투명성과 신뢰성
KB국민은행(은행장 이환주)은 13일 디지털 금융혁신과 신뢰할 수 있는 인공지능(AI) 기술 활용을 위해 자체적인 ‘AI 거버넌스’를 마련했다고 밝혔습니다. AI 거버넌스는 AI 서비스의 신뢰성과 투명성을 보장하고 윤리적·법적 책임을 다하기 위한 종합 관리체계를 뜻합니다. KB국민은행은 AI 사용이 확대되면서 발생할 수 있는 위험요소를 체계적으로 관리하기 위해 2022년부터 AI 거버넌스를 준비해 왔습니다. 이번에 수립한 AI 거버넌스는 ▲AI 윤리기준 및 조직문화 ▲위험평가 프레임워크 ▲생애주기별 위험관리정책 ▲금융소비자 보호방안 등 4가지 핵심 요소로 구성됐습니다. 먼저 AI 윤리기준은 안전하고 신뢰할 수 있는 AI 도입·운영을 위해 임직원이 반드시 지켜야 할 기본원칙입니다. 모든 직원은 정기적으로 AI 윤리교육을 받아야 하며, AI 개발자는 별도의 개발가이드교육을 통해 책임성과 윤리의식을 높이게 됩니다. 위험평가 프레임워크는 AI 서비스가 가진 잠재적인 위험을 사전에 식별하고 관리하는 체계로, AI 서비스를 허용불가, 고위험, 중위험, 저위험 등 4단계로 구분합니다. 위험도가 높은 AI 서비스는 보다 강화된 관리방안이 적용되며, 허용불가로 분류될 경우