카카오뱅크(대표이사 윤호영, Daniel)가 AI 기술의 책임있는 활용과 윤리적 운영을 위해 AI 윤리 활동을 전방위로 강화하고 있습니다.

카카오뱅크는 2023년 국내 금융권 최초로 ‘인공지능경영시스템 인증(ISO/IEC 42001)’을 획득하며 AI 경영 체계의 안전성, 윤리성, 효율성을 대외적으로 인정받았습니다. 2024년에는 AI 거버넌스를 본격 운영하고 조직의 역할과 책임, 윤리 원칙, 리더십, 위험수준평가, 생애주기별 준수 항목 평가 등 AI 관련 의사결정 전반에 있어 신뢰 기반의 토대를 완성했습니다.

이에 더해 카카오뱅크는 내부 거버넌스 강화, 기술적 안전성과 투명성 확보 등 제도와 기술적 측면을 아우르는 한층 구체화된 AI 윤리 실천에 박차를 가하고 있습니다.

카카오뱅크는 지난해 성공적으로 안착한 ‘AI 거버넌스’ 체계를 고도화하기 위해 올해부터 ‘AI 거버넌스 2.0' 프로젝트를 추진중 입니다.

‘AI 거버넌스 2.0’은 금융권에서 AI 거버넌스를 선도해온 카카오뱅크 경험을 바탕으로 체계를 더욱 정교화하고 확장해 나가기 위한 전략적 과제입니다.

이 일환으로 카카오뱅크는 ▲컴플라이언스(‘금융분야 AI 가이드라인 개정’ 및 ‘AI 기본법 시행’ 대응) ▲정책(AI 거버넌스 대상 범위 확대 추진) ▲조직(AI 윤리 관련 조직 추가 신설 검토) ▲프로세스(AI생애주기* 준수절차 개선) 등 핵심 영역별 실행 과제를 도출해 선제적으로 이행하고 있습니다.

카카오뱅크는 기술 측면에서도 AI 투명성과 신뢰성 강화를 위해 연구와 실무 적용에도 적극 나서고 있습니다. ‘설명가능 인공지능(eXplainable AI, 이하 XAI)’ 기술을 이상거래탐지(FDS) 등 내부분석시스템에 적용하고 있습니다. ‘XAI’는 AI가 도출한 특정 결과의 작동 원리와 판단 근거를 사용자에게 명확히 제시하는 기술로, 결과에 대한 책임성과 해석 가능성을 높이는데 기여합니다. 카카오뱅크는 이를 통해 AI 기반 업무의 정확도를 제고하고 서비스 전반의 신뢰도를 강화하고 있습니다.

이와 함께 KAIST ‘설명가능 인공지능센터(XAIC)’와 산학협력을 맺고 XAI 알고리즘을 상호 발전시켜 나가며 다양한 금융분야에서 기술 적용 가능성을 확장하고 있습니다.

아울러 카카오뱅크는 대규모언어모델(이하 LLM) 성능평가 체계 DUO(A Diverse Understanding and Observation of LLMs)를 자체 구축해 운영하고 있습니다. ‘DUO’를 활용하면 다양한 LLM 가운데 금융대화 역량, 계산능력 등 카카오뱅크의 요구에 부합하는 모델을 신속하고 정확하게 평가할 수 있습니다. 또한, 윤리·안전성(Safety), 진실성(Truthfulness) 기준에 따라 편향성과 환각(Hallucination) 가능성 등의 점검도 가능합니다. 카카오뱅크는 ‘DUO’를 활용해 금융산업 특성에 부합하는 신뢰도 높은 AI 모델을 선별하고, 실제 금융서비스 적용이 가능한지 면밀히 검토하고 있습니다.

카카오뱅크는 앞으로도 제도적 기반과 기술적 실행력을 지속적으로 강화해 금융소비자가 안심하고 AI 기반 서비스를 이용할 수 있는 환경을 조성해 나간다는 방침입니다.

카카오뱅크는 “AI 윤리는 기술 발전과 함께 반드시 동반돼야 하는 필수 요소이며 이를 제도와 기술로 실천하는 것이 중요하다”며 “카카오뱅크는 금융 영역에 특화한 AI 전 생애주기 관리와 책임있는 운영으로 고객 신뢰를 지켜 나가겠다”고 밝혔습니다.