BC카드, AI 인프라 효율 극대화 위해 ‘오폰시프트’ 플랫폼 도입

AI 인프라 자동화 및 대규모 운영 환경 기틀 마련

BC카드 본사 전경. <사진=BC카드>

BC카드는 AI서비스 개발 생산성 향상 및 인프라 운영 효율성 증대를 위해 ‘엔터프라이즈 급 컨테이너 플랫폼’을 도입했다고 13일 밝혔다.

엔터프라이즈 급 컨테이너 플랫폼이란 다양한 애플리케이션을 효율적으로 개발하고, 안정적으로 운영할 수 있도록 지원하는 통합 관리 시스템이다. BC카드는 향후 더욱 복잡해질 AI서비스 운영 환경에 대비하기 위해 Red Hat OpenShift(이하 ‘오픈시프트’)와 Red Hat OpenShift AI(이하 ‘오픈시프트 AI’)를 도입했다는 설명이다.

오픈시프트는 애플리케이션 배포와 관리를 더욱 쉽게 하고, 다양한 개발 및 운영 도구를 통합해 제공하는 플랫폼이다. 아울러 오픈시프트AI는 다수의 GPU 서버를 효율적으로 자동 관리할 수 있어 거대 언어모델(LLM)이나 고성능 AI 추론 환경 구축에 특화됐다.

오픈시프트 도입을 통해 BC카드는 AI 프로젝트 실험과 검증 속도를 높이고, 서비스 안정성과 확장성을 크게 강화할 수 기반을 마련할 수 있게 됐다. 이를 기반으로 내부 LLM 프로젝트 배포 주기를 단축하고 △업무 효율화 △리스크 분석 △내부 지식 검색 등 주요 업무에서 AI 서비스 실용화도 가속화할 수 있게 됐다.

여기에 BC카드가 국내 최초로 도입한 오픈시프트AI는 기존 컨테이너 플랫폼에 AI 개발 및 운영에 특화된 기능과 환경을 추가한 전용 솔루션으로, AI 프로젝트를 보다 효율적이고 체계적으로 수행할 수 있도록 지원한다.

최원석 BC카드 사장은 “오픈시프트AI 도입을 통해 GPU 자원 활용을 최적화하고 LLM 학습 및 추론 환경을 개선함으로써 AI 인프라 운영의 안정성과 효율성을 크게 향상시켰다”며 “향후 핵심 업무 영역 전반에서 AI 기술 적용을 확대해 디지털 경쟁력을 지속적으로 강화해 나갈 계획”이라고 말했다.

[CEO스코어데일리 / 이지원 기자 / easy910@ceoscore.co.kr]

심층분석

CEO's PICK