업스테이지, ‘한·미 ICT 정책 포럼’서 AI윤리·신뢰성 강조

데이터 수집·공유 플랫폼 ‘1T 클럽’ 소개…데이터 질·윤리 향상 방안 제시

김성훈 업스테이지 대표. <출처=업스테이지>

업스테이지는 구글과 함께 각국 대표 기업으로 한미 정책 논의를 위한 정부 간 협의체에서 AI 신뢰에 대해 논의했다고 15일 밝혔다.

업스테이지는 지난 13일 미국 워싱턴 국무부에서 개최되는 '한미 ICT 정책 포럼’에 한국의 대표 기업으로 참석해 AI 윤리 및 신뢰성 관련 발표를 진행했다.

한미 ICT 정책 포럼은 과학기술정보통신부와 미 국무부 간 ICT 분야 협력 증진을 위해 2013년부터 매 1~2년 주기로 개최되어 온 정부 간 협의체로, 이번에 개최되는 회의는 제7차다. 이번 포럼은 9월 12일, 13일 양일간 민간기업과 정부가 함께 참여하는 민관 세션과 정부 세션으로 나뉘어 진행됐다.

업스테이지는 첫날인 12일에는 민관 세션 중 AI 윤리 및 신뢰성, 양자 과학기술 적용 등을 논의하는 ICT 신흥기술 세션에 참석했다. 김성훈 업스테이지 대표는 ‘AI 윤리·신뢰성 확보를 위한 국제적인 협력 방안과 업스테이지의 노력’을 주제로 자사가 운영하는 데이터 수집 및 공유 플랫폼인 '1T 클럽’을 대표적인 사례로 소개했다.

김 대표는 데이터를 모으는 과정에서 양질의 데이터를 모으기 위해 컨텐츠 제공자와 수익을 공유하고 이를 통해 AI가 만들어내는 결과물의 신뢰성과 윤리적 측면까지 강화할 수 있는 ‘1T 클럽’을 통해 다양한 분야의 전문가들과 협력을 위해 이를 위한 정부의 협력 필요성을 알렸다.

그는 글로벌의 연구그룹과 기업 등 다양한 조직들이 LLM의 대중화에 기여하고 있지만 주로 모델 개발에만 집중하고 있는데 AI 기술 발전의 절반 이상은 데이터의 역할임을 강조, 데이터 수집 단계부터 집중하며 수익을 공유함으로써 데이터를 제공하는 컨텐츠 부문도 더 활성화될 것이라고 역설했다.

김성훈 대표는 업스테이지가 좋은 데이터를 모으기 위해 ‘사람 중심’, ‘신뢰성’, ‘공정성’, ‘안전성’, ‘보편성’의 5대 윤리원칙에 기반, 데이터를 정제하고 모델을 만든다고 설명했다. 이를 통해 AI 데이터의 신뢰성과 윤리적 측면에서도 선순환이 이뤄져 가장 중요한 진실되고 윤리적인 양질의 데이터를 모으는 데 앞장서고 있음을 강조했다.

한편, 같은 날 오전 윤석열 대통령 주재 ‘대한민국 초거대 AI 도약’ 회의에도 참석한 김 대표는 AI 스타트업을 대표해 “대기업과 스타트업이 상생하는 생태계가 조성되면, 세계 1위를 차지한 AI 기술을 갖고 있는 업스테이지 같은 우리나라 대표 기업들은 글로벌 경쟁에서 승산이 있다”고 요청하기도 했다.

김성훈 업스테이지 대표는 “이번 한미 ICT 정책 포럼은 AI 윤리와 신뢰성에 대한 국제적인 공감대를 형성하고, 협력을 강화하는 중요한 기회가 될 것이라고 기대한다”고 말했다.

[CEO스코어데일리 / 김동일 기자 / same91@ceoscore.co.kr]

심층분석

CEO's PICK