21일 AI기본법 시행령·고시 등 후속 법령 본격 가동
생성형 AI 표시·고영향 AI 관리 의무 구체화…네카오·이통 3사 운영 절차 재정비
공공조달 확인제도로 성장 기회도…‘판단 기준 모호’는 계도기간 과제로

AI기본법 시행령과 하위 고시 등 후속 법령이 21일부터 시행된다. <이미지=AI로 생성>

인공지능(AI)기본법 후속 법령이 21일 본격 시행되면서, 네이버·카카오와 통신 3사 등 국내 주요 IT 기업들이 이용자 고지 방식부터 서비스 출시 전 위험평가, 내부 의사결정 체계까지 운영 전반을 재정비하고 있다. 생성형 AI 표시와 고영향 AI 관리 의무가 구체화되는 동시에 공공조달 우대 등 육성책도 가동되면서, 국내 AI 산업이 규제 준수와 성장 기회라는 갈림길에 섰다.

21일 과학기술정보통신부는 AI기본법 시행령과 하위 고시 등 후속 법령이 이날부터 시행된다고 밝혔다. 이는 올해 1월 원안 시행에 이은 후속 조치로, 그간 선언적 수준에 머물렀던 AI 규제와 산업 지원책이 현장에 직접 적용된다.

이번 후속 법령 시행의 직접적인 영향을 받는 곳은 자체 AI 모델과 서비스를 개발·운영하는 기업들이다.

네이버와 카카오를 비롯해 SK텔레콤, KT, LG유플러스 등 통신사와 업스테이지 등 AI 전문기업은 이용자 고지 방식부터 서비스 출시 전 위험 평가, 내부 의사결정 체계까지 전반적인 운영 절차를 재정비해야 한다.

먼저, 기업이 생성형 AI를 활용한 제품이나 서비스를 제공할 경우 이용자가 AI를 이용하고 있다는 사실을 사전에 알려야 한다. 텍스트와 이미지, 음성 등 AI가 만든 결과물에도 생성형 AI를 통해 제작됐다는 사실을 표시해야 한다. 검색·광고·콘텐츠·AI 에이전트 등 다양한 서비스를 동시에 운영하는 플랫폼과 통신사에는 표시 대상과 방식을 서비스별로 세분화하는 작업이 필요해졌다.

의료와 금융, 채용, 교육 등 국민의 생명과 안전, 기본권에 중대한 영향을 미칠 수 있는 분야에 AI를 공급하는 기업의 부담은 더 커진다. 서비스가 고영향 AI에 해당하는지 검토하고 위험·영향평가와 이용자 보호 조치, 사람에 의한 관리·감독 절차 등을 마련해야 하기 때문이다. 기업 간 거래(B2B) AI 사업을 확대하고 있는 통신사와 AI 솔루션 기업에도 법률 검토와 위험관리 역량이 핵심 경쟁력으로 부상할 전망이다.

네이버 AI 안전성 프레임워크(ASF) 2.0. <출처=네이버>

대형 AI 기업들은 선제적으로 안전관리 체계를 구축하고 있다. 네이버는 이달 기존 프런티어 모델 중심의 관리체계를 이용자와 서비스 영역까지 확장한 ‘네이버 AI 안전성 프레임워크(ASF) 2.0’을 공개했다. 위험 분류와 영향평가 기준을 세분화하고 대화형 검색 서비스 ‘AI탭’의 개발·운영 전 과정에도 이를 적용하고 있다.

카카오는 ‘카카오 AI 세이프티 이니셔티브’를 중심으로 AI 윤리 원칙과 위험 식별·평가·대응 절차, 의사결정 거버넌스를 운영하고 있다. 모델 안전성 평가와 레드티밍을 거쳐 위험 수준을 구분하고, 위험도가 높은 경우 재학습이나 통제 장치를 추가하는 방식이다.

통신사들도 대응 조직을 강화하고 있다. SK텔레콤은 AI기본법 시행에 맞춰 전사 AI 거버넌스를 고도화하고 ‘굿 AI’ 캠페인을 도입했다. KT는 책임 있는 AI센터(RAIC)를 중심으로 AI 기획부터 개발·운영까지 위험을 점검하고 있으며, AI기본법 등 정책 대응을 위한 내부위원회도 운영하고 있다. LG유플러스 역시 생성형 AI 서비스 확대에 맞춰 안전성과 개인정보보호, 이용자 고지 관련 관리체계를 정비하고 있다.

규제 대응이 비용만 늘리는 것은 아니다. 정부가 도입하는 ‘AI 제품·서비스 확인제도’는 AI 기업에 새로운 공공시장 진출 기회가 될 수 있다. 과기정통부의 확인서를 받은 제품은 오는 8월부터 다수공급자계약 참여 시 납품실적 요건을 면제받고 총액계약 적격심사에서도 가점을 받을 수 있다. 초기 매출과 도입 실적이 부족한 AI 스타트업에는 공공기관을 첫 고객으로 확보하고 민간시장 진출에 필요한 레퍼런스를 쌓을 통로가 열리는 셈이다.

AI 전문인력 교육과 취업 지원, 모태펀드를 활용한 창업기업 투자, 공공데이터의 AI 학습용 제공도 확대된다. 장애인과 고령자, 구직자, 경력보유여성, 비수도권 대학 인재 등에 AI 서비스 이용 비용을 지원할 수 있는 근거가 마련되면서 기업 입장에서는 공공 수요를 바탕으로 이용자 기반을 넓힐 가능성도 커졌다.

다만 산업계의 불확실성은 여전하다. AI 기술을 어느 정도 활용해야 표시 의무가 발생하는지, AI 결과물을 사람이 편집하거나 검수한 경우에도 동일한 표시가 필요한지에 대한 판단 기준이 아직 명확하지 않기 때문이다. 고영향 AI의 범위 역시 서비스의 목적과 실제 사용 방식에 따라 달라질 수 있어 기업들이 출시 전 법률 자문과 위험 평가에 추가 비용을 투입해야 할 가능성이 크다.

특히 대형 플랫폼과 통신사는 전담 조직을 통해 규제에 대응할 수 있지만, 인력과 자금이 부족한 스타트업에는 준법 비용이 시장 진입 장벽으로 작용할 수 있다. 반대로 공공조달 우대와 투자 지원이 실질적으로 작동한다면 중소 AI 기업의 초기 시장 확보를 돕는 성장판이 될 수 있다는 기대도 나온다.

정부는 최소 1년 이상의 계도기간을 두고 산업계 의견을 수렴하면서 생성형 AI 표시 방식과 고영향 AI 적용 사례를 가이드라인에 구체화할 방침이다.

AI 업계 한 관계자는 “기업들도 AI의 신뢰성과 안전성을 확보해야 한다는 제도의 취지에는 공감하고 있다”며 “다만 고영향 AI의 판단 기준이나 생성형 AI 표시 범위가 불명확하면 기업마다 과도한 법률 검토와 대응 비용을 부담할 수 있는 만큼, 계도기간 동안 구체적인 사례와 예측 가능한 기준을 충분히 제시해야 한다”고 말했다.

[CEO스코어데일리 / 김동일 기자 / same91@ceoscore.co.kr]