공공부문 AI 전환 ‘컨트롤타워’ 세운다…안전 규율도 동시 정비

과기정통부 장관 직속 ‘국민AI서비스혁신추진단’ 신설
공공 AI 설계·개발부터 인프라·보안·사후관리까지 총괄
안전성 의무 대상 사업자, 인지 후 3개월 내 결과 보고

배경훈 부총리 겸 과학기술정보통신부 장관이 20일 정부세종청사에서 열린 취임 1주년 출입 기자 간담회에서 발언하고 있다. <출처=과기정통부>

정부가 민간의 앞선 인공지능(AI) 개발 역량을 행정 내부로 끌어들이기 위한 조직 정비에 착수했다. 과학기술정보통신부가 장관 직속 전담조직인 ‘국민AI서비스혁신추진단’을 신설하는 한편, AI 사업자의 안전성 확보 의무를 구체화한 고시 제정도 함께 추진한다. 공공 AI 서비스를 총괄할 실행 조직과 안전 규율을 동시에 갖추면서 정부 AI 정책이 본격적인 실행 국면에 접어들었다는 평가가 나온다.

20일 과기정통부는 장관 소속으로 추진단을 설치하기로 하고 최근 관련 훈령 제정안을 행정예고했다. 급증하는 대국민 AI 서비스 수요에 선제적으로 대응하고, AI 기반 서비스를 공공 부문에 신속히 도입하는 것이 골자다.

◇설계부터 보안·사후관리까지 ‘전주기’ 관장

추진단은 공공 AI 서비스의 전 과정을 아우르는 5개 임무를 맡는다. △AI 도입·전환 서비스의 설계·개발·검증 및 고도화 △사용자 경험(UX) 개선 △인프라 확보·최적화 전략 수립 △개발 과정의 보안 취약점 진단·개선 △국내외 AI 서비스 동향 분석과 교육·홍보 지원 등이다. 조직은 단장 1명과 심의관 1명, 실무를 맡을 팀장·팀원으로 꾸려질 예정이다.

전문성 보강을 위한 협력 채널도 함께 가동된다. 전문가 자문단과 행정안전부 등 유관 기관이 참여하는 정책협의체를 구성하고, 산업계·시민사회가 참여하는 민관협의체 운영 근거도 규정에 담았다. 특히 대국민 파급력이 큰 공공 AI 서비스의 설계·고도화 과정에서는 행안부와 사전 협의를 거치도록 명시했다.

관가에서는 추진단 출범을 계기로 정부 업무 전반의 AI 활용도가 크게 높아지면서 이른바 '더 똑똑해진 공무원'이 주도하는 첨단 행정이 가시화될 것으로 기대하고 있다.

과기정통부 현판. <출처=과기정통부>

◇AI 사업자 안전성 보고 의무화…“3개월 내 제출”

과기정통부는 조직 신설과 별도로 ‘인공지능 안전성 확보 의무의 이행방법 등에 관한 고시’도 행정예고했다. 안전하고 신뢰할 수 있는 AI 이용 환경을 만들기 위한 제도적 틀을 마련한다는 취지다.

고시는 ‘위험’, ‘누적연산량’, ‘AI 안전사고’ 등 핵심 용어를 정의하고, 안전성 이행 결과를 정부에 제출해야 하는 AI 사업자의 범위와 누적연산량 산정 방식을 구체화했다. AI 수명주기 전반의 위험 식별·평가·완화 조치와 안전사고 모니터링을 위한 위험관리체계 구축 사항도 담겼다.

의무 대상 사업자는 해당 조건을 인지한 날부터 3개월 안에 안전성 확보 조치 결과 보고서를 작성해 과기정통부 장관에게 제출해야 한다. 위험관리체계에는 사고 대응 전담 조직의 구성·역할, 이용자 안내 절차, 관계기관 신고 및 피해보상 방안, 임직원 예방 교육 등 사고 전후 대응 매뉴얼이 반드시 포함돼야 한다. 부득이한 경우 사전 협의를 거쳐 제출 기한을 연장할 수 있는 예외 조항도 뒀다.

한편, 이재명 대통령은 앞서 AI 산업 육성 4대 원칙을 제시하며 법·제도와 산업 생태계를 AI 중심으로 재편하고, 행정·의료·교육 등 국가 시스템 전반의 혁신을 주문한 바 있다.

[CEO스코어데일리 / 김동일 기자 / same91@ceoscore.co.kr]

심층분석

CEO's PICK