네이버제트, 제페토를 ‘안전한 메타버스’로… “신고 기능 강화 및 그루밍 방지 기술 도입”

시간 입력 2022-11-25 14:55:13 시간 수정 2022-11-25 14:55:13
  • 페이스북
  • 트위치
  • 카카오
  • 링크복사

제페토 안전 공식 캐릭터 소테리아 <사진=네이버제트>

네이버제트는 제페토 앱 내 신고 기능을 업데이트하고, 안티 그루밍 기술 도입, 안전 공식 캐릭터 런칭 등을 통해 이용자 보호에 나선다고 25일 밝혔다.

네이버제트는 이달 초 피드, 프로필, 월드, 채팅 등 앱 내 전반적인 제페토 신고 메뉴를 새롭게 업데이트된 커뮤니티 가이드라인에 따라 명확하고 직관적으로 개선했다.

우선 ‘미성년자의 안전’, ‘괴롭힘 및 따돌림’, ‘혐오 행위’ 등 신고 옵션을 더욱 확장했고, 보다 신속하게 신고할 수 있도록 신고 메뉴 상단에 ‘미성년자의 안전’, ‘자살 및 자해’ 등 중대한 위반 행위를 배치했다. 또한 모든 연령대의 이용자가 이해할 수 있도록 간결하고 쉬운 표현으로 설정한 것이 특징이다.

이와 함께 제페토 내에 사이버 범죄 수사 의뢰, 저작권 위반 신고, 자살 및 자해 방지 등에 대한 정보를 담은 고객센터 게시물 링크를 제공하며, 신고와 동시에 ‘유저 차단하기’ 기능도 함께 제공한다.

제페토 신고 기능 화면 <사진=네이버제트>

제페토는 신고한 유저, 신고 당한 유저 모두에게 커뮤니티 가이드라인의 위반 사항에 대해 자세하게 설명하는데, 이는 제재를 받은 이용자가 신고 사항에 대해 상세히 안내받으면 가이드라인 재위반 비율이 감소한다는 연구에 기반한 조치다.

네이버제트는 ▲온라인 아동 청소년 보호를 위한 국제 네트워크 기관 ‘인호프’ ▲글로벌 성착취물 근절 기업 연합체 ‘테크코얼리션’ ▲아동청소년 안전 교육 자문기관 ‘커넥트 세이프리’ ▲글로벌 커뮤니티를 지원하는 안전전문가로 구성된 TSPA(Trust and Safety Professional Association, 인터넷 온라인 안전전문가협회) 등 다양한 글로벌 단체들과 협업하며 이용자 보호를 최우선으로 고려하고 있다.

또한 아동청소년을 성적 착취와 학대로부터 보호하기 위해 기술, 프로그램을 개발하는 비영리단체 쏜(Thorn)과 협력해 그루밍 대화를 스캔하는 안티 그루밍 기술을 채팅 기술에 도입했다. 그루밍의 초기 지표를 빠르게 탐지해 전담팀에서 해당 계정에 대한 엄정한 조치도 하고 있다. 또한 자동화 탐지 방법, 전문 모더레이터를 통한 아동청소년 성착취물을 감지하고 제거하기 위해 전문 기술, 인력을 총동원하고 있다.

제페토 신고 기능 업데이트 <사진=네이버제트>

노준영 네이버제트 안전 전문팀(Trust and Safety team) 리드는 “앞으로도 안전한 메타버스 환경을 조성하기 위해 유해한 콘텐츠를 보다 정확하게 판단, 추적하는 기술을 고도화하고, 지속적으로 모니터링하겠다”며 “신고된 콘텐츠, 유저에 대한 유의미한 피드백을 공유해 투명성과 책임을 이어 나갈 것이며, 이용자 보호를 최우선으로 삼고 글로벌 단체와 협업하며 앞으로도 제페토의 다양한 노력을 공유하겠다”고 밝혔다.

한편, 네이버제트는 ‘보호자를 위한 제페토 안내서’와 ‘자살/자해 방지 서포트’ 등 다양한 안전 가이드라인을 알리는 동시에 앱 안팎에서 유저에게 메타버스의 안전한 이용을 돕는 공식 캐릭터 ‘소테리아’를 선보였다. 

[CEO스코어데일리 / 이예림 기자 / leeyerim@ceoscore.co.kr]

댓글

[ 300자 이내 / 현재: 0자 ]

현재 총 0개의 댓글이 있습니다.