'로블록스', AI 기반 '실시간 멀티모달 콘텐츠 관리' 시스템 도입

(엑스포츠뉴스 이정범 기자) '로블록스'가 AI 기반 '실시간 멀티모달 콘텐츠 관리' 시스템을 도입했다.

최근 '로블록스'는 플랫폼 안전을 위한 다층적 접근 방식의 일환으로 '실시간 멀티모달 콘텐츠 관리(Real-time Multimodal Moderation)'에 대한 대규모 투자를 발표했다.

'로블록스'의 새로운 AI 시스템은 이용자의 시점에서 3D 오브젝트, 아바타, 텍스트를 포함한 전체 콘텐츠를 동시에 분석할 수 있게 지원한다. 이는 단일 3D 오브젝트나 텍스트 조각과 같은 개별 항목만 검증할 수 있던 기존 도구의 한계를 보완한 것이다.

해당 시스템은 특정 모먼트의 모든 요소를 종합적으로 포착해, 여러 유형으로 결합된 콘텐츠가 플랫폼 규정을 위반하는지 파악할 수 있다.

'로블록스'는 기존에도 AI·전문 모더레이션 팀을 통해 플랫폼에 업로드된 모든 콘텐츠를 검토해 왔다. 그리고 새로운 시스템은 게임 플레이 중에도 작동하는 안전망 역할을 한다.

해당 시스템은 유해성 텍스트, 3D 드로잉, 아바타의 움직임이 결합된 상황을 실시간으로 평가해, 이용자가 해당 콘텐츠를 접하기 전에 해당 서버를 즉시 차단한다. 현재 해당 시스템 도입 이후 매일 수천 개의 커뮤니티 가이드 위반 서버를 차단하고 있다.

전체 서비스가 아닌 특정 위반 서버만을 차단하므로, 규칙을 준수하는 일반 플레이어들은 서버 중단 없이 게임을 플레이할 수 있다. 

사진 = 로블록스

이정범 기자 leejb@xportsnews.com