모바일 데이터 및 분석 플랫폼 앱애니에 의하면 2020년 전세계 모바일 앱 다운로드, 소비자 지출, MAU(월간 순수 이용자 수)가 역대 최대치를 기록했다. 특히 코로나-19 팬데믹의 여파로 사람 간 ‘연결’을 통해 즐거움을 만들어내는 커뮤니티 기반의 플랫폼 이용자 수가 급증하며 각 플랫폼들은 악성 유저를 방지하기 위한 대책 마련에 힘을 쏟고 있는 중이다. 안전하고 즐거운 서비스를 제공하기 위한 기술 개발에 지속적인 투자를 이어감과 동시에 철저한 정책을 마련하고 있는 것이다. 전세계적인 인기를 끌고 있는 글로벌 플랫폼들은 어떤 방안을 마련하고 있을까.
■ 인스타그램, 미성년자 보호를 위한 신규 기능 도입
10대부터 40대까지 전 연령대에서 사용 중인 인스타그램은 성인 이용자로부터 10대 이용자를 보호하기 위한 다양한 기능을 제공한다. 인스타그램은 지난 17일 ▲ 성인 이용자가 본인을 팔로우하지 않는 미성년자에게 DM을 보낼 수 없도록 방지하는 ‘성인-미성년자 DM 제한’ 기능 ▲ 미성년자가 의심스러운 활동 내역을 보인 성인 이용자와 DM을 주고받으면 팝업 메시지가 뜨는 ‘청소년 DM 안전 알림’ 기능 ▲ 10대 이용자 신규 가입 시 가입 단계에서 계정 공개 범위 설정에 대한 안내 메시지를 띄우는 기능 등 청소년 안전 강화를 위한 3가지 기능을 신규 도입했다. 효과적으로 미성년자를 보호하기 위해서는 정확한 나이를 파악하는 것이 중요한 만큼, 인스타그램은 정확한 나이를 예측하기 위한 인공지능(AI) 및 머신러닝 기술 개발에도 지속 투자하고 있다.
인스타그램은 2018년 첫 발간했던 ‘부모님을 위한 자녀의 안전한 인스타그램 사용 가이드’를 업데이트해 최근 공개하기도 했다. 가이드는 자녀가 원치 않는 교류 및 온라인 괴롭힘으로부터 자신을 보호할 수 있는 기능에 대한 설명을 담고 있으며, ▲ 상대가 모르게 댓글 등을 제한해 계정을 보호하는 ‘제한하기’ 기능, ▲사이버 폭력을 방지하는 ‘자동신고’ 기능 등이 새롭게 추가되었다.
■ 틱톡, “자신의 댓글을 스스로 점검해보세요”
'틱톡커'에게 댓글을 달고, 그 댓글에 공감을 하는 방식으로 이용자 간 소통이 이루어지는 틱톡은 최근 악성 댓글을 방지하기 위한 신기능을 출시했다. ▲ 자신이 작성한 댓글이 부적절하지는 않은지 스스로 점검할 수 있는 '다시 생각해보기' 기능 ▲ 자신의 콘텐츠에 달리는 모든 댓글에 대한 승인 권한을 부여하는 '모든 댓글 필터링' 기능 등은 악성 댓글로 인한 사이버 폭력, 온라인 괴롭힘 등을 예방할 수 있을 것으로 기대된다.
틱톡은 청소년 보호를 위한 정책 강화에도 힘을 쏟고 있다. 지난 1월 틱톡은 전 세계 모든 만 16세 미만 틱톡 계정 기본 설정을 ‘비공개’로 전환했다. 다른 사용자에게 자신의 계정 및 콘텐츠를 추천하는 ‘내 계정을 다른 사람에게 추천‘ 기능도 만 16세 미만 사용자에 대해서는 비활성화로 기본 설정했다. 미성년자가 신중하게 개인정보 및 콘텐츠 공개 범위를 선택할 수 있도록 함으로써 보호를 강화하겠다는 방침이다.
■ 하쿠나 라이브, ‘안전한 커뮤니티 구축’과 탄탄한 기술력 기반 모니터링 시스템 마련
영상으로 실시간 커뮤니케이션이 이루어지는 스트리밍 플랫폼 역시 안전한 커뮤니티 구축을 위해 다방면으로 노력 중이다. 관심사 또는 취향이 비슷한 사람들끼리 모여서 대화할 수 있는 무브패스트컴퍼니가 서비스하는 소셜 라이브 스트리밍 서비스 ‘하쿠나 라이브’가 대표적이다.
일본, 터키, 인도, 북미, 대만 등 10개국에 서비스를 제공 중인 ‘하쿠나 라이브’는 작년 말 ‘커뮤니티 안전 감독 위원회’를 구축하기도 했다. 전직 대형 법무법인 파트너 및 전직 판사 출신 등으로 구성된 커뮤니티 안전 감독 위원회는 서비스 관련 신고, 사법기관 협조 현황 등을 수시로 관리 감독하고 점검한다. 미성년자 보호 관련 규정을 위반할 시 무관용 원칙으로 계정을 즉시 폐쇄하고, 사법 기관의 개입이 필요한 중대 사안의 경우 선제적으로 신고하는 등 신속하고 적극적인 조치를 통해 커뮤니티 환경을 개선하고 있다.
이외 ‘하쿠나 라이브’는 인력을 통한 24시간 모니터링은 물론 AI 및 머신러닝 기반 필터링 시스템 등에도 공격적인 투자를 이어나가고 있다.
