현대 사회에서의 디지털 콘텐츠의 폭발적인 증가는 유해 콘텐츠에 대한 우려도 함께 증가시키고 있습니다. 누구나 콘텐츠를 생산할 수 있어졌고 누구나 그 콘텐츠를 소비할 수 있는 환경이 마련됨으로써, 콘텐츠를 통해 수익을 올리는 것이 당연해졌으며 사람들은 더 많은 수익을 올리기 위해 자극적, 선정적, 충격적인 콘텐츠를 생산하고 있습니다. 2021년 미국에서 출간된 ‘도파민네이션’은 도파민 중독에 대해 다루고 있으며 아래 내용은 책 소개에서 일부를 발췌하였습니다.
뇌의 보상 경로에 도파민이 많을수록 중독성은 더 커진다. 과거에는 도파민을 자극하는 대상을 구하기 힘들었다. 그러나 인간이 세상을 결핍의 공간에서 풍요가 넘치는 공간으로 바꾸면서 중독의 법칙이 바뀌었다. 중독성 물질, 음식, 뉴스, 도박, 쇼핑, 게임, 채팅, 음란 문자, 페이스북, 인스타그램, 유튜브, 트위터… 오늘날 큰 보상을 약속하는 자극들은 양, 종류, 효능 등 모든 측면에서 과거와 비교할 수 없을 만큼 증가했다. 디지털 세상의 등장은 이런 자극들에 날개를 달아주었다. 스마트폰은 컴퓨터 세대에게 쉴 새 없이 디지털 도파민을 전달하는 현대판 피하주사침이 됐다. 우리는 도파민, 자본주의, 디지털이 결합된 탐닉의 사회, 도파민네이션에 살고 있다. 이제 누구도 중독에서 자유로울 수 없다. 출처 : 교보문고 책 소개
이렇듯 도파민 중독은 더 자극적인 콘텐츠를 요구하며 유해 콘텐츠가 증가하는 것에 영향을 미쳤을 것으로 예상되는데요, 최근에는 도파민 디톡스, 유해 콘텐츠 차단 등에 대한 관심이 높아지며 이러한 문제에 IT 대기업들도 적극적으로 해결책을 마련하고 있는 모습입니다.
유해 콘텐츠 차단으로 트위치와의 차별점을 둔 치지직
스트리밍 서비스 플랫폼 '치지직'을 들어보신 적 있으신가요? 스트리밍 방송에 관심이 있는 분이라면 한 번쯤 들어보셨을 것 같은데요, 얼마 전 스트리밍 방송 서비스의 선두주자였던 트위치가 한국에서 철수하며 이 빈자리를 차지하기 위해 아프리카TV와 네이버이 치치직의 경쟁이 뜨거웠습니다.
그 과정에서 돋보였던 부분은 아프리카 TV와 치지직의 최우선 과제가 선정적이고 폭력적이라는 게임 방송 이미지를 벗어나는 것이었습니다.
네이버는 AI 필터링 기술인 클로바 그린아이(CLOVA GreenEye)를 치지직에 적용하여 유해 영상을 걸러내고 3교대 24시간 모니터링을 하는 방법을 택했으며, 최근 이용 약관으로는 범죄자나 물의를 일으킨 방송인의 방송 송출을 제한하며, 방송 중 문제 발생 시 계약이 해지된다는 내용을 업데이트했습니다. 눈여겨볼 점은 규정에 최근 사회 기조를 반영한 사항도 담겼다는 점인데요. 대표적으로 지속적인 허위 정보 전파로 사회적 물의를 일으키는 사용자, 특정 집단에 대한 차별 행위를 조장하고 혐오 표현을 사용하거나, 그런 단체를 가담하고 후원하는 등 직간접적으로 동조하는 경우도 스트리밍 계약 체결 거부 사유에 포함됐다는 부분입니다.
경쟁사였던 아프리카TV는 이미 수준 높은 모니터링 시스템을 갖췄다고 얘기하는데요, 아프리카TV에 따르면 모니터링 전담 인력만 100여 명에 달하며, 24시간 근무 체계를 통해 실시간 대응 중이라고 밝혔습니다. 여기에 자체 개발 AI 필터링 기술인 '태권S'와 '태권A'도 적용했는데, 이 중 태권S는 실시간 음란물 필터링 기술입니다. 축적된 수백만 건의 음란물 영상을 학습한 AI는 부적절한 사진이나 동영상을 감지해 전담 운영자에게 알려줍니다. 최근엔 방송국 게시글 이미지 영역까지 확대 적용한 태권A 기술을 이용하여 불법 홍보 키워드나 문구를 포함하는 메시지를 감지하고 차단하는 기술도 도입했습니다. 수많은 불법 홍보 메시지 리스트를 사전에 학습하고 특정 패턴을 감지하는 알고리즘을 활용해 이를 분석 탐지하고 있는 것입니다. (출처 : zum뉴스)
인스타그램 - 페이스북, 미성년자 유해 콘텐츠 차단 강화
소셜미디어(SNS) 페이스북·인스타그램을 운영하는 메타플랫폼(이하 메타)이 미 당국의 소송 압박 속에 18세 미만 미성년자가 유해 콘텐츠에 노출되지 않도록 보호를 강화하기로 했습니다. 메타는 미성년자 계정에서 자해·폭력·섭식장애 등 유해 콘텐츠를 자동으로 차단하는 방안을 몇 주 내에 실시할 예정이라고 밝혔는데요, 미국에서 13세 미만은 데이터 수집 관련 법안에 의해 보호받지만 그보다 나이가 많은 미성년자는 상대적으로 보호가 취약했는데, 나이대에 적절한 게시물을 볼 수 있도록 필터링을 강화하기로 했다는 것입니다.
이러한 조치는 지난해 12월 미국 뉴멕시코주가 메타를 상대로 소송을 제기한 가운데 나왔습니다. 메타가 자사 SNS에서 발생한 아동 성 착취 문제를 시정하지 않고 있다는 주장인데요, 같은 해 10월에는 미국 내 41개 주 정부가 메타를 상대로 페이스북과 인스타그램이 과도한 중독성을 유발해 10대들의 정신건강에 피해를 주고 있다며 무더기 소송을 진행한 사건도 있었습니다. 실제 페이스북과 인스타그램 등 SNS에서 아이들이 하루 10만 건 이상의 성희롱 피해를 보고 있는 것으로 조사됐습니다. 영국 일간 가디언에 따르면, 미국 뉴멕시코주 법무부가 제기한 소송 과정에서 공개된 일부 문서를 보면 어린이 약 10만 명이 성인의 성기 사진을 전송받는 방식을 포함해 온라인 성희롱 피해를 받은 것으로 전해졌습니다.(출처 : 디지털타임스) 이번 조치에 따르면 18세 미만 사용자의 계정에는 자동으로 가장 엄격한 콘텐츠 설정이 적용되고, 16세 미만은 성적으로 노골적인 내용을 볼 수 없게 된다고 합니다. 또 팔로우한 계정이 공유한 내용이라도 유해 콘텐츠일 경우 검색·열람할 수 없게 되며, 친구가 올린 다이어트 관련 게시물은 안 보이지만 섭식장애 회복과 관련된 내용이라면 보이는 식으로 변경된다고 합니다. (출처 : 연합뉴스)
이렇듯 유해 콘텐츠 차단은 플랫폼에게나 브랜드들에게나 더 이상의 선택이 아닌 필수적인 요소로 부상하고 있습니다. 소비자의 안전과 신뢰를 고려할 때, 기술의 적극적인 도입과 브랜드의 책임감 있는 행동은 새로운 시대의 콘텐츠 마케팅에서 핵심적인 역할을 합니다. 콘텐츠 플랫폼들의 적극적인 유해 콘텐츠 차단 움직임과 더불어 브랜드들 또한 이러한 움직임에 민첩하게 대응하여 보다 안전하고 긍정적인 디지털 환경을 조성하려는 적극적인 노력이 필요한 상황입니다.