top of page

유튜브 알고리즘, 테러 방조 책임을 물을 수 있을까?



통신 품위법 통신품위법(CDA·Communication Decency Act)은 미 의회가 1996년 통과시킨 법으로, 인터넷 등 온라인에서 음란 폭력 정보제공자에게 25만 달러(약 3억 원)의 벌금이나 최고 2년 이하의 징역형에 처할 수 있다는내용을 담고 있다. 1990년대 중반 IT기업들이 사용자가 올린 유해 게시물, 가짜 정보 등으로 소송을 당하자 이들 기업을 보호하고 성장시키자는취지로 마련됐다. 출처 : 네이버 지식백과
알고리즘 특정한 일이나 문제를 해결하기 위하여 수행하는 해결 과정 혹은 방법을 의미한다. 특정한 일을 수행하며 문제를 해결해 간다는 점에서 프로그램과 동일하나, 알고리즘은 문제를 풀어가는 과정이 유한한 명령어들의 집합으로 해결하고, 프로그램은 유한성이 만족되지 않아도 된다는 점에서 구별된다. 즉, 알고리즘은 특정한 일이나 문제를 해결하기 위하여 만든 명령어들의 유한 집합(FiniteSet)이라고 할 수 있다. 출처 : 두산백과


Chapter 1. 유튜브 알고리즘 소송 Gonzalez v. Google LLC


2015년 11월, 프랑스 파리에서는 이슬람 극단주의 테러 단체 IS의 테러 사건이 발생했습니다. 당시 테러 공격으로 숨진 희생자 노이미 곤잘레스의 유족은 유튜브가 이 테러에 책임이 있다며 구글을 고소했습니다. 유튜브가 IS 관련 영상 및 극단주의 테러리즘을 부추기는 영상을 알면서도 방치했으며, 이를 제대로 걸러내지 않아 인터넷에서 무작위로 퍼져나가며 테러리스트를 육성하는데 한몫했다는 이유입니다. (IS 대원 모집 영상을 유튜브 알고리즘으로 유통한 책임에 대해 묻고 있다.)


곤잘레스의 유족은 테러리스트가 유튜브 영상을 보며 테러에 가담하기로 마음먹었다는 직접적인 증언은 없지만, 정황상 유튜브에 떠도는 많은 영상들이 극단주의 사상이 퍼지는데 기여했다는 것이 그들의 주장입니다. 이 고소로 미국에서 현재 가장 뜨거운 이슈로 떠오르는 법안 중 하나가 1996년 미 의회가 제정한 '통신 품위법 (Communications Decency Act) 230조'입니다.

통신 품위법 230조의 핵심 조문 No provider or user of an interactive computer service shall be treated as the publisher or speaker of any information provided by another information content provider. (양방향 컴퓨터 서비스 제공자나 이용자는 다른 콘텐츠 정보 제공자가 제공하는 어떠한 정보의 발행인이나 화자로 취급되어서는 안 된다.)

이 '통신 품위법 230조'의 핵심 조문에 따라 유튜브와 같은 플랫폼 사들은 이렇게 말합니다. 콘텐츠를 만들어서 올린 사람들에게 죄가 있지, 콘텐츠로 인해 플랫폼에게 죄를 물어서는 안된다고요. 하지만 반대 입장도 단호합니다. 플랫폼에 소속된 크리에이터들이 만들어내는 콘텐츠에 대해서 알고리즘을 통해 콘텐츠를 추천하고 더 많은 사람들이 보게 한 플랫폼은 책임을 지어야 한다고요. 추천 영상들은 유튜브가 엄선한 콘텐츠들이며, 이에 따른 책임도 져야 하는 것이 당연하다는 게 그들의 주장입니다.


2018년 유튜브 CPO의 발표에 따르면 유튜브 이용자들의 전체 시청 시간의 70%가 '유튜브 추천 동영상'이라고 합니다. 그런데 이 '추천 동영상'의 유튜브 알고리즘은 구글이 직접 만든 창작물입니다. 미국 국회 및 조 바이든 대통령의 입장도 통신 품위법 230조가 추천 알고리즘에 대한 책임까지 면제해서는 안 된다며 해당 법에 대한 개정을 촉구하고 있는 것으로 알려졌습니다. 이에 구글 측에서는 이렇게 반론했습니다. 구글은 이미 범죄나 불법 콘텐츠를 감시하고 걸러내는 데 최선을 다하고 있으나, 모든 콘텐츠를 완벽하게 감시하고 걸러내는 건 불가능이라고요. 또한 플랫폼 회사가 콘텐츠 및 추천 알고리즘에 책임을 지게 된다면 콘텐츠 관리 자체를 아예 포기하는 회사도 생겨날 것이라는 게 그들의 주장입니다.



Chapter 2.

넷플릭스 ‘소셜 딜레마’


If you're not paying for the product, then you are the product.

상품에 대가를 치르지 않으면 당신이 상품이다.

유튜브 알고리즘
넷플릭스 소셜 딜레마

구글에서 디자인 윤리학자로 일했던 트리스티안 해리스는 넷플릭스 다큐멘터리 '소셜 딜레마'에서 이렇게 고백합니다. '사용자의 체류 시간을 늘리는 디자인과 알고리즘을 개발하는 데만 몰두해 사용자의 중독 문제를 방관했다' , '거짓 정보가 더 빨리 퍼질 수 있는 시스템을 만들었다'라고요.

소셜 딜레마 중독과 가짜 뉴스에 시달리는 현대사회. 실리콘 밸리 전문가들이 용기 내어 경고한다. 자신들의 창조물, 소셜 미디어를 주의하라고. 다큐멘터리와 드라마를 결합한 영화. 출처 : 넷플릭스 (NETFLIX)

소셜 딜레마에는 페이스북, 구글, 트위터, 인스타그램, 핀터레스트 등 실리콘 밸리 테크 회사에서 굵직한 역할을 맡았던 개발자들이 자신들이 만든 알고리즘이 사람들을 우울하게 만들고, 사회를 분열시키며, 민주주의 혼란 등을 초래하고 있다고 고백합니다.

이들은 소셜미디어는 인간의 심리를 역이용하여 그 안에 가두려 하며, 말초 신경을 자극하는 디자인과 알고리즘으로 사용자가 더 오래 앱을 사용하도록 연구하고 개발한다고 입을 모읍니다. 소셜 미디어사들이 이러한 연구와 개발에 몰두하는 이유는 하나, 더 많은 사용자를 발굴하고 더 오랜 시간 본인들의 소셜미디어를 사용하게 만들어 광고 수익을 극대화하는 데 있습니다.


그러나 중독을 유발하는 알고리즘은 사람들의 정상적인 사회 활동을 방해할 뿐만 아니라, 정신 건강을 위협할 수 있습니다.


SNS 이용시간과 뇌 편도체 미국 노스캐롤라이나 대학교 연구팀이 중학생 169명을 대상으로 SNS 사용 횟수에 대한 뇌의 변화를 관찰했습니다. 그 결과 매일 SNS를 지나치게 사용하는 집단의 뇌에서 편도체가 급격하게 예민해진다는 것을 확인했습니다. 편도체는 타인의 반응에 직접 관여하는 부위로 SNS의 '좋아요', '싫어요'가 편도체에 영향을 미친다는 것입니다. 나이가 들어 자아 정체성을 확립해 가면서 잠잠해져야 하는 편도체가 계속해서 활성화될 경우 매우 예민해지고 성인까지 이어진다면 충동성 조절 장애로 악화할 가능성이 있다고 합니다. 실제로 다른 성인 연구에서 일상에 지장을 받을 정도로 SNS를 많이 사용하는 성인의 뇌는 이미 충동성 조절 부위가 약해져 도박에 중독된 뇌와 비슷하게 변했다는 결과가 있습니다.


또한 소셜미디어의 알고리즘은 사용자도 모르게 한 쪽으로 기울어진 정보의 세계에 빠져 편향적인 성향을 가지도록 만들 수 있습니다. 나에게 맞는 콘텐츠를 추천한다고 믿지만 이러한 환경은 사실 이용자의 선호와 취향이 한 쪽으로 고착화되는 결과를 낳아 사회를 분열시킬 수 있습니다.




통신 품위법 230조의 울타리 안에서 조금은 자유롭게 고속 성장한 빅테크 기업들. 통신 품위법 230조가 개정될 경우 빅 테크 기업을 상대로 한 소송이 쏟아질 수 있어 신중히 결정해야 할 것이나, 법의 제정된 시점 자체가 1996년 막 생겨나던 인터넷 서비스의 부흥을 위함이었던 것을 고려하여 적절한 개정도 필요하다고 보입니다.

Comments


Commenting has been turned off.
Frame 130594.png
bottom of page