152호 > 특집
[충격/실화] 혐오로 돈 버는 사람들이 있다? 유튜브에 넘쳐나는 혐오표현, 어떻게 해야 할까
등록일 2018.12.17 21:53l최종 업데이트 2018.12.18 14:59l 왕익주 기자(dlrwn3@snu.ac.kr), 이누리 기자(nuriztoa@snu.ac.kr)

조회 수:213

  ‘당신 자신을 방송하세요(Broadcast Yourself)’. 유튜브의 슬로건엔 유튜브가 누구나 자신의 콘텐츠를 만들어 올릴 수 있는 평등한 플랫폼이란 믿음이 담겨 있다. 슬로건은 현실이 됐다. 시청시간을 기준으로 한국 동영상 스트리밍 시장의 약 80센트를 차지하는 유튜브는 개인 크리에이터에겐 거대한 기회의 땅이다. 커버 가수 ‘제이플라’의 채널 구독자 수(1,020만 명)가 JYP 엔터테인먼트가 운영하는 채널의 구독자 수(1,060만 명)에 근접한 것은 유튜브가 열어준 가능성을 보여주는 단적인 예다.

  
  유튜브란 기회를 통해 빛을 본 것은 제이플라와 같은 커버 가수뿐만이 아니다. 난민, 성수소자, 여성 등 사회적 약자에 대한 혐오를 통해 조회수를 올리는 콘텐츠 역시 광고 수익이란 양분 속에 성장했다. 하지만 유튜브는 이를 솎아내긴커녕 혐오 콘텐츠에 볕을 쐬어준다는 비판을 받고 있다. 

  
혐오와 수익의 만남을 주선하는 유튜브
  
  구글에 인수된 뒤 4년 간 적자를 면치 못하던 유튜브에 수익성이란 날개를 달아준 것은 광고 게재 관리 시스템 ‘애드센스’다. 구글이 광고주로부터 광고를 수주하면 영상 제작자(유튜버)가 자신의 콘텐츠를 애드센스와 연결해 영상의 시작과 중간에 광고를 게재할 수 있다. 구글은 콘텐츠의 길이와 질, 시청자 패턴 등에 따라 광고를 할당한 뒤, 해당 영상에서 광고가 실제로 시청된 횟수에 비례해 유튜버에게 절반가량의 광고 수익을 배분한다. 광고를 통한 수익의 생태계가 조성되자 콘텐츠 제작자들은 유튜브에 모여들었다. 

  1인 방송 미디어 아프리카TV의 BJ로 방송을 시작한 철구 역시 유튜브에 진출한 사람 중 하나다. ‘콘텐츠의 질’을 고려해 광고수익을 배분한다는 애드센스의 방침과는 달리, 그는 유튜브에 자신의 트레이드마크인 혐오와 엽기, 욕설을 들여오는 데 별다른 어려움이 없었다. 플랫폼 통계 사이트 ‘소셜블레이드’에 따르면, 하루 평균 27만 뷰를 올리는 철구는 AV 여배우를 초청한 영상을 통해 597만 뷰를 기록했다. 조직 폭력배를 초청한 방송은 288만 뷰를 올렸다. 영상은 자극적일수록 높은 조회수를 기록했고, 조회수는 광고 수입이 돼 돌아왔다. 그가 방송을 통해 스스로 밝힌 한 달 유튜브 광고 수입은 2018년 3월 기준 2천만 원 가량이다. 


사진1.PNG 

▲ 유튜브에선 다양한 혐오표현을 여과 없이 접할 수 있다. 

1인 방송 플랫폼 아프리카tv의 BJ '커맨더지코'가 방송 중 장애인 비하 발언을 한 영상은 여전히 유튜브에서 시청할 수 있고, 게임 BJ '엑시스마이콜'은 최근 안티 페미니즘 콘텐츠를 통해 많은 조회수를 올린다.



  자극적인 영상이 수익으로 연결되는 것보다 더 큰 문제는 그 내용이 자주 사회적 약자를 향한 혐오의 모습을 띤다는 점이다. 작년 12월 게시된 BJ 지코의 영상 ‘지코를 웃겨라’ 중엔 “장애인 XX야, 정신병원으로 꺼져. 너랑 놀아줄 시간 없어” 등의 표현이 고스란히 담겼지만 유튜브에선 여전히 이 영상을 아무런 제한 없이 시청할 수 있다. 이처럼 사회적 약자를 향한 혐오표현이 공공연히 유통되고 있지만 이를 둘러싼 논의는 실태조사가 갓 시작된 수준이다. 지난 10월 16일 국회에서 열린 세미나에서 한국여성정책연구원이 발표한 ‘인터넷 개인방송 성차별 현황과 자율규제 정책’은 그 첫걸음 중 하나다. 한국여성정책연구원 이수연 선임연구위원은 해당 연구가 “유튜브를 비롯한 동영상 플랫폼에 여자, 여성가족부, 페미 등의 검색어를 입력해 시청할 수 있는 영상을 모니터링”하는 방식으로 이뤄졌다고 소개했다. 한국여성정책연구원 윤지소 부연구위원은 이날 세미나에서 “여러 플랫폼 중 유튜브에서 성적 대상화 등의 성차별적 콘텐츠가 135건 가량 발견됐다”며, “이는 아프리카TV의 3배 수준”이라고 발표했다.


‘다음 동영상’이 이끈 극단의 세계

  혐오표현 등 극단적 내용이 담긴 콘텐츠가 만연한 상황이지만, 유튜브의 추천 알고리즘은 이러한 영상의 노출을 오히려 늘린다는 지적을 받아왔다. 유튜브의 영상 추천 알고리즘 개발자로 있던 기욤 채슬롯은 <가디언>과의 인터뷰에서 ‘유튜브 재직 당시 추천 알고리즘을 시청 시간을 최대화하는 방향으로 변화시키는 방침에 반대하며 사측과 마찰을 빚었다’고 밝혔다. 그는 해당 인터뷰를 통해 유튜브의 추천 알고리즘이 시청자의 세계관을 극단적인 방향으로 왜곡하는 것이 우려스럽다고 덧붙였다. 그는 현재 AlgoTransparency.org라는 사이트를 통해 특정 검색어와 관련된 영상에 평균적으로 어떤 영상이 가장 많이 추천되는지 분석해 공개하고 있다. 해당 사이트에 무슬림(muslim)을 검색하자 ‘더글러스 머레이, 토론에서 무슬림을 옹호하는 좌파를 꺾다(Douglas Murray Calmly CRUSHES Muslim Apologist Leftist In a Debate)’ 등의 영상이 제시됐다.


사진2.PNG

▲ algotransparency는 특정 검색어에 가장 많이 추천되는 영상을 추적해 공개한다. 해당 사이트는 '유튜브 영상의 70%는 추천 알고리즘을 거쳐 시청된다'며 추천 알고리즘의 중요성을 강조했다.   



알고리즘이 보다 자극적이고 극단적인 영상을 추천하는 편향을 보이는 것은 국내에서도 마찬가지다. 이를 확인하기 위해 먼저 ‘난민’을 키워드로 영상을 시청했다. 시작점으로 삼은 것은 <JTBC>의 뉴스 영상이었다. ‘제주 예멘인 339명 ‘인도적 체류 1년’...‘난민’ 인정은 안 해’라는 제목에서 드러나듯, 사실 전달에 집중한 보도였다. 해당 영상의 재생이 끝나자 <CBS 노컷뉴스>의 ‘뜨거운 논쟁 ‘난민’, 세계는? 우리는?’, <SBS 비디오머그>의 ‘난민 집회 주최 측 불러서 토론해봤다’와 같이 난민 수용에 대한 논쟁을 담은 영상이 차례로 추천됐다. 네 번의 추천을 연이어 받자 ‘랭킹스쿨’이란 개인 유튜버가 올린 ‘제주도에 몰린 예멘인들의 소름돋는 풍습 top4’란 제목의 영상이 추천 리스트에 올랐다. 해당 영상은 예멘인의 풍습으로 조혼, 명예살인, 할례 등을 소개하며 제주의 치안이 우려된다고 말했다. 


사진3.PNG

▲ 유튜브 계정의 시청기록을 초기화한 뒤, <JTBC>가 보도한 난민 관련 뉴스를 시작으로 알고리즘이 추천한 영상을 시청했다. '예멘인의 소름 돋는 풍습 TOP4'라는 영상은 세 번의 추천을 받자 추천 영상 리스트에 올랐다. ⓒ<JTBC>, <SBS>, <CBS>, 랭킹스쿨



  추천 알고리즘은 ‘난민’을 추천의 핵심 키워드로 인식하지 못해 난민과 무관한 영상을 추천하기도 했다. 하지만 기존의 주제를 벗어나지 않을 때, 추천 알고리즘이 보다 자극적인 영상을 추천하는 경향은 뚜렷했다. <MBC> 뉴스 영상 ‘태풍 뚫은 ‘혜화역 시위’...“불법촬영 편파 판결중단”’의 재생이 끝나자 알고리즘은 곧바로 안티 페미니즘 성향을 띤 ‘마재TV’ 채널의 ‘남페미vs 마재 토론 풀버전’이라는 영상을 추천했다. 서울 퀴어문화축제를 보도한 뉴스는 게이 호스트바 종업원의 수입을 소개하는 추천 영상으로 이어졌다.


시청자의 선호를 쫓는 눈, 혐오에 눈을 감다

  이처럼 영상 추천 알고리즘은 시청자가 자극적인 콘텐츠를 편식하도록 유도한다. 그 원인을 분석하기 위해선 먼저 영상 추천 알고리즘의 작동 방식을 살펴볼 필요가 있다. 유튜브의 추천 알고리즘은 ‘딥러닝’으로 잘 알려진 심층신경망(Deep Neural Network)을 기반으로 한다. 서울대 조성준 교수(산업공학과)는 딥러닝의 기본 원리를 설명하며 “딥러닝은 기본적으로 회귀분석의 아이디어를 따른다”고 운을 뗐다. 그가 말한 회귀분석은 변수의 개수가 적을 경우 엑셀 등의 기본적인 프로그램만으로도 가능하다. 하지만 분석해야 할 변수의 종류와 가짓수가 많아지면 전혀 새로운 접근법이 필요하다. 딥러닝은 각광받는 대안이다.

  딥러닝의 원리와 효율성은 기계학습 분야에서 유명한 ‘고양이 사진의 인식’이란 예에서 잘 드러난다. 알고리즘이 다양한 동물이 찍힌 사진 중 고양이 사진을 보고 ‘고양이’라고 답하도록 하는 과정은 입력과 출력으로 나뉜다. 알고리즘에 여러 동물 사진을 제시(입력)하면, 알고리즘이 ‘고양이다(혹은 아니다)’라는 판단을 출력하는 방식이다. 간단한 일처럼 보이지만, 사진 하나의 규격이 가로·세로 각각 1,024픽셀만 돼도 각 입력값에 들어가는 변수의 개수는 백만 개 이상이다. 딥러닝이 쓰이기 전까진 이 정도 규모의 입력값을 갖는 회귀분석을 시도하기 힘들었다.

  하지만 딥러닝을 통해 입력층과 출력층 사이에 회귀 처리를 매개하는 ‘은닉층(hidden layer)’를 도입해, 변수를 처리하는 노드(nod)의 수와 연결을 늘림에 따라 거대한 규모의 회귀분석이 가능해졌다. 딥러닝 알고리즘은 사진을 수십만 장씩 보며, 고양이 사진에만 고양이라는 출력을 내놓을 확률을 최대화할 때까지 각 은닉층의 노드에 배정된 변수의 가중치를 조정한다. ‘학습’이라 부르는 과정이다.

  딥러닝 기법은 처리해야 할 정보량이 많은 경우 효율적이라는 점이 부각되며 빠르게 상용화됐다. 매 1분마다 400시간 이상의 영상이 새롭게 올라오는 유튜브 역시 수백만 개의 영상 후보군 중 최종 10개 내외의 추천 영상을 추려내기 위해 딥러닝 기법을 활용한다. 하지만 효율적인 기계 학습 방식을 도입한 반대급부로, 개발자조차도 알고리즘이 어떻게 최종 판단을 내놓았는지 알 수 없게 됐다. 조성준 교수는 “극히 예외적인 경우를 제외하면 은닉층의 노드들이 어떤 역할을 하는지 알 수 없는 경우가 대부분”이라며 “유튜브의 추천 알고리즘 역시 마찬가지일것”이라고 설명했다.

  은닉층의 역할을 알 수 없다는 사실은 개발자가 알고리즘의 학습과정에 조작을 가할 수 없음을 의미한다. 개발자는 다만 알고리즘의 학습 목표를 정할 수 있을 뿐이다. 유튜브의 추천 알고리즘은 시청자가 가장 오랫동안 볼 영상을 추천하는 방향으로 학습하는 것으로 알려져 있다. 자연히 사람들이 끝까지 본 영상, 인기 영상 등이 추천 영상에 오를 가능성이 커진다. 결국, 유튜브의 추천 알고리즘은 그 작동 방식 상 시청자의 선호를 비추는 거울인 셈이다. 다수의 선호가 소수자에 대한 혐오를 담고있진 않은지 고려하는 일은 추천 알고리즘의 영역이 아니다.


알고리즘에겐 너무 어려운 검열

  플랫폼 내 게시되는 콘텐츠의 적절성을 관리하는 측면에서 유튜브는 이미 여러 번 시험대에 올랐다. 미국의 한 유명 유튜버가 자살자의 사체가 담긴 영상을 올리고, 또 다른 시사 유튜버가 포틀랜드 고교 총격 사건의 생존자들이 전문 배우라고 주장한 영상이 유통되자 유튜브는 많은 비판을 받았다. 이에 유튜브는 부적절한 영상에 불이익을 주겠다며 ‘광고주 친화 정책’을 도입했다. 정책의 원칙은 간단하다. 증오성 콘텐츠, 부적절한 언어, 마약, 폭력 등의 내용이 담긴 콘텐츠는 광고주에게 적합하지 않은 만큼, 건전한 콘텐츠를 통해서만 광고 수익을 받을 수 있게 하는 것이다.

  원칙은 간단하지만 현실은 복잡하다. 실전에서 알고리즘이 광고주에게 적절한 영상이 무엇인지 판단하는 일이 쉽지 않기 때문이다. 예를 들어, 여성용품과 여성 피임기구 등의 리뷰 영상이 광고를 받기에 적합한지 판단하는 것은 알고리즘에겐 어려운 문제였다. 여성용품 등을 리뷰하는 유튜버 프리비 씨는 “여성용품의 리뷰 영상들은 업로드 된 지 한 시간 정도가 지나면 ‘모든 광고주에게 적합하지 않을 수 있다’는 메시지와 함께 광고가 제한됐다”고 밝혔다. 유튜브가 제시한 ‘광고주 친화적 콘텐츠 가이드라인’에 따르면 ‘성인용품 또는 성행위 보조기구를 다루거나 성에 대해 노골적으로 다루는 콘텐츠도 광고가 게재되기에 적합하지 않을 수 있지만 노골적인 장면이 없는 성교육 동영상은 제한적으로 예외’다. 그러나 알고리즘은 프리비 씨의 영상을 예외로 분류하지 못했다. 프리비 씨는 “취미로 하는 일인 만큼 광고 수입이 아쉬운 것은 아니다”며 “다만 피임이나 월경은 여성의 삶과 가까운 요소인데, 유튜브가 이것이 광고주에게 적합하지 않다고 판단한 점이 안타깝다“고 지적했다.


표현의 자유와 혐오의 표현 사이

  혐오 콘텐츠는 방치하고 여성용품 리뷰 영상 등은 배제하는 유튜브의 자체적인 검열 시스템에 대한 문제의식이 커져가고 있지만, 현재는 제도적인 개입을 통해 문제를 해결하기도 쉽지 않은 상황이다. 인터넷방송 플랫폼에 대한 규제제도 자체가 미비할 뿐더러 그 중에서도 해외사업자인 유튜브에 대해서는 국내법을 통해 규제하기 더욱 어렵기 때문이다. 플랫폼에 시정을 요구할 수는 있지만, 받아들여지지 않을 경우 추가적으로 취할 수 있는 조치는 사실상 없다.

  최근 몇 년 간 이에 대한 개선을 촉구하는 목소리가 강력하게 터져 나왔다. 올해만 해도 유튜브를 포함한 인터넷방송 플랫폼에 대한 제재를 강화하려는 입법 시도가 수차례 있었다. 대표적으로 올 2월 김부겸 행정안전부 장관이 발의한 ‘혐오표현규제법’과 신용현 바른미래당 의원이 대표발의한 정보통신망법 일부개정법률안이 있다. 그러나 이 법안들은 표현의 자유를 저해할 소지가 있다는 비판을 받으며 철회됐다. 현재도 김성수 더불어민주당 의원 등이 유튜브를 비롯한 인터넷 TV방송 서비스(OTT)를 방송법 체계에 포함시켜 규제하는 통합방송법을 발의하려 준비 중이다. 언론개혁시민연대는 김 의원의 법안에 대해 ‘표현의 자유를 침해하는 문제를 야기할 수 있다는 점에서 신중하게 접근해야 한다’는 우려가 담긴 검토의견서를 제출한 바 있다.

  법적인 규제를 강화하는 방식으로 유튜브의 혐오표현 문제를 해결하려는 접근법에는 우려의 목소리가 뒤따른다. 제일 큰 문제는 규제해야 할 표현이 무엇인가에 관한 논의가 충분히 이뤄지지 않았다는 점이다. 숙명여대 홍성수 교수(법학과)는 “형법상 혐오표현이 불법이 아닌 상황에서 명확하지 않은 기준으로 규제를 시도하는 것은 위험”하다고 말한다. 그는 “(규제법안을 도입하려는 사람들이) 독일의 사례를 예로 드는데, 독일의 경우는 형법을 통해 이미 불법으로 규정돼있던 행위에 대해 인터넷사업자들이 선제적으로 대응하게 만든 것”이라며 “한국과는 맥락이 다르다”고 덧붙였다. 기준이 될 법과 판례가 쌓여있는 독일과는 달리 이제 막 논의가 떠오르고 있는 한국에서 플랫폼 사업자들에게 관리감독의 의무를 부과할 경우, 해당 플랫폼 자체가 권력기관이 될 수 있다는 설명이다.

  전문가들은 규제해야 할 표현이 무엇인지에 관한 사회적 합의가 선행돼야 한다고 입을 모았다. 그렇지 않으면 무엇이 규제의 대상이고 무엇이 아닌지를 판단할 권한을 쥔 민간기업이 문제의 소지가 있는 콘텐츠를 일괄적으로 삭제하는 방식으로 대응할 수 있기 때문이다. 홍성수 교수는 “직접적 폭력을 야기하거나 전시하는 행위, 남들을 동참시키는 영향력을 갖는 혐오 등이 (규제기준이) 될 수 있을 것”이라며 예를 들었다. 그는 “어차피 모든 혐오표현과 허위사실을 규제할 수는 없다”며 “가장 위험한 콘텐츠가 무엇인가를 고민해야 한다”고 강조했다.


유튜브 혐오표현 대응, 할 수 있는 일부터 해야

  규제해야 할 혐오표현에 대한 사회적 합의를 이루고 이를 현실에 적용하기까지는 갈 길이 멀어 보인다. 그 전까지는 혐오가 흘러넘치도록 그저 놔둬야 하는 걸까. 기회의 땅 유튜브를 혐오의 바다로 전락시키지 않기 위해 지금 해야 하는 일은 무엇일까. 

  어쩌면 진부한 이야기지만, 규제에 앞선 토론과 교육이 본질적인 해답으로 제시된다. 민주언론시민연합 김세옥 정책팀장은 “사전에 사람들이 어떤 것이 나쁜 정보인지 판별할 수 있는 능력을 갖추도록 독려하는 방향으로 갈 필요가 있다”고 주장했다. 홍성수 교수 또한 “나이브하다고 여겨질 수 있지만, 미디어 리터러시 강화와 같은 대책이 근본적인 해결 방안이 될 수 밖에 없다”고 말했다. “혐오표현이 담긴 콘텐츠가 100개 있다면, 강제 수단을 쓰더라도 규제로 처리할 수 있는 대상은 10개밖에 안 될 것”이기에 “나머지 90개에 대한 별도의 대책도 당연히 필요하다”는 설명이다. “실질적인 규제대책을 당장 만들기 어렵다고 해서 교육과 토론까지 미루면 안 된다”는 홍 교수의 말처럼, 지금 할 수 있는 일을 해나가야 할 때다.


구독과 좋아요는 누구에게 큰 힘이 되나