본문바로가기
표지이미지

- 청구기호: 302.231-22-9

- 서명: 보호받고 있다는 착각 : 온라인 검열은 누구를 위한 것인가

- 편/저자: 질리안 요크

- 발행처: 책세상(2023-06)

서평
 실리콘 밸리의 가치는 어떻게 세계를 지배하는가
서평자
 홍남희,서울시립대학교 도시인문학연구소 연구교수
발행사항
 612 ( 2023-01-18 )

목차보기더보기

1장 새로운 문지기들
2장 오프라인의 탄압이 온라인에서 재현되다
3장 소셜미디어 혁명가들
4장 사람보다 수익이 먼저
5장 극단주의에는 극단적인 조치가 필요하다
6장 빅토리아 시대를 살아가는 21세기 현대인들
7장 성과의 전쟁
8장 인간에서 기계로
9장 혐오의 전염성
10장 미래는 우리가 써 내려가는 것

서평보기더보기

“전 세계 수십억 명의 사용자에게 수출되는 것은 미국적 가치관 그 자체가 아니라 아주 특정되고 한정된 인구 집단의 가치관이다. 아마도 우연은 아니겠지만, 그 집단은 페이스북의 초기 사용자 집단과 동일한 집단이다.” - 252쪽 질리안 요크의 『보호받고 있다는 착각』은 책 표지에 설명된 대로 “‘보호’와 ‘관리’로 포장된 테크 기업들의 권력 쌓기”와 이들이 주도하는 “감시 자본주의”에 대한 비판을 담고 있다. 『Silicon values』라는 원제목이 알려주듯이, 이 책은 실리콘 밸리의 가치가 오늘날 디지털 생태계를 좌우하며 인류 보편에 적용되고 있는 상황에 대한 문제 제기다. 또한 디지털 시대 테크 기업들이 우리 표현과 발언의 “새로운 문지기들”(32쪽)이라고 주장한다. “새로운 문지기들”인 소셜 플랫폼은 ‘준 공공영역’으로 기능하면서 시민의 표현에 대한 새로운 검열자이자 우리 일상과 문화를 주조하고 통치하는 새로운 권력으로 부상하고 있다. 빠르고 쉽게 정보를 공유하고 확산시키도록 하는 소셜 플랫폼의 기술적 조건 속에서, 요크가 인용한 레베카 매키넌의 표현대로 “상대적으로 안전한 환경에서 자란 부유한 미국인, 그래서 의도는 선할지 모르나 사회적·정치적·성적으로 정말로 취약한 입장에 단 한 번도 놓인 적이 없는”(52쪽) 이들에 의한 사소한 결정은 지구 반대편에 사는 사람들에게 강력한 폭풍으로 돌아온다. 미국적인, 그러나 미국 내에서도 매우 소수에 불과한 백인 남성 엘리트 중심의 ‘실리콘 밸리’ 정신은 끊임없는 기술 발전과 국가 개입 반대를 강조하는 ‘캘리포니안 이데올로기’를 바탕으로 한다. 기술 기업 구성원들의 편향성(bias)은 콘텐츠의 일상적 유통을 관리하는 콘텐츠 모더레이션 작업에서 다양한 방식으로 표현의 자유를 훼손하는 결과를 낳는다. 페이스북은 일부 국가의 정부와 결탁하여 시민의 정치적 자유를 차단하는 데 협조한다. 예를 들어 페이스북은 미얀마 정부가 로힝야족에 대한 혐오 메시지를 확산시키는 것을 막지 않았고 이것이 분쟁과 갈등의 씨앗이 되어 집단학살이라는 비극으로 이어졌다. 또한 ‘여성의 몸’을 성적인 것과 등치시키는 매우 협소한 남성 중심의 시각으로 모유 수유하는 여성 이미지, 명화 속 누드 이미지까지 삭제하는 등으로 논란의 중심에 섰다. 성 소수자나 성 노동자의 활동을 축소시키는 결정도 이어졌다. 구성원들의 편향은 “자동화 콘텐츠 탐지 기술”로도 이어진다. 기술이 중립적이라는 신화와 달리 “사회적 불평등은 편향된 시스템 아웃풋이라는 양상”(308쪽)으로 나타난다. 글로벌 인구의 다양성을 고려하지 않은 데이터 훈련은 구글 자동화 시스템이 흑인에 ‘유인원’이라는 라벨을 붙이게 했고, 성별 이분화된 스테레오타입을 학습한 알고리즘은 이분법으로 재단되지 않는 미묘한 차이를 판단할 수 없다(308쪽). 문제는 이러한 편향이 개선되지 않고 있을 뿐 아니라 기업의 이윤을 위해 방치되고 있다는 것이다. 페이스북의 전 직원이자 내부 고발자인 프란시스 하우겐(Frances Haugen)은 페이스북이 자체 연구를 통해 인스타그램 등의 소셜미디어가 청소년의 정신건강에 악영향을 미친다는 것을 확인했지만, 기업 이윤을 위해 아무런 조치를 취하지 않았다고 비판했다. “사회적·정치적·성적으로” 취약한 입장에 놓여본 적 없는 이들의 가치관과 이윤의 무한한 확장을 위한 ‘플랫폼 자본주의’의 끊임없는 기술 개발 시도는 결국 온라인에서 더욱 취약해질 수 있는 다른 인구집단의 존재를 상상하는 데 제약을 갖는다. 요크는 풍부한 사례들로 자본과 기술, 남성-엘리트-백인 편향적인 현재의 디지털 생태계를 비판한다. 어떤 콘텐츠가 지워지고, 어떤 콘텐츠가 추천되는지, 이는 객관적이고 중립적인 ‘기술에 의한’ 절차 같지만 그렇지 않다. 기술 자체도 ‘실리콘 밸리 가치관’에 의해 구성되고 배치되며 실행되기 때문이다. 또한 콘텐츠 거버넌스 체제와 테크 기업 정책팀의 편향이 사회적 약자와 소수자 집단, 분쟁국 등에 어떤 영향을 미치는지 생생하게 보여준다. 하지만 요크는 비관하지는 않는다. 오히려 ‘실리콘 밸리 가치관’의 폭주를 막기 위해 ‘외부에서’ 제동을 걸어야 한다고 주장한다. 이윤만을 추구하는 ‘새로운 검열자’들이 기업 활동에 ‘인권’과 ‘다양성’의 가치를 중시하고, 온라인의 취약층을 배려하는 정책을 펼칠 수 있도록 사회가 ‘감시’할 수 있어야 한다는 것이다. 요크의 주장은 우리가 테크 기업으로부터 ‘보호받고 있다는 착각’에서 벗어나 기술과 문화적 편향의 근원인 ‘실리콘 가치(Silicon value)’를 해부할 것을 요구한다.