보통 사람들은 디지털 세상이 민주적으로 건설되고 운영된다고 가정한다. 이런 생각은 대체로 디지털 세상이 가지는 참여적 속성 때문이다. 그러나 근대사회의 발명품인 디지털 세상은 물리적 세계의 비대칭성, 편향성, 갈등을 그대로 재현하기 마련이다.
「억압의 알고리즘(Algorithms of Oppression)」(1))에서 사피야 우모자(Safiya Umoja)는 데이터 차별이 어떻게 유색 인종 여성과 백인 특권층을 차별하는 편향된 알고리즘으로 이어지는지 탐구했다. 「대량살상수학무기(Weapons of Math Destruction)」(2))에서 캐시 오닐(Cathy O’Neil)은 치안과 보험 등의 분야에서 빅데이터 도구를 사용하는 것이 어떻게 불평등과 편견을 지속시키는지 분석했다.
여기에 수록된 사례들은 디지털 공간이 본질적으로 민주적이지 않다는 것을 보여준다. 그리고 이러한 시스템을 개발하는 이면의 보이지 않는 과정도 불평등과 편견으로 오염돼 있다는 사실이 이제 막 드러나고 있다. 올해 1월 말, 잡지 〈타임〉은 잘 알려진 인공지능 챗봇 챗GPT와 아트 제너레이터 DALLE-E를 개발한 인공지능(AI) 연구 회사인 오픈AI에 대한 폭로 기사를 실었다. 〈타임〉은 케냐에서 저임금으로 착취당하는 콘텐츠 모더레이터 200명이 챗GPT 소프트웨어에 필요한 유해한 텍스트를 분류하는 데 이용됐다는 사실을 자세히 다뤘다. 이 뉴스는 한 가지 진실, 즉 지구적 노동 분업이 디지털 혁명 세력에 의해 채택이 됐고 다시 한번 아프리카 대륙이 북반구 자본의 이익을 위한 노동 착취의 장으로 전락했다는 점을 확인시켜 주고 있다.
챗봇 하나를 키우기 위해서 온 마을이 필요하다
GPT3는 필로소퍼 AI 챗봇을 구동하고 GPT-3 그랜드마더를 통해서 만다린(중국어)을 가르치는 등 다양한 기능에 사용되는 자연어 생성기다. 오픈AI는 월드와이드웹에서 언어 데이터를 받아 챗GPT의 전신인 GPT3을 구축했다.
규제가 거의 없는 새로운 광장이 된 인터넷은 당연히 물리적인 세계가 가진 동일한 독성을 가진 특징을 복제한다. 인터넷 안에 살고 있는 것도, 의견과 신념, 편견을 채팅방과 오픈 포럼, 트위터 그리고 유사한 플랫폼에 별생각 없이 토해내는 것도 결국은 사람이다. AI챗봇은 웹의 곳곳에서 찾은 언어 데이터를 활용해 외설스럽거나, 혐오스럽고, 성차별적이며, 인종차별적인 응답을 지체 없이 내뱉기도 한다.
2021년 Al 관련 기업 사마(Sama)는 혐오 발언, 성적 학대, 폭력에 대한 텍스트 설명에 라벨 붙이는 작업을 하기 위해 오픈AI와 3년간 20만 달러 규모의 계약 3건을 체결했다. 케냐에 지사를 두고 있는 샌프란시스코 기업 사마는 메타, 구글, 그 외 실리콘밸리 거대 테크 기업을 위해서 현지인뿐만 아니라 우간다와 인도 노동자를 고용해 데이터에 라벨을 붙이고 있다.
라벨링 과정에는 AI봇에 내장된 도구가 도입됐다. 유해한 텍스트를 분류하고 필터링해 유해한 콘텐츠의 생성을 최소화하는 데 도움이 되는 도구다. 이 과정은 오픈AI 차세대 챗봇인 챗GPT의 기능과 성공에 중요한 단계였다. 그리고 챗GPT는 온라인 출시 두 달 만에 1억 명의 사용자를 확보하게 됐다.
이러한 필터링 작업은 오픈AI 대변인이 AI 시스템에서 혐오 발언과 싸우는 데 “필요한” 도구로 인정한 획기적인 혁신이긴 하지만, 그 기능 뒤에 숨은 노동은 적절하게 보상받지 못했다. 〈타임〉의 탐사보도에 따르면, 사마 노동자들은 “근무연차와 성과”에 따라 시간당 1.32~2달러 사이의 임금을 받았다.
 |
▲ 나이로비 키브라 전경. 오픈AI 하청에 고용된 사람들의 75%는 비공식 주거지에서 살고 있다. 두 배로 일하고서도 적은 돈을 받는다. [출처: 레지나 하트] |
2018년 〈BBC〉가 사마에 대해 보도한 것을 보면 기업에 고용된 노동자 약 75%가량이 나이로비의 비공식 거주지인 키브라(Kibra)에 살고 있었다. 동아프리카의 가장 큰 빈민가 중 하나로 알려진 키브라는 실업률이 50%에 달하고 깨끗한 물이나 위생 시설이 부족해 생활 환경이 열악하다. 나이로비 인구 중 10% 이상이 실업 상태에 있기 때문에 나이로비에서는 그것이 어떤 일자리든 일자리에 대한 수요가 높다.
사마에 고용된 노동자들은 계약상으로는 9시간씩 교대 근무를 하고, 텍스트 샘플 70개에 라벨을 붙이게 돼 있다. 하지만 많은 노동자는 각 교대 근무마다 150~250개 텍스트 샘플에 라벨을 붙였다고 폭로했다. 라벨을 붙이는 과정에서 걸러진 텍스트는 노골적이었고, 이로 인해 인터뷰에 응한 노동자들은 정신적인 괴로움, 악몽 등에 시달렸다.
사마가 오픈AI와의 계약을 종료하면서 고용된 노동자 수십 명이 직급을 강등당하거나 일자리를 잃게 됐다. 이후 사마는 2023년 3월까지 민감한 콘텐츠와 관련한 업무 모두를 종료할 것이라고 발표했다. 결과는 사마가 메타(Meta)와 맺은 오픈AI 계약을 종료할 때와 비슷했다.
지구적 노동분업과 아프리카 대륙의 침묵하는 노동
디지털 혁명에서 높은 임금 지출을 피하고자 노동력을 아웃소싱하는 것이 그다지 새롭지는 않다. 지난해만 하더라도, 메타는 케냐에서 노동조합을 파괴하고 노동자들에게 비인간적인 노동조건을 강요한 사마와 계약을 맺은 혐의로 소송을 당했다. 그리고 콩고의 코발트 광풍으로 수년 동안 아동들이 노동자로 광산업에 내몰렸다.
사마는 〈타임〉 기사에 대응하면서 “한 달에 2만 6천6백 루피에서 4만 루피(210~323달러) 사이를 지급하겠다”고 밝혔다. 하루 평균 미화 12달러에 해당하는 금액을 지급하겠다는 것인데, 미국의 비교 임금은 시간당 30~40달러다. 이러한 형태의 아웃소싱 하도급을 통해 사마와 고객사가 지출하는 임금은 크게 줄어든다. 실리콘밸리와 실리콘하버 기업들에 보상은 크고 위험은 기하급수적으로 줄어든다.
챗GPT가 드러내는 것은 기존의 지구적 노동 분업 구조가 지속되고 있다는 점이다. 기존의 노동 분업이 지속되고 있다는 건 디지털 혁명이 전 세계 노동력을 재편하고 있다는 대담한 주장과도 모순된다. 물론 디지털 공간은 기술을 고급화하고, 특히 글로벌 긱(gig) 경제(3)를 통해서 부를 재분배할 기회를 제공한다.
그러나 이러한 시스템이 있는 공간이 자기 복제를 하려면 디지털 인프라를 지탱하는 보이지 않는 노동이 필요하다. 챗봇이 제대로 작동하기만 하면 그 기능을 구현하기 위해서 어떤 노동이 투입됐는지는 생각하지 않는다. 제대로 작동하지 않는 챗봇은 어떤 모습일지 생각조차 할 수 없다. 마찬가지로 스마트폰 배터리가 잘 작동하기만 하면 그 배터리의 내부 구성이나 배터리를 만드는 재료 공급처 따위에 대해서는 걱정할 필요가 없다. 검색창 하나만 누르면 글로벌 위기나 다른 소식들을 확인할 수 있는 시대에 규범적인 시선의 감시를 받지 않는 사회 영역을 찾기란 드문 일이다. 노동의 형태가 파놉티콘 밖에 존재하도록 조직되는 경우, 그 이유는 대개 노동을 남용하기 위한 것이다.
도전과 기회
내가 보기에 이 모든 상황이 아프리카가 국제무대에서 행위자가 아닌 대상으로서 인식돼야 한다는 걸 의미하진 않는다. 오히려 디지털 혁명이 모든 국가에 가져다줄 수많은 기회를 인식해야 한다.
첫째로 노동법을 강화하고 시대에 맞게 조정해야 한다. 만약 다국적 기업이 잘하는 한 가지가 있다면, 그것은 끊임없이 뿌리를 확장할 수 있는 토양이 될 제도에 완벽한 균열을 찾아내는 것이다. 시대착오적인 법은 이런 토대를 마련하는 것 외에 아무런 소용이 없다.
둘째, 다국적 기업의 활동을 국가적으로 감시하는 것은 노동자들의 이익을 최우선으로 하여 성실하게 이뤄져야 한다. 만약 투자를 국제 기업 협력의 주요 혜택으로 간주한다면, 다국적 기업은 노동자를 착취하는 것이 아니라 기업의 운영에 부가가치를 창출하는 노동자들에게 투자돼야 한다.
그러나 아마도 이상의 두 가지를 실현하는 데 있어 가장 큰 과제는 디지털 경제를 포괄할 수 있도록 국제 무역법을 현대화하는 것이다. 디지털 상품 및 서비스 무역의 자유화가 세계화되면서, 디지털 무역 장벽은 줄어들고 있다. 또 전 세계적으로 쉽고 저렴한 데이터 유통이 가능해지면서 이러한 상품의 생산과 거래를 아웃소싱하는 것은 촉진되고, 글로벌 공급망은 확장되고 있다.
더 자유로운 국제 무역질서로 전환하면서 지구적 데이터 흐름을 규제, 통제, 형성하는 국가의 역할이 모호해지고 있다. 이러한 데이터 흐름을 규율하는 규제 프레임워크와 그에 따라 데이터가 유통되는 지구적 지도에 새로운 노동 시장이 통합되는 것은 여전히 미개발 상태에 있다. 이렇게 미흡한 정책 공간에서 자본의 제한받지 않는 이동의 권리를 특권화하는 무역 협정의 내재적 횡포로부터 노동자를 보호하는 국가의 역량이 강화돼야 한다.
아프리카가 새로운 디지털 폭군으로부터 스스로를 보호할 방법은 무엇일까? 한 가지 방법은 대륙 동맹을 맺어온 오랜 성향을 살리는 것이다. 미국-아프리카 정상회의 이후 하워드 프렌치(Howard French)가 아프리카 사람들에게 한목소리를 내거나 최소한 목소리를 모아달라고 간청했던 그의 생각을 빌리자면, 아프리카의 집단적 힘을 모으는 것이 그 어느 때보다 절실한 시점이다.
무역 협상에서 단결된 전선을 제시하는 것이 현재 노동과 무역 시스템의 총체적 불균형을 재현하지 않는 가장 확실한 방법일 수 있지만, 지역주의, 식민지 언어, 원조 유인책과 같은 일반적인 신식민주의 노선을 따라 대륙을 발칸화하려는 시도에 의해서 시험대에 오르고 훼손될 가능성이 높다. 이런 함정을 초월한다는 말이 유토피아적으로 들릴 수도 있겠지만, 그렇게 해야 아프리카는 규칙에 기반한 국제 질서를 이용하여 디지털 혁명 시기에 더 많은 진전을 이룰 수 있다.
결국 한 삶의 영역(물리적)에서 다른 영역(디지털)으로의 전환이 수 세기에 걸친 분열과 억압 체제에 대한 만병통치약은 아니다. 새로운 기술은 사회적, 지리적, 경제적 관계에 체계적으로 통합되는 자신들만의 착취의 축을 개발하게 된다. 항상 경계가 필요하다.
- 번역자 각주
(1) 한국에서는 『구글은 어떻게 여성을 차별하는가』(한스미디어)로 변역됐다.
(2) 한국에서 『대량살상수학무기』(흐름출판)로 번역됐다.
(3) 산업 현장에서 수요자가 필요할 때마다 디지털 플랫폼을 통해 임시로 계약을 맺고 일을 맡기는 경제 형태.
- 원문 출처
https://africanarguments.org/2023/03/the-invisible-labour-of-africa-in-the-digital-revolution/
- 원제
「The invisible labour of Africa in the Digital Revolution」
- 번역
변정필 기자
- 원문 발행일
2023.03.17.