아주 오래전에는 행정 업무를 처리하기 위해서 직접 행정 관청에 찾아가는 일이 당연했다고 한다. 교통이 불편한 곳에서는 일정을 포기하고서라도 외부로 떠나야 했던 것이다. 일반인이 행정 업무를 처리하기 위해서는 나름의 각오가 필요했다.
그러나 오늘날에는 많은 곳에서 자동화 기술이 도입되고 있고, 이는 행정 영역에서도 예외가 아니다. 우리나라는 그 최첨단에 서 있는 나라 중 하나이며, 외국에서도 자동화 기술을 행정에 도입하고 있다.
다양한 공공 영역에 자동화 기술이 도입된다면, 많은 사람들을 도울 수 있을 것 같기도 하다. 인력이 덜 들기 때문에 비용이 절감될 수도 있고, 사람들에게 자유로운 접근을 보장할 지도 모르기 때문이다. 그러나 자동화 시스템의 운영은 위험성도 내포하고 있다.
'자동화된 불평등'은 복지 영역에 도입된 자동화 시스템이 어떻게 가난한 사람을 나락으로 이끄는지 분석하는 책이다. 저자인 버지니아 유뱅크스는 뉴욕주립대학교 정치학 부교수로, 공동체의 정보가 정부와 기업에 의해 수집되는 과정에 대해 관심을 가지고 있는 학자다. 저자는 정보 시대의 사회정의가 무엇인지에 대해 고민해 왔다.
저자에 따르면, 과거 미국에서는 가난한 노동자들을 구빈원에 격리했다. 그들은 사생활 침해, 불시 단속, 모멸의 대상이었다. 오늘날에는 가난한 이들이 구빈원에 갇히지 않는다. 대신 복지 프로그램의 자동화 구조가 디지털 구빈원을 만들어 내고, 가난한 이들은 더욱 더 불합리한 처우를 받게 된다는 것이 저자의 설명이다.
공공 서비스의 자동화에 대해 찬성하는 사람들이 있다. 공공서비스에 대한 자동화되고 알고리즘적인 접근법을 지지하는 이들은 이런 방법이 투명성을 높이고 관료주의를 개혁한다고 생각한다. 프로그램 관리자와 데이터 과학자들, 첨단 기술을 도입하는 이들이 행정을 효율적으로 만들고, 부정수급을 적발하며, 비용을 억제한다고 보는 것이다.
그러나 저자는 이와 다르게 생각한다. 옛날에는 구빈원이 가난한 사람들을 분석하고, 감시하고, 처벌했다. 구빈원 직원들은 구빈원 내부의 사람들을 직접 손으로 학대했다. 오늘날에는 자동화된 시스템이 가난한 사람들을 더 효율적인 방법으로 분석하고, 감시하고, 처벌한다. 복지 시스템을 잘 운영하기 위해 도입된 자동화 시스템이 가난한 이들을 노리는 것이다.
앞선 빈곤 관리 기술의 혁신과 마찬가지로, 디지털에 의한 추적과 자동화된 의사 결정은 전문직 중산층 대중으로부터 빈곤을 은폐시키며, 국가가 비인간적 선택을 하는 데 필요한 윤리적 거리를 제공한다. 이를테면 누가 식료품을 얻고 누가 굶주릴지, 누가 거주할 곳을 얻고 누가 노숙인으로 남을지, 어느 가정이 주 당국에 의해 해체될지 따위의 선택에서 그렇다. -32P
저자는 미국 인디애나 주의 복지 수급자격 판정 자동화 시스템, 앨러게니의 아동 학대 예측 알고리즘, 로스앤젤레스의 노숙인 등록 시스템을 조사했다. 그 결과는 처참했다.
인디애나 주는 2006년 복지 수급자격 판정 자동화 시스템을 실시했다. 복지 서비스를 온라인으로 신청받고, 적격 판정을 자동화했다. 복지 수급자격 판정 시스템은 적격성 결정의 속도를 높이기 위해 성과를 평가했다. 그러자 직원들은 민원을 성급히 종결시키기 위해 노력하게 되었다. 이를 위해 신청을 일단 거부하고, 재신청하라고 권고해서 적시 처리율을 높였다.
엄격한 신청 과정에서 조금이라도 벗어난 신청은 모두 적극적인 협조 거부로 처리되었다. 협조 불이행 통지문에는 어떤 내용이 왜 잘못되었는지 적혀있지 않았다. 신청이 제대로 되지 않았다는 설명만으로 책임은 민원인에게 넘어갔다. 원래 지원을 받아야 할 사람들은 지쳐서 지원을 포기하게 되었다.
자동화는 인디애나주의 가난한 노동자 계층에 파괴적인 영향을 미쳤다. 2006년과 2008년 사이에 인디애나주는 100만 건 이상의 푸드 스탬프, 메디케이드, 현금 수당 신청을 거부했는데, 이는 자동화 이전 3년 동안에 비하면 54퍼센트 증가한 것이다. -86P
앨러게니 지역에서는 아동 학대 예측 알고리즘이 도입되었다. '앨러게니 가정선별도구' 시스템에는 아동의 학대를 예측하고 생명을 구하겠다는 좋은 목표가 있었다. 알고리즘은 아동에 대한 여러 가지 요소를 계산해서 점수로 산출했다.
그런데 이 앨러게니 가정선별도구는 공적 서비스를 이용하는 것이 아동에게 위험 요인이라고 판단했다. 예측 변수 가운데 4분의 1이 빈곤의 직접적인 척도였다고 한다. 경제적으로 어려운 이들이 부모로서의 자격을 의심받는 신세가 되고 만 것이다. 부모들은 부모로서의 이력을 하나의 수치로 요약하는 것은 인간성을 말살하는 일이라고 반발했다.
저자는 궁극적으로 자동화된 불평등이 미국의 국가 가치를 위태롭게 하고, 모두에게 손해를 불러일으킨다고 본다. 인간이 사회복지사업의 운전석에서 쫓겨나는 사이, 정부의 개입, 조사, 감시는 심해졌다. 결론 부분에서, 저자는 더 크나큰 불평등을 낳기 전에 디지털 구빈원의 해체가 필요하다고 본다.
저자가 보는 미국은 자율 주행하는 자동차도 있고, 경찰권 남용을 기록하고 시위를 동원할 수 있는 앱도 있고, 인간처럼 대화하는 프로그램도 있지만 가난한 사람들에게 등을 돌린 나라다. 과거 마틴 루터 킹 목사가 말한 인종차별주의와 빈곤의 종말은 오지 않았다는 것이 저자의 분석이다.