기술 진보가 해결하지 않는 인간의 정치적 결단에 관하여 / 김윤영

2010년 사회복지 통합전산망(행복e음)이 도입되고 일제 조사가 일어날 때마다 빈곤층의 무더기 죽음이 발생했다. 연락도 되지 않던 부양의무자를 찾아내 수급 탈락 통보를 한 국가 아래 노인들은 요양병원에서 몸을 던졌다. 2014년 ‘송파 세모녀 사건’ 이후 2015년 「사회보장급여의 이용·제공 및 수급권자 발굴에 관한 법률」이 시행됐다. 금융채무와 사회보험료 체납을 비롯한 민감 정보가 통합되었지만 복지사각지대 해소를 위한 것이라는 미명은 가난한 이들의 정보가 유출될 위험이나 정보 인권에 대한 문제 제기를 어렵게 만들었다.

사회보장제도의 자동화, 디지털 기술 도입은 제도 환경 전반과 이용자들의 인권에 폭넓게 영향을 미치고 있었으나, 이 과정에서 발생한 문제는 앞으로 기술 발달에 따라 해결될 문제라는 식으로 작게 취급됐다. 이런 상황에서 2019년 유엔 빈곤 특별보고관이던 필립 알스톤(Philip Alston)이 발표한 <디지털 복지국가와 인권> 보고서는 반가운 글이었다. 이 보고서는 자동화와 데이터에 기반한 복지의 인권리스크에 대한 경고를 담고 있었다.

2025년 9월, 필립 알스톤이 한국에 방문한다는 소식을 듣고 대담을 요청했다. 방문이 얼마 남지 않은 시점의 제안이었지만 기꺼이 초대에 응해주었다. 9월 15일 간담회에는 박영아 공익인권법재단 공감 변호사, 주장욱 홈리스행동 활동가, 김윤영 빈곤사회연대 활동가가 함께했다. 

자동화와 AI 도입이 사회적 권리를 강화할까?

지난 8월 13일 나라재정절약간담회에서 이재명 대통령이 “신청주의는 잔인한 제도”라고 언급하며 사회복지 자동지급제에 대한 논의가 열렸다. 복지 사각지대의 죽음은 ‘신청주의’보다는 까다로운 선정기준과 보장수준, 즉 잔여주의의 함정에 의해 발생한다는 지적이 이어졌으나, 이재명 정부의 국정운영 전반에 걸친 AI 산업과 밀착한 방향성은 사회보장제도의 AI 도입이 머지않았음을 예고한다.

필립 알스톤은 AI 도입은 수급자 선발 과정을 까다롭게 만들고, 이 과정이 적절한지 감시하는 것을 어렵게 만든다고 지적해 왔다. 이는 복지 신청자뿐만 아니라 업무를 담당하는 노동자에게도 마찬가지인데, 어떤 과정을 통해 결정이 이루어졌고 오류가 발생했는지 알 수 없다.

한편, 알스톤은 AI에 의해 침범되는 프라이버시는 현행 법률이 개인정보 보호에 관해 정하고 있는 범위와 달리 매우 포괄적이라는 점을 유의해야 한다고 강조했다. 우리가 흔히 개인정보의 영역이라고 간주하는 부분을 넘어 일상생활에 의식하지 못하는 모든 부분이 수집 대상이라는 점에서 그렇다. 알스톤의 2019년 보고서는 이렇게 과도하게 수집된 정보가 사소한 잘못을 이유로 빈곤층을 더 자주 처벌할 수 있게 된다는 점을 지적했다.

버지니아 유뱅크스 역시 <자동화된 불평등>을 통해 사회보장제도의 디지털화를 구빈원에 비교한 바 있다. 전통적인 구빈원과 디지털 구빈원은 비슷한 역할을 한다. 겉으로는 가난한 이들을 위한 정책인 것처럼 보이지만, 사실은 공적 복지를 단념하게 만들고, 노동을 강제하고, 가족을 해체한다. 차이가 있다면 전통적 구빈원은 물리적 보호시설에 이들을 수용하여 인종, 성, 출신, 국가를 넘어 계층을 결속시키는 의도치 않은 결과를 낳은 반면, 디지털 감시에 의한 사회적 분류는 오히려 이들을 작디작게 갈라놓고, 갈라진 미세 집단들이 다양한 공격과 통제의 표적이 된다고 유뱅크스는 지적했다.

인권 친화적인 조세제도 없이 인권 친화적인 사회는 없다

AI가 갖는 위험성에 관한 알스톤의 핵심적 문제의식은 AI 프로그램을 설계하는 흔히 빅테크라고 불리는 기업의 성격에서 출발한다. 이 빅테크 기업들은 인권이 아닌 비용 절감과 효율성, 개인이 스스로를 돌보는 것이 옳다는 자유주의적 가치에 더 많은 무게를 두기 때문이다. 이로 인해 AI 프로그램은 가난한 각 개인이 겪는 어려움에 대한 해결책보다는 정부 재정의 효율적 운영이나 부정수급 방지와 같은 일을 처리하는데 주안점을 두게 된다.

빅테크에게 하위 20%는 동등한 권리를 가진 사람이라기보다는 표준 이외의 오점으로 측정되고, 이는 사회적 권리에 기반한 사회보장제도의 가치와 상반된다. 그렇다면 이 빅테크에게 요구해야 할 사회적 역할은 무엇일까?

알스톤은 “(기업이) 이타적으로 행동하고 자발적으로 공익을 위해 일할 것이라고 생각하지 않는다”라고 말했다. “빅테크기업이 누리는 막대한 수익에 대한 정의로운 조세제도를 마련하는 것, 이를 통해 사회안전망과 교육, 보건 등의 사회기반시설에 투자하는 것이 국가의 역할이 되어야 한다”라며 “인권 친화적인 조세제도가 없다면 인권 친화적인 사회는 있을 수 없다”라고 강조했다. 

주택의 상품화와 공적 공간의 사유화가 초래한 시민의 권리 축소

필립 알스톤은 유럽과 미국의 주택과 홈리스 문제에 관한 다양한 성명을 발표하기도 했다. 한국의 주택과 홈리스 문제에 대한 활동가들의 이야기를 듣고 알스톤은 “한국이 겪고 있는 문제는 거의 모든 나라가 겪는 일이고 주택은 가장 중요한 문제이며, 사실상 ‘모든 것’”이라고 말했다.

주택에 대한 모든 문제의 시작은 주택이 상품화되었다는 사실에서 출발하는데, 개인의 인권에 필수적인 공간이 아니라 거래 대상으로 취급되면서 사회주의가 아닌 모든 국가에서 주택 공급이 민간부문에 외주화되었다. 시장 매커니즘은 이 문제를 악화시킬 뿐이기 때문에 이를 보완하기 위해 정부가 사회주택을 공급하는 등 역할을 하는 것이 중요하다고 답했다. 

또한 공공 공간이 상업화되고 공적 공간이 사적 공간으로 변모해왔다는 지적에 대해, 알스톤은 지난 30년간 모든 것이 사유화되는 과정에서 사적 영역이 공적 영역을 대체했지만, 인권에 대한 이해를 조정하지 않았다는 점을 지적했다. 공공 영역을 대신해 민간이 책임을 맡을 경우 원래 사유재산에 적용되지 않았던 인권 의무를 받아들여야 했지만 그러지 않았고, 이는 시민들의 권리가 행사될 수 있는 공간의 축소로 귀결됐다. 

주택과 공적 공간의 사유화가 발생시킨 여러 문제의 가장 마지막에는 단지 경제적인 이유로 집을 얻지 못하는 상황에 내몰린 이들, 홈리스가 있다. 알스톤은 쉼터(일시 보호시설과 생활시설)는 임시 조치일 뿐 홈리스 문제 해결과 거의 관계가 없다고 강조했다. 쉼터는 홈리스 문제의 복잡성을 다루지도, 개인의 존엄성을 존중하지도 않으며 장기적인 해결책도 제공하지 않기 때문이다.

사회권의 원칙으로 돌아가야 할 때 

필립 알스톤은 두 시간에 걸친 대담 동안 일관되게 사회권의 원칙에 대해 강조했다. 1948년 세계인권선언은 자유권과 사회권이라는 두 가지 권리의 공존을 주장했다. 완전한 경제적, 사회적, 문화적 권리가 없다면 시민적, 정치적 권리 또한 보장받지 못한다. 이는 1948년 세계인권선언이 채택되기 수백 년 전부터 여러 철학자와 저술가들이 주장했던 바이기도 한데, 산업혁명과 이농의 결과 대도시로 이주한 사람들에게 국가와 보호가 절실했기 때문이다.

문제는 신자유주의의 확산에 따라 국가가 시민을 보호할 의무가 있다는 관념이 개인이 국가로부터 도움받을 자격이 있음을 입증하는 것으로 변질되어 왔다는 점이다. 우리 모두에게 사회적 권리가 있고, 정부가 져야 할 사회적 의무가 있다는 원칙으로 돌아갈 때 단지 정부에게 도움을 요청하는 것이 아니라 국가의 적극적인 의무로 이를 요구할 수 있다.

다시 원칙을 선언하는 것은 더욱 중요해지고 있는데, 알스톤은 미국의 트럼프 행정부가 재난 대비 관련 연방 차원의 역할을 심각하게 훼손하는 상황을 예로 들었다. 부유한 사람들은 비상 상황에서도 문제를 해결할 여력이 있고, 다른 형태의 정부 지원을 받을 가능성이 높다. 그러니 비상 대응 구조를 약화시키면 중산층부터 극빈층까지 모든 사람들을 형벌화하게 된다. 자신의 책임이 아닌 이유로 심각한 문제에 놓인 이들에게 필요한 자원과 보호를 제공해야 한다는 원칙으로 돌아갈 때 우리는 이 문제에 대한 시정을 권리로서 주장할 수 있다.

모두의 사회적 권리와 연대·돌봄을 향해

두 시간의 대담 마지막에 한 참가자가 물었다. 한국의 경우 유럽과 달리 국가가 사회적 권리를 보장할 의무가 있다는 합의가 높지 않다고 느껴지는데, 그런 상황에서 사회적 권리란 무슨 의미인가? 알스톤은 선언만으로는 아무런 변화가 없고 아무도 설득하지 못할 것이라면서도, 다만 연대와 연민, 돌봄과 같은 전통적 가치를 통해 보다 넓은 사회에서 공감을 얻고, 정치 상황을 바꾸는 것이 중요하다고 강조했다. 모든 것이 상품화되고 효율과 경쟁이 최고의 가치가 된 것 같은 사회에서 연민과 돌봄, 연대를 잊지 말자는 노학자의 단단함이 따뜻하게 느껴지는 답변이었다. 

복지 선발 과정의 의사결정권자가 AI일 때 권리를 빼앗긴 사람은 누구에게 항의할 수 있을까? 너무 오랫동안, 상세하게 보관되는 가난한 이들의 정보가 수급자의 사소한 잘못을 처벌하는 빈도를 늘리지 않을까? AI에 의한 자동적 의사결정이 사회적 권리를 보장하려는 인간의 개입과 노력을 감소시키는데 일조하지 않나? 기존 정책의 깊이 있는 변화가 동반되지 않는 한 AI는 사회보장제도의 문제를 해결할 수 없을 것이다.

대담 이튿날인 9월 16일, 알스톤은 국가인권위원회 주최로 열린 2025 국제인권컨퍼런스 기조연설에서 “인공지능은 결코 중립적이지 않으며, 디지털 사회복지는 과학적 진보의 필연적 결과물이 아니라 인간의 정치적 선택의 결과”라고 강조했다. 그렇다. 중요한 것은 인간의 정치적 선택이다. 기술 진보에 대한 낙관론은 결코 현실을 바꿀 수 없을 뿐만 아니라 왜곡할 가능성 또한 높다는 것을 인식할 때다.