미 당국이 비-시민권자를 의도적으로 표적화하고 팔레스타인인들의 권리를 옹호하는 목소리를 내는 사람들에게 위협을 가하고자 자동화된 인공지능 기반의 감시 도구를 사용하고 있다고, 국제앰네스티가 밝혔다. 현재 미국에서는 이주민, 난민, 비호 신청자들에 대한 불법적인 단속이 이어지고 있다.
국제앰네스티는 미 국토안보부Department of Homeland Security, DHS의 공개 기록과 앞서 공개된 조달 및 사생활 평가 문서들을 검토한 뒤, 바벨스트리트Babel Street가 제공한 AI 도구 바벨 XBabel X 그리고 팔란티어Palantir의 이민 OSImmigration OS가 지속적인 대중 모니터링, 감시, 개인 평가를 가능하게 하는 기능을 자동화했고 이는 비-시민권자를 표적화하려는 경우가 많다는 사실을 밝혀냈다. 본 조사는 이러한 도구가 이주민과 난민 및 비호 신청자들을 추적하려는 미국 정부에 사용되고 있으며, 그 결과 궁극적으로 ‘체포 후 비자 취소Catch and Revoke’ 정책의 일부로 사용될 높은 위험이 있음을 폭로했다.
에리카 게바라-로사스Erika Guevara-Rosas 국제앰네스티 조사·옹호·정책·캠페인 총괄국장은 이렇게 말했다. “미국 정부가 대규모 추방 의제를 추진하고 팔레스타인 지지 표현을 단속하려는 목적에서 AI 기반의 기술을 배치해 각종 인권 침해를 일으키는 것은 매우 우려스럽다. 이 기술들은 당국이 전례 없는 규모와 속도로 국제침해를 일으키는 것은 매우 우려스럽다. 이 기술들은 당국이 전례 없는 규모와 속도로 국제 학생과 이주민 집단을 빠르게 추적하고 표적화하게 한다. 지금까지 이는 불법 구금 및 대규모 추방으로 이어져 공포 분위기를 조성했으며, 이주민 공동체 그리고 학교 및 캠퍼스 전역의 국제 학생들에게 끼치는 ‘위축 효과’를 심화했다.
미 국무부가 추진하는 AI 기반의 억압적인 ‘체포 후 비자 취소’ 정책은 소셜미디어 모니터링, 비자 지위 추적, 국제 학생 등 비자 소지자에 대한 자동 위협 평가가 수반된다. 바벨스트리트와 팔란티어가 공급하는 AI 도구들은 사람들의 신원과 행동 및 움직임을 대규모로 더 빠르게 파악해, 그들의 비자 취소 여부를 결정하는 미 당국의 핵심적인 능력에서 주된 역할을 맡는다.
바벨 X는 온라인 행동을 기반으로 개인들이 공유하는 감정 및 예상되는 의도를 부여해 감정 분석을 시도하고, 바벨 X와 이민 OS는 패턴 인식을 수행하는 한편 알고리즘을 활용해 자동으로 데이터를 분석한다. 또한, 이 도구들은 복수의 정부 데이터베이스 등 다양한 공공, 민간 출처에서 나온 데이터를 집계한다.
일례로 바벨 X는 AI를 기반으로 소셜미디어 플랫폼들을 스캔하여 ‘테러리즘’ 관련 콘텐츠에 주의 표시를 하는 데 사용되고 있다고 전해진다. 그러면 미 당국이 이 정보를 활용해 개인의 비자 취소 여부를 결정할 수 있다. 국무부가 비자를 취소하기로 한 경우, 현지 사무소에서 파견된 이민세관단속국ICE 요원들이 해당자를 체포하고 추방한다. 개인의 의도를 추론하는 데 사용되는 확률론적 기술들은 오류의 여지가 매우 크고, 종종 차별적이고 편파적으로 사용될 수도 있으며, 팔레스타인 지지 콘텐츠가 반유대주의적이라고 잘못 규정할 수도 있다.
이 시스템들이 인권에 미치는 위험은 오래전부터 존재해 왔으며, 잘 알려져 있다. 트럼프 행정부 1기 중, 국제앰네스티를 비롯한 55개 인권 단체 및 기술 전문가 54인은 이와 유사한 형태의 자동화된 ‘극단적 심사’ 시스템 도입에 반대해 당국에 서한을 보냈다. 이들은 해당 시스템들이 비효과적일뿐더러 미국에 거주하는 이주민들의 차별받지 않을 권리, 표현의 자유 및 그 외 인권들을 불가피하게 침해하는 결과를 초래할 것이라는 점을 이유로 들었다.
에리카 게바라-로사스는 이렇게 말했다. “AI 기술이 촉진하는 강압적인 ‘체포 후 비자 취소’ 정책은 임의적이고 불법적인 비자 취소, 구금, 수많은 인권 침해를 대량으로 일으킬 위험이 있다. 여기에서 침해되는 권리에는 사생활권, 표현의 자유와 정보 접근, 이동의 자유, 평등과 비차별, 자유 및 시위에 대한 권리 등이 있다.”
현재 미 국토안보부DHS, 세관국경보호국CBP, 이민세관단속국ICE이 배치한 것으로 대중에게 모두 공개된 AI 프로젝트들과 관련해, 국제앰네스티는 다수의 조달 문서와 계약 내용 및 앞서 타 기관들의 요청에 대한 미 정보공개법Freedom of Information Act, FOIA의 답변 등을 분석했다. 세관국경보호국CBP 웹사이트에 따르면, 현재 세관국경보호국CBP과 이민세관단속국ICE이 주관하는 AI 프로젝트는 최소 80개에 달한다.
바벨스트리트의 바벨 X
검토한 문서들에 따르면, 바벨 X는 적어도 2019년부터 세관국경보호국CBP이 사용해왔다. 이 기술을 사용하면 개인의 이름, 전자메일, 전화번호 등의 단일 식별 정보로부터 막대한 정보를 수집할 수 있다. 이뿐만 아니라 소셜미디어 게시물, IP 주소, 고용 이력, 모바일 앱 광고에서 생성된 고유 ID 등 기기 위치 추적에 사용되는 정보에도 접근이 가능하다. 바벨 X는 미국 시민권자와 비-시민권자 및 영주권자 등 다양한 집단을 대규모로 모니터링할 수 있으나, 난민과 비호 신청자를 모니터링하라는 구체적인 업무를 부여받았다. 이는 세관국경보호국CBP이 바벨 X를 위해 자체 작성한 ‘사생활 임계치 분석’에 공개된 내용이다.
현재 세관국경보호국CBP의 활성 AI 프로젝트 페이지에는 바벨 X가 다음과 같은 도구라고 적혀 있다. “상업적으로 조달된 도구로서, 세관국경보호국CBP에 시행, 관리 권한이 있는 법률의 위반 가능성에 관해 추가 조사를 받을 수도 있는 여행자들에 관련된 소셜미디어 및 오픈소스 정보를 세관국경보호국CBP이 취합하도록 돕는다.”
2025년 2월, 바벨스트리트의 위험 담당 수석 부사장은 AI 기반의 ‘공개 정보 수집OSINT’ 기능 사용을 권장하는 기사를 게시했다. 그는 이 도구를 통해 ‘테러리스트 관련 콘텐츠’를 찾아내 대응하는 차원에서 해당 콘텐츠를 차단해 국경 보안을 지키고, 각종 문서와 신문 기사 및 온라인 매체의 대규모 데이터베이스 상에서 키워드 검색을 사용해 ‘과격 집단’과 개인을 찾아내라고 홍보했다.
바벨스트리트는 ‘지속 검색persistent search’이라는 기능을 활용해, 한 개인과 관련해 온라인 및 기타 정부 데이터베이스에 등장하는 모든 새로운 정보를 지속적으로 모니터링하는데, 이는 초기 검색 쿼리가 완료된 후에도 마찬가지다. 주의 표시된 개인들에 관한 막대한 양의 데이터에 지속적으로 주의 표시를 달고 해당 데이터를 수집하는 작업을 자동화하는 바벨 X는, 특정 개인들에게 의심스럽다는 기본값을 지정해 놓고 그들에게 비자 취소, 구금, 추방 등의 위험을 끼칠 가능성이 있다.
팔란티어의 이민 OS
2025년 4월, 이민세관단속국ICE은 ‘자가 추방self-deportation’*을 추적하고, 우선순위에 둘 추방 사례, 특히 ‘비자 체류기간 초과visa overstay’ 사례를 파악하는 것과 관련해 팔란티어와 3천만 달러 규모의 계약을 체결했다. 같은 달, 인터넷 전문 매체 404 미디어404 Media는 팔란티어의 최고기술책임자가 발송한 유출된 슬랙Slack(내부) 메시지를 보도했는데 그 내용은 이렇다. “지난 몇 주간 우리는 이민세관단속국ICE과 함께 일련의 새로운 데이터 통합 및 업무 흐름도 원형을 작성했다.” 이에 덧붙여 그는 이렇게 말했다. “새 행정부는 데이터를 활용해 법 집행을 추진하는 데 중점을 두고 있으며, 이러한 정부의 기조가 작업 속도를 높여주었다.”
* 자가 추방: 합법적 체류 신분을 갖추지 않은 이민자가 체류국의 공식 추방 명령이나 절차를 거치기 전에 자진해서 해당 국가를 떠나는 행위 또는 이러한 결정을 유도하는 정책
이민 생애주기 운영 시스템The system, referred to as Immigration Lifecycle Operating System(약칭 ‘이민 OS’)이라고 불리는 이 시스템은 2014년 이래로 이민세관단속국ICE이 이미 사용해온 팔란티어의 통합사례관리Integrated Case Management, ICM 시스템의 업그레이드 버전이다.
기존의 통합사례관리ICM 시스템을 활용하면, 이민세관단속국ICE 직원이 전자 사례 파일을 생성해 (이민 측면에서) 특정 수사와 관련된 모든 기록과 문서를 조직하고 연결함으로써 한 곳에서 모든 정보에 접속할 수 있게 만들 수 있다. 또한, 이 시스템에서는 직원들이 다수의 조사 기록을 연결해 사례들을 서로 연결할 수 있으며, 미국 기관 및 법 집행국에 소속된 방대한 양의 개인 자료에 접속할 수 있다.
새 버전인 이민 OS는 다음의 기능을 보유하고 있다.
이민 OS의 핵심 문제는 이미 심각한 결함을 안고 있는 무책임한 절차를 자동화한다는 데 있다. 이 절차는 적법 절차와 인권을 경시해온 역사가 있는데, 새 버전이 이를 더 불분명하게 만들고 우려스러운 상태를 심화한다.
트럼프 행정부 1기였던 2020년 당시 국제앰네스티는 인권 실사 절차와 관련해 팔란티어에 서한을 보냈다. 이에 팔란티어는 다음의 내용을 인정한다고 회신했다. “[…] 현(당시) 행정부 하의 이민세관단속국ICE 내 집행 및 추방 작전국Enforcement Removal Operations, ERO과의 계약을 의도적으로 거부했다. 귀 단체가 우려하듯이 미국-멕시코 국경에 거주하는 이주민, 난민, 비호 신청자의 인권을 침해할 잠재적 위험 그리고 미국의 불균형적인 이민법 집행의 위험성을 우리도 우려하기 때문이다.”
모든 것을 감시하는 정부, 그리고 국제 학생 시위대에 미치는 위축 효과
2025년 3월 8일, 미국 정부는 컬럼비아대학교의 대학원생으로 캠퍼스 시위자들의 대변인 역할을 했고 미국 영주권자이기도 한 마흐무드 칼릴Mahmoud Khalil을 불법으로 구금했다. 트럼프 대통령은 이것이 “앞으로 있을 많은 체포 중 첫 번째”라고 선언했다. 이후 얼마 되지 않아, 시위에 참여했거나 이스라엘의 가자지구 집단학살에 반대하는 목소리를 낸 국제제 학생 9명의 비자가 취소되거나 거주 지위가 박탈되었다. 마흐무드 칼릴은 6월 20일 이민세관단속국ICE의 구금에서 풀려났다.
기록된 다른 사례로, 터프츠대학교에서 박사 학위를 밟던 튀르키예 출신의 루메이사 오즈투르크Rumeysa Ozturk는 집 근처에서 사복 차림의 이민국 직원 6명에게 붙잡혀 아무 표시가 없는 차에 실렸다. 이 요원들은 오즈투르크가 구금될 때까지 자신들의 신분을 밝히지 않았다. 그녀의 표면적인 범죄는 가자지구와 관련한 학생들의 요구 사항에 대해 학교 측 대응이 부실하다고 비판하는 기고문을 공동 집필했다는 것이었다. 이후 국토안보부DHS 대변인은 오즈투르크가 “하마스 지지 활동에 참여했다”라고 주장했으나 이에 대한 증거는 전혀 제시되지 않았다.
미국 정부가 신청자의 비자를 거부 및 취소할 재량권을 가진 것은 사실이지만, 자유로운 발언과 적법 절차에 관한 권리를 포함해 미 헌법과 국제인권법이 보장하는 권리들을 침해하는 방식으로 권한을 행사할 수는 없다.
현 행정부가 억압적인 전술을 사용하고 사람들의 이민 지위를 즉각 취소하는 것은 표현의 자유 및 평화로운 집회에 대한 인권을 완전히 경시한다는 것을 드러낸다. 이는 평등권과 비차별권을 명백히 침해한다는 것을 나타내며, 여기서 AI 기반 시스템들이 비자 소지자와 비호 신청자들을 명시적으로 표적화하고 있다.
2025년 7월 10일, 국제앰네스티는 단체의 조사 결과에 대한 견해를 듣고자 팔란티어 테크놀로지스와 바벨스트리트에 연락을 취했다. 바벨스트리트는 응답하지 않았고, 팔란티어 테크놀로지스는 2025년 7월 24일에 다음과 같이 응답했다. 그들에 따르면, 팔란티어 테크놀로지스의 제품은 국무부 추진 정책인 행정부의 ‘체포 후 비자 취소’에 동력을 제공하는 데 사용하지 않았다고 한다. 팔란티어는 국토안보부DHS 산하의 이민세관단속국ICE와 계약을 체결했지만, 이 계약은 학생 시위자들을 구체적으로 표적화하지 않았을뿐더러 그들의 제품들이 이민법 집행을 위반하는 권리를 강화하는 것도 아니라고 주장했다.
팔란티어는 다음 사항을 확실히 했다. 즉, 통합사례관리ICM의 최근 확장판(이른바 ‘이민 OS’)은 “[집행과 취소] 임무를 직접 보조하는 업무를 포함하는 것이 사실이며, 여기에는 다음 기능들이 포함된다. (a) 집행 업무 우선화 및 표적화 (b) 자가 추방 추적 (c) 이민 생애주기 작업.”
바벨스트리트와 팔란티어는 각각 세관국경보호국CBP, 이민세관단속국ICE과 계약을 체결했지만, ‘외국인 신원 확인, 체포, 구금 및 추방’ 등 이민 집행 절차의 모든 측면을 관리하는 것은 이민세관단속국ICE 내 집행 및 추방 작전국ERO이다.
이민세관단속국ICE은 미 국무부 등 이주 관리에 관여하는 모든 미국 기관에서 내린 의사결정의 실행 업무를 담당하는 운영 부서다. 다시 말해 ‘체포 후 비자 취소’라는 정책 전체는 미 국무부가 주관하고 있더라도, 공격적인 추적 및 구금 전술을 써서 이를 집행하는 데서는 이민세관단속국ICE이 중요한 역할을 담당한다는 것이다. 그러나 이 답변들은 이번 조사가 제기하는 우려 사항들을 근본적인 수준에서 다루지 않고 있다. 즉, 팔란티어와 바벨스트리트의 기술들이 연방 이민법 집행 기관과 계약을 체결한 결과, 이것이 이주민들의 인권 침해에 일조할 위험이 있다는 점에는 답변하지 않았다.
에리카 게바라-로사스는 이렇게 말했다. “바벨 X, 이민 OS 등의 시스템들은 미 행정부가 억압적인 전술을 수행하는 데 중요한 역할을 담당한다. 자동화된 신속 결정을 촉진해 결국 전례 없는 속도로 대규모 추방이 이루어지도록 유도하기 때문이다. 이 같은 속도는 적절한 적법 절차를 용인하지 않으므로 비-시민권자 학생을 비롯한 모든 이민자의 인권이 침해될 위험이 상당히 크다.”
팔란티어와 바벨스트리트가 미 정부와 맺었던 이전 관계, 그리고 대규모 추방에 관여하려는 트럼프 행정부의 공개적인 의도를 고려할 때, 이 기업들은 미 전역에서 발생할 피해 위험을 합리적으로 내다보고 이러한 계약에 대한 참여 여부를 재고할 수 있었고, 이로써 국제 인권 기준 측면의 위험을 제거할 수 있었다.
2025년에 팔란티어와 바벨스트리트가 인권 실사를 적절히 실행하고 인권에 관한 그들의 책임을 다했더라면, 이 기업들은 비슷한 측면에서 이러한 대규모 추방 정책에 참여하는 것도 거절할 수 있었고 마땅히 그래야 했다. 적절한 안전 장치도 없이 이러한 기술을 제공한다는 점에서, 바벨스트리트와 팔란티어 등의 기업들은 이 정책들을 둘러싸고 벌어지는 인권 침해에 일조할 위험이 있다.
국제앰네스티는 인권이 결부된 모든 사업 관계의 경우, 가능한 모든 영역에서 영향력을 행사하는 것이 중요하다고 여긴다. 기업들이 인권 침해를 초래하거나, 이에 일조하거나, 또는 이에 직접적으로 연결되지 않는 것이 매우 중요하다.
에리카 게바라-로사스는 이렇게 말했다. “이러한 맥락에서 이 같은 기술을 사용하는 것은, 적법 절차를 제한적으로 또는 전혀 제공하지 않은 채 소외된 사람들을 제멋대로 대규모로 추방하겠다는 임의적 의사결정을 내리는 트럼프 행정부의 권한에 연료를 제공할 위험이 있다. 현재 이 시스템들을 손안에 쥔 행정부는, 미래에 범죄를 저지를 수도 있다는 가정하에 사람들을 엘살바도르의 가혹한 교도소로 사라지게 했던 장본인이라는 사실을 잊어서는 안 된다.”
“이에 더해 비자, 특히 일부 국제 학생과 같은 소외 집단이 소지한 비자의 불안정성도 간과할 수 없다. 팔란티어와 바벨스트리트는 인권 실사 절차를 실시하고 그 전체 결과를 공개해야 한다. 팔란티어와 바벨스트리트가 공급자라는 자신들의 영향력을 활용해 고객이 추진하는 정책이 인권에 초래하는 심각한 결과를 예방할 수 있음을 보여주지 않을 것이라면, 두 기업은 이민법 집행과 관련해 미 행정부와 진행하는 협업을 즉시 중단해야 한다.”
또한, 국제앰네스티는 이러한 기술 기업들이 인권 침해에 일조하지 않도록 보장할 감독 및 규제 메커니즘을 강화하는 조치에 나설 것을 미 의회에 촉구한다.
배경
3월 27일, 마르코 루비오 미 국무부 장관은 1월 이후로 유학생 300여 명의 비자를 취소했다고 발표했다.
더 최근의 보도에 따르면, 최소 1800명에서 최대 4000명에 달하는 학생들의 비자가 취소되었다. 피해 학생 다수는 시위에 참여한 적도 없고, 비자 취소 공지를 받은 적도 없다고 주장한다. 단, 일부 학생은 교통 법규 위반과 같은 훨씬 가벼운 사유로 미국 체류 중 법 집행 기관과 약간의 소통이 있었을 수도 있다. 캘리포니아의 두 학생을 대변해 제기된 소송에 따르면 학생들은 아프리카, 아랍, 아시아, 중동 출신 또는 무슬림 배경을 지녔다는 이유로 표적이 되었다.
앞서 국제앰네스티는 이민세관단속국ICE이 팔란티어의 통합사례관리ICM을 사용해 이주민과 비호 신청자를 표적화하는 해로운 정책을 실행했다고 기록했고, 팔란티어의 기술이 이민세관단속국ICE의 작전을 촉진하는 방식으로 지금까지 인권 침해에 일조했을 위험이 크다고 강조한 바 있다.