미 당국이 비(非)시민권자를 의도적으로 표적화하고 팔레스타인인들의 권리를 옹호하는 목소리를 내는 사람들에게 위협을 가하고자 자동화된 인공지능 기반의 감시 도구를 사용하고 있다고, 국제앰네스티가 밝혔다. 현재 미국에서는 이주민, 난민, 비호 신청자들에 대한 불법적인 단속이 이어지고 있다.

국제앰네스티는 미 국토안보부Department of Homeland Security, DHS의 공개 기록과  앞서 공개된 조달 및 개인정보 영향평가privacy assessment 문서들을 검토했다. 그 결과, 바벨스트리트Babel Street가 제공한 AI 도구 바벨 XBabel X 그리고 팔란티어Palantir의 이민 OSImmigration OS가 지속적인 대중 모니터링, 감시, 개인 평가를 가능하게 하는 기능을 자동화했고 이는 비(非)시민권자를 표적화하려는 경우가 많다는 사실을 밝혀냈다. 또한, 이주민과 난민 및 비호 신청자들을 추적하려는 미국 정부가 이러한 AI 도구를 사용하고 있으며, 궁극적으로 AI 도구가 미 국무부의 ‘체포 후 비자 취소Catch and Revoke’ 정책의 일부로 사용될 위험이 높음을 폭로했다.

에리카 게바라-로사스Erika Guevara-Rosas 국제앰네스티 조사·옹호·정책·캠페인 총괄국장은 이렇게 말했다. “미국 정부가 대규모 추방 의제를 추진하고 팔레스타인 지지 표현을 단속하려는 목적에서 AI 기반의 기술을 배치해 각종 인권 침해를 일으키고 있다. 매우 우려스럽다. AI 기반 기술은 당국이 전례 없는 규모와 속도로 국제 학생과 이주민 집단을 빠르게 추적하고 표적화하게 한다. 이는 불법 구금 및 대규모 추방으로 이어져 공포 분위기를 조성했으며, 이주민 공동체와 학교 및 캠퍼스 전역의 국제 학생들에게 끼치는 ‘위축 효과’를 심화했다.”

미 국무부는 AI 기반의 억압적 ‘체포 후 비자 취소’ 정책을 추진하고 있는데, 이 과정에서 소셜미디어를 모니터링하고, 비자 상태를 추적하며, 국제 학생 등 비자 소지자의 위협 수준을 자동으로 평가한다. 바벨스트리트와 팔란티어가 공급하는 AI 도구들은 사람들의 신원, 행동, 이동을 대규모로 신속하게 파악해, 미 당국이 비자 취소 여부를 결정하는 데 핵심적인 역할을 한다.

바벨 X는 개인의 온라인 행동을 기반으로 그가 공유한 게시물에 감정과 예상되는 의도를 부여해 감정 분석을 수행한다. 바벨 X와 이민 OS 모두 패턴 인식을 수행하고, 알고리즘을 활용해 데이터 분석을 자동화할 수 있다. 또한, 이 도구들은 복수의 정부 데이터베이스 등 다양한 공공, 민간 출처에서 나온 데이터를 집계한다.

일례로 바벨 X는 AI를 기반으로 소셜미디어 플랫폼들을 스캔하여 ‘테러리즘’ 관련 콘텐츠에 주의 표시를 하는 데 사용되고 있다고 전해진다. 그러면 미 당국이 이 정보를 활용해 개인의 비자 취소 여부를 결정할 수 있다. 국무부가 비자를 취소하기로 한 경우, 현지 사무소에서 파견된 이민세관단속국ICE 요원들이 해당자를 체포하고 추방한다. 개인의 의도를 추론하는 데 사용되는 확률론적 기술들은 오류의 여지가 매우 크고, 종종 차별적이고 편파적으로 사용될 수도 있으며, 팔레스타인 지지 콘텐츠가 반유대주의적이라고 잘못 규정할 수도 있다.

이 시스템들이 인권에 미치는 위험은 오래전부터 존재해 왔으며, 잘 알려져 있다. 트럼프 행정부 1기 중, 국제앰네스티를 비롯한 55개 인권 단체 및 기술 전문가 54인은 이와 유사한 형태의 자동화된 ‘극단적 심사’ 시스템 도입에 반대해 당국에 서한을 보냈다. 이들은 해당 시스템들이 비효과적일뿐더러 미국에 거주하는 이주민들의 차별받지 않을 권리, 표현의 자유 및 그 외 인권들을 불가피하게 침해하는 결과를 초래할 것이라는 점을 이유로 들었다.

인공지능 및 얼굴 인식을 이용한 감시기술을 나타낸 자료 사진

에리카 게바라-로사스는 이렇게 말했다. “AI 기술이 촉진하는 강압적인 ‘체포 후 비자 취소’ 정책은 임의적이고 불법적인 비자 취소, 구금, 수많은 인권 침해를 대량으로 일으킬 위험이 있다. 사생활권, 표현의 자유와 정보 접근, 이동의 자유, 평등과 비차별, 자유 및 시위에 대한 권리 등이 침해될 수 있다.”

현재 미 국토안보부DHS, 세관국경보호국CBP, 이민세관단속국ICE이 배치한 것으로 대중에게 모두 공개된 AI 프로젝트들과 관련해, 국제앰네스티는 다수의 조달 문서와 계약 내용 및 앞서 타 기관들의 요청에 대한 미 정보공개법Freedom of Information Act, FOIA의 답변 등을 분석했다. 세관국경보호국CBP 웹사이트에 따르면, 현재 세관국경보호국CBP과 이민세관단속국ICE이 주관하는 AI 프로젝트는 최소 80개에 달한다.

바벨스트리트의 바벨 X

검토한 문서들에 따르면, 적어도 2019년부터 세관국경보호국CBP은 바벨 X를 사용해왔다. 이 기술을 사용하면 개인의 이름, 전자메일, 전화번호 등의 단일 식별 정보로부터 막대한 정보를 수집할 수 있다. 이뿐만 아니라 소셜미디어 게시물, IP 주소, 고용 이력, 모바일 앱 광고에서 생성된 고유 ID 등 기기 위치 추적에 사용되는 정보에도 접근이 가능하다. 바벨 X는 미국 시민권자와 비(非)시민권자 및 영주권자 등 다양한 집단을 대규모로 모니터링할 수 있으나, 난민과 비호 신청자를 모니터링하라는 구체적인 업무를 부여받았다. 이는 세관국경보호국CBP이 바벨 X를 위해 자체 작성한 ‘‘프라이버시 임계치 분석’에 공개된 내용이다.

현재 바벨 X는 세관국경보호국CBP의 진행 중인 AI 프로젝트 페이지에 다음과 같이 등재되어 있다. “(바벨 X는) 세관국경보호국CBP이 상업적으로 조달한 도구로, 세관국경보호국CBP이 시행·관리 권한을 가진 법률을 잠재적으로 위반했을 가능성이 있어 추가 심사 대상이 될 수 있는 여행자들의 소셜미디어 및 오픈소스 정보를 수집하는 데 도움을 주는 도구이다”.

2025년 2월, 바벨스트리트의 위험 담당 수석 부사장은 AI 기반의 ‘공개 정보 수집OSINT’ 기능 사용을 권장하는 기사를 게시했다. 그는 이 도구를 통해 ‘테러리스트 관련 콘텐츠’를 찾아내 대응하는 차원에서 해당 콘텐츠를 차단해 국경 보안을 지키고, 각종 문서와 신문 기사 및 온라인 매체의 대규모 데이터베이스 상에서 키워드 검색을 사용해 ‘과격 집단’과 개인을 찾아내라고 홍보했다.

바벨스트리트는 ‘지속 검색persistent search’이라는 기능을 활용해, 초기 검색이 끝난 뒤에도 개인과 관련해 온라인이나 기타 정부 데이터베이스에 새롭게 나타나는 정보를 계속해서 모니터링한다. 바벨 X는 주의 표시된 개인들에 관한 막대한 양의 데이터에 지속적으로 주의 표시를 달고 해당 데이터를 수집하는 작업을 자동화하는데, 이는 특정 개인들에게 의심스럽다는 기본값을 지정해 놓고 그들에게 비자 취소, 구금, 추방 등의 위험을 끼칠 가능성이 있다.

2025년 4월 5일, 미국 워싱턴 D.C.에 위치한 미 국토안보부 건물 앞에서 팔레스타인 지지 시위대가 팔레스타인 지지 학생 활동가의 구금에 대해 항의하고 있다.

팔란티어의 이민 OS

2025년 4월, 이민세관단속국ICE은 ‘자가 추방self-deportation’*을 추적하고, 우선순위에 둘 추방 사례, 특히 ‘비자 체류기간 초과visa overstay’ 사례를 파악하는 것과 관련해 팔란티어와 3천만 달러 규모의 계약을 체결했다. 같은 달, 인터넷 전문 매체 404 미디어404 Media는 팔란티어의 최고기술책임자가 발송한 유출된 슬랙Slack(내부) 메시지를 보도했는데 그 내용은 이렇다. “지난 몇 주간 우리는 이민세관단속국ICE과 함께 일련의 새로운 데이터 통합 및 업무 흐름도 원형을 작성했다.” 이에 덧붙여 그는 이렇게 말했다. “새 행정부는 데이터를 활용해 법 집행을 추진하는 데 중점을 두고 있으며, 이러한 정부의 기조가 작업 속도를 높여주었다.”

* 자가 추방: 합법적 체류 신분을 갖추지 않은 이민자가 체류국의 공식 추방 명령이나 절차를 거치기 전에 자진해서 해당 국가를 떠나는 행위 또는 이러한 결정을 유도하는 정책

이민 생애주기 운영 시스템(약칭 ‘이민 OS’)Immigration Lifecycle Operating System이라고 불리는 이 시스템은 2014년 이래로 이민세관단속국ICE이 이미 사용해온 팔란티어의 통합사례관리Integrated Case Management, ICM 시스템의 업그레이드 버전이다.

기존의 통합사례관리ICM 시스템을 활용하면, 이민세관단속국ICE 직원이 전자 사례 파일을 생성해 (이민 측면에서) 특정 수사와 관련된 모든 기록과 문서를 조직하고 연결함으로써 한 곳에서 모든 정보에 접속할 수 있다. 또한, 이 시스템에서는 직원들이 다수의 조사 기록을 연결해 사례들을 서로 연결할 수 있으며, 미국 기관 및 법 집행국에 소속된 방대한 양의 개인 자료에 접속할 수 있다.

새 버전인 이민 OS는 다음과 같은 기능이 있다.

• 이민세관단속국ICE의 우선순위에 맞춰 개인들의 선별 및 체포를 실시간으로 간소화한다. 이때 국제 범죄조직, 폭력 범죄자, 비자 체류기간 초과 등에 중점을 둔다.

• 자가 추방의 실시간 모니터링 및 우선순위 지정 시스템과의 통합을 통해 정책과 자원 할당 부문에 참고 자료를 제공한다.

• 신원 확인부터 추방까지 이민의 전 과정을 관리하되, 추방의 효율성에 중점을 둔다.

이민 OS의 핵심 문제는 이미 심각한 결함을 안고 있는 무책임한 이민 단속 및 추방 절차를 자동화한다는 데 있다. 이 절차는 적법 절차와 인권을 경시해온 역사가 있는데, 새 버전은 이를 더 불분명하게 만들고 결함을 강화한다.

트럼프 행정부 1기였던 2020년 당시 국제앰네스티는 인권 실사 절차와 관련해 팔란티어에 서한을 보냈다. 이에 팔란티어는 다음의 내용을 인정한다고 회신했다. “[…] 현(당시) 행정부 하의 이민세관단속국ICE 내 집행 및 추방 작전국Enforcement Removal Operations, ERO과의 계약을 의도적으로 거부했다. 귀 단체가 우려하듯이 미국-멕시코 국경에 거주하는 이주민, 난민, 비호 신청자의 인권을 침해할 잠재적 위험 그리고 미국의 불균형적인 이민법 집행의 위험성을 우리도 우려하기 때문이다.”

모든 것을 감시하는 정부, 그리고 국제 학생 시위대에 미치는 위축 효과

2025년 3월 8일, 미국 정부는 컬럼비아대학교의 대학원생으로 캠퍼스 시위자들의 대변인 역할을 했고 미국 영주권자이기도 한 마흐무드 칼릴Mahmoud Khalil을 불법으로 구금했다. 트럼프 대통령은 이것이 “앞으로 있을 많은 체포 중 첫 번째”라고 선언했다. 이후 얼마 되지 않아, 시위에 참여했거나 이스라엘의 가자지구 집단학살에 반대하는 목소리를 낸 국제 학생 9명의 비자가 취소되거나 거주 지위가 박탈되었다. 마흐무드 칼릴은 6월 20일 이민세관단속국ICE의 구금에서 풀려났다.

기록된 다른 사례로, 터프츠대학교에서 박사 학위를 밟던 튀르키예 출신의 루메이사 오즈투르크Rumeysa Ozturk는 집 근처에서 사복 차림의 이민국 직원 6명에게 붙잡혀 아무 표시가 없는 차에 실렸다. 이 요원들은 오즈투르크가 구금될 때까지 자신들의 신분을 밝히지 않았다. 그녀의 표면적인 범죄는 가자지구와 관련한 학생들의 요구 사항에 대해 학교 측 대응이 부실하다고 비판하는 기고문을 공동 집필했다는 것이었다. 이후 국토안보부DHS 대변인은 오즈투르크가 “하마스 지지 활동에 참여했다”라고 주장했으나 이에 대한 증거는 전혀 제시되지 않았다.

미국 정부가 신청자의 비자를 거부 및 취소할 재량권을 가진 것은 사실이지만, 자유로운 발언과 적법 절차에 관한 권리를 포함해 미 헌법과 국제인권법이 보장하는 권리들을 침해하는 방식으로 권한을 행사할 수는 없다.

현 행정부가 억압적인 전술을 사용하고 사람들의 이민 지위를 즉각 취소하는 것은 표현의 자유 및 평화로운 집회에 대한 인권을 완전히 경시한다는 것을 드러낸다. 이는 평등권과 비차별권을 명백히 침해한다는 것을 나타내며, 여기서 AI 기반 시스템들이 비자 소지자와 비호 신청자들을 명시적으로 표적화하고 있다.

2025년 3월 15일, 미국 워싱턴 D.C.에서 시위대가 마흐무드 칼릴을 이민세관단속국(ICE)의 구금에서 석방할 것을 요구하고 있다.

2025년 7월 10일, 국제앰네스티는 단체의 조사 결과에 대한 견해를 듣고자 팔란티어 테크놀로지스와 바벨스트리트에 연락을 취했다. 바벨스트리트는 응답하지 않았고, 팔란티어 테크놀로지스는 2025년 7월 24일에 다음과 같이 응답했다. 그들에 따르면, 팔란티어 테크놀로지스의 제품은 국무부 추진 정책인 행정부의 ‘체포 후 비자 취소’에 동력을 제공하는 데 사용하지 않았다고 한다. 팔란티어는 국토안보부DHS 산하의 이민세관단속국ICE와 계약을 체결했지만, 이 계약은 학생 시위자들을 구체적으로 표적화하지 않았을뿐더러 그들의 제품들이 이민법 집행을 위반하는 권리를 강화하는 것도 아니라고 주장했다.

팔란티어는 다음 사항을 확실히 했다. 즉, 통합사례관리ICM의 최근 확장판(이른바 ‘이민 OS’)은 “[집행과 취소] 임무를 직접 보조하는 업무를 포함하는 것이 사실이며, 여기에는 다음 기능들이 포함된다. (a) 집행 업무 우선화 및 표적화 (b) 자가 추방 추적 (c) 이민 생애주기 작업.”

바벨스트리트와 팔란티어는 각각 세관국경보호국CBP, 이민세관단속국ICE과 계약을 체결했지만, ‘외국인 신원 확인, 체포, 구금 및 추방’ 등 이민 집행 절차의 모든 측면을 관리하는 것은 이민세관단속국ICE 내 집행 및 추방 작전국ERO이다.

이민세관단속국ICE은 미 국무부 등 이주 관리에 관여하는 모든 미국 기관에서 내린 의사결정의 실행 업무를 담당하는 운영 부서다. 다시 말해 ‘체포 후 비자 취소’라는 정책 전체는 미 국무부가 주관하고 있더라도, 공격적인 추적 및 구금 전술을 써서 이를 집행하는 데서는 이민세관단속국ICE이 중요한 역할을 담당한다는 것이다. 그러나 이 답변들은 이번 조사가 제기하는 우려 사항들을 근본적인 수준에서 다루지 않고 있다. 즉, 팔란티어와 바벨스트리트의 기술들이 연방 이민법 집행 기관과 계약을 체결한 결과, 이것이 이주민들의 인권 침해에 일조할 위험이 있다는 점에는 답변하지 않았다.

에리카 게바라-로사스는 이렇게 말했다. “바벨 X, 이민 OS 등의 시스템들은 미 행정부가 억압적인 전술을 수행하는 데 중요한 역할을 담당한다. 자동화된 신속 결정을 촉진해 결국 전례 없는 속도로 대규모 추방이 이루어지도록 유도하기 때문이다. 이 같은 속도는 적절한 적법 절차를 용인하지 않으므로 비(非)시민권자 학생을 비롯한 모든 이민자의 인권이 침해될 위험이 상당히 크다.”

팔란티어와 바벨스트리트가 이전에 미 정부와 맺었던 관계, 그리고 대규모 추방에 관여하려는 트럼프 행정부의 공개적인 의도를 고려할 때, 이 기업들은 미 전역에서 발생할 피해 위험을 합리적으로 내다보고 이러한 계약에 대한 참여 여부를 재고할 수 있었고, 국제 인권 기준 측면의 위험을 제거할 수 있었다.

2025년에 팔란티어와 바벨스트리트가 인권 실사를 적절히 실행하고 인권에 관한 그들의 책임을 다했더라면, 이 기업들은 비슷한 측면에서 이러한 대규모 추방 정책에 참여하는 것도 거절할 수 있었고 마땅히 그래야 했다. 적절한 안전 장치도 없이 이러한 기술을 제공한다는 점에서, 바벨스트리트와 팔란티어 등의 기업들은 이 정책들을 둘러싸고 벌어지는 인권 침해에 일조할 위험이 있다.

2025년 6월 8일, 미국 캘리포니아 주 로스앤젤레스에서 이민세관단속국의 단속에 반발해 일어난 시위에서 LA경찰이 시위참여자를 연행하고 있다.

국제앰네스티는 인권이 결부된 모든 사업 관계의 경우, 가능한 모든 영역에서 영향력을 행사하는 것이 중요하다고 여긴다. 기업들이 인권 침해를 초래하거나, 이에 일조하거나, 또는 이에 직접적으로 연결되지 않는 것이 매우 중요하다.

에리카 게바라-로사스는 이렇게 말했다. “이러한 맥락에서 이 같은 기술을 사용하는 것은, 적법 절차를 제한적으로 또는 전혀 제공하지 않은 채 소외된 사람들을 제멋대로 대규모로 추방하겠다는 임의적 의사결정을 내리는 트럼프 행정부의 권한에 연료를 제공할 위험이 있다. 현재 이 시스템들을 손안에 쥔 행정부는, 미래에 범죄를 저지를 수도 있다는 가정하에 사람들을 엘살바도르의 가혹한 교도소로 사라지게 했던 장본인이라는 사실을 잊어서는 안 된다.”

“이에 더해 비자, 특히 일부 국제 학생과 같은 소외 집단이 소지한 비자의 불안정성도 간과할 수 없다. 팔란티어와 바벨스트리트는 인권 실사 절차를 실시하고 그 전체 결과를 공개해야 한다. 팔란티어와 바벨스트리트가 공급자로서의 영향력을 활용해 자사 고객의 정책으로 인해 초래되는 심각한 인권 침해를 막을 수 있음을 입증할 것이 아니라면, 이들 기업은 즉시 미 행정부와의 이민법 집행 관련 협력을 중단해야 한다.”

또한, 국제앰네스티는 미 의회가 이러한 기술 기업들이 인권 침해에 일조하지 못하도록 감독과 규제 메커니즘을 강화하는 조치를 취할 것을 촉구한다.