AI 감시체제, 민주주의까지 위협할 수 있다!

AI 감시체제, 민주주의까지 위협할 수 있다!

미국의 거대 기술 기업인 마이크로소프트는 정부의 감시와 검열 능력 향상을 돕는 인공지능 체계를 만들기 위해 중국 군부 산하 대학과 협력하고 있다. 두 명의 미국 상원의원은 이를 공개적으로 규탄했다. 하지만 중국의 국방과학기술대학과 마이크로소프트 간 협력 외에도 우리가 걱정해야 하는 일이 많이 벌어지고 있다.

보이지 주립대학 공공정책 석좌교수 스티븐 펠드스타인(Steven Feldstein) 교수는 정부나 공권력이 첨단 디지털을 통한 억압 분야 연구에서 정평이 나있다. 그래서 펠드스타인 교수는 국민과 국가 간의 관계에서, 인공지능을 통한 새로운 기술은 정부에게 개인을 감시하고 추적할 수 있는 능력을 주었다고 단언한다.  심지어 법의 지배에 따르는 전통을 가지고 있는 민주 정부까지 이 기술을 남용하고 싶은 유혹에 시달리고 있다고 경고한다(How artificial intelligence systems could threaten democracy).

인공지능 체계는 인권에 대한 존중이 높지 않은 국가에서 가장 큰 위험을 만들어낼 가능성이 크다. 중국이 중요한 실제다. 중국 지도부는 열성적으로 인공지능 기술을 받아들이며, 세계에서 가장 정교한 감시 국가를 신장 지역에 설립했다. 해당 기술은 시민의 움직임과 스마트폰 사용을 매일 추적한다.

중국이 인공지능 기술을 이용하는 방식은 비슷한 독재국가에 모델이 되고 있으며, 열린 민주사회에도 직접적인 위협을 끼친다. 비록 다른 정부가 인공 지능을 이용해 비슷한 감시를 한다는 증거가 아직 존재하지는 않지만, 현재 중국기업은 자신이 사용하는 기술을 전 세계에 활동적으로 수출하고 있다.

인공지능 체계는 스마트폰, 인터넷 검색 엔진, 디지털 음성 비서, 넷플릭스 영화 추천 등 현대 사회 모든 곳에 존재한다. 많은 사람이 알아차리지는 못하지만, 인공지능은 엄청난 양의 데이터, 향상된 알고리즘, 고급 컴퓨터 칩에 힘입어 계속 확장되고 있다.

앞으로 더 많은 정보가 이용 가능해지고 분석이 쉬워지며 독재 정부뿐 아니라 모든 정부가 인공지능 체계에 관심을 가질 것이다. 이미 1970년대 미국에서는 FBI, CIA, NSA 같은 정부 기관이 시민권리집회 참가자, 정치 행동주의자, 미국 원주민 집단을 감시하고 억압하기 위해 광범위한 국내 감시 네트워크를 가지고 있다는 폭로가 있었다. 이러한 문제는 아직도 존재한다, 오늘날 디지털 기술은 더 많은 기관이 감시할 수 있는 능력을 갖추게 했다.

예를 들어, 미국 경찰은 이미 인공지능 기술을 열성적으로 받아들이고 있다. 그들은 순찰 근무 중인 경찰을 어디로 보낼지를 결정하기 위해 범죄가 일어날 지역을 예측하는 소프트웨어를 사용한다. 또한, 미국 경찰은 범죄 수사에 얼굴 인식과 DNA 분석을 이용하고 있다. 하지만 인공지능을 통한 분석의 경우 때로 훈련을 위한 데이터가 편견을 포함하고 있으며, 그 결과 흑인이 다른 인종 집단보다 더 범죄를 저지를 가능성이 크다는 등의 불공평한 분석 결과를 내놓기도 한다.

독재 국가에서 인공지능 체계는 치안 부대가 소셜미디어 게시물, 문자 메시지, 이메일, 전화 같은 엄청난 양의 정보를 빠르고 효율적으로 처리하게 만들며 국내 통제와 감시를 돕는다. 경찰은 인공지능 체계를 통해 알려진 정보를 이용해 사회적 경향이나 정권에 위협이 되는 특정 사람을 파악해낸다.

예를 들면, 중국정부는 인공지능을 중국 내 소수민족이 거주하는 지역을 단속하기 위해 사용하고 있다. 신장과 티베트 지역의 감시 체계는 “오웰리언적(전체주의적)”이라고 묘사된다. 의무적인 DNA 표본수집, 와이파이 네트워크 감시, 광범위하게 존재하는 얼굴 인식 카메라를 통해 얻은 데이터는 통합된 데이터 분석 플랫폼에 연결돼 있다. 미국 국무부의 분석에 따르면 중국 정부당국은 위 체계의 도움으로 1백만에서 2백만의 사람을 “독단적으로 억류했다.”

펠드스타인 교수는 연구를 통해서 닫힌 독재주의부터 미흡한 민주주의까지 다양한 정치 체계를 가진 태국, 터키, 방글라데시, 케냐 등의 90개 국가를 분석해봤다. 그 결과, 중국 기업이 인공지능 감시 기술을 최소 54개 국가에 수출했다는 사실을 발견했다. 흔히 이 기술은 중국의 일대일로 이니셔티브(Belt and Road initiative, BRI)의 일부로 포장된다. BRI는 세계 인구의 60%가 사용하는 광범위한 육로, 철로, 에너지 파이프라인, 통신 네트워크와 전 세계 GDP의 40%를 만들어내는 경제에 자금을 지급하는 계획이다.

화웨이나 ZTE 같은 중국 기업은 파키스탄, 필리핀, 케냐에 광범위한 감시를 가능하게 하는 “스마트시티”를 만들고 있다. 화웨이는 필리핀의 보니파시오 글로벌 시티에 24시간 작동하는 고화질의 카메라를 공급해 “인공지능 보안 감시”를 가능하게 하고, 범죄를 발견하고 교통을 관리하는 데이터 애널리틱스 기술을 공급했다.

하이크비전, 이투, 센스타임 역시 최신 얼굴 인식 카메라를 싱가포르와 같은 국가에 제공하고 있다. 싱가포르는 최근 110,000개의 카메라가 부착된 가로등 기둥을 도시 국가 주변에 놓는 감시 프로그램을 설립하겠다고 발표했다. 

짐바브웨는 얼굴 인식에 사용될 국가 이미지 데이터베이스를 만들고 있다.

그러나 수익을 위한 고급 장비 판매는 지정학적 목적을 위한 기술 공유와는 다르다. 이러한 새로운 능력은 전 세계적인 감시의 씨앗을 뿌리는 행위가 될 수 있다. 정부들이 국민을 관리하고 권력을 유지하고자 중국 기술에 더 의존하게 될수록 중국의 의제에 동조해야 한다는 압력을 더 많이 느끼게 된다. 하지만 현재 중국의 주된 목적은 새로운 기술의 시장인다.

또한 전면적이면서도 세부적인 감시 능력을 제공하는 것에 더해 인공지능은 억압적인 정부가 이용 가능한 정보를 조작하고 허위 정보를 퍼뜨리는 것을 돕는다. 이런 캠페인은 자동화돼 있거나, 적어도 자동화 프로그램의 도움을 받는다. 또한, 특정 개인이나 집단을 향하거나, 피하고자 맞춤형 메시지를 효율적으로 사용한다.

인공지능은 진짜처럼 보이고 들리는 위조된 비디오와 오디오를 알고리즘을 통해 만들어내는 “딥페이크” 기술을 보강한다. 어떤 정보가 진실이고 허구인지를 교란하는 것은 치열한 선거에서 유용한 전략이다. 후보자는 이 기술을 이용해 경쟁자가 실제로 일어나지 않은 말과 행동을 한 것처럼 보이는 가짜 비디오를 만들 수 있다.

결국 민주주의 사회의 정책입안자는 인공지능 체계가 민주사회와 독재정권 하에 놓여있는 사람들에게 가져올 수 있는 위험에 대해 신중하게 생각해야 한다. 얼마나 많은 국가가 중국의 디지털 감시모델을 채택할지는 중요한 질문이 될 수 있다. 

하지만 이런 기술에 단지 독재국가만이 관심을 두고 있는 것은 아니다. 또한, 오직 중국 기업만이 이런 기술을 전파하는 것도 아니다. 마이크로소프트, IBM, 시스코, 써모피셔를 포함한 많은 미국기업 역시 끔찍한 정부에게 디지털 기술을 통한 감시 능력을 제공한다. 

인공지능의 오용은 독재 국가에만 제한돼 있지 않다.

 

05.11.2019