AI 기술 상용화 시기상조

AI 기술 상용화 시기상조

세계를 지배하는 초인공지능(AI)의 전망에 대해 조바심이나 우려가 이제는 현실로 다가오고 있다. 바로 작년 동안 벌어진 일련의 사건들이, AI가 실제로 우리 일상에 적용되기도 전에 발생할 수 있는 모든 종류의 위험을 보여줬기 때문이다. 

최신 인공지능 기술은 이미지를 분류하고 언어를 번역하는 옮기는 같은 지각 작업에서 뛰어나지만, 이 기술에 대한 과장된 포장으로 인해 인간만큼 영리한 기계를 만드는 것과는 아직도 한참 거리가 멀다는 사실이 숨겨져 있어왔다. 따라서 MIT는 2018년에 벌어진 AI와 관련된 6가지 논쟁을 통해 가장 똑똑한 인공지능 알고리즘조차도 실수를 저지를 수 있고, 부주의하게 적용하면 끔찍한 결과를 초래할 수 있다는 사실을 말해준다(Never mind killer robots-here are six real AI dangers to watch out for in 2019: Last year a string of controversies revealed a darker (and dumber) side to artificial intelligence).

1. 스스로 충돌하는 무인 자동차들

우버의 자율주행 자동차 실험이나 실제 운전 중 발생된 치명적인 사고 이후에, 아직까지는 충돌 사고와 같은 사고를 자율로 예방하기에는 아직 이르다는 사실이 발견됐다.

포드와 제너럴모터스와 같은 자동차 제조업체, 우버(Uber)와 같은 신생업체, 그리고 신생기업의 대다수는 아직까지 기술이 충분하지 않음에도 불구하고 이미 수십억 달러의 투자에 이르는 기술을 상용화하기 위해 서두르고 있다. 그리고 작년 애리조나에서 첫 번째 완전한 자율주행 택시 서비스(Wayma) 기업이 있을 정도로, 자율주행 자동차 사업을 자동차업계에서 마이더스의 손으로 여기는 미래 역점 분야다. 그러나 웨이모의 기술조차도 제한적이며 자율주행 자동차는 주마다 규제와 허용이 다르다. 

2019년에 주목해야 할 것: 미국이나 어느 지역에서나 규제 당국은 기술혁신을 저지할 것을 두려워해 거의 규제하지 않았다. 그러나 보행자와 인간 운전자들이 실험대상이 되는 데는 아직까지는 동의하지는 않은 상황이다. 따라서 2019년에 또 다른 심각한 사고가 발생한다면 규제 당국의 태도가 바뀔 수 있다.

 

2. 정치 조작 로봇들

지난 3월, 정치 컨설팅 회사인 케임브리지 분석(Cambridge Analytica)은 2016년 대선에 영향을 미치기 위해서 페이스북의 데이터 공유 실행을 활용했다고 발표했다. 그 결과로 소셜 미디어에서 어떤 뉴스와 정보가 나오게 될지 결정하는 알고리즘이 잘못된 정보를 증폭시키고 건전한 논쟁을 약화시키며 서로 다른 시각을 가진 시민들을 격리시키는데 조작될 수 있지를 보여줬다.

의회 청문회에서 페이스북의 CEO인 마크 주커버그는 인공지능이 텍스트, 이미지 또는 비디오의 의미를 완전히 이해하는 것과는 아직 거리가 멀지만, AI 자체가 악의적인 콘텐츠를 발견하고 차단할 수도 있다고 말했다.

2019년에 주목해야 할 것: 주커버그의 약속은 아프리카 최대 국가인 남아프리카공화국과 나이지리아에서 실시되는 선거에서 시험대에 오를 것이다. 또 2020년 미국선거 대권주자 경주도 시작됐는데, 이것이 악성 챗봇(malicious chatbots)을 포함해 AI에 의해 제공되는 새로운 종류의 잘못된 정보기술을 더 활성화시킬 수도 있다. 

 

3. 평화를 위한 알고리즘

작년에 AI 평화운동은 구글이 미 공군에 무인 항공기(드론) 이미지를 분류하기 위해 기술을 제공하고 있음을 구글 직원들이 알게 되면서 시작됐다. 직원들은 AI 지원을 통한 치명적인 무인 항공기 공격을 자동화하기위한 기술을 공급하는 조치가 될 것을 두려워했기에, 평화를 위해서만 알고리즘이 유용돼야 한다고 시위를 벌렸다. 이에 대응해 구글은 군사 무기지원계획(Project Maven)을 포기하고 AI 윤리강령을 만들었다.

학계 및 관련 기업계의 영향력 있는 인사들 역시 자동화(자율주행) 무기 사용을 금지하는 캠페인을 지지하고 있다. 그러나 AI의 군사적 사용은 탄력이 붙고 있지만 마이크로 소프트와 아마존과 같은 다른 회사들은 아직까지는 부정적이다. 

2019년에 주목해야 할 것: 국방부가 AI 프로젝트에 지출하는 비용이 증가하고 있음에도 불구하고 평화를 위한 활동가들은 올해 예정된 일련의 UN 회의들에서 자동화 무기를 금지하는 원천적 금지 조약들이 출현하기를 희망하고 있다. 

 

4. 얼굴 인식, 국가 감시의 시작

AI가 얼굴을 식별할 수 있는 초인간적인 능력으로 인해 국가들은 감시 기술을 놀라운 속도로 국민들의 일상에 배치하게 됐다. 또한 얼굴인식 기능을 통해 휴대전화의 잠금을 해제하고 소셜 미디어에 사진들을 자동으로 태그할 수 있다. 

따라서 이를 반대하는 시민자유그룹은 디스토피아적 미래를 경고하고 있다. 즉 사람들의 사생활을 침해할 수 있는 가공할만한 방법이며, AI 훈련데이터의 편향성이 차별을 자동화할 가능성이 있기 때문이다. 

많은 국가들에서, 특히 중국에서는 얼굴인식은 경찰 및 정부의 감시에 널리 사용되고 있고, 아마존은 이 기술을 미국의 이민국과 사법집행 기관에 판매하고 있다. 

2019년에 주목해야 할 점: 얼굴인식기술은 차량 및 웹캠으로 퍼져나갈 것이고, 사용자의 신원  뿐만 아니라 감정을 추적하는 데 사용될 것이다. 따라서 올해 이에 대한 예비적인 규제나 법안이 마련돼야 한다.

 

5. 딥페이크 기술의 악용

작년에 "딥페이크(deepfake)" 비디오(인공지능의 영상 합성, 조작기술)가 급증하자 인공지능을 사용해 가짜 클립을 만드는 것이 얼마나 쉬운지를 보여줬다. 이것은 가짜 유명인 포르노, 이상한 영화 매시업(여러 가지 자료에서 요소들을 따와 새로운 영화를 만드는 것), 잠재적으로 악성 정치 중상모략 캠페인까지도 조작해서 유포할 수 있다는 위험성을 알려준다. 

2019년에 주목해야 할 점: 딥 페이크 기술이 점점 더 향상됨에 따라 사람들은 가짜뉴스나 비디오영상에 더욱 더 속아 넘어갈 위험성이 농후하다. 결국 딥페이크를 탐지하는 새로운 방법을 실험하게 되지만, 탐지기술 역시 AI에 의존하기 때문에 무위로 그칠 가능성이 크다.

 

6. 알고리즘 차별

 

작년 비즈니스나 도소매 관련 Al 데이터 장치들이 가지고 있는 편향성이 발견됐다. 불균형적인 데이터 세트에 대해 훈련된 시각 알고리즘은 여성이나 유색인종을 인식하지 못했고, 역사적인 자료를 제공받은 채용 프로그램은 이미 존재하는 차별을 영속시키는 것으로 입증됐다. 

2019년에 기대할 점: 왜곡된 데이터로부터 편향되지 않은 결과가 나올 수 있는 알고리즘과 편향성을 탐지하고 완화하는 방법들이 논의되고, 실제로 제공될 것으로 예상된다.