사우디 아라비아의 국영 석유 회사, 사우디 아라콤의 석유 시설 2개소가 무인 항공기에 의해 습격을 받았다는 뉴스가 전세계를 떠들썩하게 만들고있다.
대부분의 미디어는 석유 가격의 폭등으로 세계 경제에 미치는 악영향, 또한 인공 지능과 드론이 테러 대비 성능 향상에 혁신을 가져올 것이라며, "빈자의 테크놀로지 × 폭력"의 대두에 위기를 나타내고있다.
한편, 강대국이나 글로벌 IT 기업 등 "부유한 자"에 의한 AI 드론 개발 경쟁의 위험성을 지적하는 사람도 나타나고있다. 전 구글 엔지니어 인 Laura Nolan 씨가 그 선봉장이다. Nolan 씨는, 2018년, 미국의 군사용 무인 항공기와 관련된 소프트웨어를 개발중에 회사를 떠났다. 현재는, AI 드론이 오작동을 일으켜 아무도 예상하지 못했던 전쟁을 일으킬 가능성이 있다고 경종을 울리고있다.
Nolan 씨는 16일, 영국 대형지 인 가디언과의 인터뷰에서, "지난해 구글로부터 모든 동작이 AI를 통해 이루어지는 최첨단 무인 정찰기의 기술 개발에 참여할 것을 요청받았다"라고 배경을 밝혔다. 그러나 AI 드론이 대량 살상 무기로 이용 될 가능성을 우려해, 개발 중단을 구글 측에 요청했으나, 곧 해고 통지를 받았다고한다.
Nolan 씨는, 실제로 개발에 참여한 엔지니어의 입장에서, 군사용 AI 드론의 오작동에 대해 우려를 표명하고있다.
원격 조작되는 드론은, 급격한 기상 이변에 직면했을 때 오작동이 불가피하다는 것이다. 또한, 인공지능은 총을 가지고있는 인물이 "사냥을 하려고하는지", 혹은 "전투 행위를 하려고하는지" 등 구체적인 상황을 확인할 수 없다고 지적. 그 오인식이 원인이되어 전쟁과 무관한 민간인이 피해를 입을 가능성이 매우 크다고한다.
또한, 미국이 개발 한 군사용 AI 드론에는, 화학 무기 금지 협약(CWC)에 저촉되는 파괴적인 화학 무기가 탑재 될 우려가 있다고 지적한다. 강대국이 실제 전장에서 AI 드론의 성능 강화를 도모하는 징후가 나타나기 시작하는 가운데, 유엔 등 국제기구가 단속하여야한다는 것이 Nolan 씨의 주장이다.
미 국방성은, 러시아와 중국에 맞서 드론이 수집 한 영상을 컴퓨터 학습으로 분석하는 "프로젝트 메이븐(Project Maven)"을 진행해왔다. 지난해 초에는, 구글이 이 프로젝트에 참여하고 있다는 보도가 나와 비판이 집중되었었다.
그 결과, 구글은 "Artificial Intelligence at Google：our principles"이라는 원칙을 발표하고, 군사용 AI 개발에 참여하지 않겠다고 하면서, 프로젝트 메이븐 참여도 중단했다.
그러나 기업에 막대한 이익을 가져다 주는 군사용 AI와 AI 드론 개발을 구글이 쉽게 포기하는 것보다는, 아직까지 개발에 참여하고 있다는 주장과 의혹이 끊임없이 제기되고 있다.
그런 상황에서 구글이 AI 드론 개발의 중심에 있었던 Nolan 씨의 발언이 큰 파문을 부르고있는 형국이다. 또한 Nolan 씨에 따르면, 구글은 올해 3월에 프로젝트 메이븐에 참여하지 않겠다는 약속을 포기했다고 증언하고있다. 앞으로 구글의 군사용 AI 드론 관련 기술 개발을 둘러싸고 논란이 재연 될 것으로 보인다.
또한, "무인 항공기가 테러에 쓰인다"라는 화제가 고조되면, 드론을 사회 과제와 비즈니스에 활용하려는 움직임도 제한을 받을 것이다. 위험한 드론과 사람들에게 도움이되는 드론의 경계는 어디인가?
깜쪽 놀랄만한 사건이 일어났을 때는 멈춰서서 생각해 볼 필요가있다. 제3차 세계 대전도... 혹시 드론이 일으키게 될지도 모른다.
