과학기술의 진보는, 우리에게 유용한 반면, 쓰기에 따라서는 부정적 유산을 만들어 낸다.
이번에, 미 영 스위스의 국제 연구팀은, 신약개발을 위한 AI(인공지능) 모델이, 화학 병기의 개발에 악용 된 경우를 상정한 시뮬레이션을 실시.
그 결과, AI는 불과 6시간 만에, 4만 가지의 독성 높은 화합물의 디자인을 제안했는데, 이것은 인류를 구원해야 할 AI가, 같은 정도로 치사적인 기술이 된다는 것을 증명하는 것이다.
■ 단 6시간 만에 4만종의 "화학 무기"를 디자인
AI는 한정적인 상황에서는, 인간의 지능을 훨씬 넘어서는 작용을 할 수 있지만, AI에는 선악의 개념은 없다.
인류를 돕기 위해 만들어진 AI라도, 사용하는 인간이 악의적으로 그 지능을 이용한다면, 그들은 인류의 위협이 될 수 있다.
그런, AI의 "악의 스위치"를 기동시킨다고 하는 아이디어는, 스위스 슈피츠 연구소(Spiez Laborator)가 주최하는 "컨버전스 회의"에서 제안되었다.
2년마다 열리는 이 회의에서는 과학, 군사 전문가들이 모여, 핵, 생물, 화학무기의 현황과 위협에 대해 논의하는데, 본 연구의 목적은, 인류에게 있어서 도움이 되는 툴이나 기술이, 화학 병기의 영역에서, 의도하지 않게 가질 수 있는 "악의 측면"을 이해하는 것에 있었다.
그곳에서, 미국의 바이오 벤처기업 "콜라보레이션 파머스 티컬즈((Collaborations Pharmaceuticals)"가 중심이 되어, AI를 악용했을 경우의 결과를 시뮬레이션.
같은 기술은 보통 질병의 치료에 사용할 수 있을 것 같은 화합물의 생성에 이용되고 있지만, 여기에서는 "악의 스위치"를 넣어, 치사적인 화합물의 조합을 찾게 했다.
그 결과, 무려 AI는, 단 6시간 만에 약 4만 가지에 달하는 치사적인 화합물을 디자인한 것이다.
보고에 의하면, "한번, 악의 스위치를 넣어 버리면, AI는 수천의 독물의 조합을 재빠르게 발명할 수 있고, 게다가 그 상당수는, 현재 사용되고 있는 가장 위험한 신경 가스와 유사했다"라고 한다.
AI가 만들어 낸 화합물 중에는, 매우 독성이 강한 신경 가스로 유명한 "VX"와 흡사한 것이 있었다는.
이것은, 연구자들에게 있어서 상당히 충격적이었다고 한다.
이 화학물질은, 아주 적은 양으로도 심한 경련을 일으키고, 호흡 기능을 정지시킬 수 있기 때문. AI에 의한 화합물에도, 이것과 같은 효과를 가지는 것으로 보이는 것이 많이 볼 수 있었다고한다.
구체적으로 말하자면, 아세틸콜린에스테라아제라고 하는 효소를 저해하는 작용에 해당하는데, 우리가 근육을 움직일 때는 언제나 인체의 신경이 이 효소를 "근육을 움직여라"라고하는 신호로 사용한다.
그런데, 이 신호가 저해되면, 횡격막이나 폐의 근육이 움직이지 않게 되어, 호흡할 수 없게 되는 것.
■ 친근하지만 "위험한 화학무기"를 만들수 있다?
연구팀은, 이번 발견에서 가장 무서웠던 것 중 하나로, AI가 널리 입수 가능한 유독 화학물질 데이터 세트를 이용하고 있다는 점을 꼽는다.
즉, 우리 주변의 화학물질을 가장 위험한 화학무기와 똑같은 것을 만들어 내는 것이 얼마나 쉬운지를 말해주는 것.
"우리가 사용한 데이터 세트의 상당수는 무료로 공개되고 있고, 언제 어디서나 다운로드할 수 있는 것이었습니다. 프로그래밍이나 기계학습에 대한 지식이 있는 사람이라면, 아마 주말의 약간의 시간이 있으면, 이들 데이터 세트를 이용한 화합물 생성 모델을 만들 수 있을 겁니다"
"그것이 이번 연구 논문을 세상에 발표하기로 한 큰 이유 중 하나였습니다, 현재 이런 종류의 악용에 대한 예방대책이 매우 취약하기 때문입니다"
만약 AI가 이처럼 악용되거나, 혹은 AI 자신이 의지를 갖고 인류에게 반기를 드는 일이 있다면...
고도의 과학기술은 "양날의 검"이라는 것을 잊지말아야 할 것이다.
