이 책은 나에게 자율무기의 장단점을 가르쳐 주었다. - 빌 게이츠
빌 게이츠가 선정한 최고의 책 중 하나

무인기와 드론 그리고 로봇과 같은 자율무기에게 생사여탈권이 쥐어진다면?
생사의 갈림길, 전쟁 속에서 인공지능과 로봇의 미래를 엿보다!

2001년 9월 11일, 미국에서 충격적인 테러가 발생했다. 미국 영공(領空)을 다니던 모든 항공기가 다시 착륙했고, 항구가 봉쇄되어 모든 선박이 회항했다. 이 충격적인 사건으로 인해 아프가니스탄 전쟁과 이라크 전쟁이 일어났다. 미군은 넓은 전쟁 지역을 인력만으로 대응할 수 없었다. 결국 미 국방부는 수천 대의 항공 및 육상 로봇을 중동에 배치하였다. 그리고 한참 전쟁 중이던 2005년, 미 국방부는 자율무기가 매우 효과적인 무기라는 사실을 깨달았다. 자율무기는 군대의 인력난과 인명 피해를 줄이면서 적국의 요원이나 군인을 24시간 관찰하고, 언제든지 타격할 수 있는 만능 도구였던 것이다. 결국 더 좋은 자율무기를 만들기 위해 엄청난 투자가 이루어졌고, 점점 고도화된 인공지능과 강력한 무기를 탑재한 자율무기가 증가했다.

미국 국가 안보 전문 싱크탱크인 신미국안보센터의 연구원 폴 샤레는 자율무기의 시작과 현재 그리고 미래에 관해 분석한다. 자율무기는 인간이 직접 위험을 무릅쓰고 전쟁터 한복판에서 싸울 필요를 줄였다. 뛰어난 적 탐지 능력과 적진에 몰래 침투하여 타격하는 능력으로 전쟁의 판도를 새롭게 바꾸었다. 매우 효과적으로 사용되는 무기지만 아직 풀어야 할 숙제가 남아 있다. 예를 들면, 자율무기가 완전 자율화될 경우, 전쟁터에서 민간인, 아군 등 구별하며 적군만을 타격할 수 있을까? 로봇에게 인간의 생사여탈권을 결정할 수 있게 하는 일이 옳은 것인가? 정책은 어떻게 수립해야 할 것인가? 등 자율무기의 딜레마는 자율주행차와 같은 모든 무인화기기들에 해당되는 문제이기도 하다.

자율무기와 로봇은 미래에 있어 매우 중요한 요소가 될 것임은 분명해 보인다. 전쟁만이 아니라 국제 정세, 정치, 사회 등 광범위한 영역에서 엄청난 파장을 일으킬 잠재력을 지니고 있다. 그러나 아직 확실히 결정된 것은 없다. 영화 터미네이터에 나오는 존 코너의 말처럼 미래는 정해지지 않았고, 운명도 정해져 있는 게 아니기 때문이다. 아무리 뛰어난 잠재력을 지닌 도구여도 결국 인간이 제작한 도구이기 때문이다. 이 책은 코로나19 바이러스로 인해 더욱더 빨라지는 무인자율화 시기를 보내고 있는 현 시점에 전쟁과 자율무기란 소재로 다가올 세상에 관해 크나큰 통찰을 줄 것이다.

새로운 전쟁, 새로운 시대를 맞이하라!
인공지능과 로봇이 함께하는 세상을 전쟁을 통해 미리 살펴보다
빌 게이츠가 선정한 올해의 책 다섯 권 중 하나(2018)

은밀하게 날아다니는 비행체들. 조용히 적군을 탐지하다 갑작스레 미사일을 쏴버린다. 미사일은 적중됐고, 적은 순식간에 드론에게 살해당한다. SF 전쟁 영화에서 보던 클리셰와 같은 장면이다. 그런데 이런 모습이 오늘날 전쟁터의 현실이다. 피로 얼룩진 생사의 갈림길에서 이젠 인간이 아니라 인공지능과 로봇이 사람을 학살하는 시대가 온 것이다. 새로운 무기는 꼭 새로운 참사를 일으켜왔다. 남북전쟁 당시, 인디애나폴리스에 거주하던 젊은이들은 군에 입대해 전쟁에 참여했다. 그들이 전쟁터에 나선 지 얼마 안 되어 부상을 입어 불구가 되거나 전사하여 시체로 돌아오는 군인의 수가 상당했다. 리처드 개틀링은 그 참혹한 모습을 목격하고 군인의 숫자가 적어도 강력한 군대가 될 수 있는 무기를 고안한다. 바로 개틀링건이었다. 안타깝게도 그의 의도와 다르게 개틀링건은 더 큰 참사를 불러일으키고 말았다.

오늘날 인공지능과 로봇도 개틀링건과 마찬가지라 할 수 있다. 위험한 전쟁터에 인명 피해를 덜 입히기 위해, 또한 인적 자원을 소모하지 않기 위해 고민하던 미 국방부의 노림수였는데, 그 덕분에 미군은 적은 숫자로 강력한 전투력을 보유할 수 있게 되었다. 심지어 이 로봇들은 개틀링건보다 더 강력하다. 인간이 없더라도 혼자서 자율적으로 적을 감시하고, 타격할 수 있는 능력을 갖추었기 때문이다. 이런 강력한 무기는 새로운 비극을 초래할까? 아니면 무력으로 인한 전쟁 억제력을 갖출 수 있게 만들까? 아직은 전자의 가능성이 더 높다고 볼 수 있지 않나 싶다. 이미 이라크 전쟁, 아프가니스탄 전쟁을 통해서 자율무기가 일으킨 민간인 피해, 피아구별 없는 공격 등에 대한 실사례가 있기 때문이다.

그렇다고 해서 인공지능과 로봇의 무기화를 막을 순 없다. 국제정세, 국방, 정치, 사회 등 수많은 요인이 자율무기 도입화로 이끌고 있기 때문이다. 국방 전문가 폴 샤레가 이 책을 쓴 이유는 너무나 명확하다. 세상의 변화와 시대의 흐름을 정확히 알아야만 하는 영역이기 때문이다. 기존에는 국가의 영역에서만 다루어졌던 이야기지만 이제는 모두가 알아야 할 때가 왔다. 로봇과 인공지능이 우리가 사는 사회와 만났을 때, 어떤 크나큰 충격을 줄 것인지 알고자 한다면 이미 로봇과 인공지능이 실제로 도입되고 있는 현장 속에서 살펴보아야 한다. 폴 샤레의 이 책은 전쟁의 변화를 통해 앞으로 자율화가 일으킬 우리 사회의 충격은 어떠할지 미리 예견해볼 수 있는 통찰력 넘치는 책이라 할 수 있다.

목차 서론: 삶과 죽음을 가르는 힘 1부. 로보포칼립스의 현재 1. 다가오는 무리 2. 터미네이터와 룸바 3. 살상 기계 2부. 터미네이터 만들기 4. 오늘 건설되는 미래 5. 국방부 안으로 6. 문턱을 넘다 7. 월드워 R 8. 차고에서 만든 로봇 3부. 고삐 풀린 총 9. 미친 듯이 날뛰는 로봇 10. 지휘결심 11. 블랙박스 12. 치명적인 실패 4부. 플래시 전쟁 13. 로봇 대 로봇 14. 보이지 않는 전쟁 15. “악마를 소환하다” 4부. 자율무기 금지 투쟁 16. 시험 중인 로봇 17. 무감각한 살인자 18. 불장난 6부. 아마겟돈 피하기: 정책이라는 무기 19. 켄타우로스 전투원 20. 교황과 석궁 21. 자율무기는 불가피한가? 결론: 정해진 운명 같은 건 없다, 우리가 만들어 갈 뿐 주석 감사의 글 약어