킬러로봇 '알투뮤(ARTUMU)' AI가 처음으로 미군 항공기를 조종하다

 

미 공군의 한 실험은 미군은 '킬러 로봇'을 설계하고 시험하는 방향으로 빠르게 나아가고 있다는 우려를 불러일으켰습니다. '모의 미사일 타격 시 정찰 임무'라고 밝힌 것의 일환으로 항공기의 레이더와 센서를 자율적으로 제어할 수 있는 AI가 U-2 정찰기에 탑승했기 때문입니다.

 

인간 조종사가 U-2를 비행하는 동안 공군이 '알투뮤-ARTUMU'라고 이름을 붙인 AI는 레이더와 다른 센서들을 어떻게 사용하는지에 대한 최종 권한을 가지고 있다고 해서 "조종사 Overide(권한)가 없는 상황에서 '알투뮤 ARTUMU'는 미사일 사냥과 자기 보호에 레이더를 투입할 것을 요청했습니다."

 

알투뮤(ARTUMU)가 미공 항공기에서 지휘를 맡았다는 사실은, 솔직히 공격적이고 무섭기도 합니다. 

 

체스와 같은 게임에 사용되는 '뮤제로' AI 변형인 알투뮤는 공군기지에 모의 미사일 공격 시 레이더를 최종 통제했으며, 언제 미사일 사냥에 주력해야 할지, 언제 자기 보호에 주력해야 할지 알아서 결정했습니다. 그것은 즉, 인간 조종사가 어디로 비행해야 하는지 그런 권한 밖의 결정까지 스스로 판단하는 것이었죠.

 

 

 

 

'알투뮤'는 런던에 본사를 둔 딥마인드-Deepmind 가 만든 '뮤제로-MuZero' 라는 알고리즘을 사용하여 만들어졌습니다. 뮤제로(MuZero)는 규칙을 미리 알지 못한 채, 1인용, 2인용 게임을 스스로 학습하기 위해 고안되었죠. 딥마인드는 뮤제로가 초인적인 수준에서 많으 다른 종류의 아타리 컴퓨터 게임뿐만 아니라, 체스, 바둑, 일본 전략 게임인 쇼기를 자체 학습하여 배울 수 있다는 것을 보여주었습니다.

 

이 경우 공군은 뮤제로를 데려와 U-2 레이더 운용에 수반되는 게임을 하도록 훈련했는데, U-2 자체가 시뮬레이션으로 격추될 경우 적 목표물을 찾아내 점수를 매기고 손실액을 차감했습니다. 과거에 딥마인드는 공격적은 군사 응용 프로그램에는 효과가 없을 것이라고 말했고, 딥마인드의 공동 창업자와 최고경영자도 그 부분에 대해서는 언급을 하지 않았습니다. 딥마인드는 기업으로서 치명적인 자율 무기 개발에 반대하는 서약을 체결하는 수많은 기업 중의 하나이며, 그리고 로봇공학 연구자들은 그러한 자율 무기에 대한 유엔의 금지를 요구하기도 하였습니다. 

 

 

 

 

그러나 인공지능이 유용함을 입증하기 위해서 'AI'는 복잡한 상황에 압도될 가능성에 대해 조종사들을 돕는 것으로 보이기도 했습니다. 이 기술은 일부 시스템을 지원하거나 인수될 가능성도 보이는 시점에서 미공군은 조종사들이 임무 중 가장 시급한 문제에 집중하도록 하는 것만으로 전투에서 우위를 점할 수 있다고 알고 있습니다.

 

 

딥마인드 '뮤제로'(MuZero) 스스로 학습하는 인공지능의 등장