주메뉴바로가기.. 본문바로가기

세계 과학자들 KAIST에 “AI 킬러로봇 개발 중단하라” 해프닝

카카오스토리 네이버밴드 구글플러스

2018년 04월 05일 18:22 프린트하기

KAIST 전경. - KAIST 제공
KAIST 전경. - KAIST 제공

해외 과학자 50여 명이 4일(현지 시간) KAIST에 “인공지능(AI)을 접목한 ‘킬러로봇’ 개발을 중단하라”며 ‘연구 협력 보이콧’을 선언했다. 
 

KAIST가 올해 2월 국내 IT솔루션기업 한화시스템과 공동 개소한 국방인공지능(AI)융합연구센터가 공격용 대량 살상 무기를 개발하기 위한 게 아니냐는 의혹을 제기한 것이다. 이들은 KAIST와의 공동연구 등 협력을 일체 중단하겠다는 입장을 밝혔다.
 
4일 과학저널 ‘사이언스’ 등에 따르면 AI 전문가 토비 월쉬 뉴사우스웨일스대 교수(호주 과학한림원 펠로우·54)는 이날 이런 내용이 담긴 세계 29개국 출신 과학자 57명의 공동성명서를 발표했다. 월쉬 교수는 2015년부터 국제적으로 AI 킬러로봇 개발을 반대하는 운동을 활발히 벌여온 것으로 알려졌다.

 

이번 공동 성명에는 AI 딥러닝(심층기계학습) 분야를 개척한 영국 출신의 컴퓨터공학자 제프리 힌튼 구글 연구원(캐나다 토론토대 교수·71)와 지난해 9월 삼성전자와 함께 몬트리올대에 삼성의 AI 공동 연구 거점인 ‘AI 랩’을 개소한 요슈아 벤지오 캐나다 몬트리올학습알고리즘연구소장(몬트리올대 교수·54) 등 세계적인 AI 연구자들도 참여했다. 세계 과학자들이 국내 연구기관을 상대로 공동성명을 내는 일은 매우 이례적이다.

 

4일(현지 시간) 토비 월쉬 호주 뉴사우스웨일스대 교수 등 세계 29개국 과학자 57명의 공동성명 원문.
4일(현지 시간) 토비 월쉬 호주 뉴사우스웨일스대 교수 등 세계 29개국 과학자 57명의 공동성명 원문.

KAIST 융합연구센터는 출범 당시 △AI 기반 지휘결정 지원 시스템 △무인잠수정 항법 알고리즘 △지능형 항공기 훈련 시스템 △지능형 물체 추적 및 인식 기술 등 4가지 기술을 집중적으로 연구개발 하겠다는 계획을 세운 바 있다. KAIST는 무기체계가 아닌 전략지원체계(비무기체계)를 개발하기 위한 것이라는 입장이다. 
 

하지만 과학자들은 성명서에서 KAIST가 이런 기술을 바탕으로 공격용 무인기(드론)와 잠수함, 미사일, 전쟁용 로봇 등을 개발할 우려가 있다고 지적했다. 이번 공동성명을 주도한 월쉬 교수는 “KAIST 같은 우수한 연구 기관이 무기 개발 경쟁을 부추기는 것은 매우 유감스럽다. 우리는 KAIST 총장이 AI 무기를 개발하지 않겠다고 약속하길 공개적으로 요구한다”고 밝혔다.
 

이에 대해 신성철 KAIST 총장은 이날 저녁 57명 전원에게 이를 반박하는 서신을 보냈다. 신 총장은 서신에서 “KAIST는 한국을 대표하는 연구 및 교육 기관으로, 인공지능을 포함한 모든 기술의 적용에 대한 윤리적 우려에 대해 충분히 인지하고 있고 이를 매우 중요하게 생각하고 있다”며 “국방AI융합연구센터는 대량살상무기 등 인간의 통제력을 벗어난 자율 무기를 포함해 인간 존엄성에 위협이 되는 연구는 절대 하지 않을 것”이라고 말했다.

 

이 같은 해명 이후 일부 연구자들이 오해가 해소됐다는 답장을 보내왔다. 월쉬 교수는 사이언스와의 인터뷰에서 “KAIST가 공개적으로 ‘인간의 통제력’을 언급했다는 점에서는 고무적”이라고 밝히기도 했다. 하지만 공동성명을 철회하겠다는 언급은 없었다. 김정호 KAIST 국방AI융합연구센터장(전기 및 전자공학부 교수)은 “앞으로도 윤리적인 측면을 고려해 공동성명에 참여한 연구자들과의 약속을 지킬 것”이라고 말했다.
 

방위 산업까지 AI가 접목되면서 인간의 안전을 위협하는 AI에 대한 우려도 커지고 있다. 미국 국방연구소(ARL)는 최근 인공지능을 접목해 사람과 지능형 로봇이 협업할 수 있는 군사체계를 개발하고 있다. 중국인민해방군 역시 민간과의 협력을 바탕으로 AI 기반 국방 강화 프로젝트에 대한 투자를 늘리고 있다. 월쉬 교수 등 과학자들은 관련 연구 계획이 발표될 때마다 이를 반대하는 공동 성명을 발표한 바 있다.

 

같은 날 미국에서는 구글 직원 3100여 명이 순다르 피차이 최고경영자(CEO)에게 미 국방부의 군사용 AI 연구에 구글이 참여하는 것을 반대하는 공동성명이 담긴 서한을 보냈다. 미 국방부는 해당 연구를 통해  AI로 이미지 인식 기술을 향상시켜 무인 항공기의 타격률을 높이는 기술을 개발 중이다.

카카오스토리 네이버밴드 구글플러스

2018년 04월 05일 18:22 프린트하기

 

혼자보기 아까운 기사
친구들에게 공유해 보세요

네이버밴드 구글플러스

이 기사가 괜찮으셨나요? 메일로 더 많은 기사를 받아보세요!

17 + 4 = 새로고침
###
과학기술과 관련된 분야에서 소개할 만한 재미있는 이야기, 고발 소재 등이 있으면 주저하지 마시고, 알려주세요. 제보하기

관련 태그뉴스