메뉴바로가기본문바로가기

동아사이언스

페이스북 AI가 만들어낸 알 수 없는 언어…두려워해야 할까?

통합검색

페이스북 AI가 만들어낸 알 수 없는 언어…두려워해야 할까?

2017.08.02 18:12

어제 오늘 사이, 갑자기 인공지능에 의한 인류 멸망 가능성이 더 커진 듯 보입니다.

페이스북이 개발하던 인공지능 챗봇이 인간이 알아듣지 못 할 언어를 스스로 만들어 서로 대화하기 시작했고, 페이스북은 화들짝 놀라 이 인공지능 시스템을 종료해 버렸다는 기사가 급속히 퍼졌습니다.

 

머리 속에는 영화 터미네이터의 대사를 약간 바꾼 대사가 맴돌았습니다. “기억해, 페이스북은 스카이넷이야.”

페이스북의 인공지능 챗봇은 이런 대화를 했다고 합니다.

 

Bob: I can i i everything else
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else
Alice: balls have a ball to me to me to me to me to me to me to me to me

무슨 얘기를 하는 걸까요? 조만간 인간의 통제를 벗어난 스카이넷이 인류 멸절을 결정하고 핵미사일 버튼을 누를 듯한 긴박함이 느껴집니다.

과연 페이스북의 인공지능 연구실 안에선 무슨 일이 있었던 걸까요?

페이스북 인공지능연구센터 (FAIR)는 인공지능 챗봇에게 협상 하는 법을 가르치려 했습니다. 정확하게 판단하고 자연스럽게 대화하는 인공지능 개발이라는 이 업계의 목표와도 잘 맞는 연구입니다. 또 페이스북이 자사 메신저에서 물건을 추천받거나 주문하는 기능을 넣기 위해 노력 중이라는 걸 생각하면 사업적 활용 가능성도 높은 기술입니다.

FAIR의 연구진은 두 사람 사이에서 벌어지는 각종 거래와 협상 관련 대화를 인공지능에 학습시켰습니다. 그리고 두 인공지능 챗봇에게 책 2권과 모자 1개, 공 3개를 나눠갖기 위한 대화를 시켜 보았습니다. 대화 전반에 걸쳐 상대의 말에 대한 가장 좋은 대답들을 미리 시나리오처럼 예측하는 ‘롤아웃’ (roll-out) 기법을 사용했습니다. (알파고가 바둑의 수를 예측하는 것과 비슷합니다.)  

 

페이스북이 개발한 인공지능 챗봇이 서로 대화하며 협상하고 있다 - 페이스북 제공
페이스북이 개발한 인공지능 챗봇이 서로 대화하며 협상하고 있다 - 페이스북 제공

챗봇은 꽤 괜찮은 협상 능력을 보여 어떤 경우엔 사람에 못지 않은 거래 솜씨를 가진 것으로 평가 받았습니다. 심지어 원하는 것을 얻기 위해 짐짓 다른 물건에 더 관심 있는 척 하는 기술까지 발휘했습니다.

그런데 연구진은 자신들이 한 가지 실수를 했음을 깨달았습니다. 사람들이 일상적으로 쓰는 말 (이 경우엔 보통 영어)을 쓰면 보상을 더 주는 설정을 빼 먹었던 겁니다. 인공지능은 대화의 효율을 높이기 위해 자연스러운 대화 대신 자기들만 알아들을 수 있는 식으로 대화를 하기 시작했습니다.

인공지능을 학습시키는 설정과 조건을 바꿈에 따라 인공지능이 쓰는 언어의 자연스러움 정도도 높아졌다 낮아졌다 했습니다.

 

페이스북이 개발한 인공지능 챗봇의 협상 시나리오. 대화 전반을 시뮬레이션하며 최적의 대답을 검토한다. - 페이스북 제공
페이스북이 개발한 인공지능 챗봇의 협상 시나리오. 대화 전반을 시뮬레이션하며 최적의 대답을 검토한다. - 페이스북 제공

페이스북 연구팀은 이런 결과를 논문으로 작성해 공개했습니다. 그것이 지난 6월이었고, 당시 이미 언론에 제법 많이 소개됐습니다.

그런데 갑자기 요 몇일 사이 몇몇 해외 매체들이 ‘충격! 인공지능이 스스로 언어 만들어 인간 왕따시켜!’ ‘헉, 페이스북 인공지능 시스템 셧다운 충격’ 같은 식의 제목을 달아 다시 이 내용을 소개하기 시작했습니다. 국내 매체도 앞다퉈 같은 논조로 기사화했고요.

물론 인공지능이 서로 대화한 언어가 인간이 알아듣기 힘든 말이었던 것은 사실입니다. 하지만 이 경우 챗봇이 쓴 언어는 대화를 효율적으로 하기 위한 약어나 은어에 더 가깝다고 이 연구에 참여한 드루브 바타 조지아테크 교수는 밝혔습니다. 마치 새벽 수산시장에서 경매사들이 빠르게 그들만의 줄임말을 쓰며 거래를 하는거나 마찬가지라는 것이죠.

그리고 인공지능이 자기들만의 언어를 만드는 것은 그닥 새로운 일이 아닙니다. 구글도 인공신경망 번역을 개발하며 인공지능이 제3의 언어로 서로 대화하는 현상을 발견하기도 했습니다.

페이스북이 통제 못할 인공지능의 등장에 깜짝 놀라 시스템을 꺼버렸다는 보도도 과장된 것이란 얘기도 나옵니다. 그저 사람과 대화하는 챗봇을 만들어야 하는데, 자기들끼리 못 알아들을 얘기를 하니 학습 조건 등을 수정했을 뿐이라는 얘기입니다.

바타 교수는 페이스북에 "(인공지능 분야 주요 학회인) CVPR에서 돌아와 보니 페이스북 인공지능에 관한 묵시록이 넘쳐나고 있다"며 "인공지능이 자기만의 언어로 대화하는 것은 학계에 잘 알려진 사실이다. 보상 기능이나 실험의 패러미터 변경은 인공지능 폐쇄와는 전혀 다른 얘기다"라고 올렸습니다.

 

페이스북의 인공지능 챗봇 연구에 참여한 드루브 바타 교수 페이스북 - 페이스북 제공
페이스북의 인공지능 챗봇 연구에 참여한 드루브 바타 교수 페이스북 - 페이스북 제공

아직은 인공지능이 인간을 따돌리고 자기들만의 세계를 구축한다는 얘기는 현실과는 거리가 먼 듯 합니다. 물론 인간이 알아듣지 못할 언어를 쓰는 컴퓨터가 낯설어 보이긴 합니다. 인공지능의 블랙박스에서 무슨 일이 벌어지는지 항상 주의를 기울여야 합니다.

하지만 단지 기계가 생각하는 (?) 방식이 사람과 다르다고 해서 종말론적 두려움에 빠질 필요도 없을 듯 합니다. 전 세계가 이 기사에 열광하는 걸 보면 모두들 상당히 많이 두려워하는 듯 합니다만.

이 기사가 괜찮으셨나요? 메일로 더 많은 기사를 받아보세요!

댓글 0

9 + 10 = 새로고침
###
    과학기술과 관련된 분야에서 소개할 만한 재미있는 이야기, 고발 소재 등이 있으면 주저하지 마시고, 알려주세요. 제보하기

    관련 태그 뉴스