메뉴바로가기본문바로가기

동아사이언스

AI, 환희로 찌푸린 얼굴 보고 “화났군요”

통합검색

AI, 환희로 찌푸린 얼굴 보고 “화났군요”

2020.02.24 08:57
사용자들이 AI 얼굴인식 기술을 살펴보고 있다. 위키미디어 제공.
사용자들이 AI 얼굴인식 기술을 살펴보고 있다. 위키미디어 제공.

미국의 아마존은 최근 사람의 표정만 보고도 감정을 읽는 얼굴인식 인공지능(AI) ‘레코그니션’을 개발했다. 다양한 연령의 남녀 얼굴 이미지를 담은 사진 수 십 억장을 학습시켜 얼굴 표정만 봐도 어떤 감정인지 파악한다. 미국 일부 지역 경찰은 범인 심문을 위해 레코그니션을 시범적으로 도입하고 있다. 한편에선 테크기업들과 자동차 회사들은 완벽한 자율주행차량을 개발하기 위해 AI 기술을 속속 도입하고 있다. 네이버를 비롯한 구글, 페이스북 등 기업들은 AI를 이용한 가짜뉴스 판별 기술 개발에 앞다퉈 나서고 있다.

 

하지만 AI가 가져올 변화와 혁신에 대한 뜨거운 관심과 지지에도 불구하고 최근 과학계에선 AI 만능론에 대한 경고가 잇따라 제기되고 있다. 과학자들은 지금이야말로 AI의 한계를 명확히 해야한다고 입을 모은다. 이달 13일부터 16일까지(현지시각) 미국 시애틀에서 열린 세계 최대 과학행사인 미국과학진흥협회(AAAS) 연례회의에 참석한 과학자들은 여러 연구를 통해 AI의 한계를 직시하고 영향력 확대를 진지하게 재고해야 한다는 의견을 내놨다. 

 

알레익스 마르테니스(Aleix Martinez) 오하이오주립대 교수는 아마존이 내놓은 얼굴인식 및 감정인식 기술이 완벽하지 못하다는 과학적 근거를 제시했다. 그는 “얼굴인식을 통해 감정을 파악하는 기술은 인간이 행복할 때는 웃고 화가 날 때면 얼굴을 찌푸린다는 단순한 가설에 기대고 있다”며 “현재로서는 기술이 사람의 복잡한 내면의 감정을 인식할 방법은 없다"고 말했다. 감정은 자세나 상황, 신체 움직임, 부끄러움이나 흥분할 때 나오는 호르몬 반응 등 다양한 요소들이 작용한 결과로 나타나는데 얼굴인식만으로 파악하는데 한계가 있다는 지적이다. 

 

마르티네스 교수는 그 근거로 최근 수행한 연구를 소개했다. 실험에 참여한 사람들은 입을 크게 벌리고 눈을 감은 채로 얼굴이 붉은 한 남자의 사진을 보여주자 대부분 매우 화가 난 것 같다고 인식했다. 하지만 사진 속 사람이 축구선수라는 사실을 알게 되자 골 세레모니로 흥분한 얼굴 표정이라고 생각을 바꿨다.

 

마르티네스 교수는 얼굴인식AI를 통한 감정 추론은 심각한 결과를 초래할 수 있다고 경고했다. 얼굴인식 AI 기술은 분명히 한계가 있고 범죄자 인식, 재판, 채용에서 너무 의존해서는 안된다는 주장이다. 대부분의 AI가 미국이나 유럽의 백인 중심으로 데이터를 학습한 점도 유색 인종 차별로 이어질 수 있다는 경고도 했다.  

 

리사 펠트만 바렛(Lisa Feldman Barrett) 미국 노스이스턴대 교수도 사람이 화가 났을 때 단지 30%만이 얼굴을 찌푸린다는 연구결과를 소개하면서 얼굴인식 기술이 한계가 있다는 주장을 내놨다. 그는 “집중할 때나 나쁜 농담을 할 때, 소화가 안될 때 등 사람이 얼굴을 찌푸리는 이유는 충분히 많다”며 “얼굴인식 AI 시스템이 여러 분야에서 사용되는 상황을 진지하게 재고해야 한다고 생각한다”고 말했다. 

 

최근 AI 기술이 도입되는 자율주행차량의 한계에 대한 지적도 나왔다. 돈 송(Dawn Song) 미국 버클리 캘리포니아대 교수는 ‘신뢰와 안전을 위한 AI 디자인’ 세션에서 “도로를 달리는 자율주행차가 마주하는 ‘정지’ 신호는 차를 멈추라는 신호이기도 하지만 청소차가 임시로 세워놓은 표지판으로 인식될 수도 있다”며 “AI 자율주행차는 이를 정확히 구분하기 어렵다”고 말했다. 만에 하나 악의를 가진 사람이 공식 도로 표지판과 유사한 이미지를 만들어 도로 곳곳에 세워둔다면 AI 자율주행차는 도로에서 심각한 문제들을 야기할 수 있다는 것이다. 


가짜뉴스를 판별하는 AI 시스템의 한계도 거론됐다. AI 만능론이 꽃피면서 해외는 물론 국내에서는 가짜뉴스를 판별하는 AI 개발이 조심스럽게 시도되고 있다.  엠마 스피로(Emma Spiro) 워싱턴대 사회학과 교수는 2013년 발생한 보스턴 마라톤 테러 사건 당시 11세 여자 어린이가 숨졌다는 가짜뉴스가 유포된 사례를 소개했다. 당시 뉴스는 어떤 의도가 있는 허위정보는 아니고 단순히 잘못된 정보가 확산된 것으로 판명됐다. 스피로 교수는 “사람들은 지금도 잘못된 정보와 의도가 들어간 허위정보을 제대로 구분하지 못한다"며 “현재 AI는 미스인포메이션(단순한 어보오류)는 물론이고 디스인포메이션(고의로 유포한 허위정보)를 사실상 구분하지 못한다"고 말했다. 

 

이 기사가 괜찮으셨나요? 메일로 더 많은 기사를 받아보세요!

댓글 0

8 + 5 = 새로고침
###
    * 21대 국회의원 선거운동 기간에는 실명확인 과정을 거쳐야 댓글을 게시하실수 있습니다..
    * 실명 확인 및 실명 등록 서비스는 선거운동기간 (2020. 4. 2 ~ 2020. 4. 14) 동안에만 제공됩니다.
    과학기술과 관련된 분야에서 소개할 만한 재미있는 이야기, 고발 소재 등이 있으면 주저하지 마시고, 알려주세요. 제보하기

    관련 태그 뉴스