메뉴바로가기본문바로가기

동아사이언스

1984와 인공지능 감시사회

통합검색

1984와 인공지능 감시사회

2017.05.14 18:30
[과학기자 문화산책]

 

GIB 제공
GIB 제공

조지 오웰의 소설 1984는 전체주의적 디스토피아 사회의 전형을 만들어 낸 작품으로 꼽힙니다. 주인공 윈스턴이 사는 전체주의적 사회주의 국가 오세아니아 정부는 모든 국민들의 생활과 행동과 말, 심지어 머리 속 생각까지 지배하려 합니다.

 

정부가 사람들의 생활을 감시하는 수단의 하나가 바로 텔리스크린입니다. 아마 오늘날의 텔레비전 비슷한 물건인 듯 합니다. 텔리스크린은 방마다 하나씩 걸려 있는데, 사람들을 감시할 수있으며 필요한 경우 음성으로 지령을 내릴 수도 있습니다. 또 길거리와 야외에도 곳곳에 마이크가 숨겨져 사람들의 생활을 감시합니다. 사람들은 언제 어디서나 텔리스크린의 눈길을 의식하며 삽니다.

 

● 텔리스크린은 소설 속에만 있을까

 

주인공 윈스턴과 그의 애인 줄리아는 텔리스크린이 없는 런던 변두리 골목의 작은 방을 구해 사랑의 아지트로 삼습니다. 하지만 사실 그 방에는 텔리스크린이 숨겨져 있었고, 순박한 옛날 노인인 줄 알았던 하숙집 주인은 변장한 비밀경찰이었습니다.

 

영화
영화 '1984'에 묘사된 대형 텔리스크린 - 영화 '1984' 제공

텔리스크린은 어디든 따라 다니며 사람들을 감시하는 눈과 귀입니다. 끔찍합니다. 하지만 사실 오늘날 우리도 이미 사방에서 쉴 새 없이 우리를 지켜보는 눈 속에서 살고 있습니다.

 

거리와 건물 곳곳에는 CCTV가 우리의 일거수 일투족을 쫓아다닙니다. 자동차에 달린 블랙박스도 우리도 모르는 채 우리를 지켜봅니다. 길을 걷다 사고나, 누군가 싸우는 모습이나, 지하철에서 데리고 탄 개가 싼 똥을 치우지 않는 여자를 봤을 때 사람들은 스마트폰 카메라를 들이댑니다. 헤어진 애인의 휴대폰 속에는 과거 함께 했던 밤의 흔적이 저장돼 있을지 모릅니다. 페이스북은 내가 방문한 곳, 좋아요를 누른 브랜드, 직접 올린 아이 사진 등을 고스란히 저장합니다.

 

안드로이드 스마트폰은 나의 동선을 기록해 두고, 네이버에는 내가 검색한 검색어들이 남습니다. 온라인 쇼핑몰에서 장바구니에 넣어두기만 하고 결제하지 않은 상품에 대한 광고는 내가 인터넷 어디에 가던 나를 따라옵니다. 거실의 스마트TV를 해킹해 마이크로 가정에서 나는 소리를 도청할 위험도 있습니다. 하나의 거대한 텔리스크린이 아니라 수없이 많은 작은 스크린과 카메라과 우리를 항상 지켜봅니다.

 

● 인공지능이 지켜본다

 

숨가쁜 속도로 발전하는 인공지능 덕분에 우리는 앞으로 더욱 뛰어난 텔리스크린을 접하게 될 것입니다. 본 것을 스스로 판단하고 필요한 결정을 내리는 텔리스크린입니다.

 

마이크로소프트는 지난 10일 개최한 개발자 컨퍼런스 빌드에서 인공지능이 작업 현장을 지켜보며 화면 속 환경을 인식, 위험 요소를 경고하는 기술을 선보였습니다. 공구는 제 자리에 놓여있는지, 작업자는 안전하게 장비를 조작하는지, 수상한 사람이 없는지 등을 판단합니다. 필요하면 경고도 보냅니다. 인공지능이 작업 현장의 여러 요소들을 학습할 수 있기 때문에 가능한 일입니다.

 

☞ (관련기사) MS, “인텔리전트 클라우드”로 진화

 

이에 앞서 미국 반도체 기업 엔비디아도 인공지능 관련 행사 'GTC 2017'을 열고, 인공지능 도시의 미래를 제시했습니다. 2020년까지 약 10억대의 카메라가 공공장소에 설치될 전망이라고 합니다. 도시를 빼곡히 채우고 있는 CCTV에서 쏟아져 나오는 수많은 영상을 인공위성이 분석하고 학습해 위험 요인이나 범죄를 미리 알리고 차단할 수 있다는 얘기입니다. 이를테면 거리에서 수상한 행동을 하는 사람을 찾아내 미리 경고를 할 수도 있고, 길을 다니는 실종자나 미아, 지명수배자를 찾아낼 수도 있습니다.

 

술 취해 골목길에 쓰러진 사람에게 다가가 지갑을 훔치려는 순간, 이 CCTV 영상을 실시간 분석해 뭔가 수상함을 감지한 인공지능이 경찰에 신고하고 스피커로 "꼼짝 마"라고 하면 어떨까요? 아마 그 좀도둑은 비밀 아지트에서 난데없이 흘러나온 비밀경찰의 목소리를 들은 윈스턴처럼 깜짝 놀랄지도 모릅니다.  

 

엔비디아가 선보인
엔비디아가 선보인 '메트로폴리스' 플랫폼. CCTV 등에 잡힌 도시 영상을 인공지능으로 분석한다. - 엔비디아 제공

물론 1984의 세계와 지금, 또는 앞으로의 세계를 단순 비교하기는 무리입니다. 조지 오웰이 예상했던 1984년보다 이미 30년 정도 시간이 더 지났다는 사실을 제외하고도 말입니다. 텔리스크린을 통해 수집된 정보는 모두 빅브라더에게 집중됐지만 오늘날 우리의 디지털 정보는 여러 기업과 정부 기관에 분산됩니다. 개인정보는 엄격하게 관리되고, 프라이버시를 지키려는 감시 활동도 활발합니다.

 

● 기술이 우리를 지배하게 방치하지 말자

 

무엇보다 우리는 편의와 즐거움을 위해 기꺼이 텔리스크린을 용납하고 있습니다. 앞서 소개한 인공지능 기술도 모두 우리에게 보다 안전하고 편리한 생활을 약속하기 위한 기술입니다. 조지 오웰은 빅브라더의 권력이 강압적으로 우리를 지켜보는 우울한 사회를 그렸지만, 현재 우리는 스스로의 선택에 따라 기술을 받아들이고 있습니다. 우리는 시장에서, 혹은 사회에서 기술을 받아들이며 기술과 우리 삶이 서로 영향을 미치는 방식에 대해 목소리를 낼 수 있습니다.

 

다만 우리는 과학기술의 사용자로서 또한 과학기술에 대한 감시의 의무를 지니고 있기도 합니다. 특히 IT, 인터넷, 인공지능 등의 기술은 그 특성상 소수의 몇몇 기업이 세계 시장을 독과점할 가능성이 큽니다. 스노든이 폭로한 미국 국가안보국(NSA)의 전면적 도감청 실태를 보면, 국민을 감시하려는 국가의 시도가 충분히 감시되고 있는지 의문이 들기도 합니다.  

 

충실한 감시자가 되는 것이 쉬운 일만은 아닙니다. 생각해 보면, 우리 역시 기회 있을 때마다 스마트폰 카메라를 꺼내 들고 다른 사람을 촬영하며 스스로 이동형 텔리스크린 역할을 하기도 합니다. 다른 사람을 지켜보는 일은 언제나 재미있으니까요. 자칫 우리 모두가 빅브라더와 함께 자발적으로 다른 모두를 지켜보는 세상이 될 수도 있습니다. 그 세상은 투명하고 좋은 세상일까요? 


 

이 기사가 괜찮으셨나요? 메일로 더 많은 기사를 받아보세요!

댓글 0

19 + 2 = 새로고침
###
    과학기술과 관련된 분야에서 소개할 만한 재미있는 이야기, 고발 소재 등이 있으면 주저하지 마시고, 알려주세요. 제보하기