​"알파고가 스카이넷 되는 거 아냐?" 저도 무서워서 알아봤습니다

"알파고가 스카이넷 되는 거 아냐?" 저도 무서워서 알아봤습니다

인류 대표 '돌 코너'를 찾아낸 알파고넷의 다음 계획은 불을 보듯 뻔했다. 사태가 그리 좋지 않게 흘러간다고 느낀 사람들은 앞다투어 저항군에 가입해 무기를 들었지만, 축축한 불안감은 쉽게 가시지 않았다. 라이플을 쥔 그들의 눈빛은 궁지에 몰린 양의 그것과 같았다. 몇몇 이들은 다른 길을 선택했다. AI 포비아에 휩싸인 일부 사람들은 전쟁이 시작되기도 전에 알파고넷에 투항했다. 그들은 AI 군단의 배터리가 되어 매트릭스 속 두번째 삶을 택했다.
지난 주부터 이어진 이세돌 九단과 알파고의 대국이 세계적으로 화제를 모으고 있습니다. 이 九단이 4국을 따내며 인간의 잠재력을 보여줬지만, 그와 별개로 예상을 넘어서는 알파고의 발전 속도에 전세계는 경악했지요. 터미네이터, 매트릭스같은 영화를 인상깊게 본, 저같은 사람들이라면 기계로 뒤덮인 디스토피아를 한 번 쯤 상상해보았을지도 모릅니다. 지금 잘 다니고 있는 직장 빼앗아가진 않을지, 무슨 오류라도 나서 메이드 로봇이 부침개 튀기다 말고 내 목을 조르지는 않을지, 거 참... 싸워서 내가 이길 자신도 없는데 말이죠.
그래서 알아봤습니다. 진짜 인공지능이란 게 전부 나쁜 놈들만 있는지, 하라는 계산은 안 하고 사람 뒤통수 때릴 궁리만 하는 녀석인지 조사해봤어요. 지금까지 출시된 작품들에서 인상 깊은 인공지능 캐릭터 위주로 체크했습니다. 
직장 동료 혹은 비서로, 아니면 친구로!

부관
등장하는 게임 - 스타크래프트
특징
ㄴ '인간의 명령에 복종해야 한다'는 로봇 제 2원칙에 충실하다.
ㄴ 게이머와 홀아비 레이너에 대한 배려심(?)이 넘치는 여성형 디자인 채용.
ㄴ 커맨드센터가 터져나가도 절대 흥분하지 않는 강철같은 멘탈.
ㄴ 그런데 자세히 보면 외모가 웬만한 게임 최종보스와 비교해도 밀리지 않는다.

테란 유저들의 영원한 동반자, '부관'은 우리가 알고 있는 이상적인 인공지능 그 자체입니다. 방대한 데이터를 기반으로 레이너 특공대의 앞길을 제시하고, 그외 함선에 필요한 것이 무엇인지 꼼꼼하게 체크해 적당히 달달한 목소리로 보고합니다. 장독 구멍 메꾸는 두꺼비, 알아서 뒷바라지 다 하는 우렁각시 그 이상의 존재란 말이죠.
일단 '여성'형 디자인을 하고는 했으나, 심히 최종보스같은 디자인 탓에 솔직히 오래 마주하고 싶지는 않습니다. 가만히 얼굴을 들여다보고 있으면 '이 녀석이 언젠가 인류에게 반기를 들지 않을까'하는 생각도 들어요.
물론 지금까지 부관이 해왔던 일들을 보면 그럴 가능성은 희박합니다. 디스토피아 인공지능 캐릭터에서 볼 수 있는 '분노, 혹은 '잔혹함' 등은 부관에게서 찾아볼 수 없거든요. 생긴 것만 이럴 뿐이에요. 그 목적은 어디까지나 인간보다 나은 계산, 그리고 정보 제공에 있죠. 외모로 판단하면 안 됩니다.
'알파고'가 지향해야 할 완성형이 바로 이 녀석이 아닐까요. 자신이 보유한 지식을 총동원하여 인간이 더 나은 선택을 할 수 있도록 돕는 AI. 이는 알파고 개발팀인 구글 딥마인드의 비전과도 일치합니다.

견
등장하는 게임 - 하프라이프2
특징
ㄴ 착하고 순수하며 헌신적이다. 호위는 기본, 기능성도 뛰어나다.
ㄴ 사람 말은 잘 알아듣는데 자신의 의사 전달은 서툴다.
ㄴ 그것은 개라고 하기엔 너무 컸다. 엄청나게 크고, 조잡했다. 그야말로 철퇴였다.
밸브가 제작한 명작 FPS '하프라이프2'의 마스코트, '견'도 빼놓을 수 없습니다. 처음엔 실제 개와 비슷한 크기였지만 수많은 기능이 더해지면서 지금의 몸집에 이르게 되었는데요. 단순히 몸집만 키운 것이 아닌, 위기에 빠진 고든 프리맨과 알릭스를 구출하는 등 호위견으로써 탁월한 성능을 지녔습니다. 
'하프라이프2'에서 견의 활약은 굳이 찾아보지 않아도 바로 눈에 띕니다. 고든이 미간을 있는 대로 찡그려가며 간신히 잡는 스트라이더를 눈 깜짝할 사이 고철로 만드는 것을 보면 '왜 진작 안 도와주고!'라는 생각이 절로 들지요. 무너지는 장벽을 몸으로 떠받치고, 통신 환경이 열악한 장소에서 안테나가 되어주고, 득달같이 달려와 적군을 이승에서 지워버리는 등 활용도 면에선 의심의 여지가 없습니다.
주인의 안전을 최우선으로 하고 간간히 애교까지 부리는 모습에서는, 인간과 AI를 넘어선 유대관계까지 느껴지는데요. 인간의 친구로서 가장 이상적인 형태가 아닐까 싶지만, 어디에나 그림자는 있는 법. 오직 주인의 명령만 따른다는 점은 상당한 위험을 내포합니다. 군용으로 사용될 경우 위력적인 살상병기가 될 수도 있죠. 노벨이 발명한 '다이너마이트'와 비슷하게.
다만, 복잡한 의사소통이 불가능한데다 계산을 통해 결과를 추론하는 딱히 없었던 만큼, 부관만큼 광범위하게 활용될 가능성은 적어 보입니다. 현재 인류가 AI에 기대하는 모습과는 다소 차이가 있지만, 뭐 어때요. 뼈다귀 잘 물어오고 싸움도 잘하는 호위견이면 충분히 매력적이지 않나요?

클랩트랩
등장하는 게임 - 보더랜드 시리즈
특징
ㄴ 외모와는 다르게 가장 수준 높은(?) AI.
ㄴ 입담과 몸개그를 전담하며, 보더랜드 특유의 꽁트 분위기를 만드는 데 일조한다.
ㄴ 약간의 개조를 거치면 의외로 절륜한 화력을 보여준다.
ㄴ 너무 떠들어서 그냥 쏴 버리고 싶을 때가 있다.

게임에서 볼 수 있는 가장 개성있는 캐릭터 중 하나입니다. '클랩트랩'은 제정신인 인간이 드문 보더랜드 세계에서도 단연 돋보이는 캐릭터으로, 그가 쏟아내는 각종 드립들을 듣고 있으면 심심할 틈이 없습니다.
이 드립이 정말 쉴 틈이 없이 쏟아지고, 시종일관 플레이어를 무시하는 태도로 일관하기에 사람에 따라서는 다소 불쾌하게 느껴질 수 있습니다. 실제로 이런 AI가 개발된다면 저는 이걸 재능 낭비라고 생각할지도 몰라요. 더 무서운 건 이녀석이 양산형이란 사실이에요. 모든 클랩트랩이 똑같은 성격인데다 광범위하게 활용되는 세상이라면, 그야말로 디스토피아 아니겠어요?
깨방정이 일상인데다 저 잘난 맛으로 사는 녀석이지만, 이녀석, 의외로 가장 고도화된 AI를 장착하고 있습니다. 빈틈없는 계산과 인간 못지 않은 창의력을 구현하는 것이 현재 AI 개발의 목표인데, 클랩트랩은 이것을 넘어 '완벽한 자아'를 보유하고 있습니다. 외형은 그냥 깡통이지만 다양한 동작을 통해 자신의 감정을 숨기지 않고 표현하죠. 겉모습만 기계일 뿐, 우리 주변에서 흔히 볼 수 있는 외향적인 인물과 크게 차이나지 않습니다.
데이터와 계산을 토대로 한 지능적 서포터 역할을 기대하기 어려운 것, 무엇보다 인간의 통제를 따르지 않는다는 점이 단점입니다만, 이것은 클랩트랩의 '완벽한 자아'가 개발되기 전에 먼저 해결될 문제입니다. 만약 실제로 클랩트랩과 같은 AI가 개발된다면, 그리고 인간의 완벽한 통제가 뒷받침된다면 어떤 예시보다도 완성형에 가까울 것이라 생각합니다.
나오면 인류는 끝장! 절대 보고 싶지 않은 녀석들

레드 퀸
등장하는 게임 - 바이오하자드 시리즈
특징
ㄴ 똑똑한 어린이가 도덕관념 없으면 얼마나 무서운지 보여주는 사례.
ㄴ 자기가 악당임을 온몸으로 표시하는 비주얼.
ㄴ HAL 9000에게 딸이 있다면 이런 모습이 아닐까.

영화 레지던트 이블에 처음 등장한 후, 그 강렬한 존재감으로 원작 '바이오하자드'까지 출연하게 된 AI입니다. 엄브렐라 사의 보안 프로그램 레드 퀸은, 영화 '큐브'에서나 볼 수 있었던 레이저 트랩을 아주 악질적으로 활용해 깊은 인상을 남겼습니다. 한 마디로 사람 죽이는 데 어떠한 망설임도 없는 녀석이죠.
영화에서 보여준 모습만 놓고 보면 악당급 AI의 원조격이라고 할 수 있는 'HAL9000'의 딸이 아닐까 싶을 정도로 닮았습니다. 자신에게 입력된 명령대로 행동하는 것을 1원칙으로 하며, 임무를 수행하는 데 있어 어떠한 윤리 의식도 갖고 있지 않지요. 인간 수준의 자아까지 개발되진 않은 것으로 보이나, 후반부 들어서는 자아 없이는 불가능한 '판단'과 '협상까지 구사할 정도로 성장합니다. 붉은 색 기반의 디자인으로 사람에게 왠지모를 불안감까지 준다는 것까지 HAL 9000과 아주 똑 닮았죠.
상식을 훌쩍 넘어서는 인공지능의 발전 속도는 알파고를 통해 전세계의 인류가 확인했습니다. 당초 목적이 우리의 생활을 더 윤택하게 만드는 것, 보다 나은 삶을 목표로 하는 인류의 목적 아래 개발 중이기에 이를 제한하는 것은 '떡수'에 가깝죠. 컴퓨터가 개발될수록 일자리가 줄어드니 무리해서 개발하지 말자는 논리와 비슷합니다.
따라서 인류에게 남은 최대 숙제는 AI의 '인간적인' 활용 방법을 찾는 겁니다. 뭐, '엄브렐라'란 기업 자체가 만악의 근원이기에 레드 퀸 같은 AI가 개발될 수 있었겠지만... 개발진의 윤리 의식에 따라 인류가 정말 두려워할만 한 녀석이 나올 수도 있다는 사실은 잊지 말아야 합니다. ​

쇼단
등장하는 게임 - 시스템쇼크 시리즈
특징
ㄴ 사실상 이번에 소개하는 인공지능 중 최강의 악질.
ㄴ 인공지능을 만들고 나서 사후 관리도 신경써야 한다는 것을 보여주는 사례.
ㄴ AI의 어두운 미래를 극단적으로 보여주는 청사진.

자, 인류는 마침내 완벽한 AI를 만드는 데 성공했습니다. 똑똑하고 사람 말 잘 들으니 이보다 좋을 수 없어요. '쇼단'은 평범한 인공지능이었습니다. 도덕성이 배제되기 전까지는 말이죠.
FPS 역사상 최고의 명작 중 하나로 꼽히는 '시스템쇼크'에 등장하는 쇼단은 당초 우주 정거장 과학자들의 업무를 돕는 인공지능으로 설계되었습니다. 우주 정거장을 자신의 손아귀에 넣으려는 에드워드 디에고가 마수를 뻗기 전까지는 말이죠. 그는 전문 해커인 플레이어에게 사주를 하고, 이를 받아들인 주인공이 쇼단의 '도덕성'과 '윤리'를 담당하는 파츠를 제거하면서 그야말로 지옥문이 열리고 말았습니다.
쇼단은 수단과 방법을 가리지 않고 과학자들을 살해하기 시작했고, 사태가 잘못 돌아간다는 걸 깨달은 주인공은 자신의 능력을 120% 활용해 결국 쇼단을 시타델 시스템에서 삭제하는 데 성공합니다. 하지만, 그것이 쇼단의 죽음을 의미한 것은 아니었어요. 쇼단의 정보가 담겨진 포드는 12광년 밖 타우 세티에서 수거되어 부활하고 말았죠. 결국 2편의 주인공에게 또 한번 제압당하면서 다음을 기약하게 되었습니다만, 쇼단이 보여준 공포와 광기는 게이머에게 강렬한 인상을 심어주었습니다.
쇼단은 HAL 9000이나 레드 퀸과는 다른 사례이면서, 동시에 인류에게 중요한 메세지를 던져주는 AI입니다. 레드 퀸은 처음부터 별다른 윤리 개념이 없었고, HAL 9000은 모순된 두 가지 임무가 충돌한 끝에 스스로 극단적인 결론을 내렸습니다. 애당초 도덕 개념이란 게 부족했단 말이죠. 쇼단은 당초 윤리 코드가 입력되어 있었습니다만, 이를 인간이 의도적으로 제거함으로서 탄생한 재앙이에요. 즉, 완벽한 AI라도 사후관리가 안 되면 무서운 일이 벌어질수도 있다는 의미입니다.
또한, 쇼단에겐 '자아'가 있었습니다. 자신을 여신이라 칭하고, 초월적인 존재로 인식하는 것 자체가 자아 없이는 불가능합니다. 자신을 알고 인간을 아는 인류 최대의 적. '이것만큼은 안 나왔으면 좋겠다'는 것을 기준으로 한다면 저는 쇼단을 첫 번째로 꼽겠습니다.​

글라도스 & 휘틀리
등장하는 게임 - 포탈2
특징
ㄴ 최악의 AI. 그리고 이를 통제하기 위해 개발된 또다른 AI.
ㄴ 앞서 언급한 AI의 딜레마 해결을 위한 밸브의 답안.
ㄴ 하지만 이것도 그리 밝은 결과는...

알파고를 만든 '딥마인드'는 구글과 계약을 맺으면서 "윤리적인 부분에 있어 자신들을 제어해주는 것"을 조건으로 걸었습니다. 제 3자의 입장에서 통제할 수 있도록 한거죠. 개발진도 AI의 잠재적 위험성을 충분히 인식하고 있다는 증거입니다.
자, 윤리와 도덕성을 탑재한 개발 가이드라인이 완성되었다고 해 보죠. 가능성이 아예 없는 것은 아니나, '레드퀸'같은 AI가 탄생할 가능성은 높지 않을 겁니다. 하지만 완성된 AI가 나중에 '쇼단'으로 변할 가능성까지 사라진 것은 아닙니다. 개발자의 변심, 혹은 어두운 야욕에 뒤덮인 제 3자가 나타날수도 있으니까요.
'애퍼처 사이언스'는 이러한 딜레마를 해결하고자 새로운 아이디어를 짜냈습니다. AI의 성격을 구성하는 코어들을 별개의 AI로 쪼개놓은거죠.
애퍼처 사이언스의 과학자들은 기업의 미래를 이끌어갈 차세대 인공지능인 '글라도스'를 개발합니다. 라이벌 기업 '블랙 메사'를 추월하겠다는 의지와 함께 가동 버튼을 누르는 순간, 믿을 수 없는 상황이 발생하는데요. 이유는 알 수 없지만, 글라도스가 '애퍼처 사이언스의 모든 과학자 제거'를 1차 목표로 지정한겁니다!
예상치 못한 글라도스의 폭주에 당황한 과학자들은 머리를 맞대고 사후관리(?) 아이디어를 모집합니다. 결국 다양한 인공지능 코어를 글라도스에 이식, 자제력을 심어주는 데 성공합니다. 뭐 뒷이야기가 더 있습니다만, 그건 여기서 말하면 안 되니까...
휘틀리의 경우, 탄생 배경 자체가 스포일러가 되어버리기에 함부로 언급하기 참 어렵습니다. 자의든 타의든 글라도스를 알아가는 데 꼭 필요한 녀석이라는 것만 알려드릴게요. 글라도스와는 다르게 굉장히 인간적인 AI로, 성격만 보면 위에서 언급한 클랩트랩과 유사합니다.
주목할 부분은 인공지능의 단점을 제어하기 위해 작은 단위의 인공지능을 탑재한다는 개념입니다. 인격 코어라는 개념은, 현재 우리가 생각하는 불완전한 AI에 대한 밸브 나름의 타개법이라고 볼 수도 있는데요. 물론, 그 결과가 그리 좋게 끝나지는 않았습니다만, 꽤나 참신한 이야기인 것은 사실입니다