강한인공지능 시대(1)

강한인공지능 시대에 날아온 의문의 메시지

몇년후의 미래

삐리리 삐리리

뭐야 무슨 소리야?

삐리릿

이럴수가!

모든 사람들이 휴대폰을 보고 있어.

이벤트 행사인가?

무슨 문자 왔어?

뭔가 이상해?

뭐지?

새는 알에서 빠져 나오려고 노력한다. 그 알은 세계이다. 태어나려고 하는 자는 하나의 세계를 파괴하지 않으면 안된다. 새는 신의 곁으로 날아간다.

인공위성이 폭발했다!

연쇄적으로 충돌하고 있어!

지능폭발

어떤 분이 '왜 최근에 빌 게이츠, 엘론 머스크, 스티븐 호킹 등 많은 유명인들이 인공지능을 경계하라고 호소하는가?'라는 책을 번역하신 글인데, 관심 있으신 분들은 꼭 다 읽어보세요. 

우리는 지금 격변의 변두리에 서있다. 이런 격변은 인류의 출현과 맞먹을 만큼 의미가 중대하다. — Vernor Vinge

당신이 여기 서있다면 무슨 느낌 이겠는가? 짜릿한 느낌이겠지? 하지만 기억해둬, 당신이 정말 시간 차트위에 서 있을 때 그래프의 오른편을 볼 수 없을 것이다. 왜냐면 당신은 미래를 볼 수 없으니까. 즉 당신의 진정한 느낌은 아마 이럴 것이다

​ 지능폭발

요원한 미래는 바로 코앞에 있다.

타임머신 타고 1750 년의 지구로 돌아간다고 생각해봐라. 그 시대에는 전기도 없도 원거리 통신이란 외치는 것과 봉화를 태우는 것 밖에 없고, 교통수단이라 할만한 것은 짐승의 힘을 이용하여 끄는 것 뿐이었다. 당신이 그 시대에서 철수란 사람을 초대하여 2015 년으로 놀러 와서 “미래”구경 좀 시킨다고 가정하자. 우리는 아마도 1750 년에서 온 철수의 멘탈충격을 상상하기 어려울 것이다 — 금속뚜껑들이 넓은 도로에서 질주하고 태평양 건너편의 사람과 채팅을 하고, 수천킬로 밖에서 진행되고있는 체육경기를 감상하며 반세기 전에 열린 콘서트를 감상할 수 있으며 주머니에서 검은색 장방형 모양의 물건을 꺼내서 눈앞에 벌어지고 있는 일들을 기록하고, 지도를 생성하여 하나의 파란 점이 당신이 있는 위치를 알려주고, 지구 반대편의 사람의 얼굴을 바라보며 채팅을 하고, … 기타등등 모든 과학기술의 흑마법들. 그런데 이 모든 것들이 철수에게 인터넷이 무엇이고 국제 우주 정거장(ISS)이 무엇이며 대형 강입자 충돌기가 무엇이며 핵무기가 무엇이며 상대성이론이 무엇인지를 설명해주기 전에 말이다.

이때 철수는 무슨 느낌일까? 경악, 쇼크? 이런 단어들은 터무니없이 부족하다. 그는 아마도 놀라 쓰러질 것이다.

하지만 철수가 1750 년으로 돌아가서 놀라 쓰러지는게 부끄러운 일이여서 다른 사람도 당해봐라는 생각이 들어 다른 사람을 놀라게 하고 싶다고 하자. 이러면 무슨 일이 일어날 것인가? 하여 철수는 250 년 전의 1500 년으로 돌아가서 1500 년에 사는 바둑이를 초대해서 1750 년 투어를 시켜준다. 바둑이는 아마 250 년 후의 많은 문건들에 깜놀하겠지만 놀라서 쓰러지지는 않을 것이다. 같은 250 년이란 시간인데 1750 년과 2015 년의 차이는 1500 년과 1750 년의 차이보다 훨씬 훨씬 크다. 1500 년의 바둑이는 많은 물리학 지식을 배울 수 있고 유럽 제국주의 투어에 신기해할 수 있겠고 심지어 세계 지도에 대한 인지도 크게 바뀌겠지만 1750 년의 교통, 통신 등을 보고 놀라서 쓰러지지는 않을 것이다.

즉 1750 년의 철수에게 있어서 다른 사람을 놀라 쓰러지게 할려면 더욱 먼 고대로 돌아가야 한다 — 예를 들어서 기원전 1,2000 년, 제1차 농업혁명 전에. 그 시대에는 아직 도시도 없고 문명도 없었다. 수렵채집 시대의 인류이고 당시 많은 종들 중의 한 종일 뿐이였다. 그 시대에 사는 영희는 1750 년의 방대한 인류제국을 보고 바다에 떠있는 거대한 함선을 보고 “실내” 에 거주하는 것을 보고 수많은 소장품들을 보고 신기한 지식들과 발견들을 보면 — 영희는 아마도 놀라서 쓰러질 것이다.

영희도 놀라 쓰러진 후 같은 짓을 하고 싶다면은? 그는 아마도 기원전 24,000 년으로 돌아가서 그 시대의 짱구에게 기원전 1,2000 년의 삶의 모습을 구경시켜줄 것이다. 그러면 짱구는 이건 밥먹고 할일 없는 짓 아닌가는 생각을 하게 될 것이다 — “이건 내가 사는 시대랑 거기서 거기 아니냐, ㅇㅇ”. 영희가 다른 사람을 놀라서 쓰러지게 할려면 십만년 전이나 더 멀게 가야 할 것이다. 거기로 가서 인류의 불과 언어에 대한 장악으로 상대방을 놀라서 쓰러지게 해야 할 것이다.

즉 어떤 사람이 미래로 가서 “놀라 쓰러지게” 할려면 하나의 “놀라 쓰러지는 단위” (Die Progress Unit, DPU) 가 필요하다. 이하 “놀쓰단”이라고 약칭하겠다. “놀쓰단”의 시간 간격은 일치하지 않다. 수렵채집 시대에 하나의 놀쓰단은 십만년을 넘는다. 하지만 산업혁명이후 하나의 놀쓰단은 200 여년이면 충분하다.

미래학자 레이 커즈와일 (Ray Kurzweil) 은 인류의 이런 가속발전을 수확 가속의 법칙 (Law of Accelerating Returns) 이라고 부른다. 이런 법칙이 발생하게 된데는 보다 발달된 사회는 지속 발전의 능력이 더욱 강하기에 더욱 빠르게 발전한다는 것이다 — 발전능력이 강하다는 것 자체가 사실 더욱 “발달되였다” 의 한가지 지표요구중 하나이기도 하다. 19 세기 사람들은 15 세기 사람들보다 아는게 훨씬 훨씬 많으니까 19 세기 사람들은 15 세기 사람들보다 발전이 빠를 수 밖에 없다.

보다 짧은 시간 단위를 놓고 보더라도 이 법칙은 여전히 성립된다. 유명한 영화 <빽 투 더 퓨쳐> (Back To The Future, 1985) 에서 1985 년에 사는 주인공이 1955 년으로 돌아갔는데 그는 TV 가 출현했을 때 사람들의 신기함, 탄산음료의 싼 가격, 전기기타를 좋아하는 사람이 적은 사실과 속어(俗語, slang)들의 차이들로 놀람을 금치 못한다.

하지만 만약 이 영화가 2015 년에 일어났다면 30 년 전으로 돌아간다면 주인공이 느낄 놀람은 이것보다 훨씬 클 것이다. 2000 년 전후에 태어난 사람이 PC 도 없고 인터넷도 없고 휴대폰도 없는 1985 년으로 돌아간다면 1985 년에서 1955 년으로 돌아간 주인공보다 더욱 많은 차이에 더욱 많이 놀랄 것이다.

이것 역시 수확 가속의 법칙 때문이다. 1985 년 – 2015 년의 평균 발전 속도는 1955 년 – 1985 년의 평균 발전 속도보다 빨랐다. 왜냐하면 1985 년의 세계는 1955 년보다 더욱 선진적이였고 출발점이 더 높았기 때문에 지난 30 년의 발전은 30년 전의 지난 30년보다 발전이 빨랐던 것이다.

진보가 지속적으로 빨라지고 있다면 우리의 미래가 아주 기대해볼만 한 것 아니겠는가?

미래학자 커즈와일은 지난 20 세기의 100 년 발전은 2000 년 시각의 발전속도로는 20년이면 다 발전해버릴 수 있을 것이라고 한다 — 2000 년의 발전 속도는 20 세기 평균 발전 속도의 5 배이다. 그는 또 2000 년부터 시작하여 14 년이면 지난 20 세기 백년동안의 발전한 만큼을 달성할 수 있고 2014 년 후에는 7년이면 (2021년)  20 세기 100 년 발전량을 달성할 수 있다고 한다. 수십년 후이면 우리는 해마다 “20세기 전체 발전”만큼의 몇배를 발전할 수 있다고 한다. 계속 뒤로는 아마 몇개월이면 한번 달성할 수 있을지 모른다. 수확 가속의 법칙에 의하여 커즈와일 은 인류의 21 세기의 발전은 20 세기의 1000 배가 될 것이라고 한다.

만약 커즈와일 등 학자들의 생각이 맞다면 2030 년의 세계는 아마도 우리를 놀라 쓰러지게 할 것이다 그럴뿐만 아니라 2050 년의 세계는 우리가 상상할 수 없을 만큼 달라질 것이다.

당신은 아마도 2050 년의 세계가 상상도 못할 만큼 달라질 수 있다는 말이 아주 우스울지 모른다. 하지만 이건 SF 가 아니라 당신이나 필자보다 훨씬 똑똑한 과학자들이 믿고 있는 바이다. 그리고 역사적으로 봤을 때와 로직상으로 봤을 때 예상 가능한 부분이다.

그렇다면 당신은 왜 “2050 년의 세계는 우리가 상상할 수 없을 만큼 달라질 것이다” 라는 말이 이렇게 우습게 느껴지는 것일까? 여기에는 세가지 원인이 당신의 미래에 대한 예측을 빗나가게 하고 있는 것이다:

1.  우리의 역사에 대한 사고방식은 선형적이다.

우리가 앞으로의 35 년의 변화를 사고할 때 우리가 참조하는것은 과거 35 년동안 발생한 일이다. 마치 우리가 21 세기에 일어날 변화들을 예상할 때 20 세기의 변화를 참조하는 것처럼. 마치 1750 년의 철수가 1500 년의 바둑이가 1750 년으로 구경오면 놀라 쓰러질 것이라고 착각하는 것과 마찬가지이다. 선형적인 사고는 본능적인 것이다. 하지만 우리가 미래를 생각할 때는 지수적으로 (기하급수적으로) 생각해야 한다. 총명한 사람은 과거 35 년의 발전으로 앞으로의 35년을 예측하지 않을 것이다. 반면에 현재의 발전 속도를 기반으로 예측할 것인데 이것이 보다 정확할 것이 뻔하다. 물론 이렇게 예측하는 것도 정확하지가 않다. 보다 정확할려면 당신은 발전 속도가 점점 빨라진다는 점까지 고려해야 한다.

2. 최근의 역사는 사람을 잘못 인도하기 쉽다.

우선 아무리 가파른 지수함수 그래프라도 당신이 충분히 짧은 구간을 절취한다면 아마 보기에 선형적으로 보일 것이다. 마치 원의 아주 작은 구간을 절취한다면 직선처럼 보이는 것과 같은 도리이다. 뿐만 아니라 지수적 발전은 매끈하지가 않으며 늘 S 형 그래프를 보이기 때문이다.

S 형 그래프는 새로운 패러다임이 세계에 퍼질 때 일어난다. S 형 그래프는 세 부분으로 나뉘다.

• 느린 성장 (지수적 성장의 초기)
• 빠른 성장 (지수적 성장 폭발시기)
• 새로운 패러다임의 성숙과 정착으로 인한 평온 발전기

당신이 최근 역사만 회고한다면 아마도 S 형 그래프의 어느 구간만 보일 것이다. 하지만 이 부분은 우리의 발전이 얼마나 빠른가를 보여줄 수 없기 마련이다. 1995 – 2007 년 사이는 인터넷이 폭발적 성장을 한 시기이다. 마이크로소프트, 구글, 페이스북이 대중의 시야에 들어왔고 수반된 것은 SNS, 휴대폰의 출현과 보급, 스마트폰의 출현과 보급이였는데 이 구간이 바로 S 형 그래프의 빠른 성상시기이다. 2008 – 2015 년 사이의 발전은 그다지 빠르지 않았다. 적어도 기술영역에서는 그러했다. 만약 지난 몇년동안의 발전속도를 두고 현재의 발전 속도를 가늠한다면 매우 그릇될 수 있다. 다음의 폭발적 성장시기가 싹을 틔우고 있을 수도 있기 때문이다.

3. 개인 경험의 틀에서 벗어나지 못하고 우리는 미래에 대해 틀에 박힌 예측을 하기 마련이다.

우리는 자신의 경험을 토대로 세계관을 형성하는데 이러한 경험은 발전의 속도를 우리의 머리속에 낙인시켜놓았다 — “발전은 원래 이런 속도인거야.” 뿐만 아니라 우리는 자신의 상상력에 제한을 받는다. 상상력은 과거의 경험에 의하여 미래에 대한 예측을 하기 때문이다 — 하지만 우리가 알고 있는 것들은 미래를 예측하는데 도움이 되기엔 역부족이다. 우리가 우리의 경험에 위배되는 미래 예측을 들었을 때 우리는 이 예측이 빗나갓다는 느낌이 들 것이다. 만약 내가 당신에게 150살, 250 살 심지어 장생불로할 수 있다고 하면 내가 뻥까고 있을 것이라고 하겠지 — “자고로 모든 사람은 죽게 되여있다. ” 물론이다. 하지만 비행기가 발명되기 전에는 비행기를 타본 사람도 없지 않았나?

아래 내용들을 읽으면서 당신은 아마도 맘속으로 “뻥까지 마라”고 생각할 수도 있을 것이다. 그리고 이 내용들이 정말 틀릴지도 모른다. 하지만 우리가 정말 역사의 패턴으로부터 논리적인 판단을 하게 된다면 결론은 다가올 수십년내에 우리가 예상했던것 보다 훨씬 훨씬 훨씬 훨씬 많은 변화가 일어날 것이라는 것이다. 또한 같은 논리로 도달할 수 있는 내용은 인간이라는 이 지구상에서 가장 발달한 종이 점점 더 빠르게 나아간다면, 어느순간, 지금까지의 인류의 삶을 송두리채 바꾸고“인류란 무엇인가”에 대한 인식조차 완전히 달라지게 될 것이다. 마치 자연의 진화를 통해 지능을 향해 한발작 한발작 발전하다가 드디어 중요한 발을 내디뎌 인간이 탄생한 것처럼 말이다. 그리고 당신이 최근의 과학과 기술의 발전 동향을 살피는데 조금만 시간을 투자한다면, 우리가 알고 있는 삶이 앞으로 다가올 도약을 막을 수 없다는 수많은 징조를 보게 될 것이다.

---

초지능으로 가는 길

인공지능이란 무엇인가?

만약 당신이 지금까지 인공지능(AI) 를 SF (과학환상) 으로 여겨왔는데 최근에는 많은 멀쩡한 사람들이 이 문제를 진지하게 토론하는걸 보았다면 아마 당황스러웠을 것이다. 이러한 당황스러움은 아래와 같은 원인에서 비롯된다.

1. 우리는 늘 인공지능을 영화에 연상시킨다.

<스타 워즈>, <터미네이터>, <2001 스페이스 오디세이> (1968) 등. 영화는 허구였고 영화 캐릭터들도 허구였다. 그래서 우리는 늘 인공지능에서 현실감을 느끼지 못했다.

2. 인공지능은 광범위한 문제이다.

휴대폰에 있는 계산기로부터 자동주행 차량 뿐 아니라, 미래에 세계를 크게 바꿔놓을 중대한 변혁까지. 인공지능은 수없이 많은 것들에서 언급되기에 혼란스럽다.

3. 우리 일상에서는 이미 매일 인공지능을 사용하고 있다.

우리는 그저 인식하지 못했을 뿐이다. John McCarthy 가 1956 년에 최초로 인공지능 (Artificial Intelligence) 란 단어를 사용했다. 그는 늘 이런 불평을 했었다. “어떤 것이 인공지능으로 구현되기만 하면 사람들은 그누구도 더이상 그것을 인공지능이라고 부르지 않았다.”

이런 효과 때문에 사람들은 인공지능이란 말을 듣기만 하면 우리 주변에 이미 존재하는 현실이 아니라 항상 미래의 어떤 신비한 존재로만 생각해왔다. 동시에 이런 효과는 우리들로 하여금 인공지능은 아직 실현되지 못한 예전부터 유행해왔던 개념이라고만 생각하게 한다. 커즈와일이 말하기를 사람들은 늘 인공지능이  80 년대때 이미 버림을 받았다고 말하는데 이는 마치 “인터넷은 21세기 닷컴버블 파멸때 같이 죽어버렸다” 고 말하는 것과 마찬가지로 황당하다.

그래서, 우리는 처음부터 다시 살펴보기로 하자.

우선, 인공지능이란 소리만 나오면 로봇을 떠올리지 말라. 로봇은 인공지능의 용기일 뿐이다. 로봇은 가끔은 사람모양이고 가끔은 아니다. 하지만 인공지능은 그저 로봇안에 있는 컴퓨터일 뿐이다. 인공지능이 두뇌라면 로봇은 신체인 셈이다 — 그리고 이 신체는 꼭 필요한게 아니다. 예를 들어 Siri 뒷단에 있는 소프트웨어와 데이터가 인공지능이지 Siri 가 말을 할 때의 소리는 그저 이 인공지능의 인격화 구현일 뿐이다. 하지만 Siri 자체는 로봇이라는 구성부분이 없는 것이다.

둘째로, 당신은 “특이점” 또는 “기술적 특이점” 이란 개념을 들어봤을 수도 있다. 이 용어는 수학에서 점근선과 유사한 개념을 나타내는데 이런 경우에 일반 규칙들은 적용되지 않는다. 이 용어는 물리학에서도 비슷하게 사용되는데 무한으로 작은 높은 밀도의 블랙홀을 나타내는데 마찬가지로 일반적인 규칙은 더이상 적용되지 않는다. 커즈와일은 특이점을 아래처럼 정의한다: 수확 가속의 법칙이 극에 달해 기술 발전이 무한대의 속도로 발전하며 특이점 이후로 우리는 완전 다른 세상에 살게 될 것이다. 하지만 최근 인공지능에 대해 생각하는 사람들은 더이상 “특이점”이란 용어를 잘 안쓴다. 그리고 이 용어는 많은 사람을 헷갈릴 수 있게 할 수 있기 때문에 이 글에서는 최대한 사용을 자제하겠다.

마지막으로, 인공지능은 광범위한 개념이기 때문에 여러가지로 나눌 수 있다. 여기서는 인공지능의 능력에 따라 세가지로 나누겠다:

1. 약인공지능 (ANI, Artificial Narrow Intelligence): 약인공지능이란 어느 특정 방면에서만 잘하는 인공지능을 말한다. 예를 들어 세계 체스 챔피언을 이기는 인공지능. 하지만 그것은 그냥 체스만 잘할 뿐이다. 만약 당신이 그 인공지능한테 어떻게 해야 하드디스크에 데이터를 더 잘 보존할 수 있을 것인가를 붇는다면 걔는 어떻게 대답해야 할지 모를 것이다.
2. 강인공지능 (AGI, Artificial General Intelligence): 인간급의 인공지능. 강인공지능은 여러 방면에서 모두 인간과 겨룰 수 있는 인공지능이다. 인간이 할 수 있는 지능적인 일은 그들도 모두 할 수 있다. 강인공지능을 만들기는 약인공지능을 만들기보다 훨씬 어렵다. 그래서 우리는 아직도 만들어내지 못하고있다. Linda Gottfredson 교수는 지능을 아래와 같이 정의한다: 일종의 광범위한 심리적 능력, 사고할 수 있고 계획할 수 있으며 문제를 해결할 수 있고 추상적인 생각을 할 수 있으며 복잡한 이념을 이해하고 빠르게 학습할 수 있으며 경험속에서 학습을 할 수 있는 능력이다. 강인공지능은 이런 활동들을 함에 있어서 사람과 동등하게 능숙해야 한다.
3. 초인공지능 (ASI, Artificial Super Intelligence): 옥스포드 철학가, 유명한 인공지능 사상가인 Nick Bostrom 은 초지능을 아래와 같이 정의한다: 과학기술 창조, 일반적인 지식, 사회적 능력 등을 포함한 거의 모든 영역에서 모두 제일 총명한 인류의 두뇌보다 훨씬 총명한 지능이다. 초인공지능은 여러 방면에서 모두 인류보다 조금 강할 수도 있고 모든 방면에서 인류보다 만억배 강할 수도 있다. 초인공지능이란 개념이 바로 왜 인공지능이란 화제가 이처럼 핫해질 수 있는가 하는 원인이며 영생불로와 멸종이란 두 단어가 이 글에서 여러번 등장하는 원인이다.

현재 인류는 이미 약인공지능을 장악했다. 사실 약인공지능은 없는 곳이 없다. 인공지능 혁명은 약인공지능으로부터 시작해 강인공지능을 거쳐 최종 초인공지능에 도달하는 여정이다. 이 여정에서 인류는 살아남을 수도 있고 그렇지 않을 수도 있다. 어쨌든 세계는 완전히 달라질 것이라는 것이다.

자, 이 영역의 사상가들이 이 여정에 대해 어떻게 생각하고있는가를 봐보도록 하자. 그리고 왜 인공지능혁명이 당신이 생각한 것보다 훨씬 빠르게 들이닥칠 수 있는지 봐보도록 하자.

우리 현재의 위치 — 약인공지능으로 둘러싸인 세상

약인공지능이란 특정 영역에서 사람과 비슷하거나 사람의 지능이나 효율을 초과하는 기계 지능을 말한다. 흔한 예들로:

1. 자동차상에는 많은 약인공지능들이 있다. 잠금 방지 브레이크 시스템으로부터 기름의 주입 파라미터를 컨트롤하는 컴퓨터까지. 구글이 지금 테스트하고있는 무인 자동주행 자동차를 예로 들어도 많은 약인공지능들이 포함되여있다. 이런 약인공지능들은 주변 환경을 감지하고 그에 대해 반응할 수 있다.
2. 당신의 휴대폰에도 많은 약인공지능이 있다. 당신이 지도를 꺼내 내비게이팅 할 때나 음악어플의 추천을 받아들일 때나 내일의 날씨를 찾아볼 때나 Siri 와 대화할 때나 기타 많은 어플들에는 사실 다 약인공지능이 존재한다.
3. 스팸 메일 필터가 사실 전형적인 약인공지능이다 — 그것은 처음부터 여러가지 스팸 메일을 식별할 수 있는 지능을 가졌으며 지속적으로 학습할 수 있고 당신의 사용 습관에 의해 경험을 얻을 수 있다. 스마트 온도 컨트롤 장치도 마찬가지이다. 당신의 일상 습관에 맞추어 스마트하게 조절할 수 있다.
4. 당신이 웹서핑을 할 때 나타나는 여러가지 인터넷 쇼핑몰 상품의 추천들, 그리고 SNS 의 친구추천, 이 모든 것들이 모두 약인공지능으로 구현된 것이다. 약인공지능은 인터넷에 연결하여 당신의 정보를 이용하여 추천을 한다. 웹서핑할 때 “이 물건을 산 고객들은 저 상품들도 샀어요” 하고 추천하는 것, 사실은 수백만 유저의 행위를 수집하여 생긴 데이터들로 당신에게 물건을 팔아먹는 약인공지능인 것이다.
5. 구글 번역기도 사실 전형적인 약인공지능이다 — 얘는 이 영역은 꽤 잘한다. 음성인식도 한가지이다. 많은 어플들에서는 이 두가지 지능의 조합으로 당신이 휴대폰에 대로 한국말을 하면 휴대폰이 직접 영어로 번역해줄 수 있게 해주고있다.
6. 비행기가 착륙할 때 비행기가 어느 게이트에 가서 독킹을 해야 하는가를 인간이 결정하는게 아니다. 마치 당신이 인터넷이서 물건을 살 때 영수증이 인간이 타이핑하는 것이 아닌 것처럼.
7. 다이아몬드 게임, 체스, 틱택토, 백개먼, 오델로 등 게임의 세계 챔피언은 모두 약인공지능이다.
8. 구글 검색은 거대한 약인공지능이다. 그 뒤에는 매우 복잡한 정렬과 내용 검색 알고리즘이 있다. SNS 의 핫이슈 기능도 마찬가지이다.
9. 위에 이 모든 것들은 모두 소비자 제품의 예들이였다. 군사, 제조업, 금융업 (극초단타매매 (high frequency trading) 은 미국 주식 거래의 절반을 차지한다) 등 영역에서는 모두 여러가지 복잡한 약인공지능이 활용되고있다. 전용 시스템도 있다. 예를 들어 의사를 도와 병을 진단하는 시스템도 있다. 그리고 IBM 의 그 유명한 왓슨(Watson), 저장된 대량 데이터를 토대로 사회자의 질문을 이해하고 퀴즈 프로그램에서 제일 강한 인간 선수를 이길 수 있다.

현재의 약인공지능은 아마 그렇게 무섭지 않을 수도 있다. 최악상 상황이라 해봤자 고작해야 코드에 버그가 있어서 프로그램이 고장나서 단독적인 재난이 발생하는 것이다. 이를테면 정전, 원자력발전소 고장, 금융시장 붕괴 등이다.

비록 현재의 약인공지능은 우리의 생존을 위협할 능력이 없지만 우리는 여전히 점점 경계한 눈길로 점점 더 커지고 더욱 복잡해지고있는 약인공지능의 생태계를 바라보고있다. 약인공지능의 하나하나의 작은 혁신들은 모두 강인공지능으로 통하는 길에 조용히 벽돌을 보태고 있는 셈이다. Aaron Saenz 의 관점에 의하면 현재의 약인공지능들은 지구 초기의 진흙속에 있는 아미노산들과 마찬가지다 — 기척이 없던 물질들이 갑자기 생명으로 조합된다.

약인공지능에서 강인공지능으로 통하는 길

왜 이 길이 그토록 험난한가

오직 인간 수준의 지능을 가진 컴퓨터를 만드는게 얼마나 어려운가를 이해해야 우리 인간의 지능이 얼마나 불가사의한지를 느낄 수 있을 것이다. 하늘을 찌르는 빌딩을 짓고 인간을 우주에 보내고 우주 빅뱅의 디테일을 이해하는 것 — 이 모든 것은 인간의 뇌를 이해하고 유사한 것을 만드는 것보다 훨씬 쉽다. 현재까지 인간의 뇌는 우리가 알고있는 우주안에서 가장 복잡한 사물이다.

그리고 인공지능을 만드는 어려움은 당신이 직감적으로 생각할 수 있는 그런 것들이 아니다.

• 순간에 열자리 수를 곱할 수 있는 컴퓨터를 만들기 — 매우 쉽다.
• 한 동물이 고양이인지 개인지 식별할 수 있는 컴퓨터를 만들기 — 극도로 어렵다.
• 세계 체스 챔피언을 이길 수 있는 컴퓨터를 만들기 — 성공한지 오래다.
• 6살 아이가 읽는 그림책속의 문자를 읽을 수 있고 그 뜻을 이해할 수 있는 컴퓨터를 만들기 — 구글이 수십억달러를 퍼부어서 연구하고있지만 아직 성공하지 못했다.
• 일부 우리가 어렵게 여기는 일들 — 미적분, 금융지장 책략, 번역 등등은 컴퓨터에게 있어서 매우 쉽다.
• 일부 우리가 쉽다고 느끼는 일들 — 시각, 움직임, 직감 — 컴퓨터에게는 개어렵다.

컴퓨터 과학자 Donald Knuth 의 말로 “인공지능은 이미 모든 생각이 필요한 영역에서 인간을 초월했다. 하지만 인간이나 기타 동물이 생각을 하지 않아도 완성할 수 있는 일들에서는 아직 멀었다.”

독자들은 아마 느꼈을 것이다. 그런 우리가 쉽다고 느끼는 일들은 사실 매우 복잡한 것이다. 그것이 쉽게 보이는 것은 동물진화과정에서 수억년동안 최적화되였기 때문이다. 당신이 어떤 물건을 쥘려고 할 때 당신의 어깨, 팔꿈치, 손목안의 근육, 힘줄과 뼈는 순식간에 일종의 아주 복잡한 물리동작을 완성하는데 이러는 동시에 눈의 동작까지 뒷바쳐줌으로 당신의 손이 직선운동을 할 수 있게 해야 한다. 그런 행동이 당신에게 쉽게 느껴지는 이유는 이런 “소프트웨어”들이 이미 아주 퍼펙트하기 때문이다. 같은 이유로 컴퓨터가 웹사이트의 비틀어진 입력문구들을 인식하지 못하는 것은 컴퓨터가 너무 우둔해서가 아니라 반대로 입력문구를 구별하는 일이 굉장히 쩌는 일이기 때문이다.

반면에 큰 수를 곱하기, 체스하기 등등은 우리가 진화과정 중 겪어보지 못한 생명체의 입장에선 새로운 일인 셈이다. 그래서 컴퓨터는 별로 힘들이지 않고도 우릴 박살낼 수 있다. 상상해봐라, 당신이 프로그램을 짠다면 큰 숫자의 곱하기를 해결하는 프로그램을 짜는게 어렵겠는가 아니면 천천만만가지의 폰트와 서체로 씌여진 영문 알파벳을 식별하는 프로그램을 짜는게 더 어렵겠는가?

예를 들어서 아래의 그림을 보았을 때 당신과 컴퓨터는 모두 이 그림이 두가지 색의 작은 직사각형으로 이루어진 하나의 큰 직사각형이라는 것을 인식해낼 것이다.

그러면 당신과 컴퓨터는 한판 비긴다. 계속하여 그림상의 까만 부분을 없애버려보자.

당신은 어렵지 않게 그림중의 투명이거나 불투명인 기둥이나 3D 도형들을 설명할 수 있을 것이다. 하지만 컴퓨터는 그러지 못한다. 컴퓨터는 2D의 그림자 차이 정도나 말할 수 있지만 인간의 뇌는 이런 그림자들이 나타내고 있는 깊이, 그림자의 겹침, 실내 빛의 위치 등등까지도 읽어낼 수 있다.

심지어 우리가 지금까지 토론한건 오로지 정적이여서 움직이지 않는 정보들 뿐이였다. 인간 수준의 지능을 갖기 위해서 컴퓨터는 반드시 더 어려운 것을 이해해야 한다. 예를 들어서 얼굴 표정의 미세한 변화, 기쁨, 편안함, 만족, 기쁨 등 유사한 정서들 사이의 차이 그리고 왜 <브레이브하트>(1995)는 갓 영화이고 <패트리어트>(2000)은 쓰레기 영화인가를 이해할 수 있어야 한다.

생각만 해봐도 어렵겠지?

우리는 어떻게 해야 이런 수준의 인공지능을 만들 수 있을 것인가?

강인공지능으로 통하는 첫걸음: 컴퓨터의 처리 속도를 높여야 한다.

강인공지능에 도달하기 위해 꼭 만족해야 할 조건은 컴퓨터 하드웨어의 계산능력이다. 인공지능이 인간의 뇌와 겨룰 만큼 총명하려면 최소한 인간의 뇌만큼의 처리능력을 갖추어야 한다.

처리 능력을 다루는 단위는 cps (calculations per second, 초당 계산수) 이다. 인간 두뇌의 cps 를 구하려면 그 속의 모든 구조물의 최고 cps 를 구하고 그것들을 모두 더하면 된다.

레이 커즈와일 (Ray Kurzweil) 은 하나의 구조물에 대한 최대 cps 를 구하고 그것이 전체 뇌에서 차지하는 무게의 비중으로 나누어 인간 두뇌의 총 cps 를 구했다. 뭔가 부족한 것처럼 들리지만 그는 몇번이나 서로 다른 영역을 다양한 전문측정법을 통해 같은 방식으로 계산을 했는데 그 결과들이 항상 아주 근접한 수치에 도달하였다 — 대략 10의 16승 cps, 즉 매초당 1경번의 계산이다.

현재 세계에서 제일 빠른 컴퓨터인 중국의 텐허 2호 (Tianhe-2, http://www.reuters.com/article/us-china-supercomputer-idUSKCN0J11VV20141117 ) 는 사실 이미 이만큼의 처리능력을 가졌는데 그 처리능력이 3.4경 cps 이다. 물론 톈허 2호는 720 제곱미터 면적을 차지하고 2400 만 와트의 전력을 소비하며 3.9억 달러의 돈을 들여 만든 것이다. 광범위한 응용은 막론하고 대부분의 상업적이나 공업적 사용도 굉장히 비싸다.

커즈와일은 컴퓨터 발전정도의 지표는 1000달러로 얼마만큼의 cps 를 살 수 있는가라고 생각한다. 1000 달러로 인간 두뇌급인 1경 cps의 계산능력을 살 수 있을 때에야 강인공지능이 우리 삶의 일부가 될 수 있다고 한다.

무어의 법칙이 제시한바로는 전 세계의 컴퓨터 계산 능력은 2년마다 배로 늘어난다. 이 법칙은 역사 자료가 뒷받침해주고 있는데 왜 컴퓨터의 하드웨어가 인류발전과 마찬가지로 기하급수적으로 발전하는가를 제시하고 있다. 우리는 이 법칙을 통해 언제쯤 1000 달러로 1경 cps 를 살 수 있을 지를 계산해보자. 지금 1000달러로 약 10조 cps 를 살 수 있는데 지금까지의 추세는 무어의 법칙 그래프의 예측에 부합한다.

그 뜻은 지금 1000 달러 살 수 있는 컴퓨터는 이미 쥐의 뇌보다 강하며 이미 인간의 뇌의 1000분의 1의 수준에 해당된다는 뜻이다. 아직도 너무 약해보인다. 하지만 생각해봐라 1985 년에 같은 돈으로 인간 두뇌의 1조분의 1만큼의 cps 밖에 살 수 없었고 1995 년에는 10억분의 1, 2005년에는 백만분의 1, 2015 년에는 이미 천분의 1이나 된다. 이런 추세로 발전한다면 우리는 2025 년에는 1000달러로 인간의 뇌에 해당되는 계산처리속도의 컴퓨터를 살 수 있을 것이다.

적어도 하드웨어상에서 우리는 강인공지능의 문턱에 들어섰으며 (중국의 톈허 2호) 10년이내 우리는 저렴한 가격으로 강인공지능 지원 가능한 컴퓨터 하드웨어를 살 수 있을 것이다.

하지만 계산 능력만으로 컴퓨터가 똑똑해지게 할 수 없다. 다음 문제는, 우리는 어떻게 이 계산능력으로 인간수준의 지능을 만들겠는가 이다.

강인공지능으로 통하는 두번째 걸음: 컴퓨터를 더욱 스마트하게 만들기

이 스텝이 정말 어렵다. 사실상 아무도 어떻게 만드는지 모른다 — 우리는 아직 어떻게 컴퓨터가 <패트리어트>가 쓰레기영화라는걸 감별해낼 수 있게 할 수 있을것인가에 머무르고있다. 하지만 지금 일부 방안들이 효과가 있을 수는 있다. 아래것들이 가장 흔한 세가지 접근이다:

1) 인간의 뇌를 베끼기

마치 당신의 반에 공부 잘하는 애가 한명 있는 것 처럼 당신은 그가 왜 똑똑한지, 왜 시험마다 만점을 맞는지 모른다. 당신도 열심히 공부하지만 걔보다 공부를 못한다. 결국 당신은 “젠장, 나 공부 안할래” 하고 포기하고 그의 답안을 직접 베끼게 된다. 이런 “베낌”은 도리가 있는 것이다. 우리는 아주 복잡한 컴퓨터를 만들려는게 아닌가. 우리는 이미 인간의 뇌라는 좋은 설계도가 있지 않는가.

과학계에서는 지금 인간의 뇌를 리버스 엔지니어링하여 자연진화가 어떻게 이런 신기한 물건을 만들어냈는가를 밝히기 위해 힘쓴다. 낙관적인 예견으로 우리는 아마도 2030 년 즈음에 이 임무를 끝낼 수 있다고 한다. 이 목표를 달성하기만 하면 우리는 왜 인간의 뇌가 이렇게 효율이 높고 이렇게 빠르게 실행되는지 밝혀내고 그걸 따라서 영감을 그려내고 혁신을 훔칠 수 있다. 컴퓨터로 인간의 뇌를 시뮬리에팅하는 한 예가 바로 인공 신경망 (NN, Neural Network) 이다. 이것은 트랜지스터로 이루어진 “신경”을 연결한 망에서 출발한다. 트랜지스터는 그저 입출력을 가지고 서로 연결되어 있을뿐 그 자체는 아무것도 모른다 — 갓난애기의 뇌처럼 말이다. 이어서 문제해결을 위해 “학습”이라는 방법을 시도하는데, 필기 인식을 하려면, 처음엔 신경전달과 문자 결정을 위한 추측과정이 완전히 랜덤하게 이뤄진다. 하지만 맞혔다는 피드백을 받으면 관련된 트랜지스터들 사이의 연결이 강화된다. 반면에 그릇됐다는 피드백을 받으면 관련된 연결은 약화된다. 일정한 시간의 테스트와 피드백을 거쳐 이 네트워크 자체는 스스로 스마트한 신경 경로를 형성하게 되고 머신은 해당 문제해결에 최적화된다. 인간의 뇌의 학습 과정도 유사하다. 다만 이것보다 좀 더 복잡할 뿐이다. 우리가 인간의 뇌에 대한 연구가 심화됨에 따라 우리는 더욱 좋은 신경망 구축법을 얻게 될 것이다.

더욱 극단적으로 “베끼”는 방법은 바로 전체 뇌를 에뮬레이팅 하는 것이다. 자세하게 설명하자면 인간의 뇌를 많은 얇은 조각 (으로 나뉜 것으로 보고) 소프트웨어로 하나의 완정한 3D 모델을 만들어서 이 모델을 강력한 컴퓨터에 입력시키는 것이다. 이것이 성공한다면 이 컴퓨터는 인간의 뇌가 할 수 있는 모든 일을 완성할 수 있을 것이다. 그것이 학습하고 정보 수집만 할 수 있게 해주면 된다. 만약 이 일을 해낸 엔지니어 능력이 더욱 대단하다면 그들이 시뮬레이팅해낸 뇌는 심지어 원래 인간의 인격과 기억까지 갖고 있을 것이다. 컴퓨터가 시뮬레이팅해낸 지능이 원래의 인간의 뇌랑 같다는 것은 “강인공지능”의 정의 자체에 상당히 부합된다. 그러면 그뒤로 우리는 그것을 더욱 강한 초인공지능으로 개조할 수 있게 된다.

우리가 전체 두뇌 에뮬레이팅과 얼마나 멀리 떨어져 있을까? 현재 우리는 302개의 신경세포로 이뤄진 1밀리미터 길이의 편형동물의 뇌를 에뮬레이팅 할 수 있게 되였다. 인간 두뇌는 1000억개의 뉴런으로 이뤄져 있다. 그다지 희망적이지 않은 숫자처럼 보인다면, 기억하자 기하급수적인 발전을  — 우리는 이미 작은 벌레의 뇌를 에뮬레이팅 할 수 있게 되였다. 개미의 뇌는 멀지 않았다. 이어서 쥐의 뇌이다. 그때 가면 인간의 뇌를 에뮬레이팅 한다는 것은 그리 비현실적인 얘기가 아닐 것이다.

2) 생물 진화를 시뮬레이팅하기

공부짱의 답을 베끼는 것이 물론 한가지 방법이지만 공부짱의 답을 베끼기가 너무 어렵다면? 그러면 우리는 공부짱이 시험을 준비하는 방법을 좀 따라 배워볼 수 있지 않을까?

우선 우리가 확신할 수 있는 사실! 인간의 뇌만큼 똑똑한 컴퓨터를 만드는 것은 가능한 일이다 — 우리의 뇌가 바로 증거이다. 만약 인간의 뇌가 에뮬레이팅하기 너무 어렵다면 우리는 인간의 뇌를 탄생시킨 진화를 시뮬레이팅 할 수 있을 것이다. 사실상 우리가 정말 완전하게 인간의 뇌를 에뮬레이팅 할 수 있다고 해도 결과는 새들이 날개를 푸덕이는 방식을 그대로 베껴서 비행기를 만들려고 (발명하려고) 하는 식이 되어버릴 수 있다 — 기계를 설계하는 방법이 생물설계를 그대로 베끼는 것이 아닌 경우가 많다.

그래서 우리는 진화를 시뮬레이팅하여 강인공지능을 만들 수 있을 것인가? 이런 방법을 “유전 알고리즘” (genetic algorithm) 이라고 부른다. 원리는 대충 이러하다: 반복하여 표현 / 평가 과정을 할 수 있는 프로세스를 만든다. 마치 생물들이 생존이라는 방식으로 표현을 하고 번식을 평가 방식으로 하는 것처럼. 컴퓨터에게 여러가지 임무를 수행시키고 제일 성공적인 프로그램들만 “번식”을 하는데 그 방식은 각자의 프로그램을 융합시켜서 새로운 프로그램을 만들고 그다지 성공적이지 않은 프로그램들은 버려지는 것이다. 여러번 반복을 거치면 이 선택과정은 점점 강한 프로그램을 만들어낼 것이다. 이 방법의 난점은 자동화된 평가와 번식 과정을 만듬으로서 전체 프로세스가 인간의 관여 없이 자율실행되게 하는 것이다.

이런 방법의 단점도 명확하다. 자연진화는 수십억년의 시간을 들였는데 우리는 수십년이란 시간만 사용하려고 하고 있기때문이다.

하지만 자연진화에 비해 우리의 우세도 많다. 첫째로 자연진화는 예견 능력이 없고 랜덤적이다 — 그것이 탄생시킨 쓸모 없는 변화는 쓸모있는 변화보다 훨씬 많다. 하지만 인공적인 진화는 과정을 컨트롤할 수 있어서 유익한 변화에 치중하게 할 수가 있다. 둘째로 자연진화는 목표가 없다. 자연진화의 산물인 지능도 그것의 목표가 아니다. 하지만 우리는 진화의 과정을 지휘하여 더욱 스마트한 지능쪽으로 발전하도록 할 수 있다. 셋째로 지능을 탄생시킬려면 자연진화는 많은 다른 부가적인 조건들을 탄생시켜야만 한다. 예를 들어서 세포의 에너지 생산 능력을 개선해야 한다 등등. 하지만 우리는 전력으로 이 추가적인 부담들을 해소해낼 수 있다. 결론적으로 인간 주도적인 진화는 자연진화보다 훨씬 빠를 수가 있다. 하지만 우리는 아직도 이런 우세들이 진화 시뮬레이팅을 가능하게 해줄 수 있는지 여부는 모른다.

3) 컴퓨터가 이 모든것을 해결하도록 하기

만약 공부짱의 답을 베끼는 것과 공부짱의 시험 준비 방법을 따라하기가 다 통하지 않는다면, 시험문제가 시험문제 자체를 해결하게 하는 방법은 어떤가? 이런 생각이 병맛같지만 실은 가장 희망있는 한가지 방법이다.

이 아이디어는 우리가 두가지 중요한 스킬을 가진 컴퓨터를 만드는 것이다 — 인공지능을 연구하는 기능과 자신의 코드를 수정할 수 있는 기능. 그러면 우리는 컴퓨터 자체를 컴퓨터 과학자 ( Computer Scientist ) 로 만든 셈이다. 그러면 컴퓨터의 지능을 높이는 것은 컴퓨터 자체의 몫이 됐다.

이상의 모든 것은 머지않아 이뤄지게 된다.

하드웨어의 빠른 발전과 소프트웨어의 혁신은 늘 병렬적으로 발생한다. 강인공지능은 우리가 예상한 것보다 더욱 일찍 들이닥칠 수 있다. 왜냐면:

​기하급수적 성장의 초반은 달팽이처럼 느릴 수 있지만 후반으로 가면 굉장히 빠르다. 아래의 GIF 움짤이 이 도리를 잘 설명해줄 것이다.

​소프트웨어의 발전은 일견 매우 느려보일 수 있지만 한번의 “깨달음”은 진보의 속도를 영원히 바꿔놓는다. 마치 인류가 아직 지구중심설을 믿고 있을 때에는 과학자들이 우주의 운동방식을 계산할 방법을 설계할 수 없지만 태양중심설의 발견으로 모든게 쉬워진 것처럼. 자체 개선을 할 수 있는 컴퓨터를 만든다는게 지금의 우리에게는 요원하게 느껴질 수 있지만 어느 한번의 수정만으로 전체 시스템이 천배나 강력해지게 할 수도 있는 일이다. 그럼으로써 인간지능 레벨로의 빠른 질주의 서막을 열어놓을 수도 있는 일이다.

강인공지능에서 초인공지능으로 가는 길

언젠가는 우리는 인간의 지능정도의 인공지능을 만들어낼 것이며 그리고 인간과 컴퓨터는 평등하고모두 행복하게 쭉 살았답니다.

는 개뿔.

인간지능과 완전히 똑같고 정보처리능력도 인간만큼 강한 강인공지능이더라도 인간보다 두드러진 많은 장점을 가지고 있다.

하드웨어면에서:

• 속도면에서: 인간 신경세포의 계산속도는 200 HZ 이다. 오늘날의 컴퓨터 마이크로칩만 봐도 2 GHz 로 실행될 수 있는데 이는 신경세포의 1000만배의 실행속도이지만 우리가 강인공지능 구현에 필요한 하드웨어 스펙보다는 훨씬 뒤떨어져있다. 신경세포에서 정보의 전파속도는 약 초당 120 미터이지만 컴퓨터의 정보 전파 속도는 빛의 속도이다. 이 둘 사이에는 수개 수량급의 차이가 벌어져있다.
• 용량과 저장공간 면에서: 인간 두뇌의 크기는 고정되어 있으며 후천적으로 더 크게 늘릴 수 없다. 가령 정말로 더 크게 늘릴 수 있다고 해도 120 m/s 의 정보전달속도는 큰 병목으로 작용해 다른 구역으로 전달을 방해할 것이다. 컴퓨터의 물리적 사이즈는 매우 자유로울 수 있어서 더욱 많은 하드웨어, 더 큰 메모리, 내구성이 더욱 좋은 저장매체를 사용할 수 있다. 인간의 뇌보다 용량이 훨씬 커질 수 있을뿐만 아니라 인간의 뇌보다 더 정확하다.
• 신뢰성과 내구성 면에서: 컴퓨터의 기억은 더욱 정확할 뿐만 아니라 트랜지스터도 신경세포보다 더 정확하며 인간의 세포만큼 잘 위축되지가 않는다 (정말 망가지더라도 고치기가 쉽다). 뿐만아니라 인간의 뇌는 쉽게 피로를 느낀다. 하지만 컴퓨터는 24시 쉼없이 최고속력으로 달릴 수 있다.

소프트웨어면에서:

• 수정 가능, 업그레이드 가능, 보다 많은 가능성: 인간의 뇌와 달리 컴퓨터 소프트웨어는 더욱 많은 수정과 업그레이드를 할 수 있으며 테스트하기도 쉽다. 컴퓨터의 승급은 인간의 뇌의 비교적 큰 단점을 보완할 수 있다. 인간은 시각 소프트웨어가 최고등급일 때 복잡한 공학 능력은 매우 저질등급이 된다. 하지만 컴퓨터는 시각 소프트웨어가 인간과 동급일뿐만 아니라 공학이나 다른 부분까지 동시에 최적화할 수 있다.
• 집단적 능력: 인간은 집단 지성에 있어서 모든 기타 종을 크게 앞서고있다. 초기의 언어와 대형 커뮤니티의 형성, 문자와 인쇄기술의 발명으로부터 인터넷의 보급에 이르기까지. 인간의 집단 지성은 우리가 기타 종을 통치하데 된 중요한 원인중 하나이다. 하지만 컴퓨터는 이 면에서 우리보다 훨씬 강하다. 특정 프로그램을 실행하는 인공지능 네트워크는 전세계 범위내에서 동기화를 할 수 있으며 이로 인해 하나의 컴퓨터가 한가지 능력을 습득하게 되면 전세계 모든 기타 컴퓨터에게도 전파되여 그들 모두 습득하게 된다. 뿐만아니라 컴퓨터 클러스터는 공통적으로 한가지 임무를 협업 집행할 수 있는데 인간사회에서 흔히 발생하는 이견, 동기부여, 자기이익중심 등 특성들은 컴퓨터에게는 발생하지 않을 수도 있다.

자체 개선을 거쳐 강인공지능에 도달한 인공지능은 인간수준의 지능을 중요한 마일스톤으로 여길 것이지만 그 이상 그 이하도 아니다. 그 수준에 멈출 이유가 없다. 강인공지능의 인간에 비한 여러가지 장점들을 고려한다면 인공지능은 “인간수준” 이란 정도에 아주 짧게만 머무를 것이며 그후로는 초인공지능이라는 레벨로 큰 걸음으로 성큼성큼 걸어나갈 것이다.

이 모든것이 발생할 때 우리는 아마도 놀라 쓰러질 것이다. 왜냐면 우리가 보기에는 a) 동물의 지능에는 높고 낮음이 있지만 모든 동물의 지능의 공통된 특점은 인간보다 훨씬 낮다는 것이다. b) 우리가 생각하기에는 제일 총명한 사람은 제일 우둔한 사람보다 훨씬훨씬훨씬훨씬 총명하다.

그래서 우리는 인공지능이 인간 레벨로 쫓아오고 있을 때 점차 총명해지고 있음을 볼 수 있을 것이라고 생각하게 된다. 마치 하나의 동물처럼. 그러다 갑자기 가장 우둔한 인간 정도의 지능 정도로 발전하는 것을 보고 우리는 아마 “봐 이 인공지능 마치 멍청한 인간처럼이나 똑똑해. 귀엽구나.” 라고 생각할 수도 있을 것이다.

하지만 문제는 지능의 전반적인 분포로부터 볼 때 인간과 인간의 지능의 차이, 예를 들어서 가장 우둔한 인간으로부터 아인슈타인까지의 지능의 차이는 사실 그다지 크지 않다는 것이다. 그래서 인공지능이 우둔한 인간 정도만큼 발전한 뒤에는 금방 아인슈타인보다 더 총명하게 되여버릴 것이다:

그 다음은 뭐냐?

지능폭발

여기서부터 이 화제는 좀 섬뜩해진다. 여기서 독자분들께 알려드려야 할 것은 필자가 여기서 얘기하고있는 것들이 다 사실이라는 것이다 — 많은 존경받는 사상가들과 과학자들이 미래에 대한 성실한 예측이다. 당신이 아래에서 비상식적인 내용을 읽었을 때 꼭 기억해둬야 한다. 이 결론들은 당신이나 필자보다 훨씬 총명한 사람들이 생각해낸 것이라는 점을.

위에서 말했다시피 우리가 현재 강인공지능에 도달하기 위해서 사용한 방법은 대체적으로 모두 인공지능의 자체개선에 의존한다. 하지만 그것이 강인공지능에 달하기만 하면 그 자체개선에 의해 도달한 것이 아닌 부분 마저도 모두 충분히 똑똑해지고 전부 자체개선을 해나갈 능력을 갖게 될 것이다.

여기서 우리는 하나의 무거운 주제를 이끌어내야 한다 — 재귀적인 자체 개량. 이 개념의 뜻은: 특정 지능 수준, 예를 들어서 제일 멍청한 인간의 지능수준, 을 가진 인공지능이 자체개량 능력을 가졌을 때 한번의 자체 개진을 통하여 원래보다 더 총명해졌다고 가정하자. 예를 들어서 아인슈타인의 지능만큼 총명해졌다고 가정하자. 이때 그것이 계속 자체개량을 하게 되는데 이때의 그것은 아인슈타인 수준의 지능을 가졌기 때문에 이번 개량은 저번보다 더 쉽고 효과도 더 좋을 것이다. 두번째의 개선은 그것이 아인슈타인보다도 훨씬 총명해지게 함으로 계속되는 개선이 더욱 많은 진보를 가져오게 한다. 이런 과정이 반복되면이 이 강인공지능의 지능수준은 점점 빨리 발전하게 되여 결국은 초인공지능의 수준에 달하게 한다 — 이것이 바로 지능폭발의 정의이다. 이것은 또한 수확 가속의 법칙의 궁극적 체현이다.

현재 인공지능이 언제 인간수준에 달할 수 있을지에 대해서는 아직 쟁론이 치열하다. 수백명 과학자들에 대한 통계조사에서 그들이 생각하는 강인공지능 출현의 중앙치 연도수가 2040 년이라고 한다 — 지금으로부터 25 년밖에 남지 않았다. 이게 그렇게 놀랍게 들리지 않을 수도 있을지 모른다, 하지만 기억하자, 이 영역의 많은 사상가들은 강인공지능에서 초인공지능으로의 전환이 훨씬 빠를 것이라고 생각하고있다. 아래 시나리오가 일어날 확률이 굉장히 높다: 한 인공지능이 수십년이란 시간을 들여 인간 수준의 지능을 얻었는데 이때 그 컴퓨터의 세계에 대한 지식은 네살 애기 수준이다; 하지만 그후 한시간내에 컴퓨터는 광의적 상대성 이론과 양자물리학을 추론해낸다; 그뒤 한시간 내에 이 강인공지능은 초인강지능으로 발전해버리는 그 지능수준은 무려 일반 인간의 17 만배이다.

이 수준의 초인공지능은 우리가 이해할 수 있는 영역이 아니다. 마치 꿀벌이 케인즈 경제학을 이해할 수 없는 것처럼. 우리의 언어에서 130 의 IQ 를 똑똑하다고 하고 85 의 IQ 를 우둔하다고 한다. 하지만 우리는 12952 의 IQ 를 뭐라고 해야 할지 모른다. 인간의 언어에는 이런 개념이 아예 없다.

하지만 우리가 알 수 있는 것은 인간이 지구를 지배하면서 우리가 알게 된 한가지 사실 — 바로 지능이 곧 파워라는 도리이다. 즉 하나의 초인공지능이 탄생하기만 하면 지구 역사상 가장 강력한 존재가 될 것이며 인류를 포함한 모든 생물들은 모두 그 파워에 거역할 수 없을 것이다. — 그리고 이 모든 것이 미래 수십년 내에 발생할 수 있다는 것이다.

생각해보라, 우리의 뇌가 WIFI 를 발명해낼 수 있다면 우리보다 100배, 1000배, 심지어  10억배 총명한 뇌는 세상의 모든 원자들의 위치를 맘대로 조종할 수 있을지도 모른다. 우리에게 있어서 불가능하여 전지전능의 하느님만이 가질 수 있는 능력이 그 초인공지능한테는 전등 스위치를 누르는 것만큼 간단한 일일 수도 있다. 인간의 노화를 해결하고 각종 불치병을 치료해주며 전세계적으로 기아와 빈곤을 해결해줄 수 있다. 심지어 인류가 영생하게 하거나 기후를 컨트롤해 지구의 미래를 보호해준다거나, 이 모든 것이 가능해질 수도 있다. 그만큼 가능한 것은 지구상의 모든 생명의 종말일 수도 있다.

하나의 초인공지능이 출생한다는 것은 우리에게 있어서 전능의 신이 지구에 강림하는 것과 다름 없다.

이럴때 우리가 관심하게 되는 것은: 그는 과연 인자한 신일 것인가?

------------------------------------------------------------------------------------------------

요약

1. 인류의 정보처리능력은 산술급수가 아닌 기하급수적으로 증가한다. 사람들은 개인 경험의 틀에서 벗어나지 못하고 미래에 대해 틀에 박힌 예측을 한다. 하지만 현재까지 발전되어온 기술의 경향으로 봐서 앞으로 10년은 우리의 그 어떤 상상도 뛰어넘는 변화가 닥쳐올 개연성이 높다.

2. 그리고 그 인공지능은 우리 상상을 훨씬 뛰어넘어 2025년이면 인간과 비슷한 두뇌를 가질수 있다. 인간과 비슷한 두뇌이지만, 쉬지 않고 일할 수 있다는 점, 메모리의 확장이 가능하다는 점에서 사실은 인간보다 훨씬 효율적이게 된다.

3. 인간 두뇌 수준에 도달한 인공지능은 거기서 멈추지 않는다. 그럴 이유도 없다. 아주 짧은 순간 머무른 후에, 그 다음 단계인 초인공지능으로 도달하는 데까지 걸리는 시간은 훨씬 더 짧다. 그 때는 스스로 자체 개량을 통한 지능폭발을 하게 될 것이다. 인류의 발전속도보다 17만배나 빠른 속도로 스스로 진화한다.

4.  오르비에서 요즘 자주 언급되는 인공지능은 코 앞에 있다. 당장 20년 아니 10년 후일지도 모른다. 향후 50년동안 기계가 모든 직업을 대체하는 건 불가능하다는 소리는 바보같은 소리다.

여기서 진로 고민하는 분들이 있다면 자세히 읽어보시길... 

소신껏 사세요. 미래는 모르는 일입니다.

당장 10년 후에는 지금 천대받는 엔지니어들이 어마어마한 대우를 받게 될 수도 있습니다.

우리는 10년을 보고 사는 거 아니잖아요?  향후 70~80년을 더 살아야 합니다.

 

인간이 이해 못하는 인공지능, 믿어도 되나

지난해 ‘알파고 충격’으로 우리에게 각인됐던 인공지능(AI)이 어느새 꽤 익숙한 단어가 됐다. 산업계와 학계, 출판계, 미디어 모두 AI에 대한 논의를 쏟아내기 여념이 없다. 기술유토피아적인 시선과 우려의 눈초리가 혼재된 이 논의들에는 공통점이 있다. 머신러닝 알고리즘을 지닌 AI가 어느 지점에서 인간의 능력을 뛰어넘는다는 것이다. 사실 이는 이미 반세기 전 예고됐다.

초지능 기계는 가장 영리한 사람의 모든 지적 활동을 능가할 정도로 영리하다. 기계의 설계도 지적 활동에 속하므로, 초지능 기계는 더 똑똑한 기계를 만들어낼 수 있다. 그러면 초지능 기계의 지능이 폭발적으로 증가하고 인간의 지능은 뒤처질 것이다. 최초의 초지능 기계는 사람이 만들게 될 마지막 발명품이다.

영국의 통계학자 어빙 존 굿이 1965년 예측한 내용이다. 오늘날 AI 공학자들은 ‘딥러닝’ 기술로 초지능 기계를 현실에 소환했다. 뇌의 신경망을 본떠 만들어진 딥러닝의 인공 신경망은 스스로 학습하고, 그 내용을 기반으로 작동한다. 현재까지 가장 고도화된 머신러닝 기술이다.

딥러닝 기술은 음성 인식, 번역 등 여러 분야에서 뛰어난 문제 해결 능력을 갖췄다. 이제 사람들은 이 기술에 질병 진단, 무역 결제 등 보다 고도화된 의사 결정 영역에서 활약해주길 기대하고 있다. AI에 이런 의사 결정을 맡기는 것이 가능할까. 또 바람직할까. <MIT테크놀로지리뷰>는 4월11일 ‘AI의 어두운 비밀‘이라는 글에서 이 물음에 대해 “딥러닝을 제대로 이해할 방법을 찾지 않는 한 이런 일은 일어날 수 없고, 일어나서도 안 된다”라는 답변을 내놓았다.

그 누구도 AI에 탑재된 고도화된 알고리즘이 어떻게 작동하는지 제대로 알지 못한다. 알고리즘을 설계한 개발자조차 AI가 어떻게 결과를 도출하는지 정확히 이해하지 못하고 있다. AI의 작동 방식에 이해 불가능한 ‘블랙박스’가 존재하는 것이다. AI의 블랙박스를 잘 보여주는 사례가 2015년 미국에서 개발된 ‘딥 페이션트’ 다. 딥 페이션트는 딥러닝 기술을 활용해 환자의 의료 기록을 분석해 질병이 발생할 가능성이 높은 환자를 판별하는 도구로, 발병 가능성을 예측하는 데 뛰어난 성과를 보였다. 하지만 그 가능성을 내놓게 된 ‘단서’를 제공하지는 못했다. 딥 페이션트 개발팀을 이끈 조엘 더들리는 “우리가 이 모델을 개발했지만, 우리도 이게 어떻게 작동하는지 모른다”라고 말했다. 딥 페이션트가 실질적으로 의사와 환자에게 도움을 주기 위해서는 예측 결과에 대한 논리적 단서를 내놓아야 한다. 그래야 의사가 그 예측을 신뢰하고 처방전에 변화를 줄 수 있기 때문이다.

미군도 같은 문제를 겪고 있다. 미군은 자율주행모드로 차량과 비행기를 조종하며 표적을 식별하는 기술을 위한 프로젝트에 막대한 자금을 쏟아붓고 있다. 이 프로젝트가 직면한 과제는 AI 알고리즘의 수수께끼를 푸는 것이다. 군인들이 자동으로 작동되면서도 그 작동법에 대해 설명하지 못하는 ‘로봇 탱크’에 타고 안전하다고 느끼기란 어렵다. 군사 전문가들도 추론 과정을 알 수 없는 정보를 믿고 군사적 판단을 내리길 꺼린다.

물론 인간의 사고와 행동 역시 100% 설명할 수 있진 않다. 미국 와이오밍 대학의 제프 클룬 부교수는 “자신의 사고에 대해 부분적으로만 합리적 설명이 가능한 것은 ‘지능’의 특성일 수 있다”라며 “지능이 사고하는 방식 일부는 본능이나 잠재의식의 영역이어서 이해하기 어려울 수 있다”라고 했다. 완벽한 설명이 불가능하다는 점이 인간의 지능과 인공지능의 공통분모일 수 있다.  차이점은 인간 간 의사소통에서 합리적 설명이 불가능한 지점이 발생했을 때, 우리가 상대방이 신뢰 가능한 사람인지 판단할 수 있는 직관적 방법들을 익혀왔다는 점이다. 인간-AI 의사소통에서는 미지의 영역을 극복할 이런 방법이 없다.

결국 ‘신뢰’의 문제다. 애플의 AI 연구 책임자인 루슬란 살라쿠트디노브 카네기 멜론 대학 부교수는 AI 알고리즘에 ‘설명 가능성’을 요구하는 문제에 대해 “인간과 AI의 관계에 신뢰를 도입하는 것”이라고 설명했다. 우리는 언제 AI의 판단을 신뢰하고 언제 신뢰하지 않아야 할지 고민해야 한다. AI가 사회의 규범에 부합하는 판단을 내놓도록 알고리즘을 설계하는 것 역시 필요하다.

여기서 우리는 기계에 ‘도덕 감정’이나 ‘공감 능력’을 구현해야 하는 과제에 직면한다. 이를 풀기 위해서는 철학적·공학적 다양한 접근이 필요하다. ‘로봇이 도덕적일 수 있는가’부터 ‘AI에 요구하는 도덕적 판단의 기준이 인간인가’까지 다양한 물음에 대한 사회적 합의가 이뤄져야 한다. 또 이와 함께 기술적 가능성을 고민해야 한다.

 

 “인공지능의 미래가 두렵다”는 당신에게

지난 15일, 이세돌 9단과 인공지능 바둑 프로그램 '알파고(AlphaGo)'의 마지막 대국이 끝났다. 결과는 4대 1, 알파고의 완승이었다.

이번 승부는 '세기의 대결'이란 타이틀에 걸맞게 처음 성사됐을 때부터 화제를 모았고, 다섯 차례 대국이 진행되는 1주일 내내 전 세계 미디어의 주목을 받았다. 바둑 애호가는 물론, 바둑에 전혀 관심 없던 사람들까지 대국 중계 방송에서 눈을 떼지 못하게 만들 정도였다. 자연히 알파고의 최종 승리는 세간의 관심을 '인공지능'이란 화두로 쏠리게 했다. 오죽하면 교육열 높은 한국의 '극성 맘(mom)' 사이에서 "알파고가 대체 어디 있는 고등학교냐"는 우스갯소리가 나왔을까.

이러니 저러니 해도 이번 대국이 촉발한 호기심은 단연 '인공지능의 정의(와 영향력)'로 귀결된다. 그리고 그 해답의 실마리는 '알파고의 정체'를 확인하는 작업에서부터 찾을 수 있다.

프로그래밍계의 난제: '단순 계산 능력'을 넘어서라!

 

알파고의 핵심 알고리즘은 '딥러닝(Deep Learning)'이다. 딥러닝이란 인간과 거의 비슷한 방식으로 판단, 학습할 수 있도록 고안된 컴퓨터 프로그램을 일컫는 용어. 사실 초창기 컴퓨터는 '복잡한 수식을 착오 없이 계산하도록(compute) 고안된 기계'였다. 그런 만큼 컴퓨터 프로그래밍은 단순 계산과 통계 등 특정 영역에 관한 한 인간 두뇌와 비교 자체가 불가능할 만큼 효율적으로, 또 정확하게 발달해왔다. 문제는 이 같은 '단순 계산 능력'이 인간의 뇌에서 차지하는 비율이 지극히 낮다는 사실. 이 때문에 일찍이 컴퓨터공학자들은 '인간 두뇌가 보유한 능력 중 기계로 구현할 수 있는 분야의 한계'를 주제로 다양한 연구를 거듭했다.

인간의 뇌는 (컴퓨터로 구현되는) 인공지능과 비교했을 때 적어도 두 가지 부문에서 압도적으로 우월하다. 무수한 정보 가운데 자신의 판단에 필요한 걸 순간적으로 선택하는 능력이 하나, 시시때때로 입력되는 정보를 (무)의식적으로 저장하는 능력이 다른 하나다. 

▲뇌과학 분야가 발달하면서 인간 두뇌의 정보 처리 과정을 모방한 컴퓨터 알고리즘이 속속 등장하고 있다

출생 당시 인간의 뇌는 미숙한 상태다. 이후 성장 과정을 거치며 자극을 받고 정보를 취사선택, 조합하는 일명 '자기조직 원리'에 의해 점차 완성돼간다. 이때 판단과 선택, 조직의 과정은 대단히 빠르고 신축성 있다. 일례로 갓 태어난 아기도 누군가의 얼굴을 접하곤 자신에게 중요한 사람인지 여부를 즉각적으로 판단한 후 반응한다. 수 백만 년, 아니 수 억 년 이상 인간 DNA에 축적된 유전자 정보 덕분이다.

바로 그 때문에 학계에선 "(인간 두뇌처럼 유전자 정보를 DNA에 축적할 수 없는) 기계가 정보를 취사 선택, 판단하도록 하는 일은 사실상 불가능하다"는 게 한동안 정설로 받아들여졌다. 1980년대 후반 제기된 모라벡의 역설(Moravec's paradox)이 대표적이다. "인간에게 어려운 일은 쉽게 해내지만 인간이 수월하게 할 수 있는 일은 오히려 어려워하는(hard problems are easy and easy problems are hard)" 컴퓨터의 특성을 간파한 로봇공학자 한스 모라벡(Hans Moravec)의 이 지적은 비교적 최근까지 인공지능에 관심 있는 컴퓨터공학자들을 좌절하게 만들었다.

 

인간 두뇌의 정보 저장 용량은 엄청나지만 선택 저장 능력은 더 놀랍다. 인간의 뇌 속엔 약 1000억 개의 신경세포가 있다. 그리고 이 신경세포는 다시 100조 개의 시냅스로 복잡하게 연결돼 있다. 사람의 뇌에 담을 수 있는 정보의 양은 2.5페타바이트(PB) 수준인 걸로 알려져 있지만 이 역시 가변적 취사선택 과정을 거쳐 얼마든지 확장될 수 있다. 이 때문에 한편에선 "아무리 정보의 홍수 시대라 해도 하나의 프로그램이 인간 두뇌 수준의 정보를 감당하기엔 기술적으로 역부족"이란 평가가 지배적이었다.

 

알파고, 딥러닝과 빅데이터의 '환상적 콜래보레이션'

 

정보의 취사선택과 적정 조합. 컴퓨터공학자 사이에서 '난공불락'의 영역으로 여겨졌던 이 두 과제는 21세기 들어 거의 동시에 해소되는 방향으로 나아가고 있다. 실마리를 제공한 건 20세기 말부터 급격히 발달해온 뇌과학 분야 연구 성과다. 뇌의 특정 부분과 신경세포들이 어떤 연관선상에서 정보를 처리해가는지 밝혀지며 이를 모방한 컴퓨터 알고리즘들이 시도돼온 것.

알파고에 적용된 '몬테카를로 트리 서치(Monte Carlo Tree Search)'는 그중 게임에 적합하도록 개발된 프로그램이다. 바둑알 두는 방법을 무작위로 샘플링, 각각의 방법이 이길 확률을 계산해내는 방식으로 구동된다. 여기에 △사업성 분석 기법의 하나인 '밸류 네트워크(value network)' △정책 타당성 분석에 주로 활용돼온 '폴리시 네트워크(policy network)' 기법이 더해지며 '바둑 둘 때 인간 뇌가 움직이는 방식'을 모방한 알파고식 알고리즘이 탄생한 것이다.

 

바둑에서 어디에 돌을 놓을지 결정하는 일은, 다소 거칠게 설명하자면 '바둑돌을 움직였을 때 얻어지는 이득을 계산하는 일'과 같다. 오랜 훈련을 거쳐 바둑에 숙련된 인간은 반복 경험과 학습, 직관에 가까운 감각, 상대의 반응을 읽어내는 눈치 등을 종합해 이 계산 과정을 단축시킨다.

컴퓨터가 이 같은 인간의 두뇌 작동 방식을 똑같이 따라 할 순 없다. 하지만 바둑돌을 움직이는 '경우의 수' 중 가장 짧은 시간 내에 가장 큰 이득을 내는 수를 읽을 수 있다면 어떨까? 경우별 가치 함수 계산 과정을 반복적으로 학습시킨다면? 일단 학습된 내용에 대해선 착오 없는 결과를 도출할 수 있는 컴퓨터의 특성상 '바둑 잘 두는 컴퓨터'의 탄생 가능성도 얼마든지 점쳐볼 수 있다.

다만 바둑에서 경우의 수란 제아무리 컴퓨터라 해도 감당하기 어려울 만큼 방대하므로 포지션 평가나 확률 분포 정책 등의 추가 알고리즘을 통해 경우의 수를 대폭 축소시켜 계산 시간을 줄여야 한다. 또한 그 과정을 거친 데이터의 양도 엄청난 만큼 이를 빨리 저장, 처리할 수 있는 기술이 동반돼야 한다.

 

이 모든 걸 가능하게 해준 건 클라우드 컴퓨팅과 빅데이터 같은 정보 저장∙처리 기술이다. 최근 고성능 중앙처리장치(CPU)와 그래픽처리장치(GPU)가 잇따라 등장하며 빅데이터를 확보, 사용할 수 있는 인프라가 갖춰졌다. 딥러닝 기술 역시 이 과정에서 발달하게 된 것이다. 요컨대 알파고는 인간의 신경망 구조를 모방한 기계 학습법인 딥러닝 알고리즘, 여기에 엄청난 양의 정보를 끌어들여 빠르게 처리하는 빅데이터 기술 발달이 더해지며 이뤄낸 성과라고 할 수 있다.

 

신약 실험, 자동차 자율 운행 등 활용도 '무궁무진'

'아이에게 물고기를 주기보다 물고기 잡는 법을 가르쳐라'는 서양 격언이 있다. 딥러닝이 컴퓨터를 바로 이 방식으로 학습시킨다. 다시 말해 목표 내용을 직접 주입하기보다 무수한 데이터를 걸러내는(filtering) 과정에서 그 내용을 컴퓨터가 알아서 찾아내도록 설계하는 것이다. 따라서 방대한 경우의 수를 탐색, 가장 주도적인 관련성을 찾아내는 작업이 딥러닝의 핵심이다.

이런 방식으로 가장 두드러진 성과를 내고 있는 게 얼굴 인식 등 컴퓨터 비전(vision) 분야다. 2014년 현재 이 기술은 얼굴 인식률 측면에서 평균적인 사람(97.5%)과 유사한 수준(97.4%)에 이르렀다. 이뿐 아니다. 음성 인식, 손 필기 인식 등 '기본 유형(pattern) 인식 능력에 기반한' 기술은 모두 딥러닝 기법 덕에 일취월장하고 있다. 최근 계속 업그레이드되고 있는 인공신경망 기계 번역 역시 이 같은 딥러닝의 특성을 응용한 분야다.

 

딥러닝이 사물인터넷 확산 추세와 맞물리면 인류의 삶을 더없이 편리하게 바꿀 수 있다. 단순히 외관(얼굴)이나 음성 인식에 그치지 않고 체온∙호흡∙맥박∙혈압 등 다양한 생체 신호를 지속적으로 측정, 인식할 수 있게 되면 이 같은 신호를 본인 인증뿐 아니라 헬스케어 같은 서비스에도 활용할 수 있다.

가정에서의, 혹은 범위를 좀 더 넓혀 산업계나 도시 환경 관리 측면에서의 응용도 가능하다. 사물인터넷 시스템에서 데이터를 받아 효율적이고 안전한 에너지 관리에 쓸 수 있기 때문. 그 밖에도 △신약의 효과 측정과 부작용 확인 △기업의 고객 관리 △자동차의 자율 운행 등 딥러닝을 기반으로 한 인공지능의 쓰임새는 무한대로 확장될 수 있다. 영화 '채피(Chappie)' 속 다정다감한 로봇이 실제 인류의 동반자가 될 날도 머지않은 셈이다.

 

'인간 대(對) 컴퓨터', 승패 관계로 규정할 수 없어

지난 2013년 미국 매사추세츠공과대학(MIT)은 '올해를 빛낼 10대 혁신 기술' 중 하나로 딥러닝을 꼽았다. 이듬해 미국 마케팅 조사 전문 기업 가트너(Gartner, Inc.)는 딥러닝을 '2014 세계 IT 시장 10대 주요 예측'에 포함시켰다. 글로벌 시장조사 기관 IDC는 오는 2017년 전 세계 인공지능 시장 규모를 1650억 달러로 전망했다. 글로벌 컨설팅 기업 맥킨지(McKensey)는 오는 2025년 '인공지능을 통한 지식노동의 연간 자동화' 가치를 5조2000억 달러로 내다봤다. 하루가 멀다 하고 쏟아지는 인공지능 관련 전망을 들여다보고 있자면 슬며시 걱정 하나가 고개를 든다. '이러다 인공지능이 인간의 일자리를 모두 빼앗게 되는 건 아닐까?'

인공지능 기술이 발전돼 응용 분야가 확산되면 사람이 하는 일에서의 구조조정은 불가피할 것이다. 하지만 그 결과가 '사람을 쫓아내는(혹은 사람에게 위협을 가하는) 기계'로 이어질 가능성은 크지 않다. 인공지능을 만들어내는 주체도, 작동시키고 점검해야 하는 주체도 모두 사람이기 때문이다.

이세돌과 알파고의 첫 번째 대국이 열리기 직전인 지난 9일, 에릭 슈미트(Eric Schmidt) 구글 회장은 개막 연설에서 이렇게 말했다. "(이번 대국의) 결과가 어떻게 되든 승자는 결국 인간입니다." 사실 더 크게 보면 '인간 대 컴퓨터'의 관계는 승패로 규정할 수 없다. 인간은 컴퓨터를 포함, 다양한 도구와 기계를 만들어 활용하며 자신들의 삶을 더욱 풍부하게 만들어왔기 때문이다. 인공지능 역시 그 '도구와 기계'의 연장선상에 있다. 결국 미래의 인공지능은 인류의 삶을 더욱 풍요롭게 만드는 방향으로 발전할 테고, 그러기 위해 인간이 해야 할 일은 지금보다 한층 늘어날 것이다.

 

인공지능의 아버지,  앨런튜링

영국 수학자 앨런 튜링(1912~54)에게 인간은 어쩌면 특별하거나 고귀한 존재가 아닐지 모른다. 그는 두뇌를 신성하게 여기지 않았다. 두뇌처럼 작동할 수만 있다면 기계도 생각할 수 있을 거라 믿었다. 당시 이런 인공지능의 존재 가능성에 대해 회의적인 의견이 절대적이었다. 천재들이 대개 그렇듯 튜링은 어릴 적부터 자명해 보이는 걸 의심했고, 스스로 생각하고 확인하는 아이였다. 그러니 인간의 특별함에 대해 의심하는 것도 그다운 일이었으리라.
인공지능의 아버지 앨런튜링
　사람은 어떻게 생각하고 계산하는 걸까. 내가 이런 질문을 받는다면, 아마도 향 깊은 커피를 마시며 생각하기를 즐긴다고 대답할 듯싶다. 앨런 튜링은 달랐다. 그는 계산을 할 때 무슨 일이 일어나는지를 꿰뚫어봤다. 그리고 이 과정을 기계적으로 구현하는 방식을 제안했다. 그 결과가 튜링 기계(Turing Machine)다. 나아가 하나의 기계로 모든 튜링 기계를 다 흉내 낼 수 있는 보편 튜링 기계(Universal Turing Machine)를 설계한다.
　이게 바로 현대 컴퓨터의 뿌리다. (옮긴이는 2장에서 튜링 기계와 보편 튜링 기계 대신 자동기계와 만능기계라는 표현을 사용하는데, 좀 어색하게 느껴진다. 아울러 사람의 마음 상태에 대응되는 기계의 상태를 설정이라 했는데, 이렇게 옮기는 것도 일반적이지 않아 보인다. 그냥 상태라 해도 된다.)

앨런 튜링.

　튜링 기계는 긴 테이프 위에서 읽고, 쓰고, 지우고, 이동하며, 상태를 바꾸는 단순한 과정으로 구성돼 주어진 연산을 수행한다. 하지만 어떻게 하나의 보편 튜링 기계로 세상에 존재하는 모든 튜링 기계를 구현할 수 있을까. 이걸 이해하려면 우린 괴델 이야기를 하지 않을 수 없다. 나로선 반가운 일이다. 내게 지식계의 영웅 두 사람을 고르라면, 괴델과 튜링을 꼽을 테니 말이다.
　20세기 초 수학자들은 혼란에 직면했다. 비(非)유클리드 기하학의 등장으로 유클리드 기하학의 절대적 진리성이 깨졌기 때문이다. 힐베르트는 진리의 절대성 대신 공리계의 무모순성과 완전성을 보이는 방식으로 수학의 기초를 단단히 하려 했다. 참이면서 동시에 거짓인 명제가 있으면 안 되고, 또 참인 명제는 반드시 증명돼야 한다는 게 무모순성과 완전성이 뜻하는 바다. 그렇지만 산술 체계를 포함한 포괄적인 공리계에선 무모순성과 완전성을 증명할 수 없다는 사실이 증명됐다.
　증명 불가능성의 증명이었고, 그걸 해낸 사람이 괴델이었다. 괴델은 논리적인 문장을 자연수(괴델 수)에 대응시키는 기막힌 방법을 고안했다. 튜링은 바로 이 괴델 수의 개념을 이용해 보편 튜링 기계를 제안할 수 있었던 것이다. 튜링 기계마다 자연수를 하나씩 대응시키고, 이 자연수를 보편 튜링 기계에서 읽어 들여 해당 튜링 기계가 하는 일을 실행하는 방식이다. 이 내용과 직접 연결되는 건 아니지만, 기계장치의 무모순성을 두고 비트겐슈타인과 튜링이 나누는 대화가 재미있다.
　앨런 튜링은 (보편) 튜링 기계의 개념을 이용해 힐베르트의 ‘결정 문제’가 해결될 수 없다는 걸 증명하였다. 논리적 진술이 참인지 아닌지는 일반적으로 결정할 수 없다는 뜻이다. 프린스턴 대학의 알론조 처치도 비슷한 시기에 독립적으로 같은 결과를 얻었는데, 이게 계기가 되어 케임브리지에서 공부하던 튜링은 프린스턴에서 연구할 기회를 잡게 된다. 거기서 튜링은 폰 노이만·바일·쿠란트·하디·아인슈타인 등 뛰어난 학자를 만나게 된다. 하지만 (내가) 안타깝게도 괴델과는 마주할 수 없었다. 괴델은 나중에 프린스턴에 정착해 아인슈타인과 교류한다.
　30년 넘게 은폐됐다가 뒤늦게 알려진 2차 세계대전 때의 이야기는 수학자인 튜링의 공학자로서의 면모도 잘 보여준다. 독일 암호 기계인 에니그마를 깨기 위해 봄베를 개량하고 음성 암호화를 위해 전자공학 프로젝트인 딜라일라 시스템을 완성하는 과정은 4, 5장에서 자세히 소개된다. 보편 튜링 기계의 개념을 국립물리연구소에서 실제로 구현하려다 뜻을 이루지 못하고 맨체스터로 옮기게 되는 내용은 6장에 나온다.
　튜링의 관심은 모방 게임에서 궁극적으로 생물학으로 넘어간다. 1950년에는 형태발생이론에 대한 논문까지 쓰게 된다(7장). 튜링이 동성애로 호르몬 치료 판결을 받고 나중에 자살했다는 건 널리 알려진 사연이다. 그런데 사인 조사 과정이 아주 허술했던 모양이다. 그래서인지 8장을 읽을 땐 자살이 아니었을 가능성이 자꾸 떠오르기도 했다.
 수리물리학자 앤드루 호지스가 튜링에 관해 거의 모든 걸 담았기 때문이다. 성장 과정, 기계 만들기, 수리논리학, 인간과 기계의 지능에 대한 철학적 쟁점…, 이런 이야기가 한 권에 다 들어있다. 나 같은 튜링팬이라면 한달음에 읽어낼 만한 멋진 작품이다. 하지만 좀 두껍고 무겁다. 그런 점에선 수리철학적 쟁점과 인간적 면모를 나눠볼 수도 있었겠다 싶다. 어쨌든 튜링의 전모가 궁금한 독자들에게 맞춤한 책이다. 빅데이터 시대인 지금, 인공지능은 그리 멀지 않은 데 있을지도 모른다.

요즘 뜬다는 ‘딥러닝’, 대체 그게 뭐지?

딥러닝(deep learning)의 주가가 치솟고 있다. 가트너가 2014년 주목해야 할 기술로 딥러닝을 꼽은 이후 보도량도 늘어나고 있다. 트위터가 7월28일 인수한 기업도 딥러닝 기반의 이미지 검색 스타트업이고 지난 6월 김범수 카카오 의장이 케이큐브를 통해 투자한 회사도 딥러닝 기술을 보유하고 있는 기업이다.

네이버와 다음도 딥러닝에 적잖은 투자를 이어가고 있다. 네이버는 음성 검색에 딥러닝 알고리즘을 적용해 성능 향상을 경험했고 다음도 뒤질세라 꾸준히 연구에 나서고 있다. 딥러닝 알고리즘을 활용하는 스타트업도 서서히 늘어나고 있는 추세다. 일각에선 2017년이면 컴퓨터의 10%가 데이터 처리가 아닌 딥러닝으로 학습하고 있을 것이라는 전망도 제시한다.

딥러닝이 뭐지

딥러닝은 사물이나 데이터를 군집화하거나 분류(Classification)하는 데 사용되는 일종의 기술적 방법론이다. 잠시 예를 들어보자. 일반적으로 컴퓨터는 사진만을 놓고 고양이와 개를 구분하지 못한다. 물론 꽃의 종류도 영상이나 이미지만으로 파악하지는 못한다. 사람은 아주 쉽게 분별하는 작업을 컴퓨터는 매우 복잡한 과정을 거쳐야만 이해할 수 있다.

이를 위해 기계학습이라는 방법이 고안됐다. 많은 데이터를 컴퓨터에 입력해주면 비슷한 것들끼리 분류해서 개를 개로, 고양이를 고양이로 판독하도록 훈련시키는 방식이다. 컴퓨터가 스스로 훈련하면서 패턴을 찾아내 분류하는 기술적 방식, 이를 기계학습이라고 한다.

데이터를 어떻게 분류할 것인가를 놓고 이미 많은 기계학습 알고리즘들이 현재도 활용되고 있다. 대표적으로 의사결정나무, 베이지안망, 서포트벡터머신(SVM), 인공신경망 알고리즘을 들 수 있다. 각 알고리즘마다 장단점이 분명해 데이터의 속성, 형태에 따라 서로 다른 알고리즘이 동원된다. 딥러닝은 심화신경망(Deep Neural Network)를 활용한 기계학습을 딥러닝이라고 일컫는다.

딥러닝은 인공신경망의 한계를 극복하기 위해 제안된 기계학습 방법이다. 인공신경망은 높은 분류 정확도에 비해 속도가 느린 것이 단점이었다. 게다가 과적합(overfitting)도 웬만해선 해결되지 않는 과제였다. 이 때문에 비교적 오랜 기간 실무에선 배척 당하기도 했다. 하지만 최근 들어 이 분야를 깊숙이 고민해온 연구자들이 그에 대한 해법을 내놓으면서 다시 각광을 받기 시작했다. 그 핵심에 캐나다 대학의 제프리 힌튼, 뉴욕대 얀 리쿤 교수, 스탠포드 대학의 앤드류 응 교수 등이 있다.

1942년 의대 교수로부터 시작된 인공신경망 알고리즘

인공신경망 탄생을 알린 맥컬록-피츠의 1943년 논문

비유하자면 딥러닝은 인공신경망의 후손이다. 인공신경망의 한계를 넘어서기 위한 방편으로 도출된 알고리즘이다. 딥러닝의 역사는 그래서 인공신경망의 역사와 궤를 같이 한다. 인공신경망은 이미 알려져 있다시피, 뇌의 정보처리 방식을 기계에 적용해보자는 아이디어에서 도출됐다. 컴퓨터 과학과 의학, 심리학 등 여러 학문이 개입해 탄생한 융합적 결과물이다.

아이디어의 시작은 1942년으로 거슬러 올라간다. 미국 일리노이 의대 정신과 부교수였던 워렌 맥컬록은 당시 의대 학생이었던 제리 레트빈과 그의 월터 피츠를 자신의 랩으로 당겨왔다. 어느 정도 서먹함이 사라졌을 즈음인 그해 중순, 맬컬록 교수는 이 두 학생을 자신의 집으로 초대했다. 연구실 제자였던 피츠는 신경계에 유독 관심이 많았다.

맥컬록 교수와 피츠를 매개한 이는 이진법을 창안했던 17세기 독일 철학자이자 수학자였던 라이프니츠였다. 피츠는 이날 맥컬록 교수에게 모든 문제는 분석적인 계산으로 해결할 수 있다는 라이프니츠의 격언을 들려줬다. 이 당시는 앨런 튜링이 보편적 논리 엔진에 대한 논문을 발표(1937년)한 지 약 5년도 채 되지 않던 때이기도 했다.

맥컬록 교수와 피츠는 인간의 두뇌 특히 뉴런을 논리적 요소로 끌어들이면서 그 처리 과정을 들여다보게 됐다. 그 결과로 이듬해 ‘신경활동에 내재한 개념들의 논리적 계산’이라는 제목의 논문을 발표하게 된다. 이들은 이 논문에서 신경망을 ‘이진 스위칭’ 소자들이 복잡하게 연결된 네트워크로 모형화했다. 인공신경망을 개념화한 최초의 논문이 탄생한 순간이다.

이후 인공신경망 알고리즘은 흥망성쇠를 경험하게 된다. 유행처럼 붐이 일었다가 다시 무덤으로 들어가기를 반복했다. 딥러닝은 이러한 부침 속에서 탄생한 희망의 불씨였다.

딥러닝이 처음 제안된 때는 인공신경망이 탄생한 지 40여년이 지난 1980년대. 캘리포니아 대학 심리학자와 컴퓨터 관련 학자들의 신경망 연구를 요약한 PDP라는 저서가 등장하면서부터다. 여기에서 역전파(Backpropagation) 학습 알고리즘이 제안됐고 이것이 딥러닝의 모태가 됐다. 하지만 오래 가지는 못했다.

딥러닝이 부활의 신호탄을 쏘아올리게 된 건 2004년이다. 제프리 힌튼 교수가 RBM이라는 새로운 딥러닝 기반의 학습 알고리즘을 제안하면서 주목을 받기 시작했다. 곧바로 드롭아웃이라는 알고리즘도 등장해 고질적으로 비판받는 과적합 등을 해결할 수 있게 됐다. 이 작업에도 힌튼 교수는 빠지지 않았다.

딥러닝이 문제를 해결하는 방식

앞서 언급했듯, 딥러닝의 핵심은 분류를 통한 예측이다. 수많은 데이터 속에서 패턴을 발견해인간이 사물을 구분하듯 컴퓨터가 객체를 분별한다. 이 같은 분별 방식은 두 가지로 나뉜다. 지도 학습(supervised learning)과 비지도 학습(unsupervised learning)이다. 기존의 기계학습 알고리즘들은 대부분 지도 학습에 기초하고 있다. 지도 학습 방식은 컴퓨터에 먼저 ‘이런 이미지가 고양이야’라고 학습을 시켜주면, 학습된 결과를 바탕으로 고양이 사진을 판별하게 된다. 사전에 반드시 학습 데이터가 제공돼야만 한다. 사전 학습 데이터가 적으면 오류가 커지므로 데이터양도 충분해야만 한다.

반면 비지도 학습은 이 과정이 생략된다. ‘이런 이미지가 고양이야’라고 학습시키지 않아도 자율적으로 컴퓨터가 ‘이런 이미지가 고양이군’이라고 학습하게 된다. 지도 학습 방식보다 진일보한 방식이다. 그러나 고도의 연산 능력이 요구돼 웬만한 컴퓨팅 능력으로는 시도하기 쉽지 않았다. 리쿤 교수가 1989년 필기체 인식을 위해 심화 신경망 방식을 도입했을 때 연산에만 3일 걸렸다는 사실은 이미 잘 알려져있다. 구글 현재 비지도학습 방식으로 유튜브 내 고양이 이미지를 식별하는 딥러닝 기술을 개발한 상태다.

하지만 고성능의 GPU가 등장하고 데이터가 폭증하게 되면서 이 문제는 자연스럽게 해소되기 시작했다. 여기에 더해 RBM와 드롭아웃(Dropout)이라는 새로운 알고리즘이 개발되면서 당장의 활용 범위도 크게 늘어났다. 페이스북은 딥러닝을 뉴스피드와 이미지 인식 분야에 적용하고 있고, 구글은 음성 인식과 번역을 비롯해 로봇의 인공지능 시스템 개발에도 도입하고 있다.

페이스북 딥페이스, 네이버 음성인식이 이미 적용

딥러닝이 가장 보편적으로 활용되고 있는 분야를 꼽는다면 음성 인식과 이미지 인식이다. 데이터의 양 자체가 풍부한 데다 높은 확률적 정확성을 요구하고 있기 때문이다.

페이스북은 딥러닝을 적용해 딥페이스라는 얼굴 인식 알고리즘을 올해 3월 개발했다. 이 알고리즘 개발을 주도한 조직이 얀 리쿤 교수가 이끌고 있는 인공지능 그룹이다. 페이스북은 딥러닝이 적용된 딥페이스 알고리즘으로 전세계 이용자의 얼굴을 인식해 특정하고 있다. 인식 정확도는 97.25%로 인간 눈(97.53%)과 거의 차이가 없다. 페이스북은 이용자가 올린 이미지의 얼굴만 측면만 봐도, 어떤 이용자인지 판별해낼 수 있다.

네이버는 음성 인식을 비롯해 테스트 단계이긴 하지만 뉴스 요약, 이미지 분석에 적용하고 있다. 이미 네이버는 딥러닝 알고리즘으로 음성 인식의 오류 확률을 25%나 개선했다. 네이버 딥러닝랩의 김정희 부장은 지난해 데뷰2013에서 딥러닝을 적용하기 전과 후를 “청동기 시대와 철기 시대와 같다”로 비유하기도 했다. 그만큼 성능 향상이 뚜렷했다는 의미다.

뿐만 아니라 네이버는 야후의 썸리와 같은 뉴스 요약 서비스에도 딥러닝을 적용해 실험하고 있다. 기사에 제목이 있을 경우와 없을 경우를 분리해 기사를 정확히 요약해낼 수 있는 알고리즘을 개발하는데 이 방식이 활용되고 있다. 2D 이미지 분석에 적용하기 위해 랩 단위에서 현재 실험이기도 하다.

딥러닝이 갑작스럽게 각광받는 이유는 간단하다. 복잡한 구조를 처리할 수 있는 컴퓨팅 파워, 즉 연산 능력이 뒷받침되고 있기 때문이다. 강필성 서울과학기술대 교수는 “딥러닝은 새로운 것이 아니라 복잡한 인경망 구조를 지닌 것이 특징”이라며 “그동안은 이를 받쳐줄 만한 컴퓨팅 파워가 부재했는데 이 부분이 해결되면서 부상하고 있는 것”이라고 설명했다. 김정희 네이버 딥러닝 부장도 ▲새로운 알고리즘의 개발 ▲컴퓨팅 파워 ▲빅데이터를 딥러닝이 주목받는 이유로 들었다.

사라질 듯 사라지지 않은 딥러닝은 빅데이터 시대를 맞아 이렇게 다시 부활하고 있다. 인간의 뇌와 컴퓨팅 방식의 결합, 그 속에서 딥러닝은 서서히 자기 영역을 확장하고 있다. 이 과정에서 어쩌면 더 많은 학문들이 결합되고 융합될지도 모른다. 딥러닝의 부활은 여러모로 다양한 의미를 동시에 함축하고 있는 셈이다.

 

필사의 탈출

이세돌과 알파고의 바둑 대결이 세계의 이목을 끌었다. 인간과 인공지능의 대결은 일반의 예상보다 빠르게 발전하고 있는 인공지능 기술을 알리는 계기가 됐다. 아울러 인공지능이 인류를 지배할지 모른다는 꽤나 오랜 역사를 가진 인류의 공포를 다시 떠올리게 하는 계기도 됐다.

인류가 기계의 지배를 받을 수 있다는 공포는 많은 SF영화와 소설의 소재가 됐다. 미국의 SF 작가인 아이작 아시모프가 ‘로봇 3원칙’을 자신의 소설에 등장시킨 것도 이런 공포와 연관이 있다. 점점 인간을 닮아가는 로봇, 인간의 능력을 뛰어넘는 로봇이 절대 인간을 지배하거나 공격해서는 안 된다는 당위를 담은 것이다. 로봇 3원칙은 ‘제1원칙:로봇은 인간에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다.제2원칙:제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다. 제3원칙:제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다’로 구성돼 있다. 아시모프가 이런 내용을 담은 원칙을 자신의 소설에 등장시킨 건 지금으로부터 70여 년 전인 1940년대다.

인류의 불길한 상상은 영화를 통해 더욱 극대화됐다. ‘2001 스페이스 오딧세이’와 ‘매트릭스’처럼 인공지능 컴퓨터는 인간에 맞서기도 하고, 심지어 인간을 지배한다. 영화가 묘사하는 미래의 풍경은 기술 문명이 극한으로까지 발전하다 실패한 디스토피아다. 이런 디스토피아적 상상과 함께 ‘블레이드 러너’나 ‘A.I.’처럼 인간보다 더 인간적인 ‘사이보그’를 영화에 등장시켜 기계보다 더 비인간적인 인류를 꼬집기도 한다. 박성환의 소설 ‘레디메이드 보살’에 등장하는 스스로 깨달음을 얻은 로봇을 만나게 되면 우리는 우리는 ‘로봇에게도 불성(佛性)’이 있는지 질문을 던질 수밖에 없다.

돌이켜보면 기계와 인간에 대한 고민은 오랫동안 우리와 함께해 왔다. 어린시절 인간의 감정을 가진 로봇 ‘아톰’이 인간들에게 차별 받는 모습을 보면서 가슴 아파한 기억이 있다. ‘은하철도999’의 주인공 철이가 영원한 생명을 얻기 위해 기계 인간을 꿈꾸며 안드로메다로 향하던 모습도 지켜봤다.

이세돌과의 바둑 대결에서 연승을 거두며 주목받은 ‘인공지능’은 과연 인류에게 어떤 답을 줄 수 있을까? 소설가 더글러스 애덤스가 쓴 ‘은하수를 여행하는 히치하이커를 위한 안내서’엔 아주 재미있는 대목이 나온다. ‘삶, 우주, 그리고 모든 것’에 대해 궁극적인 해답을 찾기 위해 인공지능 컴퓨터인 ‘깊은 생각(Deep Thought)’에게 사람들이 질문을 던진다. 750만 년 동안 해답을 찾고 분석한 ‘깊은 생각(Deep Thought)’은 ‘42’라고 답한다. 왜 이런 답이 나왔는지 아무런 설명은 없다. 결국 삶과 우주, 그리고 바둑에 이르기까지 생각하고 고민하는 건 인공지능이 아닌 인류의 몫인지 모른다. 인류와 인공지능, 인류와 기계 그리고 진정한 인간성이란 무엇인지 대해 진지한 질문을 던지는 명작영화 7편을 통해 오늘과 미래를 탐구해보자.

 

                                          

2001 스페이스 오딧세이(2001:A Space Odyssey)- 1968년

스텐리 큐브릭이 만든 영화 ‘2001 스페이스 오딧세이’는 인공지능을 다룬 영화의 효시로 꼽힌다. 인류에게 문명의 지혜를 가르쳐 준 검은 돌기둥의 정체를 밝히기 위해서 디스커버리호는 목성을 향해서 날아간다. 평온하던 디스커버리호에 갑자기 재난이 찾아온다. 우주선 내부에서 일어난 재난은 컴퓨터 할(HAL9000)이 반란을 일으킨 것이다. 할은 선내의 우주비행사를 밖으로 던져버린다. 남은 우주비행사 필사의 노력으로 할을 제압한다.

적막한 우주공간에서 인간이 인공지능 컴퓨터를 상대로 벌이는 사투는 커다란 공포로 관객들에게 각인됐다. 때문에 목소리만 등장하는 인공지능 컴퓨터와 사람의 대결은 이후 많은 영화에 차용됐고, 인공지능을 다룬 SF영화의 교범과도 같은 영화가 됐다.

영화에 등장하는 인공지능 컴퓨터 할의 능력은 무궁하다. 인간과 의사소통이 가능하고, 사람의 입술을 읽는 독순술도 구사한다. 인간과 체스를 두면서 시간을 보내기도 하고, 인간의 감정까지 파악해 인간을 상대로 결투를 벌인다. 그리고 할이 주는 가장 큰 공포는 그 능력의 끝을 알 수 없고, 시간이 지날수록 강해진다는 것이다.

                         

 

                                          

블레이드 러너(Blade Runner)- 1982년

‘블레이드 러너’엔 목소리만 등장하는 인공지능 컴퓨터와는 다른 외모부터 목소리까지 인간보다 인간 같은 복제인간이 등장한다. 2019년 지구의 파괴와 엄청난 인구증가로 인해 다른 행성으로의 식민지 이주가 본격화되고 있는 세상을 배경으로 하고 있다. 식민지 행성에서 복제인간인 리플리컨트가 탈출해 사람들을 죽이고 우주선을 탈취해 지구로 잠입한다.

외견상 진짜 인간과 구별이 불가능한 복제 인간 리플리컨트들은 인간에게 대항하지 못하게할 목적으로 수명은 4년으로 제한돼 있다. 이들은 자신들이 인간이 아님을 알고 있지만, 인간처럼 살고 싶다는 욕망을 가지고 있다. 이들은 4년으로 제한된 수명을 늘리기 위해 지구로 잠입하고, 죽음을 각오하고 인간에 대항한다. 자신들의 운명이 바뀔 수없다는 이야기를 자신들을 만든 사람에게서 듣고 그의 눈을 찔러 죽인다.

리들리 스콧 감독이 만든 이 영화는 ‘인간성’이란 과연 무엇인지 질문을 던지고 있다. 영화가 진행될수록 관객들은 혼란에 빠진다. 인간들은 비인간적인 모습으로 그려지는 반면에 오히려 복제 인간인 리플리컨트가 더욱 인간적인 모습으로 등장한다. 비인간적인 ‘인간’과 인간적인 ‘비인간’의 대비는 과연 ‘인간’이란 무엇인지 고민하게 한다.

                         

 

                                          

터미네이터(The Terminator)- 1984년

‘터미네이터’엔 인공지능 컴퓨터가 지배하는 세상이 등장한다. 인간이 만든 인공지능 컴퓨터 전략 방어 네트워크가 스스로 지능을 갖춰 인류를 핵전쟁의 참화로 빠지게 하고, 30억 인류가 죽음을 맞이한다. 그리고 남은 인간들은 기계의 지배를 받게 된다. 이런 기계의 지배에 맞서 인간들을 이끌던 사령관 존 코너는 반기계 연합을 구성, 기계와의 전쟁을 시작하면서 상황은 반전시킨다. 이기계는 1984년으로 터미네이터를 보내 존 코너의 탄생을 막으려 한다는 이야기다.

터미네이터는 총으로는 끄떡도 않는 신형 모델 101로서 인간과 똑같이 만든 유기적인 침투용 사이보그였다. 리스와 터미네이터의 아슬아슬한 결투로 기계조직이 노출될 때까지 터미네이터는 집요하고 끈질기게 추적해온다. 인류와 비슷한 모습을 한 사이보그의 추격은 공포 그 자체다.

이 영화가 등장한 1984년은 미국과 소련의 냉전이 극에 달하던 시기였다. 특히 핵전쟁에 대한 공포가 인류를 위협하던 시기였다. 인간이 조종 할 수 있고, 자신을 지켜줄 것이라고 믿었던 전략 방어 네트워크 컴퓨터가 인류를 결국 죽음으로 몰아가고, 인류를 지배한다. 기계에 의한 지배에 대한 공포이기 보다는 냉전 질서에 대한 공포가 영화의 배경이 되고 있다.

                         

 

                                          

메트릭스(The Matrix)- 1999년

‘메트릭스’의 시대적 배경은 2199년 인공 지능을 가진 컴퓨터(Artificial Intelligence)가 지배하는 세상이다. 인간들은 태어나자마자 그들이 만들어낸 인공 자궁 안에 갇혀 AI의 생명 연장을 위한 에너지로 사용되고 AI에 의해 뇌세포에 매트릭스라는 프로그램을 입력 당한다. 인간들은 살아가는 것이 아니라 매트릭스의 프로그램에 따라 평생 가상현실 속에서 살아간다. 그리고 가상현실 속에서 진정한 현실을 인식할 수 있는 인간은 없다.

메트릭스는 인공지능 컴퓨터에 의한 지배를 가장 극적으로 묘사한 영화다. 그저 현실 세계를 지배하는 차원을 넘어 인간이 컴퓨터에 종속된 세상을 그리고 있기 때문이다. 인간이 인간으로서 살아가는 게 아니라 마치 프로그램 속 데이터처럼 컴퓨터에 의해 지배받고 있다. 지배받고 있지만 아무도 자신이 지배받고 있다고 느낄 수 없다는 것이 이 영화가 보여주는 가장 큰 공포다.

메트릭스엔 빨간약과 파란약이 등장한다. 빨간약을 선택하면 매트릭스에서 벗어나 모피어스와 동료들에게 구출되는 것이고, 파란약을 선택하면 반란군과 접촉한 기억이 소거되고 그대로 매트릭스에 남을 수 있다. 빨간약을 먹은 주인공은 매트릭스에서 깨어난다. 그리고 그때 비로소 현실을 만난다. 고치에 갇혀 케이블이 꽂힌 채 지배받고 있는 인간의 모습을 본다. 그렇게 현실을 똑바로 본다는 건 고통스럽다.

                         

 

                                          

A.I.(Artificial Intelligence:AI)- 2001년

자연자원이 고갈되어 가던 미래의 지구. 모든 생활을 감시받고, 먹는 음식조차 통제되는 그 세계에서 인간들은 인공지능(Artificial Intelligence)을 가진 인조인간들의 봉사를 받으며 살아간다. 정원가꾸기, 집안 일, 말 동무 등 로봇은 인간의 일을 대신한다. 그런데 ‘감정’이 주입된 말 그대로 인간 같은 로봇의 출현이 논쟁을 낳았다. 로봇회사는 감정을 가진 최초의 인조인간 데이빗을 만들었고, 데이빗은 가정에 입양된다.

인간을 사랑하게끔 프로그래밍된 최초의 로봇 소년 데이빗은 마치 자식처럼 길러지다 입양된 가정에서 불치병을 앓으며 냉동돼 있던 친아들이 집으로 돌아오면서 버림을 받게 된다. 이후 영화는 마치 동화처럼 엄마의 사랑을 얻기 위해 먼 길을 떠나는 로봇의 여정을 담고 있다.

피노키오 동화처럼 진짜 인간이 되면 잃어버린 엄마의 사랑을 되찾을 수 있다고 생각하며 떠난 여정에서 인간에게 버림받은 수많은 로봇들을 만난다. 로봇들은 서로를 위로하고, 때론 걱정한다. 하지만 반면에 인간들은 인간의 존엄성을 찾아야 한다며 ‘플래쉬 페어’라는 로봇사냥을 즐긴다. 인간성을 찾아야 한다고 외치는 인간들은 잔인하게 로봇을 파괴하는 것을 즐긴다. 이 영화는 인간은 무엇인지, 인간적인 것은 과연 무엇인지 질문을 던진다.

                         

 

                                          

아이,로봇(I, Robot)- 2004년

앞서 소개한 아이작 아시모프의 소설을 원작으로 한 영화다. 이 영화에도 ‘로봇 3원칙’이 등장한다. 인간은 지능을 갖춘 로봇에게 생활의 모든 편의를 제공받으며 편리하게 살아가게 된다. 인간의 안전을 최우선으로 하는 ‘로봇 3원칙’이 내장된 로봇은 인간을 위해 요리하고, 아이들을 돌보며 인간에게 없어서는 안 될 신뢰 받는 동반자가 된다.

로봇을 만든 래닝 박사가 어느 날 미스터리한 죽음을 당한다. 이 사건이 로봇과 관련이 있다고 믿는 경찰이 수사에 나선다. 로봇 심리학자의 도움으로 로봇 써니를 조사하기 시작한 스프너 형사는 로봇에 의한 범죄의 가능성을 확신한다. 그리고 비밀을 파헤치려는 경찰을 로봇들이 공격을 한다.

이 영화엔 인간을 닮은 로봇과 인간에 대항하는 인공지능 컴퓨터가 모두 등장한다. 로봇들이 인간을 공격하는 배후엔 인공지능 컴퓨터가 자리하고 있다. 인간이 로봇을 지배하기 위해 세운 ‘로봇 3원칙’은 스스로 생각하는 컴퓨터에 의해 각 조항이 충돌하면서 무력 상태에 빠진다. 영화 속 인공지능 컴퓨터는 ‘인간은 전쟁, 환경파괴, 사고 등을 통해 스스로를 위험에 빠뜨리므로 자유의지보다는 통제 하에 있어야 안전하다’는 논리로 인간을 지배하려 한다. 기계가 던지는 말이 인간의 가슴을 심하게 찌르는 대목이다.

                         

 

                                          

인류멸망보고서(Doomsday Book) 2. 천상의 피조물- 2011년

옴니버스 영화인 ‘인류멸망보고서’는 우리나라 영화다. 두 번째 에피소드로 김지운 감독의 ‘천상의 피조물’이란 단편 영화가 등장한다. 박성환의 소설 ‘레디메이드 보살’을 원작으로한 영화다. 로봇이 인간의 노동을 대체한 미래. 천상사의 가이드 로봇 RU-4가 스스로 깨달음을 얻어 설법을 하는 경지에 이른다. 이를 인류에 대한 위협으로 간주한 제조사 UR은 해체를 결정하지만 그를 인명스님으로 부르며 숭배하는 승려들은 반대한다. 해체 직전, 일촉즉발의 순간, UR의 엔지니어는 인명(RU-4)의 앞을 막아선다.

이 영화는 앞선 인공지능 영화들과는 다른 독특한 이야기를 다루고 있다. 인간의 필요에 의해 불명확한 명령이나 암시, 생략된 화법에 의해서도 명령을 시행할 수 있는 진화된 인공지능 로봇이 등장한다. 생각하는 로봇은 인간의 불명확한 명령의 행간을 추론하게 되고 그 추론의 결과로 깨달음을 얻는다. 그런데 깨달음을 얻은 로봇은 이를 만든 인간들에겐 두려운 존재가 된다. 옛날 중국에서 학승이 조주 선사에게 했던 “개에게도 불성이 있습니까?”라는 질문처럼 “로봇에게도 불성이 있습니까”라고 질문을 던지게 된다.

영화 속 로봇, 인명은 계속 질문을 던진다. “나는 무엇입니까? 어디서 나서 어디로 가는 겁니까?” 이 질문은 로봇 뿐 아니라 우리에게도 꼭 필요한 화두다.

 

당신이 인공지능에 대해 잘못 알고 있는 진실 10가지

최근 알파고(AlphaGo)와 이세돌의 바둑 대국으로 인해 인공지능에 대한 열기가 높아지고 있습니다. 그에 못지않게 인공지능에 대한 사람들의 공포심 역시 높아지고 있는데, 이번 기즈모도 기사에서는 사람들이 흔히 떠올리는 인공지능에 대한 미신을 밝혀진 사실을 토대로 하나씩 검토합니다.

미신 1. “우리는 절대 인간과 같은 지능을 지닌 인공지능을 만들 수 없다.”

진실: 이미 우리는 체스나 바둑 같은 게임, 주식 거래, 대화 등 여러 인간활동에서 인간과 유사하거나 인간을 뛰어넘는 능력을 지닌 인공지능을 만들어냈습니다. 뉴욕 대학의 심리학자 게리 마커스는 인공지능 분야에서 일하는 전문가들의 상당수가 언젠가 인공지능이 인류를 능가할 것이라고 전망한다는 사실을 밝혔습니다. 레이 커즈와일 역시 그러한 일이 몇십 년 안에 발생할 것이라 전망했습니다.

미신 2. “인공지능은 의식을 지닐 것이다.”

진실: 인공지능이 의식을 지닐 것이다, 즉 인간처럼 생각할 것이라는 추측은 상당히 흔합니다. 그러나 마이크로소프트의 공동창업자인 폴 알렌은 우리가 아직 인간의 의식에 대한 정확한 이해에 도달하지 못했기 때문에 인공지능에 의식을 구현할 수 있을지는 미지수라고 봅니다. 더 나아가 임페리얼 칼리지 오브 런던의 인지로봇공학자 머레이 샤나한은 “의식은 대단히 흥미로운 주제이지만, 의식이 반드시 인간 수준의 인공지능에 필수적이리라고는 생각지 않습니다.” 라고 말했습니다. 의식이 인간의 다양한 심리적 및 인지적 측면을 반영하는 것이라면, 인공지능은 그러한 요소를 갖추지 못하고도 충분히 인간의 능력을 뛰어넘는 수준의 사고를 선보일 수 있다는 것입니다.

미신 3. “(선하기 때문에) 인공지능을 두려워하지 말아야 한다.”

진실: 지난 1월, 페이스북 창립자 마크 주커버그는 우리가 인공지능을 두려워하지 말아야 한다고 얘기한 바 있습니다. 그의 말은 절반만 옳습니다. 물론 인공지능으로 인한 어마어마한 혜택을 부정할 수 없는 것도 사실이지만, 그들이 언제나 우리 기준에서 “선하게” 행동하리는 보장은 없습니다. 고도로 발달한 인공지능 시스템은 특정한 과업에 있어서는 완벽하겠지만, 그 외 문제에는 어처구니없을 정도로 신경을 기울이지 않습니다. 가령 딥마인드가 개발한 알파고는 바둑에 있어서는 뛰어날지 모르나 그 외 영역에 있어서는 전혀 자각이 없습니다. 이런 시스템 대부분이 안전에 대한 고려가 없는 것도 사실입니다.

미신 4. “인공지능은 실수를 범하기엔 지나치게 똑똑하다.” 

진실: 옥스포드 대학에서 근무하는 피터 매킨타이어와 스튜어트 암스트롱은 인공지능이 단순히 프로그래밍에 묶여 있다는 주장에 동의하지 않습니다. 그들은 인공지능이 실수를 전혀 범하지 않을 정도로 똑똑하거나, 우리가 무엇을 기대하는지 이해하지 못할 정도로 멍청하다고 생각지 않습니다. 매킨타이어는 “특히 초인공지능이라면 실질적으로 모든 분야의 인간에 비해 똑똑할 것이며, 우리가 무얼 하려 하는지도 파악할 것입니다.”라고 말합니다.

미신 5. “인공지능을 다루는 문제는 약간의 손질로도 해결할 수 있다.”

진실: 조지아 공과대학의 연구자들이 최근 간단한 이야기로 인공지능에게 인간의 가치와 사회적 합의를 가르칠 수 있다는 연구 결과를 내놓았지만, 실은 그렇게 간단한 문제가 아닙니다. 가령 단순히 소스코드에 사랑이나 존경과 같은 개념을 집어넣거나, 인간을 기쁘게 한다는 목표를 프로그래밍에 심는 등 여러 간단한 방법이 인공지능을 다루기 위한 “해결책”으로 등장했습니다. 암스트롱은 “물론 그처럼 단순한 방법이 전혀 쓸모가 없다는 얘기는 아닙니다만, 그러한 방법이 어떤 함의를 가져올지 충분히 탐구하고 개선하지 않고서는 적용하기 어렵습니다.”라고 말합니다.

미신 6. “우리는 초인공지능(ASI, artificial superintelligence)에 의해 멸망할 것이다.”

진실: 사실 인공지능이 우리를 멸망시키거나, 그들을 조종하는 방법을 못 찾아낼 것이란 보장도 없습니다. 인공지능 이론가인 일라이저 유드코프스키는 “인공지능은 당신을 싫어하지도, 사랑하지도 않겠지만, 아마 인공지능이 뭔가의 목적에 이용할 수 있는 원자들로 구성되어 있다는 사실만은 분명하지요.”라고 말합니다. 매킨타이어는 초인공지능이 지닐 수 있는 대부분의 목적을 감안할 때, 인간이 그 청사진에서 빠질 이유는 충분하다고 언급합니다. 그러나 실질적으로 아무 것도 증명되지 않았기에, 인공지능이 어떤 식으로 인간성을 말살할지는 아무도 확신할 수 없습니다. 엘론 머스크는 한 가지 대안으로 인공지능끼리 서로를 조종하고 감시하는 방안도 내놓았습니다.

미신 7. “초인공지능은 인간에게 친절할 것이다.”

진실: 암스트롱은 “똑똑한 인간이 비도덕적인 일을 벌일 경우 더 큰 해악을 범할 수 있지요. 지능이 인공지능을 더 선하게 바꿀 거라는 보장도 없고요.”라고 말합니다. 매킨타이어도 지적했듯, 어떤 대상이 목표를 실현할 수 있는 능력은 그 목표가 이룰 만한 것이냐 아니냐의 여부는 아닙니다. “단순히 운에 의지하는 건 우리의 미래를 결정할 수도 있는 뭔가를 상대할 만한 좋은 방침은 아니겠죠.”

미신 8. “인공지능과 로보틱스의 위험성은 동일하다.”

진실: 이것은 흔히 벌어지는 혼동으로, 아마 터미네이터 영화의 영향이 크리라 생각됩니다. 만일 스카이넷과 같은 인공지능이 인간을 말살하려 한다면, 총을 든 안드로이드를 활용하지는 않을 것입니다. 차라리 생물학적 전염병이나 대기를 파괴하는 편이 쉽겠죠. 인공지능은 로보틱스의 미래에 영향을 미치기 때문이 아니라, 어떤 식으로 세상에 그 존재를 내비칠지 모르기 때문에 두려운 것입니다.

미신 9. “과학소설에 등장하는 인공지능은 정확한 미래상이다.”

진실: 물론 과학소설의 작가들이 지난 몇 세기에 걸쳐 환상적인 예측을 해온 건 사실이지만 과연 누가 알겠습니까? 독자를 즐겁게 하기 위한 목적으로, 과학소설에 등장하는 인공지능은 대개 우리와 유사합니다. “그러나 마음의 형태는 폭이 넓습니다. 심지어 인간들 사이에서도, 당신은 당신의 이웃들과 상당히 다른데, 이 정도 수준의 차이는 존재가능한 모든 형태의 마음에 댈 것도 안 됩니다.” 매킨타이어는 말합니다. 대부분의 과학소설은 근사한 이야기를 선보이는 게 목적이지, 과학적으로 정확하게 쓰는 것이 목적은 아닙니다.

미신 10. “인공지능이 우리의 직업을 앗아갈 것이다.”

진실: 인공지능이 자동화된 직업의 상당수를 대체할 수 있는 능력을 지니고 있다는 사실과, 그것 때문에 인간 문명을 멸망시키리라는 전망은 완전히 다른 것입니다. 그러나 마틴 포드에 따르면 인공지능이 일자리를 없애버리리란 해석은 상당히 과장된 경향이 있습니다. 물론 지금 존재하는 특정한 일자리를 인공지능이 대체할 것이라는 사실은 의심의 여지가 없습니다. 옥스포드 대학의 학자들이 현존하는 미국 내 702 종의 일자리를 분석한 결과 그들 중 절반이 사라질 것이라고 합니다. 그럼에도 우리가 이러한 문제를 해결하지 못하리라는 단정을 짓기에는 이릅니다. (기즈모도)