포스트휴머니즘(출처: 과학의 지평)

포스트휴머니즘의 시대?

최근 포스트휴머니즘이라는 생소한 개념이 대중매체에 심심치 않게 등장한다. 그 배경에는 인공지능과 ‘실존적 위험’이라는 더 생소한 개념이 자리 잡고 있다. 인공지능의 발전 속도가 대부분 사람들의 예상을 뛰어넘어, 그전까지는 ‘오직 인간만’ 할 수 있다고 여겨졌던 분야에 속속 진출하고 있다. 네덜란드의 ‘넥스트 렘브란트’ 인공지능은 렘브란트 화풍을 학습해서 렘브란트가 ‘그렸을 법한’ 그림을 만들어내고1, 인간은 오랜 기간 교육과 훈련을 거쳐야 이해할 수 있는 법률 문서나 경제 분석 보고서를 읽고 요약본을 만들어내는 인공지능까지 등장했다. 이 정도가 되면 인공지능이 할 수 없는 인간의 영역이 남아있기나 할까 걱정될 정도이다.2

​

이런 걱정에 자주 이어지는 생각은 이러다가 인공지능이 너무 발전해서 SF영화 <터미네이터>의 스카이넷이나 <매트릭스>의 인공지능처럼 인간을 뛰어넘는 초지능을 발휘하여 인류를 종속하는 끔찍한 디스토피아의 가능성이다. 혹은 그 정도로 극적인 상황은 아니더라도 서류 클립을 만들라는 인간의 명령을 ‘글자그대로’ 해석해서 인류의 생존도 무시하고 무작정 서류 클립만 만들어서 지구를 서류 클립으로 뒤덮는 다소 황당한 시나리오도 있다. 이것이 ‘실존적 위험’ 상황이다. 핵심은 인간의 지능을 뛰어넘는 인공지능의 등장이 인류의 생존에 위험이 될 수 있기에 이에 미리미리 대비해야 한다는 생각이다. 그럼 이에 대한 우리의 대응은 어떠해야 하나? 우리도 슈퍼휴먼이 되어서 초지능 인공지능과 맞서야 할까?3

​

 

 

1 하지만 주의할 점은 아직 로봇 기술의 발전이 인간의 붓놀림을 흉내 낼 정도가 되지 못하기에, ‘넥스트 렘브란트 프로젝트’에서 렘브란트 스타일 그림이 제작되는 과정은 인공지능과 인간 공학자 사이의 협업이었다는 사실이다. 이런 중요한 측면은 인공지능에 대한 대중매체의 보도에서 종종 간과된다. 관련 내용은 위의 동영상 참조.

2 이런 식의 ‘호들갑’이 대중매체에 자주 등장하지만 실제로 현재 개발되고 있는 인공지능은 대부분 특정 기능만 효율적으로 수행하는 ‘특수 지능’이기에 이런 걱정은 지나치게 과장되었다. 예를 들어 평범한 인간이 수행하는 ‘모든’ 기능을 수행할 수 있는 ‘일반 지능’을 갖춘 인공지능 비서로봇이 가까운 미래에 등장할 가능성은 거의 없다. 이런 이유로 전 세계에서 가장 큰 전기/전자 공학자 단체인 IEEE는 대중들에게 불필요한 오해를 불러 일으킬 수 있는 인공지능이라는 용어 대신 ‘자율지능시스템Autonomous Intelligent System이라는 용어를 사용한다. 관련 내용은 다음 글 참조.

3 대중적으로 널리 알려져 있는 인공지능 관련 ‘실존적 위험’은 여러 측면에서 비판적 검토가 필요하다. 관련하여 이상욱 2020 참조.[1]

한편 최근 활발하게 진행 중인 노화 연구나 유전자 편집 기술에 큰 기대를 걸고 있는 사람들은 21세기야 말로 인간이 나이 들어 죽지 않고 영원히 살 수 있는 단계에 진입할 수 있다고 선언한다. 이 주장을 진심으로 열렬하게 믿고 있는 구글의 수석 엔지니어 커즈웨일은 이런 기술이 충분히 성숙되어 자신이 그 혜택을 볼 수 있을 때까지 살아남기 위해서 수많은 비타민을 챙겨 먹으면서 건강관리에 힘을 쏟고 있다고 한다. 이렇게 인간의 능력을 강화해서 자연적인 인간을 뛰어넘으려는 트랜스휴머니즘 역시 대중의 관심을 크게 끌고 있다.

그러므로 일반적으로 대중매체를 통해 쉽게 접근할 수 있는 수준에서 포스트휴머니즘은 이처럼 초인공지능의 ‘실존적 위험’이나 영생을 보장하는 트랜스휴머니즘의 형태이다. 여기서 우리가 물어야 할 질문은 이런 것이다. 내가 왜 포스트휴머니즘에 관심을 기울여야 하는가? 특히 ‘실존적 위험’이 논리적으로 부인할 수 없는 가능성이긴 하지만 인공지능 개발 양상을 고려할 때 가까운 미래에 실현가능성이 낮다고 생각하며, 동시에 인간이 영생을 얻는 기술적 가능성에 대해서도 아직 생명의 핵심원리에 대한 우리의 과학적 이해가 초보적이기에 실현가능성이 낮다고 본다면 더더욱 이런 관심을 가질 필요가 없지 않은가? 필자의 주장은 그렇지 않다는 것이다. 이 글을 통해 왜 우리가 ‘실존적 위험’이나 트랜스휴머니즘에 대한 개인적 판단과 무관하게 포스트휴머니즘에 관심을 가져야 하는지에 대해 이야기해 보겠다.

 

 

포스트모더니즘과 포스트휴머니즘

일단 포스트휴머니즘이 무엇인지부터 살펴보자. 포스트휴머니즘은 ‘포스트’와 ‘휴머니즘’이 결합된 단어이다. 휴머니즘이 무엇인지는 잠시 후에 살펴보고 일단 ‘포스트post’부터 살펴보자. 접두사 ‘post’는 특정 시점이나 장소보다 뒤에 오는 것을 의미한다. 예를 들어 ‘post-election analysis’라는 표현은 선거가 끝난 후에 선거 결과에 대해 내리는 분석을 의미한다. 그런데 역사의 맥락에서 생각해 보면 특정 시대를 지배했던 사상에 뒤이어 나오는 사상이라면 대부분 앞선 사상의 문제점을 지적하면서 그 사상을 전면적으로 거부하거나 적어도 일부를 수정하는 방식이 되기 쉽다. 예를 들어 포스트모너니즘은 모더니즘 혹은 근대성이 당연시했던 여러 가정에 대해 반기를 들고 등장한 문예사조이다.4

그러므로 포스트휴머니즘은 일단 역사적으로 휴머니즘 ‘이후에’ 등장한 사상적 조류이고 휴머니즘의 핵심 전제들에 대해 비판적으로 검토하거나 수정하거나 어떤 경우에는 폐기하고 대안을 모색하려는 시도를 의미한다. 이렇게 개념적으로 정확하게 포스트휴머니즘을 이해하고 나면 포스트휴머니즘과 ‘실존적 위험’ 혹은 영원히 늙지 않는 삶은 본질적 관계는 없다는 것을 알 수 있다. 그보다는 뛰어난 수행능력을 뽐내는 인공지능의 등장과 인간의 능력을 획기적으로 향상시킬 수 있는 생명 공학적 가능성은 포스트휴머니즘의 주제에 접근하는 하나의 단서일 뿐이다. 그렇다면 이런 단서가 시사하는 포스트휴머니즘의 전망은 어떤 것일까? 그리고 이런 단서가 구체적으로 왜 20세기 말, 21세기 초에 급속하게 사회적 쟁점으로 부각했을까? 이에 대해 답하기 위해서는 앞서 미뤄두었던 휴머니즘에 대해 이야기해 볼 필요가 있다.

 

 

휴머니즘 가치의 재검토

휴머니즘이란 무엇인가? 이에 대해서는 수많은 사상가들이 나름의 답을 제시해 왔고 현재도 여러 경쟁하는 답을 들을 수 있다. 그럼에도 불구하고 일반적으로 간과되고 있는 두 가지 특징에 대해 주목해 보자.

​

4 관련 내용은 Collins English Dictionary 참조

5 이런 의미의 인문주의의 시작을 생생하게 묘사하고 있는 탁월한 책으로 Greenblatt 2012 참조[2]

6 팽글로스적 낙관주의는 계몽사상가 볼테르의 저작 『깡디드』에 등장하는 인물에서 유래한 개념으로 현재 상태가 우주가 존재할 수 있는 가장 좋은 상태라는 극단적인 견해를 의미한다.

우선 현재 시점에서 휴머니즘을 논하는 학자들은 크게 두 부류로 나뉜다. 인문학자들은 휴머니즘Humanism을 대개 인문주의人文主義로 번역한다. 인문이란 ‘인간이 만든 무늬’라는 뜻이다. 여기서 무늬는 인류가 인적, 물적 자원을 동원해 이룩한 문화文化 혹은 문명文明을 의미한다. 결국 인문학자들은 휴머니즘이 인류가 이룩한 문화 및 문명의 유산의 의미를 깊이 연구하고 이를 향유하는 것으로 이해한다. 실제로 일부 인문학자들은 과거의 문화적 유산의 핵심이라 할 수 있는 ‘고전’을 깊게 탐구하는 것을 인문주의의 가장 중요한 작업이라고까지 생각한다.5

이렇게 좁게 이해된 인문주의는 고전에 담긴 ‘지혜’를 탐색하고 향유한다는 의의를 지니고 있으나, 현재 우리가 당면한 문제에 적극적으로 대처하거나 바람직한 미래를 설계해 나가는 데는 그다지 유용하지 않다는 의미에서 수동적이다. 이렇게 평가하는 것은 결코 ‘수동적 인문주의’의 가치를 무시하는 것이 아니다. 인류가 오랜 기간 축적한 문화유산을 탐구하고 향유하는 것은 일부 인문학자들만이 아니라 전체 인류가 누려야 할 중요한 인류 공통의 자산이다. 이런 의미에서 소극적 인문주의는 분명 우리 삶을 풍요롭게 하는 데 큰 기여를 한다.

하지만 수동적 인문주의가 적어도 현재의 문제를 해결하고 미래를 대비하는 과정에서는 분명한 한계를 가지고 있다는 것이 분명하다. 역사가 늘 바람직한 방향으로 가는 것은 아니지만 거시적 규모에서 볼 때 현재 인류는 인문주의자들이 그토록 찬양하는 플라톤의 고대 그리스나 공자의 중국 춘추전국시대보다 삶의 질이나 사회적 정의로움에 있어 분명 진보했다고 할 수 있다. 이들 시기에는 당연시되었던 노예를 비롯한 각종 차별은 적어도 현재는 규범적으로 받아들일 수 없다는 데 모두 동의한다. 물질적 풍요로움이 사회 전체에 얼마나 널리 퍼져 있는지, 그리고 의료, 교육 등의 복지 수준이 얼마나 평등하게 분배되어 있는지 비교해 보더라도 현재 시대가 갖는 비교우위는 확실해 보인다.

물론 이렇게 말한다고 해서 현대가 모든 면에서 과거의 어떤 시기보다 좋다는 팽글로스적 낙관주의를 주장하려는 것은 아니다.6 현대는 수많은 문제를 안고 있으며 그 문제를 적절하게 해결하지 않으면 미래에 우리는 더욱더 큰 위험에 빠지게 될 것이다. 필자가 강조하고 싶은 부분은, 현대를 보다 나은 사회로 만들려고 노력하는 과정에서 ‘고전 읽기’만을 절대적으로 강조하는 소극적 인문주의는 자칫 과거를 우상화하고 현재 우리의 당면 문제를 그에 맞지 않는 낡은 개념으로 대응하려는 복고주의적 낭만주의로 흐를 가능성이 있다는 점이다.

한편 사회과학자들은 휴머니즘을 인간 존엄성이나 인권 개념과 긴밀하게 연결시킨다. 그들에게 휴머니즘의 실현 여부는 모든 인간이 갖는 인권을 어떻게 제도적, 실질적으로 보장할 것인지에 의해 결정된다. 이런 의미에서 휴머니즘은 종종 인본주의人本主義로 번역된다. 인권 개념, 특히 모든 인간이 태어남과 동시에 남에게 양도할 수 없는 권리를 갖는다는 생각은 서구에서 프랑스 혁명을 거치면서 등장했다.

인권 개념이 역사적으로 특정 시점에 등장하여 점차 보편적으로 수용되었다는 사실은 우리가 통상적으로 휴머니즘에 대해 갖는 보편적 직관과 달리 휴머니즘이 역사를 거치며 변화해 왔음을 잘 보여준다. 물론 고대 그리스 철학이 처음에는 자연철학에서 시작했다가 소피스트나 소크라테스 시절에 인간과 사회로 철학적 관심을 이동했던 것을 ‘인본주의’의 시초로 보는 입장도 있다. 하지만 전체 인구의 절반 이상이 노예였고 여성은 하급 인간 취급을 받았던 고대 그리스 사회에서 우리에게 익숙한 인권 개념은 찾아볼 수 없었다. 결국 인권 개념은 인류가 보다 보편적인 도덕적 기준을 마련하고 이를 사회적으로 제도화 시키는 과정에서 고대 휴머니즘에 없던 생각을 만들어내고 발전시킨 결과물이다. 이런 의미에서 인본주의의 ‘싹’은 고대 그리스 철학이나 르네상스 인문주의에서 찾을 수 있겠지만, 인간의 존엄성이 다른 모든 가치를 압도한다는 인간중심주의적 생각은 근대를 거치면서 비로소 형성되었다고 볼 수 있다.

 

개념적으로 정확하게 포스트휴머니즘을 이해하고 나면

포스트휴머니즘과 ‘실존적 위험’ 혹은 영원히 늙지 않는 삶은 본질적 관계는 없다는 것을 알 수 있다.

우리에게는 너무나 익숙한 인권 개념이 역사적으로 형성되어 온 근대의 산물이라는 점에 주목하다면 휴머니즘의 다른 특징, 즉 역사적 변화가능성을 이해할 수 있다. 다시 말하자면 각 시대마다 휴머니즘을 말할 때 추구하는 지향점이나 자명하다고 간주된 전제가 조금씩 달랐다는 것이다. 르네상스 시기에 휴머니즘은 표준국어대사전의 인문주의 정의에서도 나와 있듯이 “서양의 문예 부흥기에 이탈리아에서 발생하여 유럽에 널리 퍼진 정신 운동. 가톨릭교회의 권위와 신 중심의 세계관으로부터 인간을 해방시키고, 그리스ㆍ로마의 고전 문화에 대한 연구를 통하여 인간의 존엄성 회복과 문화적 교양의 발전에 노력하였다.”를 의미했다. 하지만 이 시기를 지나고 근대에서 인권 개념이 강조되면서 휴머니즘은 인간의 존엄성을 강조하고 인권을 보편적으로 보장하려는 다양한 노력으로 이해되었다.

이러한 노력의 결정판이 1948년 국제연합 총회에서 통과된 세계인권선언Universal Declaration of Human Rights이다. 이 선언은 우리가 통상적으로 인권이라고 할 때 떠올리는 언론의 자유, 양심의 자유 같은 정치적 권리만이 아니라 노동자의 단결권, 교육 받을 권리, 예술을 향유할 수 있는 권리와 같은 경제적, 문화적 권리까지 포괄하고 있다. 이런 권리 개념은 고대 그리스 사회까지 가지 않더라도 프랑스 혁명 시기에 천부인권을 주장했던 사람들도 ‘권리’라고 생각하기 어려웠을 권리이다. 다르게 말하면, 의견이 다른 사람들을 설득해온 권리운동가들의 많은 노력 덕분에, 오늘날 우리가 정치적, 경제적, 문화적 권리 개념들을 자연스럽게 받아들이고 실질적인 권리 실현을 위해 국가에 권리 보장의 의무를 지워야한다는 생각을 보편적으로 가질 수 있게 되었다.

정리하자면 휴머니즘의 여러 가치나 전제들은 인류의 역사에서 끊임없이 새로운 방식으로 조금씩 변화되어 왔으며 그 변화 과정은 지구의 자기장 축이 조금씩 바뀌듯이 자연적으로 발생한 것이 아니라 인간의 적극적인 노력과 사회운동을 통해 의식적으로 이루어져 왔다는 것이다. 이처럼 휴머니즘의 역사는 지극히 인간적인 방식으로 변화되어 왔던 것이다.

 

 

포스트휴머니즘의 오랜 역사

앞서 포스트휴머니즘은 휴머니즘의 기본 전제를 비판적으로 검토함으로써 미래사회에 적합한 휴머니즘을 탐색하는 것이라고 했다. 이런 의미에서 포스트휴머니즘은 과거 고전읽기에 머무는 소극적 인문주의가 아니라 실천적, 적극적 인문주의라고 할 수 있다. 그런데 바로 앞 절에서 논의한 것을 이에 더해 보면 흥미로운 시사점을 도출할 수 있다.

​

인간은 상당히 오래전부터 인간이 아닌 다른 것들(정령이나, 영혼이나, 야생의 동물이나 길들여진 동물)과 함께 살아가면서 끊임없이 그 경계를 새롭게 나누고 이에 적응하며 살아왔다.

왜냐하면 인간의 생존과 안락한 삶을 위해서는 인간과의 협력만이 아니라 ‘인간이 아닌 존재자’들과의 협력이 절대적으로 필요했기 때문이었다.

만약 휴머니즘이 고정된 실체가 있는 것이 아니라, 고대에서 르네상스 시대를 거쳐 근대와 현대에 이르기까지 각각의 사회적 요구에 부응하여 새롭게 규정되었다면, 포스트휴머니즘은 휴머니즘으로부터 벗어나려는 일탈적 주장이 아니라 지극히 표준적인 휴머니즘의 21세기 버전이라고 볼 수 있다는 것이다. 휴머니즘의 실천자들이 항상 그래왔듯이 포스트휴머니즘을 주장하는 사람들은 21세기 맥락에서 새롭게 제기된 여러 쟁점, 특히 인간 수준의 수행능력을 보이지만 인간과 달리 의식적 자각 능력이 없는 인공지능의 등장이 제기한 여러 쟁점을 포용하는 방식으로 포스트휴머니즘을 비판적으로 재검토하고 있다고 볼 수 있는 것이다. 이런 관점에서 볼 때 포스트휴머니즘은 휴머니즘의 부정이라기보다는 21세기에 가장 적합한 휴머니즘의 새로운 형태인 셈이다.

그런데 실은 인류의 역사에서 포스트휴머니즘은 인공지능이나 로봇에 대해 본격적으로 논의가 시작된 20세기가 아니라 인류가 문명을 이룩한 몇만년 전부터 시작되었다고 보는 것이 더 적절하다. 왜 그럴까? 휴머니즘과 포스트휴머니즘을 거시사의 시각에서 바라보자.

인류가 수렵채집 생활을 벗어나서 정착 생활을 하고, 농업을 시작하고 가축을 기르고, 국가를 만들기 시작한 2만년 전의 상황에 대해 현재 우리는 상당한 정확도로 추측해볼 수 있다.7 이 시기에 우리 조상들에게는 인간과 자연의 구별이 지금처럼 분명하지 않았다. 예를 들어, 최근 연구에 따르면 우리에게 친숙한 개, 닭, 소, 말 등이 야생동물에서 가축으로 길들여지는 과정과 밀, 옥수수, 쌀 등의 ‘풀’이 작물로 길들여지는 과정은 목적성을 갖고 단기간에 이루어진 것이 아니었다. 그보다는 상당한 기간 동안 여러 요인의 영향을 받으며 느리게 진행되었다.8

 

7 이 시기에 대한 최신 연구 결과는 Scott 2018 참조 [5]

8 관련 내용은 Roberts 2018 참조 [4]

하나의 사례를 살펴보면, 혹독한 빙하기에 늑대들은 인간 집단을 따라다니면 인간이 남긴 음식을 얻을 수 있어서 생존에 유리하다는 것을 발견했고, 그 과정에서 인간도 늑대가 사냥에 도움이 될 수 있다는 것을 깨달았다. 인간을 잡아먹을 수도 있는 위험한 늑대에서 인간의 ‘가장 좋은 친구’인 개가 되는 과정은 오랜 기간에 걸쳐 늑대와 인간 모두에게 정체성 변화를 요구했다. 이 과정은 생물학적 종 변화만이 아니라 인간과 대비되는 야생에서 인간의 문화권으로 들어오는 과정을 의미했고, 늑대만이 아니라 인간의 행동도 함께 변화했다. 결국 인간은 자신들이 야생 동식물을 길들이는 과정에서 자기 자신도 함께 길들이는 방식으로 인간을 재규정했던 것이다. 자연과 인공의 경계를 끊임없이 조금씩 다시 만들어 가면서 선사시대 인류는 현대 인류로 변화해 왔던 것이다.

핵심은 이것이다. 인간은 상당히 오래전부터 인간이 아닌 다른 것들(정령이나, 영혼이나, 야생의 동물이나 길들여진 동물)과 함께 살아가면서 끊임없이 그 경계를 새롭게 나누고 이에 적응하며 살아왔다. 왜냐하면 인간의 생존과 안락한 삶을 위해서는 인간과의 협력만이 아니라 ‘인간이 아닌 존재자’들과의 협력이 절대적으로 필요했기 때문이었다. 그러므로 인간과 인간이 아닌 것의 경계를 끊임없이 탐색하고 둘 사이의 관계를 끊임없이 재설정해왔다는 의미에서 인간은 원래 포스트휴머니즘을 실천해 왔던 것이다. 모든 생명체에 (어떤 경우에는 돌과 같은 무생물에게도) 영혼이 있다는 애니미즘이나 생명체와 무생물은 근본적인 차이가 있고 그 차이는 ‘생기vis viva’의 유무에 의해 결정된다는 생기론, 그리고 20세기 이후 과학계의 정설로 자리 잡은 물질주의materialism는 모두 이런 포스트휴먼적 물음에 대한 답으로 제시되고 수용되었다고 볼 수 있다. 결론적으로 적극적 휴머니즘으로 이해된 포스트휴머니즘은 인류에게는 매우 친숙하고 오래된 삶의 방식이었다.

 

 

21세기 과학기술 기반사회에서의 포스트휴머니즘

그럼 구체적으로 현재 시점에서 포스트휴머니즘의 문제의식은 무엇인가? 답은 의외로 일상적인 수준에서 쉽게 발견할 수 있다. 여러분이 넷플릭스의 콘텐츠 추천 시스템을 이용할 때 어떤 느낌이 드는가? 스스로 어떤 영화를 볼지 고르는 과정에서 참고만 하고 있다고 느끼는가, 아니면 나보다 내 마음을 더 잘 아는 인공지능에게 휘둘리고 있다고 생각되는가? 가끔씩 기가 막힐 정도로 내 취향에 잘 맞는 숨은 보석을 골라주는 추천 알고리즘은 신고 다니는 신발처럼 ‘단순한’ 도구인가 아니면 집에서 키우는 애완견처럼 정서적으로 공감할 수 있는 존재인가? 그렇게 마음을 잘 헤아리던 추천 알고리즘이 너무도 터무니없는 작품을 추천해서 시간을 허비하고 나서는 역시 기계는 어쩔 수 없다고 생각하는가, 아니면 어차피 내가 신뢰하던 전문 영화 평론가도 내 취향과는 다른 영화를 추천한 경우가 있으니 별 문제될 것이 없다고 생각하는가?

​

민소원

이런 모든 문제에 대해 개인적 수준에서 어떻게 대답하고 그 대답이 여러분의 삶을 어떤 식으로 규정하는지가 모두 포스트휴머니즘적 주제이다. 더 나아가 사회적 수준에서 인공지능 기반 추천 알고리즘에 어떤 법적 규제를 적용할 것인지, 미성년자의 스마트폰 사용에 어떤 제한을 가할 것인지 결정하는 것 역시 포스트휴머니즘적 주제이다. 왜냐하면 이들 모두는 인간과 인간이 아닌 것 사이의 경계를 어떻게 나누고 인간이 아닌 것에 적용되는 문화적 규범과 사회적 제도를 어떻게 설계하는 것이 바람직한지와 관련되어 있기 때문이다.

이런 물음에 개인적, 사회적으로 답함으로써 우리는 프랑스 철학자 라투르가 ‘자연의 정치학’이라 부르는 작업을 수행하게 된다. 다소 추상적으로 보이는 이 개념이 현재 우리 맥락에서 절실한 이유는 최근 진행 중인 자율자동차의 법적 책임 분배 문제나 개인정보의 상업적 이용에 대한 법적 규제 논의 모두 정확히 ‘자연의 정치학’에 해당되기 때문이다. 인간처럼 신념이나 가치판단에 입각해 행동한다는 의미에서 자율적이지는 않지만, 자율주행차는 분명 실시간 수집되는 정보에 입각해서 일일이 탑승자에게 물어보지 않고 최적화된 결정을 수행한다는 의미에서 자율적이다. 마찬가지로 우리가 온라인 공간에 남기는 데이터 흔적들은 결코 인간이 아니지만 우리의 삶에 엄청난 영향을 줄 수 있는 잠재력을 갖고 있기에 인권과 유사한 (하지만 결코 동등하지는 않는) 방식으로 보호될 필요가 있다.

이런 우리 시대의 포스트휴머니즘 문제에 만족스러운 해결책을 제시하기는 매우 어렵다. 또한 어떤 해결책이 정말로 좋은 해결책인지를 두고 논쟁의 여지도 많다. 결국 이 문제들은 역사적으로 포스트휴머니즘적 문제가 해결되어 왔던 방식, 즉 휴머니즘을 수동적이 아니라 적극적인 방식으로 실천하는 방식으로 해결될 것이다. 우리에게 포스트휴머니즘적 태도가 시급한 이유가 여기에 있다.

---

참고문헌

이상욱 2020, ｢인공지능과 ‘실존적 위험’ - 비판적 검토｣, 『인간연구』 , 40: 77-107.

Greenblatt, Stephen 2012, The Swerve: How the World Became Modern, New York: W.W. Norton.

Latour, Bruno 2004, The Politics of Nature, Cambridge, MA: Harvard University Press.

Roberts, Alice 2018, Tamed: 10 Species the Changed Our World, New York: Cornerstone

Scott, James C. 2018, Against the Grain: The Deep History of the Earliest States, Ithaca, NJ: Yale University Press.

오늘날 우리 삶에 막대한 영향을 끼치는 요소 중 하나는 단연코 과학기술이다. 과학기술의 발전은 단지 우리 삶의 물질적 조건을 개선하고 풍요롭게 하는 것에 그치지 않고, 경제·사회·문화·정치에 이르는 일상적 삶의 전 영역에 걸쳐서 광범위한 변화를 유발함으로써 우리 삶의 형태 및 문명의 모습을 조각한다.

문명의 출현 이래 인간은 언제나 기술적 존재였으며, 기술은 인간의 결여된 부분을 보충하는 단순한 도구나 보철이 아니라, 인간의 정체성을 구성하는 핵심적인 부분이었다. 기술은 우리에게 특정한 유형의 사고, 행동, 가치를 유도afford할 뿐 아니라, 특정한 종류의 행동이나 상상의 가능성을 봉쇄하는 제약 조건이기도 하다. 생산과 소비, 인구의 크기, 도시나 국가의 형성, 정치제도, 물질적 삶의 수준, 기대 수명, 노동, 교육, 통신, 의료, 놀이, 예술, 전쟁, 윤리와 가치와 같이 인간 삶의 조건을 구성하는 제 요소들이나 다양한 사회적 실천도 언제나 당시의 기술 혹은 기술적 조건과 밀접하게 연결되어 있다.

21세기 초반 첨단 신흥 과학기술emerging technologies의 발전은 우리 삶의 또 다른 전방위적 변화를 예고하고 있다. 이 말은 우리 삶의 습관이나 형태 혹은 문명의 모습이 또 다른 급격한 변화를 겪게 될 것이라는 의미이다. 인공지능이나 사물인터넷, 가상현실과 같은 새로운 기술의 개발은 우리의 일상적 삶이 뿌리내리고 있는 기술생태 공간을 재구성하는 과정이다. 이러한 기술생태 환경의 변화는 우리가 타인 혹은 비인간 타자와 관계 맺거나 세계와 상호작용하는 방식, 스스로에 대한 자기 인식의 양상, 심지어 우리 삶에 의미를 부여하는 방식을 근본적으로 변형시킬 잠재력을 가지고 있다. 그런 만큼 과학기술의 변화와 발전은 단순히 산업 성장이나 경제 발전의 문제가 아니라, 인간의 활동과 그 삶에 의미를 부여하는 근본적인 조건이나 구조를 새롭게 상상하는 문제이기도 하다.

생명공학이나 인공지능과 같은 신흥 기술이 과거의 과학기술과 구분되는 지점은, 이 기술들이 지금까지와는 전혀 다른 수준에서 인간 본성과 자연 세계에 대한 인간의 개입 능력을 급진적으로 확대하고 있다는 점이다. 그 결과 우리는 물질뿐 아니라 생명이나 정신마저도 우리 마음대로 조작할 수 있는 시대를 살게 되었다. 인류세라는 말이 상징하듯이 지금 우리의 선택에 따라 비단 현재의 인류뿐 아니라 아직 태어나지 않은 미래 세대, 그리고 인간과 더불어 지구를 공유하고 있는 수많은 다른 종의 운명에 불가역적인 영향을 끼칠 수 있는 위치에 있게 된 것이다.

​

연재글

포스트휴머니즘을 성찰한다

포스트휴먼과 포스트휴머니즘, 그리고 삶의 재발명

왜 포스트휴머니즘인가

포스트휴머니즘과 인류세

인공지능과 포스트휴머니즘-초학제의 New Horizon

포스트휴먼과 포스트 트루스: 탈진실 현상의 왜 문제일까

인공지능은 예술을 창작할 수 있을까?

오늘날은 변화의 속도라는 측면에서도 역사적으로 전례가 없는 시대이다. 그 결과 과학기술의 발전이나 일상의 변화 속도, 그러한 변화를 이해하고 해석하는 규범이나 가치 변화의 속도 사이에 현저한 괴리가 발생하고 있다. 과거에 일어난 변화의 속도나 양상이 현재나 미래에도 그대로 지속될 것이라고 단순히 외삽extrapolation하는 것은 결코 적절한 대응으로 보이지 않는다.

변화의 속도나 범위를 감안할 때, 신흥 과학기술이 촉발할 다양한 사회, 문화적 변동은 철학이나 인문학이 사후적인 해석이나 평가자의 역할에 머물지 않고, 미래의 조건이나 방향성에 대하여 선제적이고 적극적인 개입을 요구하는 것처럼 보인다. 오늘날 우리가 직면한 이러한 변화와 도전을 진단하고 그에 대응하기 위한 유망한 프레임 중 하나가 바로 ‘포스트휴먼’이다. 한가지 유의할 점은 학자마다 ‘포스트휴먼’의 개념을 각기 다른 의미로 사용한다는 점이다. 흔히 우리가 포스트휴먼이라고 할 때 떠올리는 형상은 유전적으로 강화(향상)된 인간, 전자장치와 결합한 사이보그 인간, 인간 모습을 한 안드로이드, 유전적으로 변형된 동물-기술의 키메라 등이다. 이러한 포스트휴먼의 형상은 논의의 맥락이나 관점에 따라서 여러 가지 다의적인 방식으로 재현되고 전유된다.

​

가장 대표적인 입장 중 한 가지가 트랜스휴머니즘이다. 트랜스휴머니즘은 과학기술을 이용하여 건강수명을 연장하거나 노화를 제거하고, 지적, 정서적, 신체적, 심리적 능력의 개선 혹은 강화를 꾀하며 인간 본성의 향상enhancement을 긍정하고 적극적으로 지지하는 지적·문화적 운동으로 정의된다. 우리에게 <슈퍼인텔리전스>의 저자로도 잘 알려진 닉 보스트롬Nick Bostrom은 대표적인 트랜스휴머니스트로, 누적된 향상의 결과 기본적인 능력이 근본적으로 지금의 인간을 넘어서기 때문에 현재의 기준으로는 더 이상 인간이라 부를 수 없는 존재를 ‘포스트휴먼’이라 부르고 있다.

트랜스휴머니즘은 기본적으로 이성에 대한 근대의 신뢰, 진보에 대한 계몽의 기획을 계승하려 한다는 점에서 휴머니즘의 연장선 상에 있다. 그런 점에서 혹자는 트랜스휴머니즘을 울트라 휴머니즘 혹은 스테로이드 휴머니즘humanism in steroid이라고 부르며, 미래의 진보에 대한 비전을 특정한 기술의 개발과 적용으로만 치환하는 기술환원주의의 위험성을 띠고 있다고 비판한다. 또한 트랜스휴머니즘은 ‘인간’에 대한 비판적이고 역사적인 설명이나 분석을 결여하고 있다는 비판을 받기도 한다. 물론 트랜스휴머니즘 안에서도 다양한 입장이 경쟁하고 있기에 모든 트랜스휴머니스에게 이러한 평가가 정당한지는 좀 더 따져보아야 할 문제이다.

​

과학기술의 변화와 발전은 단순히 산업 성장이나 경제 발전의 문제가 아니라,

인간의 활동과 그 삶에 의미를 부여하는 근본적인 조건이나 구조를 새롭게 상상하는 문제이기도 하다.

이 글에서는 트랜스휴머니즘보다 탈휴머니즘 담론인 포스트휴머니즘 일반이나 비판적 포스트휴머니즘에 초점을 맞추어 논의를 진행하고자 한다. 포스트휴먼 논의의 초기 이론가인 로버트 페페럴Robert Pepperell은 <포스트휴먼의 조건>에서 ‘포스트휴먼’은 휴머니즘Humanism으로 규정되는 사회발전의 시기가 끝났으며, 우리가 ‘휴머니즘 이후’의 시대로 진입했다는 의미를 지니고 있음을 역설한다. 그 핵심은 인간human being이란 존재를 과거(지금)와 동일한 방식으로 생각할 수 없으므로 ‘인간’의 의미를 새롭게 재정의 혹은 재발명해야 한다는 요구이다. 정보철학의 개척자로 유명한 루치아노 플로리디Luciano Floridi는 비슷한 맥락에서 정보혁명이 야기하는 도전과 변화를 코페르니쿠스, 다윈, 프로이트의 혁명을 잇는 인간학의 ‘4차 혁명’이라 명명하고 있다.

​

이러한 주장들의 밑바탕에는 생명기술이나 정보기술의 발전으로 인한 인간의 기계화, 그리고 인공지능으로 상징되는 기계의 인간화라는 현상이 자리 잡고 있다. 유전자 조작, 줄기세포나 인공장기와 같은 생명기술, 로봇 팔다리나 외골격(엑스스켈레톤)과 같은 인공보철(프로스테시스), 두뇌-컴퓨터 인터페이스BCI, Brain-Computer Interface,를 통한 인간 신경계와 기계의 연결과 같은 (미래의) 기술은 인간을 점점 더 사이보그적인 존재로 변화시킬 것이다. 기계학습으로 무장한 인공지능은 점차 인간으로부터 독립하여 자율적으로 추론, 판단, 선택을 수행하는 인공행위자로 등장하고 있다. 첨단 과학기술의 발전은 결과적으로 인간/생명/기계의 본성을 재존재화reontologize하고 디지털/물리/생물 사이의 경계를 해체한다. 그 결과, 생명이나 정신의 활동이 기술과 상호수렴하여 이것들을 범주적으로 서로 구분하는 것이 점점 힘들어지는 생물-이후post-biological의 시대를 바로 포스트휴먼의 시대라고 말할 수 있다.

휴머니즘 시대에 인간은 정신/물질, 생명/기계, 자연/인공과 같은 이원론적 구분을 토대로, 인간 아닌 것non-human being 혹은 비인간inhuman과의 대비를 통해 정의되었다. 인간은 이성성에 입각하여 행동하는 자율적인 행위자로서, 역사의 산출 주체이자 만물의 척도이며 세계의 중심이었다. 다른 생명체와 자연은 주체의 자리에서 배제된 체, 인간의 필요와 욕구에 의해 마음대로 처분 가능한 수동적인 대상(객체)에 불과했다. 보편적 이념으로서 상정된 이러한 인간 주체에게 가장 중요한 규범적 가치는 스스로에 대한 자기의식을 바탕으로 개인의 선택을 추구할 수 있는 자유이다. 인간의 존엄성 및 도덕성, 윤리, 책임, 권리 등의 규범적 개념에 대한 근대적 이해는 대부분 자기 결정권을 갖는 이러한 독립적이고 이성적인 보편적 인간상에 대한 견해로부터 파생된다고 말할 수 있다. 여기서 인간의 정신, 이성 혹은 생각하는 능력은 신체와 구분되어 인간의 본질을 구성하는 핵심 요소로서, 인간을 다른 생명체/존재와 구분 짓는 결정적인 기준으로 작동한다.

 

포스트휴머니즘으로 이르는 이론적 원천에는 포스트모더니즘을 비롯하여,

​

페미니즘 이론, 탈식민주의 담론, 장애학, 동물연구, 사이보그 이론과 같은 차별에 대한 다양한 담론들이 포함되어 있다.

포스트휴머니즘은 이러한 인간 이해에 도전하면서, 근대적 이분법과 인간중심주의를 벗어나서 ‘인간’, ‘기계‘, ‘생명’에 대한 새로운 이해의 패러다임이나 언어 문법을 모색한다. 포스트휴머니즘의 주요한 담론적 목표 중 하나는 ‘인간’ 개념에 내재된 위계의 해체와 이에 입각한 차별과 배제의 정치학에 대한 극복이라고 말할 수 있다. 포스트휴머니즘으로 이르는 이론적 원천에는 포스트모더니즘을 비롯하여, 페미니즘 이론, 탈식민주의 담론, 장애학, 동물연구, 사이보그 이론(헤러웨이)과 같은 차별에 대한 다양한 담론들이 포함되어 있다. 이 이론들은 근대 휴머니즘이나 위계적 ‘인간’ 개념이 어떻게 성별이나 인종, 민족, 종교 등의 차이를 기반으로 여성, 노예, 인종, 장애인과 같은 ‘다른’ 인간들을 ‘인간’의 범주에서 배제하고, 성차별주의, 인종주의, 노예제, 우생학, 집단학살과 같은 야만적 행위를 정당화했는지에 대해서 폭로한 바 있다.

​

포스트휴머니즘은 여기서 더 나아가 인간 종족주의가 갖는 문제에 주목함으로써, 식물이나 동물과 같은 생명체는 물론이고 새로운 기술의 발전으로 가능해진 변형된 인간이나 사이보그, 인공지능과 같은 기술적 존재로까지 그 논의를 확장한다. 포스트휴머니즘은 전통적인 휴머니즘의 인간 개념이 차이(다름)에 입각하여 인간/동물, 인간/기계, 인간/인간-아닌-존재, 인간/비인간의 위계를 정초하고 있으며, 어떻게 이를 통하여 다른 비인간 존재들에 대한 착취적 태도를 ‘정상화’ 하고 있는지를 폭로한다.

포스트휴머니즘은 인간의 경계를 재정의함으로써 인간을 중심으로 한 다양한 위계를 해체하는 동시에 인간/인간 사이뿐 아니라 인간/비인간-존재 사이의 조화로운 공생을 모색하려고 시도한다. 포스트휴먼의 관점에서, 인간은 환경과 기술에 얽혀 있으면서 다른 형태의 생명과 함께 상호 의존하면서 살아가고 공진화하는 존재이다. 인간은 다른 존재와 분리되어 자족적으로 존재하는 세계의 중심이 아니라, 모든 형태의 생명 및 기술적 존재와 연결되어 상호작용과 교차의 네트워크를 형성하고 있는 관계적 체계relational system의 노드와 같은 것이다. 인간은 인간-아닌 것과의 대비가 아니라, 오히려 비-인간 요소를 포함하기 때문에 비로소 인간다움을 유지할 수 있는 혼종적 존재라는 것이다. 인간의 많은 능력이나 특징, 성질은 다른 형태의 생명, 기술, 생태계와 공진화하면서 만들어진 것이며, 심지어 인간은 다른 생명 형태와 생태계, 생명과정, 유전물질 등을 공유하고 있기도 하다.

포스트휴먼적 관점은 인간을 다른 형태의 생명이나 존재와 분리하여 예외적인 것으로 간주하고, 인간이 그것들을 지배하거나 통제할 권리가 있다는 생각을 부정한다. 인간은, 생물학적 유기체로서의 자연적 인간이건 혹은 기술적으로 변형된 인간이든 간에, 다양한 형태의 주체, 행위자, 생명, 기계와 더불어 살아가고 진화하며, 그것들에 의해 구성되고 또 그것들을 구성하는 상보적인 관계를 형성한다. 이제 의미나 행위의 원천은 인간만으로 국한되지 않는다. 인간은 다양한 형태의 주체, 행위자, 생명, 기계와 더불어 살아가고 진화하며, 기술적 생태 공간 안에서 이들 다른 주체나 행위자들과 교섭하면서 세계의 의미를 만들어 간다.

김명호

 

포스트휴머니즘은 이론적 작업인 동시에 강한 실천적 지향과 결부된 담론이다. 유명한 페미니스트 이론가이자 포스트휴먼 담론의 이론가인 로지 브라이도티Rosi Braidotti는 이론적 형상으로서 ‘포스트휴먼’은 첨단기술이 산출하는 변형뿐 아니라, 기후변화나 자본주의가 촉발한 인류세적 위기와 관련된 문제를 탐사할 수 있게 만드는 네비게이션 도구라고 주장한다. 그녀는 지금 ‘우리’(지구에 거주하는 인간과 비인간)는 자본주의에 의해 추동되는 4차 산업혁명과 기후변화로 인한 여섯 번째 대 멸종 사이에 위치하고 있다고 진단한다. 그리고 자본주의의 가속화와 기후변화의 가속화라는 두 힘 사이에서 어떻게 균형을 잡을 것인가의 문제가 포스트휴먼 담론의 핵심적인 과제라고 선언한다.

오늘날 과학이나 기술 전문가들이 미래를 전망할 때, 그들은 기술을 통하여 만들어질 기계장치나 그것들이 가능케 하는 다양한 장밋빛 결과에 초점을 맞추는 경향이 있다. 하지만 우리가 상상해야 하는 기술의 미래에 대한 비전은 기술의 발전으로 가능해진 기계장치만의 모습이 아니라, 그러한 장치들이 우리 삶을 구성하는 다양한 사회적 실천, 가치, 제도에 뿌리내리고embedded 있는 모습, 그리고 장치들과 더불어 공진화하는 일상성의 조건 변화를 포함하는 기술사회적technosocial인 미래에 대한 비전이어야 한다. 이를 위해서 우리는 기술이 가능하게 만들 미래에 각 개인이 자신의 삶을 의미 있게 조직하고 심미적으로 향유하는 과정이 어떻게 변화될지를 물어야 하며, 거기에 내재된 심미성이나 규범적 가치의 내용이 무엇인지를 숙고하고 반성해야 한다.

다시 말해서 기술사회적 미래를 규범적으로 상상하는 일은, 변화된 기술적 조건 속에서 우리 인간이 지구에 거주하는 방식, 즉 우리가 다른 인간뿐 아니라 지금까지 온전하게 인정받지 못했거나 혹은 새롭게 출현할 인간/비인간 주체들과 구체적으로 어떻게 관계 맺을 것인가를 상상하는 문제이며, 우리가 무엇을 입고, 무엇을 먹으며, 어디에 살며, 어떻게 이동하고 소비할지와 같은 삶의 습관을 바꾸는 문제와 연관된 일이다.

우리 삶의 태도나 습관을 관통하고 규제하는 도덕적 사고나 심미적 가치 지향의 변화는 여러 가능성의 조건에 달려 있다. 이는 단지 기술적 조건만의 변화가 아니라, 우리가 사용하는 언어나 말, 사랑이나 우정, 연대의 관계에 대한 우리의 태도, 문학ㆍ음악ㆍ미술이 우리의 삶에서 차지하는 위치, 노동이나 여가, 부와 소비를 바라보는 관점을 포괄하는 삶의 양식 전체의 변화와 연관되어 있다. 기술적 미래에 대한 상상은 새로운 가치관과 실천적 지향을 통해 새로운 삶과 관계의 방식을 발명하는 문제이며, 그러한 관계의 방식에 따라 인간-생명-기술의 관계적 네트워크가 갖는 모습이 달라질 것이다. 이는 결국 좋은 삶good life이란 어떤 것이며, 인간이나 그 삶을 의미 있게 만드는 것은 무엇인가라는 인문학의 오랜 물음과 맞닿아 있다.

포스트휴먼의 조건이 우리에게 요구하는 규범적 지향은 어떤 것일까? 여러 가지 발상이 가능하겠지만, 나는 공존과 열려있음(개방성)의 태도가 중요한 키워드여야 한다고 생각한다. 포스트휴먼의 사회는 인간과 동물, 기술적 존재들이 서로 얽혀 있으면서 함께 살아가고 공진화하는 기술-생태적 공간을 가리킨다. 생태적 사고가 우리에게 주는 통찰은 생태계를 이루고 있는 구성 요소들 사이에 일어나는 복잡한 상호작용의 중요성이다. 이는 윤리나 도덕을 분리된 개체의 단위가 아니라, 생태계를 구성하는 다양한 개체 및 환경 사이의 상호작용이라는 관계성 속에서 접근해야 함을 뜻한다. 그렇다면 포스트휴먼 시대의 윤리적 가치 지향에 대한 고민도 전체 시스템으로서의 기술-생태 공간을 중심으로 숙고 되어야 하며, 경쟁보다 공존과 협력의 가치에 대한 실천과 훈련(습관화)을 요구한다.

​

기술적 미래에 대한 상상은 새로운 가치관과 실천적 지향을 통해 새로운 삶과 관계의 방식을 발명하는 문제이며, 그러한 관계의 방식에 따라 인간-생명-기술의 관계적 네트워크가 갖는 모습이 달라질 것이다.

이는 결국 좋은 삶good life이란 어떤 것이며, 인간이나 그 삶을 의미 있게 만드는 것은 무엇인가라는 인문학의 오랜 물음과 맞닿아 있다.

이와 함께 우리는 지구적 수준에서 인간이 져야 할 책무성accountability이 무엇인지를 고민해 볼 필요가 있다. 플로리디의 의견을 따르자면, 우리 인간은 지구에 존재하는 모든 것에 대해 에코포이에틱ecopoietic한 책임을 지고 있는 호모포이에티쿠스homo poieticus여야 한다. 에코포이에시스ecopoiesis는 생태지향적인 관점에 입각하여 도덕적인 방식으로 환경을 구성하는 과정이며, 인간은 사용자나 소비자가 아니라 창조자·관리자·감독자로서, 실재reality를 보호하고 번성하도록 관리하는 데미우르고스의 역할을 떠맡아야 한다는 것이다. 공존을 위해 가장 필요한 태도 중 하나는 다름(차이)에 열려 있는 개방성이다. 포스트휴먼의 다양한 존재 양식은 우리가 너무나 당연하게 가정하고 있는 의미의 체계나 사고방식과 끊임없이 마찰을 일으키며, 정상/비정상의 이분법을 통해 현상을 판단하도록 우리를 유혹할 것이다. 성차별, 노인차별, 동성애 혐오, 장애인 차별, 인종주의, 계급 차별과 같은 다양한 배제적 실천들은 오늘날에도 여전히 넘어서야 할 현실적인 벽으로 남아 있다. 또한, ‘인간’을 정의하는 위계적 관점이라는 것이 쉽게 해소되거나 제거되지도 않을 것이다. 그럼에도 불구하고, 다름이란 이미 젠더, 인종, 민족, 사회, 개인의 차원을 관통하며 인간종의 정체성을 구성하는 존중받아야 할 핵심 요소로 자리 잡기 시작했다.

앤디 미아Andy Miah는 포스트모더니즘이 인간성humanity, 행위자성, 역사 등의 개념을 해체하고 부정하려는 허무주의적 시도라면, 포스트휴머니즘은 그것들에 대해서 그 자신의 방식으로 모종의 변형된 탈-인간중심주의적인 형태의 ‘대서사grand narratives’를 복원하려는 시도라고 규정한다. 그 서사의 중심은 인간 주체의 해체나 파괴가 아니라, 오히려 지금까지 인정받지 못했던 주체들의 풍부한 인정에 관한 것이다. 포스트휴먼의 윤리는 인간/비인간, 정신/신체, 자연/인공, 생명/기계의 이원적 구분이 산출하는 다양한 위계를 해체하고, 지금까지 배제되었던 여러 타자뿐 아니라, 앞으로 등장할 다양한 혼종적 존재들과 공존할 방식을 모색한다.

그런데 지금 우리에게 익숙한 언어나 용어로 낯선 존재들을 재단하고 새로운 위계를 산출하는 방식으로는 공존을 준비할 수 없다. 우리는 과거의 속박에서 자유로운, 새로운 도덕적 상상과 경험을 가능하게 만드는 새로운 어휘나 언어를 필요로 한다. 인간-자연-기술 사이의 관계 자체에 대한 근본적인 재규정을 통하여 그러한 상상을 가능하도록 만드는 것이 포스트휴머니즘의 담론의 주요한 이론적 목표이다. 브라이도티에 따르면, 포스트휴먼은 우리가 되고 있는we are becoming 종류의 주체에 관한 가설이다. 그리고, ‘우리’가 누구인지를 끊임없이 문제 삼으면서, 주체를 집합적으로 열려있고collectivity open, 복수적이며, 비위계적인 것으로 유지하려 노력하는 것이 바로 포스트휴머니즘의 실천적 지향이다.

최근 ‘인류세’라는 낯선 용어가 점점 더 여기저기서 들려오고 있다. 원래는 지질학적 세기를 뜻하는 전문 학술용어였지만, 이제 학계의 논의대상을 넘어 인문학과 문화 전반에서 거론되며 일반인들한테까지 관심을 끌고 있다. ‘인류세’는 노벨상 수상자인 화학자 파울 크루첸Paul Crutzen이 2000년 ‘국제 지권-생물권 프로그램the International Geosphere-Bioshpere Program’에서 “우리는 인류세에 살고 있다”라고 선언하면서 본격적인 관심과 논의의 대상으로 떠올랐다.

실제로 이 용어를 처음 제시한 사람은 1922년 구소련 지질학자 알렉세이 파블로프Aleksei Pavlov였지만 냉전 시대에 이 용어는 소련을 넘어 서구 학계에까지 퍼져나가지는 못했고, 1980년대 지구과학자 유진 스토머Eugene Stormer가 제시했을 때에도 그다지 큰 반응을 얻지는 못했다. 그때는 인류세라는 새로운 시대에 대하여 대중의 관심을 확 끌어당길 만큼의 공감대가 아직 형성되어 있지 않았던 것이다. 즉 ‘인류세’ 논의의 부상은 우리들, 인류 전체가 뭔지 몰라도 이전과는 다른 새로운 시대의 문턱을 넘어섰으며, 전례 없는 수준의 변화를 맞이하고 있다는 공통의 인식을 반영한다. 이는 새로운 시대의 본질과 성격을 이해하고, 그에 따라 달라진 인간의 지위와 역할, 주변 세계와의 관계를 다시 고찰하고 재설정해야 할 필요성을 주장한다.

인류세는 인류를 뜻하는 ‘안트로포스anthropos’와 ‘세-cene’를 합쳐서 만든 용어이다. 지질학적 시대는 -대, -기, -세로 구분되는데, 이때 기준이 되는 것은 지각변화와 생물종의 변화이다. 우리가 살고 있는 시대는 ‘홀로세holocene’로, 대략 만 2천 년 전 마지막 빙하기가 끝나면서 시작된 간빙기이다. 간빙기의 따듯하고 안정적인 기후 덕분에 인류는 정착 생활과 농업을 시작하면서 문명을 발전시킬 수 있었다. 그러나 인류세를 주장하는 학자들은 홀로세의 기후 안정성이 점점 사라져가고 있으며, 이것이 인류세라는 새로운 시대로 들어선 증거라고 말한다. 홀로세에서 인류세라는 새로운 시대로 접어들었다는 주장의 주요한 근거 중 하나는 인간이 화석 연료를 사용하면서 대기 중 탄소량이 급증하였고, 이로 인하여 대기의 화학적 조성과 지구의 환경 조건이 돌이킬 수 없이 변화했다는 것이다. 크루첸은 인류세의 근거로 인구 및 에너지 사용의 증가, 온실가스 배출 급증, 삼림 파괴, 수산물 고갈 등을 든다. 인류세가 벌써 학계를 넘어 널리 통용되고 있지만 아직 공식적으로 승인되지는 않았다. 크루첸의 주장에 따라 2009년 국제층서위원회에서 지질학과 층서학의 전문가들이 모인 ‘인류세워킹그룹Working Group on the Anthropocene’이 구성되어 조사 중이다.

​

김명호

인류세의 시작점을 언제로 잡을 것인가에 대해서도 아직은 이견이 분분하다. 정리하자면 크게 세 가지의 주장이 있는데, 첫 번째는 시작점을 가장 멀리 잡는 견해로 7-8천 년 전 인류가 농경을 시작하면서부터 지구 환경을 바꾸어 놓기 시작했다고 본다. 두 번째 견해는 증기기관이 발명되고 산업혁명이 일어난 18세기를 본격적인 인류세의 시작 시점으로 주장한다. 산업혁명으로 인하여 화석연료의 사용이 폭발적으로 증가하고, 탄소 배출량이 급증하면서 지구 환경이 결정적으로 변화하기 시작했다는 것이다. 세 번째 견해는 세계 2차대전 이후인 1950년대 자본주의 산업화가 급격히 이루어진 ‘대가속the Great Acceleration’시기를 인류세의 시작점이라고 주장한다. 이 시기를 인류세의 기점으로 주장하는 또 하나의 근거는, 이때 처음 핵실험이 실시되면서 낙진이 지구 토양의 구성 성분을 영구적으로 변화시켰다는 것이다. 이 중 가장 많은 지지를 받는 견해는 두 번째이며, 크루첸도 이를 지지하는 입장이다.

 

하지만 인류세가 언제부터 시작되었는가보다 훨씬 더 중요한 문제는 인류세라는 새로운 시대 구분이 우리에게 의미하는 바가 무엇인가일 것이다. 크루첸은 인류세를 ‘인간이 지질학적 힘이 된’ 시대라고 정의한다. 그는 “지구 환경에 새겨진 인간의 흔적이 매우 크고 인간의 활동이 대단히 왕성해져 지구 시스템 기능에 미치는 인간의 영향력이 자연의 거대한 힘들과 겨룰 정도가 되었다”라고 인류세의 의의를 설명했다. 이 말은 인간이 더는 지구 환경에 종속되어 그 영향으로부터 자유로울 수 없는 미미한 존재가 아니라, 전체 환경을 통제하고 변화시킬 위대한 능력을 갖게 되었다는 승인처럼 들리기도 한다. 실제로 인류세의 의미를 이렇게 긍정적으로 해석하는 이들도 있다. 인류세를 연구하는 대표적인 사회학자 클라이브 해밀턴은 어느 학회장에서 “인류세에 오신 것을 환영합니다!Welcome to the Anthropocene”라고 적힌 현수막을 보고 반어적인 의미인 줄 알았다가 나중에 그게 아니라는 것을 알고 충격을 받았던 경험을 이야기한다. 그러나 이는 인류세의 의의를 오해한 것이며, 이러한 자기중심적 착각은 인류세에 들어와 우리 주위에서 실제로 어떤 일이 일어나고 있는가를 제대로 보지 못하게 눈을 가림으로써 심각한 결과를 초래할 수도 있다.

인류세를 말 그대로 ‘인류가 주인공이 되는 시대’로 이해하며 인류 문명과 과학기술의 진보에 무한한 믿음과 찬사를 보내는 대표적인 이들이 ‘에코모더니스트ecomodernist’이다. 이들은 인류세가 인류의 힘을 보여주고 증명하는 시대라고 긍정적인 의미를 부여한다. 얼 엘리스Earl Ellis는 역사적으로 인간이 자연체계를 변화시켜 왔지만 지구는 늘 그러한 변화를 잘 수용하여 더욱 생산적으로 변모해 왔으며, 여태까지 그러했듯이 앞으로도 이러한 역학이 근본적으로 달라질 이유는 없다고 주장한다. 지구는 인간의 지식과 기술로 통제할 수 있는 시스템이며, 이를 잘 사용하기만 하면 인류세는 위기가 아니라 인류를 도약하게 하는 ‘위대한 인류세’가 될 수도 있다는 것이다. 에코모더니스트들의 주장은 과학기술로 자연과 물질의 제약을 극복하고 인간의 능력을 무한히 확장할 수 있다는 전통적 휴머니즘에 뿌리를 두고 있으며, 그런 점에서 트랜스휴머니스트Transhumanist들의 입장과도 유사하다. 그들은 자연이 통제가능한 대상이며, 인간은 자연을 배경으로 잠재된 가능성을 실현할 수 있다는 신념을 공유한다. 따라서 에코모더니스트들은 인류세의 기후변화 문제에 대해서도 태양광을 차단하는 에어로졸을 대기 중에 살포하여 지구 온도를 낮추는 등 기술적 해결이 가능할 것이라고 믿는다.

그러나 인류세가 인류에 의해 초래된 것이라 해도 인간이 의도했던 결과는 아니며 인류세에 일어나는 변화를 인간의 힘으로 통제하기는 불가능하다. 인류세는 인류가 이전에 한 번도 경험해보지 못한, 완전히 새로운 미지의 영역으로 들어가는 문턱을 넘어섰음을 의미한다. 최근 전 세계 각지에서 일어나는 이상기후로 인한 재앙들은, 인간 활동이 지구 환경에 일으킨 변화가 그 원인이라는 점에서 과거와 달리 순수한 자연재해로 분류될 수 없다. 가장 대표적인 인류세의 현상인 기후변화의 경우, UN 기후변화협의체 IPCCIntergovernmental Panel on Climate Change는 온실효과로 인해 2100년까지 지구 평균 온도가 3.7~4.5도 상승할 것으로 예측했는데, 이러한 온도 변화는 천 5백만 년 만에 가장 더운 상태이다. 기후분석그룹인 WWAWorld Weather Attribution은 현재와 같은 상황이 계속된다면 2050년경에는 40도 이상의 혹서가 지구 전체에서 일상이 될 것이라고 예측한다.

​

연재글

포스트휴머니즘을 성찰한다

포스트휴먼과 포스트휴머니즘, 그리고 삶의 재발명

왜 포스트휴머니즘인가

포스트휴머니즘과 인류세

인공지능과 포스트휴머니즘-초학제의 New Horizon

포스트휴먼과 포스트 트루스: 탈진실 현상의 왜 문제일까

인공지능은 예술을 창작할 수 있을까?

이러한 기후변화로 인한 이상현상들은 벌써부터 심각한 조짐을 보이고 있다. 미 비영리단체 ‘클라이밋 센트럴Climate Central’은 2050년경에는 해수면 상승으로 1억 5천만 명이 삶의 터전을 잃게 될 것이고, 방콕이나 호치민같은 대도시조차 사라질 것이라고 예측했다. 전 세계 각지에서 점점 더 빈번히, 더 큰 규모로 일어나는 산불 또한 지구 온난화가 가져온 결과들 중 하나이다. 호주 산불은 이미 호주 면적의 3분의 1을 태우고도 잡힐 기미를 보이지 않지만, 이는 호주 소방관들이 무능하기 때문이 아니다. 이러한 재해들은 전지구적 규모와 강도에서 인간이 감당할 수 있는 범위를 사실상 넘어선다. 또한 인류세의 위험들은 고도로 발전한 과학이 만들어낸 새로운 위험이라는 점에서 과학기술로 해결할 수 있으리라는 에코모더니스트들의 주장에도 반한다. 과학기술과 인간의 이성이 문제를 해결할 효과적인 수단을 제공해 주리라는 믿음, 인간의 힘과 의지로 자연환경과 모든 비인간 존재들을 인간의 요구에 맞게 통제하고 변형할 수 있다는 확신은 이 새로운 시대에는 더는 통할 수 없다.

이러한 인류세의 변화들은 인간 활동이 지구 시스템에 영향을 미치면서 생명체가 살아갈 수 있는 환경을 유지하는 지구 시스템의 ‘항상성’을 결정적으로 무너뜨렸기 때문에 초래되었다. 지구 시스템의 항상성을 잘 설명하는 개념이 1972년 제임스 러브록James Lovelock이 제시한 ‘가이아Gaia’ 개념이다. 러브록은 그의 논문 <대기권 분석을 통해 본 가이아 연구>에서, 지구의 생물권이 물리 화학적인 환경과의 상호작용을 통해 환경을 생명체가 살기에 적절한 방식으로 바꾸어 왔다고 주장하고, 생물권을 포함한 지구 전체를 고대 그리스 신화에 나오는 대지의 여신 ‘가이아’로 불렀다. 가이아 개념은 지구 전체를 살아 있는 유기체로 보면서, 지구 환경과 그 속에서 살아가는 인간을 비롯한 생명체들이 맺는 상호관계에 주목했다. 러브록의 가이아 가설은 과학적 근거 없이 신화와 과학을 뒤섞었다는 비난과 함께 오랫동안 무시당했다.

그러나 20세기 말 실제로 지구 생명체와 대기가 서로 영향을 주고받으며 조절하는 관계에 있다는 사실이 과학적으로 증명되면서 과학적 가치를 인정받았고, 지구 전체를 물리, 화학, 생물학적 구성 요소와 인간으로 구성된 하나의 자기 조절적 시스템으로 파악하는 지구 시스템 과학이 발전하게 되었다. 과학철학자 브루노 라투르Bruno Latour는 인류세의 위기를 설명하기 위해 가이아 개념을 다시 가져온다. 라투르는 가이아를 지구의 항상성과 안정성을 유지하며 인간이 살아갈 터전을 보살펴주는 자애로운 어머니 여신의 모습이 아니라, 인간이 통제할 수 없는 광포하고 잔인한, 비인간적인 힘으로 묘사한다. 인간의 무분별한 활동이 지구의 항상성을 회복불가능한 정도까지 몰고 가는 순간, 과거 공룡 등 다른 생명체들을 멸종시켰던 무자비한 가이아가 깨어난다.

​

인류세는 인간이 지금까지는 배경으로 치부했던 비인간 존재들이 무대 위에 한꺼번에 행위자로 등장하는 새로운 드라마의 시작을 알린다.

비인간 존재들은 인간이 완전히 파악하거나 이해할 수 없으며, 인간의 뜻대로 움직일 수 있는 수동적인 대상이 아니라는 점에서 그 자체의 행위성을 갖는다.

인류세의 문제들은 국지적으로 어느 한 지점이나 한 요소에 일어난 변화로 축소하거나 한정 지어 이야기할 수 없고, 지구 시스템 과학의 관점에 따라 전체 계 안에서 수많은 다른 요소들과 복잡하게 상호 영향을 주고받는 현상으로 이해해야 한다. 인류세 논의의 변천 과정은 인류세를 연구하는 데 이러한 관점의 전환과 확대가 필수적이었음을 보여준다. 인류세 연구를 가장 좁고 정확한 의미에서 정의한다면 지층에 남겨진 흔적을 추적함으로써 인간이 일으킨 변화의 증거를 찾아내는 층서학과 지질학에 국한된다. 그러나 앞서 말했듯이 인간 활동이 일으키는 변화는 어느 한 영역에만 국한될 수 있는 것이 아니기에, 암석층의 변화만이 아닌 지구 시스템 전반에 일어난 변화에 대한 종합적인 연구로 확장되었다. 하지만 이것만으로도 인류세를 올바로 파악하기에는 충분치 않다. 인류세 연구는 지질학이 되었건 지구 시스템 과학이 되었건 자연과학의 주제로 한정되지 않고, 학문 분과의 벽을 넘어 사회과학과 인문학의 영역까지 포괄해야 한다. ‘인간이 지질학적 힘’이 되었다는 말은 인간의 역사와 자연의 역사를 더는 분리해서 이야기할 수 없게 되었다는 의미이다.

19세기에 자연과학과 사회과학, 인문학이 제도화되고 전문화되면서 분과학문 체계가 정립되었고 과학과 인문학은 서로 다른 방법론을 가지고 다른 대상을 연구하는 별개의 분야로 분리되었다. 그러나 역사가 디페시 차크라바르티Dipesh Chakrabarty는 인류세에 들어서서 인간의 역사와 자연의 역사를 갈라놓고 있던 벽에 균열이 가기 시작했다고 주장한다. 인간의 역사와 자연의 역사가 같은 지구역사geohistory로 얽히게 되었으며, 자연이 더는 인간 역사의 배경막에 머물지 않게 되었다는 것이다. 근대 이후 인류는 자유를 성취해야 할 중요한 가치로 추구하면서 이를 부정의와 불평등, 억압적 사회 정치 제도로부터 벗어나는 것으로만 생각했지만, 자유의 성취는 화석연료의 이용을 통한 문명의 발전과 깊은 관계가 있었다. 차크라바르티는 “근대적 자유의 집은 화석연료 사용을 기반으로 세워졌”으며, 대부분의 자유는 “에너지 집중적energy-intensive”라고 표현한다. 즉 사회 정치 제도 역시 지구 환경의 물적 기반과 연관되어 상호 영향을 주고받으며, 사회과학과 인문학을 자연과학과 분리된 영역에서 그 자체의 법칙에만 따르는 것으로 볼 수는 없다. 그러므로 인류세는 인간이 자연과 무관한 사회 속에서 살아온 것이 아니라 줄곧 지구의 물질적 조건 위에서 삶을 영위해 왔다는 사실을 자각하게 만든다.

그런 점에서 인류세의 이야기는 주체적이고 자율적인 인간 주체가 역사의 주인공이 되어 환경과 비인간 존재들을 지배하고 통제함으로써 물질 세계를 배경으로 인간의 이상을 성취하는 휴머니즘 시대의 이야기가 아니다. 인류세는 인간이 지금까지는 배경으로 치부했던 비인간 존재들이 무대 위에 한꺼번에 행위자로 등장하는 새로운 드라마의 시작을 알린다. 비인간 존재들은 인간이 완전히 파악하거나 이해할 수 없으며, 인간의 뜻대로 움직일 수 있는 수동적인 대상이 아니라는 점에서 그 자체의 행위성을 갖는다. 인간의 행동은 다른 행위자들에게도 영향을 미치며, 그들의 반응이 인간의 행동을 제한한다. 이러한 비인간 행위자들에 대한 인식은 인간을 세계의 중심에 놓고 자연환경을 단순히 인간의 필요에 따라 이용가능한 자원으로만 보았던, 인간을 예외적이고 특권적인 존재로 보는 인간중심적 사고에서 벗어날 것을 요청한다.

​

인류세의 이야기는 단순히 인간의 종말에 관한 어둡고 음울한 경고가 아니다.

그보다는 우리가 포스트휴먼이 된다는 것이 진정으로 어떤 의미인가에 대한 이야기이다.

이러한 관점의 전환은 여섯 번째 대멸종의 가능성이 현실화되고 있는 지금, 인류세의 위기를 초래한 인류에게 요청되는 새로운 윤리적 책임에 대한 성찰로 이끈다. 라투르는 인류세의 인간 조건을 ‘지구에 묶인 자the Earthbound’라고 표현하면서 우리에게는 지금 ‘지구에 묶인 자’로서 인류세에서 살아갈 준비를 할지, 아니면 홀로세에 인간으로 남을 것인지 두 가지 선택이 놓여 있다고 말한다. 그러나 사실 이것은 선택 가능한 문제가 아니다. 기후변화를 비롯한 비정상적인 자연현상이 ‘가이아의 역습’으로 점점 더 우리의 일상 속으로 침투해 들어와 또 다른 강력한 행위자들의 존재를 드러내는 상황에서, 우리는 변화를 인정하고 그 흐름 속에서 살아갈 준비를 하든지, 아니면 여전히 눈을 감고 현실을 부인할 수 있을 뿐이다. 홀로세의 안정된 기후조건에서 지금과 같이 자원을 낭비해 가며 평화롭고 풍요로운 일상을 여전히 영위할 수 있다고 애써 믿고 싶어도 그런 환상은 오래 가지 못할 것이다.

인류세의 인간 존재에 대한 새로운 인식은 인간이 비인간 존재들과 환경과의 상호관계 속에서 존재한다는 생태적 관점을 바탕으로 한다. 인류세와 환경에 대한 이야기는 우리가 점점 더 기계적인 것들과 접속하고 정보 테크놀로지의 발전으로 가상 세계로까지 삶의 영역이 확장되는 시대에, 인간의 물질적 한계를 초월할 수 있다는 기술과 과학의 유토피아적 전망으로부터 우리를 다시 이 땅으로, 한계를 가진 연약하고 유한한 육신으로 끌어내린다. 그러나 인류세의 이야기는 단순히 인간의 종말에 관한 어둡고 음울한 경고가 아니다. 그보다는 우리가 포스트휴먼이 된다는 것이 진정으로 어떤 의미인가에 대한 이야기이다. 포스트휴먼이 된다는 것은 정신을 컴퓨터에 업로드하고 기계적 보철 장치로 신체 기능을 강화한다는 것이 아니다. 그것은 인간이 투공성의 존재이며 주변 환경과 모든 비-인간 존재들과 연결되어 운명을 함께 하는 존재임을 깨닫는 것이다. 모든 것이 연결되어 있으며 인간도 물질적인 세계의 구성요소의 하나라는 생태적 인식은 인류세라는 새로운 시대에 인간의 생존이 인간 이외의 모든 것들의 생존과 떼어서 생각할 수 없는 문제임을 뜻한다.

TRP-19, ‘인공지능과 포스트휴머니즘’

고등과학원에서는 과학연구의 지평을 확대하고, 학문 간 협력을 통해 새로운 학문적 아젠더를 개발하려는 목표를 갖고, 해마다 초학제 연구프로그램Transdisciplinary Research Program, TRP을 운영해 오고 있다. 학제 간 교류와 소통을 통해 특정 전문분야 (혹은 학제) 내에서의 사유의 한계를 극복하고자 하는 일종의 융합연구 프로그램이라고 할 수 있다. 2019년에는 이 연구프로그램의 일환으로 <2019 올해의 주제연구단>이 출범하여 ‘인공지능과 포스트휴머니즘’을 주제로 다양한 학술 활동을 추진하였다. 이는 전문가 상호 간에 통섭적인 학술교류는 물론, 전문가와 일반인이 만나는 소통의 장이라는 의미를 지닌다. 이글에서는 초학제 연구의 주제로 ‘인공지능과 포스트휴머니즘’이 선택된 배경을 설명하고, 초학제 프로그램에서 특별히 강조되었던 연구 주제들이 미래에도 지속되어야 할 연구 테마라는 관점에서 소개하며, 이러한 연구 테마들이 고등과학원이 추진하는 초학제 연구의 새로운 지평을 여는 데 어떤 의의가 있는지 시사점을 제시해보고자 한다.

‘인공지능과 포스트휴머니즘’이라는 주제는 인공지능 기술의 급속한 발전으로 생활양식과 사회관계가 급격히 변화하고, 그에 수반하는 윤리적·법적·사회적 쟁점들이 새롭게 부상하며, 급기야 휴머니즘 및 인간의 정체성에도 많은 변화가 나타날 것이라는 문제의식에서 출발한 것이다. 초학제 연구의 취지에 맞도록 다음과 같은 연구 목표를 설정하였다. 첫째, 21세기 과학기술문명을 선도하고 있는 인공지능 기술을 중심으로 그것의 발전 배경과 현황 및 전망을 기술적 측면에서 구체적으로 살펴보는 것이다. 둘째, 이러한 기술의 발전이 가져올 변화들, 곧 인간과 인공지능 간 새로운 관계 설정, 사회 패러다임의 변화 그리고 이에 수반하는 윤리적·법적·사회적 쟁점들과 같은 인간학적 문제들을 선제적으로 예측하고 분석하는 것이다. 셋째, 인공지능의 인격체로의 발전 가능성, 인공지능을 활용한 인간의 능력증강과 그에 따른 인간 정체성의 변화, 그리고 기계의 인간화 경향과 인간의 기계화 경향이 교차하는 미래의 포스트휴먼 환경에서 궁극적으로 인간과 인공지능이 함께 공존할 수 있는 적합한 담론으로서 포스트휴머니즘을 모색하는 것이다. 이러한 주제 연구를 위해서는 학제 간 연구 방식, 특히 과학기술 분야와 인문사회 분야가 한자리에 모여 서로 소통하고 융합하는 통섭적 접근방식이 필수적이다.

 

 

왜 ‘인공지능과 포스트휴머니즘’에 주목하는가?

인류 역사에서 17~18세기의 ​근대혁명은 근대적 개인, 근대적 사회 그리고 휴머니즘(개인의 주체성과 존엄성을 중시하는 인본주의 사상)을 탄생​시켰다. 그리고 근대철학은 개인을 주체적 존재로 보고, 그러한 개인에게 인간 본성의 핵심요소라 할 수 있는 이성, 감성, 도덕성, 가치, 자의식, 자유의지 등이 존재함을 강조하였다. 이를 토대로 인간과 인간이 아닌 다른 것들을 차별화하여 그 경계를 명확히 하고, 다른 모든 것들은 주체인 인간을 중심으로 그 주위에 마주하는 객체로 보는 인간중심주의가 탄생했다. 이에 따르면 자연의 사물들은 인간에 의해 그 특성이 감지되고 인지될 때, 비로소 존재적 의미와 가치를 부여받게 된다. 모든 존재가 본래의 고유한 가치를 상실한 채, 주체인 인간에 의해 규정당하고 대상화되는 것이다. 근·현대 과학기술문명​ 역시 이러한 인간중심주의 기반 위에 서 있다. 인간은 객체인 자연을 탐구하는 주체​로서 존재하고, 자연의 모든 정보는 인간이 설계한 관측 장치나 실험도구에 의해 인간이 감지할 수 있는 형태로 수집・분석되며, 자연의 모든 법칙과 현상들은 인간이 만들어 낸 언어 및 관념체계에 의해 규정・해석​되도록 구축되었다. 결국 인간과 신, 인간과 인간, 인간과 자연, 인간과 기계의 모든 관계가 인간중심적 관점에서 언급되는 시대가 되었다.

​

연재글

포스트휴머니즘을 성찰한다

포스트휴먼과 포스트휴머니즘, 그리고 삶의 재발명

왜 포스트휴머니즘인가

포스트휴머니즘과 인류세

인공지능과 포스트휴머니즘-초학제의 New Horizon

포스트휴먼과 포스트 트루스: 탈진실 현상의 왜 문제일까

인공지능은 예술을 창작할 수 있을까?

하지만 21세기가 되면서 이러한 인간중심주의에 변화가 일어나고 있다. 우선 인간과 동물의 관계는 차치하고 인간과 기계의 탈경계화를 가속하는 과학기술이 빠른 속도로 발전하고 있다. 과거 인간과 기계는 서로 이질적인 존재로 그 경계가 명확했지만, 21세기에는 인간의 기계화 경향과 기계의 인간화 경향이 두드러지면서 인간과 기계 간 경계가 약화되고 있다. 예를 들어 신체 일부를 인공장기나 로봇 팔·다리로 대체하는 신체변형기술, 자유롭게 유전자를 조작하는 생명편집기술, 인공세포나 인공혈액을 만드는 나노기술, 사이보그 기술의 발전은 인간의 능력증강Human Enhancement을 가능하게 하는 인간의 기계화 경향의 좋은 사례들이다.

반면 인간의 감정을 표현하고, 인간처럼 생각하고 말하며 행동하는 휴머노이드 로봇의 등장은 기계의 인간화 경향을 잘 보여준다. 특히 이는 그동안 인간에게 고유한 것으로 인식됐던 능력들(감성, 이성, 도덕성 등)이 (인간과 동일하진 않지만) 기계에서도 구현 가능한 인공지능 기술이 발전하면서 본격화되었다고 할 수 있다. 아직은 인공지능이 특정 영역에서만 인간의 능력을 뛰어넘을 뿐 인간처럼 다양한 영역에서의 멀티 능력을 갖추고 있지 못하고 있고, 로봇 역시 언어나 감정 표현이 아직은 서툴고 행동 또한 인간처럼 유연하지도 민첩하지도 섬세하지도 못하다는 한계는 분명히 존재하지만, 시간이 흐를수록 이러한 한계들은 점차 극복될 것이다. 먼 미래의 특이점에 접근할수록 초지능을 지닌 새로운 종으로서 ‘로보 사피엔스’의 등장 가능성도 배제할 수 없을 것이다.​

​

인간과 기계의 탈경계화는 기계를 바라보는 인간의 시각을 바꾸고, 인간과 기계의 관계를 새롭게 정립하며 궁극적으로 휴머니즘에 변화를 야기할 것으로 예상된다.

이러한 인간과 기계의 탈경계화는 기계를 바라보는 인간의 시각을 바꾸고, 인간과 기계의 관계를 새롭게 정립하며 궁극적으로 휴머니즘에 변화를 야기할 것으로 예상된다. 지금까지 인간은 기계를 그 존재적 특성과 무관하게 인간중심적 관점에서 단순한 도구로 간주해 왔다. 하지만 인공지능에서 보듯이 기계는 인간의 어떤 목적을 위한 수단이 아니라, 그 자체가 어떤 목적을 갖고 세계를 구성하는 실존적 존재자로 변화하고 있다. 단순히 인간 사회를 떠받쳐주는 물리적 기반이 아니라, 인간과 복잡하게 연결된 관계망 속에서 사회를 구성하는 하나의 행위자actor 혹은 agency로 거듭나고 있다. 한마디로 인공지능 시대에 기계는 더이상 인간의 외부에 존재하는 객체가 아니라, 인간의 몸과 마음의 일부로 주체화될 수 있는 존재인 것이다. 아직은 일부의 현상이지만 섹스 로봇과 결혼한다거나, 인공지능 로봇에게 시민권을 부여하는 사건들은 이러한 단면을 잘 보여 준다.

이렇듯 인간의 기계화 경향과 기계의 인간화 경향이 상호 교차하면서, 인간과 기계의 탈경계화가 가속화되는 상황 혹은 그러한 상황을 가능하게 하는 조건을 포스트휴먼의 상태라 말할 수 있겠다. 그런 의미에서 21세기는 포스트휴먼 시대다. 이는 포스트휴머니즘이 확실하게 정착된 단계는 아니며, 휴머니즘 시대에서 포스트휴머니즘 시대로 넘어가는 과도기적 단계라고 말할 수 있다. 이러한 시기에는 포스트휴먼을 이끌어가는 과학기술의 발달이 인간과 기계의 관계에 어떤 변화를 일으키는지, 그로 인해 인간 정체성에는 구체적으로 어떤 변화가 나타날지, 나아가 달라진 인간 정체성의 시각에서 미래사회는 앞으로 어떻게 변화할 것인지, 그리고 그러한 사회의 지속가능한 발전을 위해 어떠한 윤리적·법적 규범과 사회 제도적 장치들이 새롭게 필요한지에 관한 선제적 연구가 필요하다. 이는 곧 다가올 미래사회에 대한 초학제적 대응의 의미를 갖는다.

 

 

‘인공지능과 포스트휴머니즘’의 주요 연구 테마들

2019년에 추진했던 초학제 연구의 가장 중요한 특징은, 현재 주목받고 있거나 가까운 미래에 중요하게 부각될 미래 인공지능 기술을 중심으로 이의 연구·개발 현황 및 발전 전망을 상세하게 분석하고, 이러한 인공지능 기술의 연구·개발 및 상용화 과정에서 고려해야 할 인문적·사회적 요소들을 함께 성찰함으로써, 두 영역 간 상호보완 작용을 통해 생산적 융합을 지향하도록 설계·운영한 점이다. 실제로 학술 활동에서 세부주제가 정해지면 관련 과학기술 분야의 전문가와 인문사회 분야의 전문가 각 1인씩 발표하고, 종합토론자가 두 이야기를 통합하는 통섭적 접근방식으로 진행됐다. 미래에도 계속되어야 할 학제 간 연구주제로, 많은 사람의 관심과 이목이 집중됐던 몇 가지 연구 테마를 소개하고자 한다.

첫 번째 연구 테마는 ‘설명 가능한 인공지능’Explainable AI, XAI에 관한 것이다. 알파고나 왓슨처럼 심층학습deep learning을 통해 스스로 학습하는 인공지능을 넘어, 앞으로는 인공지능의 판단에 대해 외부에서 설명을 요청하는 경우 그 판단이 어떤 근거 및 절차를 통해 이루어졌는지 스스로 해명하는, 소위 ‘설명 가능한 인공지능’이 차세대 인공지능으로 주목받고 있다. 실제로 이러한 설명 능력은, 예를 들어 자율형 군사 킬러 로봇의 경우 매우 중요한 관건이 될 수 있다. 가령 킬러 로봇이 민간인을 적군으로 착각하여 죽였을 경우 그에 따른 책임 문제가 당연히 뒤따를 텐데, 이때 킬러 로봇이 어떤 근거와 절차로 그런 판단을 내렸는지에 대한 설명이 매우 중요하다. 그래야 그 설명을 토대로 어디서 오류가 발생했는지를 발견할 수 있고 그에 따른 책임 소재를 규명할 수 있기 때문이다. 아직 까지는 인간이 아닌 킬러 로봇과 같은 인공 행위자에 책임을 부여할 수는 없기에 설명의 문제는 사회적으로 매우 중요하다.

​

그림1 국제학술토론회 <Beyond Humanism: AI, Information and Posthumanism>

2019 올해의 주제연구단 ‘인공지능과 포스트휴머니즘’

그런데 이러한 인공지능에서 설명 과정이 성공적으로 작동하려면, 어떤 설명이 편견이나 왜곡 없는 합당한 설명인지를 결정하는 알고리즘도 중요하지만, 그에 앞서 인간이 요청한 설명이라는 개념 자체가 정확히 무엇을 의미하는지에 대한 이해가 인공지능에 반영돼 있어야 한다. 그래야 인공지능이 설명에의 요청을 정확히 간파하고 인간이 이해할 수 있는 방식으로 설명을 제공할 수 있기 때문이다. 이는 매우 개념적이고 인식적인 문제로서, 언어학이나 철학과 같은 인문학과의 학제 간 연구를 필요로 한다.

두 번째 연구 테마는 인공지능과 인간의 뇌에서의 학습에 관한 것이다. 알파고를 포함한 현재의 인공지능은 인간의 신경망 모델에 기반한 심층학습을 통해 진화를 거듭하고 있다. 초창기 인공지능(한 예로 알파고-리 버전)이 정답을 알려주며 주어진 빅데이터를 활용해 정답을 찾아 나가도록 하는 지도학습에 기반했다면, 최근의 인공지능(한 예로 알파고-제로 버전)에서는 정답을 알려주지 않고 비슷한 데이터를 군집화하여 최상의 미래를 예측하도록 하는 비지도 학습이 일반화돼 있다. 한층 진화된 자기 주도적 학습인 셈이다.

하지만 인공지능에서 이러한 학습 과정은 근본적인 한계를 지니고 있다. 인간은 적은 수의 데이터일지라도 대상의 속성을 정확히 파악하고 이를 범주화하여 다른 대상과 쉽게 분별하며, 이렇게 설정된 범주를 개념화하여 뇌에 기억하는 방식으로 대상에 관한 매우 효율적이고 효과적인 학습을 전개한다. 하지만 인공지능에서는 이 작업 과정 자체가 현재로서는 불가능하다. 범주적이고 개념적인 접근 없이, 대상에 관한 다수의 데이터에 의존한 패턴 인식만으로 대상을 분별하고 학습한다. 물론 미래에는 이보다 훨씬 진화하여 인간처럼 범주적 사고를 통한 개념학습이 가능할지도 모른다. 그렇게 되려면 인간의 뇌에서 개념학습이 어떻게 이루어지는지 그 메커니즘을 규명하고, 인간과 인공지능의 학습 과정에서 공통점과 차이점이 무엇인지를 명확히 분석하며, 이에 기반한 새로운 기계학습Machine Learning 모델을 개발하는 것이 필요하다. 이를 위해서는 뇌 과학, 컴퓨터 과학, 교육학 분야 간에 학제 간 융합 연구가 중요하다.

​

초창기 인공지능이 정답을 알려주며 주어진 빅데이터를 활용해 정답을 찾아 나가도록 하는 지도학습에 기반했다면,

최근의 인공지능에서는 정답을 알려주지 않고 비슷한 데이터를 군집화하여 최상의 미래를 예측하도록 하는 비지도 학습이 일반화돼 있다.

세 번째 연구 테마는 인공지능과 인간의 언어에 관한 것이다. 최근에 등장한 인공지능 스피커, 시리나 빅스비 같은 대화 앱, 파파고 등에서 보듯이 기계학습 및 빅데이터를 활용해 인공지능이 인간과 대화하거나 자동 번역 및 통역을 수행하는 의사소통 기술이 급속도로 발전하고 있다. 이러한 속도라면 인공지능이 인간처럼 인간과 자연스럽게 대화할 날도 멀지 않은 것 같다. 하지만 인공지능이 지금처럼 인간의 언어 활동을 돕는 보조자가 아니라, 인간처럼 인간의 언어를 충실히 이해하고 인간과 자연스럽게 대화를 나누는, 또 하나의 언어 행위자가 되는 일은 결코 간단한 일이 아니다. 인간의 일상언어를 자연스럽게 이해하려면, 언어로 표현된 기호가 어떤 맥락에서 어떤 의미로 쓰였는지를 정확히 파악해야 하는데, 현재의 인공지능에서는 기호의 의미 파악과 맥락에 따른 의미 변화 모두를 이해하기가 매우 어렵다.

이런 일이 가능하려면 많은 도전적인 문제들이 해결돼야 한다. 그 가운데 가장 중요한 관건이 되는 문제는 아마도 인간의 뇌에서 언어 활동, 특히 의미 설정이 어떻게 이루어지는지 그 과정을 탐구하고 메커니즘을 규명하는 것이다. 그런 다음 이를 토대로 현재 인공지능의 언어처리 과정이 인간의 언어처리 과정과 어떤 면에서 유사하고 어떤 면에서 다른지를 명확히 밝히는 것이다. 그리고 이런 비교 위에서 인공지능이 인간과 자연스럽게 일상언어로 대화하는데 필요한 부분이 무엇인지 언어(학)적 측면에서 그리고 기술적 측면에서 고찰하는 것이다. 최종적으로는 이를 바탕으로 인간을 모사한 자연언어 처리 프로그램을 인공지능에 설계하는 것이다. 한편 이렇게 인간과 자연스럽게 대화할 수 있는 인공지능이 등장한다면, 인간 사회에 어떤 일이 벌어질까? 아마도 다양한 영향을 미칠 것이므로 선제적 차원에서 그 사회적 영향에 대한 학제 간 논의 역시 필요하다.

​

네 번째 연구 테마는 인공지능과 예술에 관한 것이다. 현재 예술 창작활동을 하는 수많은 인공지능이 존재한다. 화가로 활동하는 알고리즘 가운데, 구글의 딥드림Deep Dream은 동일 구조가 비슷하게 반복되는 프랙털fractal 형태의 그림을 그리는데, 작품 29점이 2016년 샌프란시스코 경매에서 9만 7000달러에 판매되었다. 프랑스가 개발한 인공지능 오비어스Obvious가 그린 초상화 ‘에드몽 드 벨라미’는 2018년 뉴욕 경매에서 43만 2500달러에 낙찰되었다. 기존의 그림을 유명 예술가의 화풍으로 변형시켜 새로운 그림으로 만드는 딥포저Deep Forger, 램브란트의 화풍을 그대로 재현해 내는 넥스트 램브란트 등도 화가로 활동하고 있다. 또한 음악을 작곡하는 소니의 플로머신, 시를 쓰는 중국의 샤오이스, 소설을 쓰는 미국의 셸리처럼 음악이나 문학 분야에서 창작활동을 하는 인공지능도 다수 존재한다. 가히 인공지능 예술창작시대, 혹은 인공 창의 시대라 언급할 만하다. 그동안 인간만의 배타적인 창작 영역으로 인정돼왔던 예술조차 인공지능에 의해 구현 가능한 시대가 된 것이다.

 

그림2 <Edmond de Belamy>. 그림 하단에 알고리즘이 적혀 있으며, 제작 과정은 다음 동영상에서 확인 가능하다.

Obvious

 

그렇다면 다음과 같은 질문들이 제기될 수 있다. 인공지능도 인간처럼 예술가가 될 수 있는가, 만약 예술가가 될 수 있다면 핵심 요건인 창의성이 인공지능에서 어떻게 구현될 것인가, 만약 예술가가 아니라면 인공지능이 만든 창작품은 예술작품이 될 수 있는가 등등. 이 질문들은 다시 예술이란 무엇인가, 창의성이란 무엇인가라는 원초적 질문으로 되돌아가, 이에 관한 많은 논의가 필용하다.

 

 

초학제 연구의 새로운 지평New Horizon 찾기

초학제 연구프로그램은 그 취지와 목적이 매우 의미 있고, 21세기 인공지능으로 대표되는 포스트휴먼 시대에 매우 중요하고 필요하다. 그래서 초학제 연구프로그램이 앞으로 더욱 활성화되기 위해 지금 무엇이 필요한지 논의하는 것은 매우 큰 의미가 있다고 생각한다. 특히 초학제 연구프로그램이 고등과학원에서 운영하는 만큼, 그 연구사업들이 고등과학원의 취지와 역할에 걸맞은 융합연구로서 성공적으로 운영되고 있는가에 대한 평가가 매우 중요하다고 생각한다. 초학제 연구프로그램의 주목표는 학문 간 협력을 통해 새로운 창의적 학문 아젠더를 발굴하여 과학연구의 융합적 지평을 확대하는 것이다.

​

이 어려운 목표를 성공적으로 달성하기 위해선 두 단계의 과정이 필요하다. 하나는 창의적인 학문적 아젠더를 발굴하기 위해 이질적인 학문 분야가 서로 만나 협력하여 융합연구를 위한 우호적 환경을 조성하는 과정이다. 이 경우 다양한 학문 분야가 만나 폭넓게 대화하는 것이 의미 있다. 다른 하나는 아젠더에 따라 실질적으로 생산적인 융합연구를 수행하는 과정으로, 융합연구의 보다 구체적이고 뚜렷한 목표 설정과 통합적인 연구 전략이 중요하다. 그동안 우리 사회에선 수많은 다양한 융합연구들이 추진됐지만, 엄밀히 말해 많은 경우 학제 간 (느슨한) 협력에 바탕 한 느슨한 융합이 주를 이루고, 학제 간 통합에 기반한 강력한 융합연구는 매우 드물다고 말할 수 있다. 초학제 연구프로그램의 경우도 이와 비슷한 상황이라 할 수 있다. 따라서 고등과학원에 보다 의미 있고 미래지향적인 창의적 융합 연구가 초학제 연구프로그램을 통해 이루어질 수 있도록, 초학제 연구프로그램의 전략을 일부 수정·보완하는 것이 필요해 보인다. 이와 관련한 몇 가지 시사점을 던져보고자 한다.

​

그림3 제1회 워크숍 <설명가능 인공지능의 발전과 그 사회적 함의>

2019 올해의 주제연구단 ‘인공지능과 포스트휴머니즘’

첫째, 학제 간 느슨한 협력보다는 초학제라는 단어가 의미하는 바 그대로, 학제 간 통합에 바탕 한 실질적인 융합 연구가 활성화될 수 있도록 초학제 연구프로그램의 주제를 선별하는 것이 필요해 보인다. 가령 앞서 2019년에 수행했던 ‘인공지능과 포스트휴머니즘’의 주요 연구 테마들을 살펴보면, 대부분이 학제 간 통합에 기반하지 않는다면 연구 성과가 제대로 나올 수 없는 연구주제들이다. 또 다른 연구주제의 사례로 최근 정부가 추진해온 휴먼플러스 융합연구개발 첼린지 사업의 연구 테마들을 생각해 볼 수 있다. 가령 인공지능을 활용하여 인간 개개인의 지능이나 신체 또는 오감의 기능을 업그레이드할 수 있는 인간능력증강 기술을 개발하는 연구들의 경우, 학제 간 통합에 바탕 한 전형적인 융합 연구의 주제들로 볼 수 있다. 사실 이 연구주제들도 ‘인공지능과 포스트휴머니즘’이라는 대주제 안에 포함시킬 수 있다.

둘째, 초학제 연구프로그램이 학제 간 통합에 바탕 한 실질적인 융합 연구를 위한 주제를 선별한다고 하더라도, 그 연구를 직접 수행할 수 있는 조건을 현재로서는 갖추고 있지 않은 상태이므로, 현 단계에서는 그 연구들이 활성화될 수 있는 촉매 창구 역할을 수행하는 것이 바람직하다고 생각한다. 이는 지금과 같은 방식과 형태를 유지하면서도 충분히 가능하다고 생각한다. 가령 선별된 주제를 놓고 관심 있는 여러 학문 분야가 참여하여 학제 간 통합에 바탕 한 융합 연구를 고민하고 기획할 수 있는 공론의 장을 마련해 주는 것이다. 이러한 공론의 장을 통해 창의적인 다양한 융합 연구가 사전에 기획되도록 지원함으로써, 국내의 다양한 연구자들이 이후 국가로부터 지원을 받을 수 있는 가교 역할을 할 수 있을 것으로 기대된다.

인터넷과 인공지능 등 정보기술의 발달 덕분에 오늘날 인류는 방대한 정보를 자유롭게 활용한다. 유사 이래 가장 오랜 기간 교육을 받고 가장 활발하게 정보를 이용하는 세대이지만, 가짜뉴스와 허위 왜곡정보의 폐해는 어느 때보다 크다. 2016년 옥스퍼드영어사전은 ‘탈진실post truth’을 ‘올해의 단어’로 선정했다. 탈진실 현상은 ‘올해의 단어’로 선정된 이후에도 사라지거나 수그러들지 않았다. 탈진실 현상의 문제는 일시적으로 등장했다가 사라질 사회적 병리 현상이 아니라 오히려 점점 강화될 추세라는 데 있다. 2017년 10월 컨설팅그룹 가트너Gartner는 미래전망 보고서를 통해 “2022년이 되면 대부분의 사람들이 진짜 정보보다 가짜 정보를 더 많이 접하게 될 것”이라는 전망을 내놓은 바 있다. 누구나 방대한 지식과 정보에 자유롭게 접근해 진위를 검증할 수 있는 환경인데 왜 사람들은 가짜에 더 쉽게 속고 허위정보를 이용하는 것일까? 선뜻 이해되지 않는 아이러니다.

포스트 트루스(탈진실) 현상이 문제 되는 이유는 정치적·경제적 이해를 노린 가짜뉴스나 허위정보, 음모론의 생산과 유통이 양적으로 늘어나고 영향력이 광범해졌기 때문이 아니다. 인류 역사상 허위정보와 루머가 사라졌던 시기는 없다. 하지만 기존에 허위정보가 사회와 개인에게 끼치던 영향과 현재의 탈진실 현상은 구조적 차이가 있다. 탈진실 현상은 인간이 지식정보와 관계 맺는 방식이 기존과 근본적으로 달라진 데서 기인한다. 과거와 달리 인간 이외 지적 활동을 하는 도구가 등장해 인간의 정보 이용 과정에서 주요한 역할을 하고 있다는 점이다. 인공지능과 알고리즘, 소셜미디어 플랫폼, 자동화 프로그램 등의 디지털 기술이다.

종교와 신으로부터 벗어난 근세 이후 개인과 사회는 이성과 지적 능력을 갖추고 지식과 정보를 통제하는 유일한 존재였다. 하지만 현재의 탈진실 상황은 인간이 더 이상 기존처럼 정보를 통제하지 못하게 된 현실을 살아가고 있음을 알려준다. 더 이상 사람만이 지식과 정보를 생산·유통하는 유일 주체가 아니게 된 것이 배경이다. 인공지능과 알고리즘 기술의 발달은 도구도 인간 못지않은 지적 기능을 수행할 수 있음을 보여주고 있다. 컴퓨터 비전, 자율주행, 머신러닝 등의 사례에서 인공지능은 사람이 수행해오던 지각과 인지, 이해와 설명, 판단과 실행 등 각종 지적 기능을 과시하고 있다.

탈진실 현상이 포스트휴먼 논의와 연결되는 지점이다. 인공지능은 인간과 같은 자율성과 의식을 갖추고 있지 못한 상태이지만, 인지적 능력을 통해 비인격적 주체의 지위를 획득해가고 있다. 인간만 지능과 의식을 갖춘 존재였는데, 인공지능은 의식과 분리된 지능의 등장을 의미한다. ‘의식 없는 지능’은 사람만이 할 수 있다고 여겨온 일들을 대행할 수 있게 되었고, 자율적 행동이 가능한 주체가 되었다. 알파고, 자율주행차 등이 사례다. 인간의 자율성과 다르지만, 인공지능은 사람이 작동 구조와 그 결과를 알지 못하는 방식으로 인식하고 행동할 수 있는 기능을 갖췄다는 점에서 기존 도구와 구별된다. 현재 인공지능의 자율적 인식과 판단이 설계자가 허용하고 위임한 범위에 국한하는지 여부와 별개로, 인공지능이 일부 영역에서 자율적 기능을 구현한다는 점에서 인공지능은 도구 이상의 도구이다.

​

2016년 옥스퍼드영어사전은

‘탈진실post truth’을 ‘올해의 단어’로 선정했다.

2017년 컨설팅그룹 가트너는

미래전망 보고서를 통해

“2022년이 되면 대부분의 사람들이 진짜 정보보다 가짜 정보를 더 많이 접하게 될 것”

이라는 전망을 내놓은 바 있다.

이는 인간만을 주체적 인식과 활동의 주체로 보고, 그 위에서 형성해온 기존의 사회적 체계와 규정 등에 새 변수가 등장했음을 의미한다. 인공지능은 인간만을 인식과 사회적 행동의 주체로 여겨온 오랜 인식과 사회 체계에 새로운 관점을 요청하고 있다. <사피엔스>의 저자 유발 하라리Yuval Noah Harari는 의식없는 지능의 발명이 인류 역사에 전면적 변화를 불가피하게 만드는 결정적 요소라고 말한다. 인공지능의 발달로 인해 인류가 직면하게 된 낯선 현실의 하나가 탈진실 현상이다.

인공지능 환경에서 탈진실 현상이 문제가 되는 세 가지 이유가 있다. 첫째, 기계가 정보를 이해하고 만들어내는 능력을 갖게 되었다는 점이다. 기존의 자동화 기계와 달리 인간 뇌 구조를 모방한 딥러닝 방식의 인공지능은 비지도학습 방식으로 인간의 구체적 지시가 없는 영역의 지식과 노하우를 학습하게 됐다. 정확성과 효율성이 높기 때문에 인공지능이 만들어낸 결과에 대한 사회적 신뢰와 의존도는 갈수록 높아지고 있다.

둘째, 인공지능은 인간 인지능력으로 식별이 불가능한 가짜를 대량으로 만들어내고 있다. 생성적 대립쌍 신경망GAN, Generative Adversarial Network을 활용한 딥페이크Deepfake가 사례다. 이미 인공지능은 사람보다 뛰어난 이미지 식별능력에 도달했을 뿐 아니라 진짜와 식별불가능한 이미지와 텍스트를 자동으로 무한히 만들어낸다. 인공지능 봇은 소셜미디어에서 이용자별 취향을 반영한 허위정보를 만들어내 자동유포한다. 인간 인지능력으로는 식별할 수 없고, 처리할 수 없다.

셋째, 인간의 인지능력은 기술과 달리 거의 진화하지 않는다. 사람은 성장기 때 교육과 학습을 통해 형성한 인지방식과 사고구조를 이후 변화하는 정보환경에 맞게 업그레이드하기 꺼리는 인지적 게으름뱅이다. 이미지 조작 방법이 없던 시기에 교육을 받은 활자세대는 포토숍이나 딥페이크에 익숙한 이미지세대와 이미지를 수용하는 태도가 다르다. 동영상과 사진에 대해 조작 가능성을 의심하기보다 자명한 사실로 수용하는 경향이 강하다. 교육과정에서 딥페이크와 같은 동영상 조작 기술의 존재를 배우지 않았고, 졸업 이후에도 최신 이미지 조작기술과 인공지능의 발달에 대해 학습하지 않았기 때문이다.

특히 디지털 환경은 가짜뉴스 확산에 유리한 조건이다. 다양한 목적에서 인간과 기계에 의해 정보 콘텐츠가 방대한 규모로 생산되기 때문에 이용자와 사회, 알고리즘이 정보에 대해 일일이 진위 여부를 가려낼 수 없다. 디지털 콘텐츠는 원본과 사본을 식별하기 힘들고 콘텐츠 작성의 주체와 출처를 확인하기도 어렵다.

 

연재글

포스트휴머니즘을 성찰한다

포스트휴먼과 포스트휴머니즘, 그리고 삶의 재발명

왜 포스트휴머니즘인가

포스트휴머니즘과 인류세

인공지능과 포스트휴머니즘 – 초학제의 New Horizon

포스트휴먼과 포스트 트루스: 탈진실 현상의 왜 문제일까

인공지능은 예술을 창작할 수 있을까?

허위정보의 범람과 확산이 갈수록 강화되고 지속될 사회 변화의 방향이라면 이에 대한 대응은 무엇일까. 인류의 인지적 속성과 능력, 그에 대한 사회적 합의의 변화 역사를 검토해야 한다.

진짜와 가짜를 식별하는 능력은 일상적 사회환경에서는 신뢰와 판단, 행동의 근거다. 하지만 물리학, 철학적 논의에서는 달라진다. 인간 인지능력의 한계와 특성으로 인해 진실 자체를 파악하는 것이 근본적으로 불가능하다. 답이 없기 때문에 철학에는 이를 탐구하는 존재론과 인식론이 독립된 학문으로 존재한다. 또한 사실에 대한 사회적 인식은 시간의 영향을 받는다. 하버드대 복잡계 물리학자 새뮤얼 아브스만Samuel Arbesman은 <지식의 반감기>에서 대부분의 지식은 절대적 지식이 아니라 유효기간을 지닌 가변적 지식이라고 주장한다. 그래서 한때 사실로 여겨진 것이 시간이 지나며 사실이 아닌 것으로 되기도 한다. <자유론>의 존 스튜어트 밀John Stuart Mill이 검열에 반대하고 표현의 자유를 주창한 근거는 지금 참이 아닌 것으로 여겨진 소수의 의견도 오랜 시간이 지난 뒤 진리로 밝혀질 수 있다는 논리였다.

하지만 현실에서 사실은 철학적 개념의 영역이 아니라 법과 권력에 따른 합의와 질서의 공간이다. 사회는 상호주관성을 토대로, 사실에 대한 공통된 인식과 합의가 가능하다는 사회적 신뢰 위에서 작동한다. 갈릴레이 시절 배척당하던 지동설처럼 과학적 사실도 그 자체로 규명되는 게 아니라 지식의 도달수준 그리고 시대와 상황에 따라 합의로 만들어지고 변화한다. 절대적 진실의 규명 없이도 사회구성원들이 공통적 사실이라고 받아들이는 지식과 정보체계 덕분에 사회제도와 상호소통이 가능했다. 사회는 공동체가 신뢰할 수 있는 사실의 체계를 요청한다. 하지만 탈진실 현상은 더 이상 과거와 같은 사실성에 대한 사회적 합의를 충족시키기 어려워지는 상황임을 의미한다.

오늘날 탈진실 현상은 왜곡정보와 음모론을 신봉하고 그에 따라 행동하는 사람들이 늘어나기 때문에 위험한 게 아니다. 공동체가 기반하고 있는 공통된(상호주관적인) 사실의 개념을 허물어버린다는 게 탈진실 현상의 진짜 위험이다. 공동체는 사실에 대해 공통된 신념 공유를 기반으로 가능한데 구성원들이 사실에 대한 서로 다른 개념을 갖고 있다면 공동체가 존립하기 어렵다. 탈진실 현상은 신뢰 기반의 붕괴와 사회적 소통 단절을 가져온다. 탈진실 현상은 인공지능 기술 발전과 인간 인지능력 간의 격차가 커지는 문화지체cultural lag에서 비롯하는 문제다. 무어의 법칙이 알려주듯 정보의 총량과 처리속도는 단기간에 빠른 속도로 늘어나고 있다. 지식정보사회에서 과거 정보는 새로운 정보로 끊임없이 업데이트되고 있지만 인간의 인지능력은 이를 따라잡기 어렵다. 인간 두뇌는 컴퓨터와 달리 방대한 정보를 저장, 처리할 수 없다. 정보가 방대해짐에 따라 인공지능과 알고리즘과 같은 지적 보조도구에 대한 의존성이 커질 수밖에 없다.

또한 가능한 한 두뇌의 인지적 자원을 덜 사용하고자 하는 인지적 게으름뱅이cognitive miser로서 사람은 확증 편향confirmation bias과 필터버블filter bubble과 같은 편향에 빠지기 쉽다. 인터넷은 어떠한 잘못된 개념이나 음모론을 신봉하는 경우에도 충분한 정보와 논리를 제공해주는 거대한 정보의 수원지다. 지구평면설flat earth theory이나 백신유해설을 신봉하고 퍼뜨리는 집단이 전형적 사례다. 소셜미디어에서 비슷한 생각을 가진 사람들끼리 소통하며 자신들의 신념을 강화하는 현상을 반향실echo chamber 효과라고 부른다. 정보 검증의 효과적 도구로 기대되었던 인터넷이 허위왜곡 정보에 대한 신념체계까지 강화시켜주는 현상들이 나타나고 있다. 정보와 미디어가 범람하는 상황에서는 자신의 생각과 상반되는 견해로부터 스스로를 고립시키기가 훨씬 쉬워졌다. 소셜미디어에서는 왜곡되고 황당한 신념을 가진 사람들끼리도 상호 정보와 신념을 공유하면서 기존의 태도를 강화하는 게 얼마든지 가능하다.

​

사람이 식별할 수 없는 허위정보가

사람이 인지하지 못하는 방식으로

인공지능과 알고리즘에 의해

대량으로 만들어져

일상 속으로 들어오는 세상이 탈진실 현실이다.

탈진실 현상은 인공지능과 인터넷 상황에서 불거졌지만 인공지능과 인터넷의 설계구조를 개선하고 변경하는 것으로 해결할 수 있는 문제가 아니다. 정보기술과 서비스 플랫폼의 구조가 잘못 설계되어서 생겨난 현상이 아니기 때문이다. 탈진실 현상은 인간의 인지적 특성에서 비롯하는 문제로, 빠르게 발달하는 정보기술과 변화하지 않는 인간 인지능력 간에 생겨나는 격차가 배경이다. 정보기술을 악의적으로 활용하는 세력이 그 격차를 이용해 가짜뉴스를 유포하고 사회의 신뢰 기반을 붕괴시키고 있다.

하지만 탈진실 현상이 새로운 게 아니라는 관점도 있다. 유발 하라리는 “인간은 늘 탈진실의 시대를 살아왔으며 호모 사피엔스 특유의 힘은 허구를 만들고 믿는다는 점”이라고 말한다. 하라리는 “1000명의 사람이 조작된 이야기를 한 달간 믿으면 가짜뉴스이지만 10억명이 1000년 동안 믿으면 종교다”라고 예시한다. 하라리는 화폐제도, 국가, 종교, 이념 등을 인간이 만들어낸 허구의 전형으로 제시한다. 호모속 중에서 유일하게 정교한 허구를 만들어내고 믿을 수 있는 능력 덕분에 인간은 지속적으로 정교하게 대규모의 협력과 지적인 작업을 할 수 있었다는 해석이다. 하라리가 말하는 허구는 달리 말하면, 개념이자 사고방식이다. 다른 동물들이 감각적 실재만을 인식하고 고려하는 것과 달리 인간은 비감각적 개념을 실재하는 것처럼 받아들여 인식과 행동의 근거로 삼을 수 있다는 주장이다.

하라리가 탈진실 현상을 호모 사피엔스의 오랜 특성이라고 주장했지만 현재의 탈진실 현상은 기존과 구별된다. 하라리가 인간의 개념화와 사고능력을 비실재적인 것을 실재하는 것처럼 사유하고 간주한 것을 인간의 허구 창조능력으로 설명했지만, 이는 기본적으로 인간의 인지와 광범한 동의 아래 이뤄져 왔다. 화폐시스템, 종교, 이데올로기, 가치관 등 ‘허구적 개념’을 사회가 수용하고 그 전제 위에서 각종 활동이 이뤄져왔다. 모든 개인이 이러한 개념과 제도적 장치를 허구라고 인식하고 수용하지 않았지만, 다수의 개인과 사회는 자신들이 수용하고 신뢰하는 비실재의 개념의 작동 메커니즘을 인지한 상태였다. 기본적으로 인간의 활동으로 만들어낸 허구의 체계였다.

엔비디아NVIDIA에서 개발한 스타일갠styleGAN이 인공적으로 생성한 인물 이미지. 이미지 속 인물은 실제로 존재하지 않는다.

wikimedia

 

하지만 근래의 인공지능과 디지털 환경에서 탈진실 현상은 다르다. 최신 인공지능 알고리즘은 인간 두뇌구조를 모방한 심화신경망의 은닉층 구조를 통해 작동하는데 사람은 입력값과 결과값을 얻을 뿐 내부의 작동구조를 알 수 없다. 인공지능이 만들어낸 산출물의 구조를 인간 인지시스템이 파악할 수 없는 상황은 심화신경망 방식 인공지능의 특징인 설명불가능성이다. 설명가능한 인공지능이 향후 과제로 부상한 배경이다. 허구가 현실의 삶과 관계에 영향을 끼치고 있다는 사실을 개인과 사회가 인지한 상태와 인지하지 못한 상태는 같을 수 없다. 하라리가 말한 것과 달리 오늘날의 탈진실 현상은 인류가 일찍이 직면해보지 않은 상황이다. 지금까지 인류가 탈진실과 공존하는 방법과 해결방안을 보유한 채 살아왔다면, 현재의 인류는 새로운 탈진실 현상에 대한 대응 방안을 갖고 있지 못하다.

이러한 환경이 인류가 더 오랜 기간 교육을 받고 더 강력한 지적 도구를 항상 지니고 있음에도 가짜뉴스, 허위정보의 영향을 벗어나지 못하게 된 탈진실 현상의 배경이다. 탈진실 현상은 호모 파베르의 역설이라고 할 수 있다. 호모 파베르는 도구의 개발사에서 가장 강력하고 편리한 도구를 만들어내는 데 성공했다. 인간의 지적 결함을 보조하고 인지적 수고를 덜기 위해 지적 기능을 수행할 수 있는 똑똑하고 편리한 디지털 기술이다. 인지, 이해, 판단, 창작 등 다양한 인간의 지적 기능까지 수행할 수 있는 인공지능이 등장하게 됐다. 조작의 주체와 작동구조를 알 수 없지만 항상 뛰어난 효율성을 보이는 인공지능의 결과물도 활용할 수 있게 됐다. 사람이 일일이 개입하지 않고도 편리하고, 강력하고, 효율성 높은 결과물을 이용할 수 있게 됐다.

사람이 식별할 수 없는 허위정보가 사람이 인지하지 못하는 방식으로 인공지능과 알고리즘에 의해 대량으로 만들어져 일상 속으로 들어오는 세상이 탈진실 현실이다. 인공지능을 활용하거나 집단지성이 참여하는 필터링 시스템을 통해 허위정보를 걸러내겠다는 기술적 시도가 있다. 각종 법규와 처벌을 강화해 의도적 허위정보를 막겠다는 법률적 시도도 여러 나라에서 진행 중이다. 하지만 기술적 시도와 법률적 시도 모두 현재의 탈진실 현상에 대한 실질적 해결책이 될 수 없다. 생성적 대립쌍 신경망의 구조처럼, 상대편의 구조를 참고해 가짜를 만들어내는 알고리즘과 가짜를 식별하는 알고리즘 간의 경쟁에서 어느 한쪽의 절대적 우위는 불가능하기 때문이다. 더욱이 가짜 뉴스를 법이나 규제로 차단하는 것은 한계가 있다. 허위 사실의 통신 또한 표현의 자유로 보호받는 영역이기 때문이다. 헌법재판소는 2010년 12월 이른바 ‘미네르바 사건’에서 허위정보를 포함한 내용의 통신을 처벌하려는 것은 헌법적 가치인 표현 자유를 침해한다고 결정한 바 있다.

가짜 뉴스의 생산과 유통은 기본적으로 디지털 기술 환경에서 발생하는 현상이고, 이용자의 자발적 선택에 의해 이뤄지는 행위이다. 이는 가짜 뉴스가 소셜미디어라는 기술적 플랫폼 차원에서 접근이 이뤄져야 한다는 점과 함께 이용자의 정보 수용능력 차원에서 대응이 이뤄져 한다는 것을 의미한다. 기술적 해결방안, 제도적 해결방안, 정보인지능력 업그레이드를 위한 교육적 방안 등이 함께 고려되어야 한다. 그중 어느 것도 효율적이거나 결정적 해결방안이 되지 못한다는 것을 이해하는 게 필수적이다. 탈진실 현상에 대해서 현재로서는 근본적 대책이 불가능하며 제한적 효과가 있는 접근법밖에 없다. 하지만 탈진실 현상은 불가피하다는 것을 인지하는 게 최선의 출발점이다.