인공지능의 단점과 부작용, 그리고 어뷰징

배경

우리는 현재 인공지능의 세상에 살고 있습니다. 네비게이션이 가장 빠른 길을 알려주고, 인공지능 스피커와 대화를 나누고, 내가 좋아할 법한 콘텐츠를 추천 받기도 합니다. 과거에 오래 걸렸던 일들이 몇 초도 안되서 완료가 되고 우리의 삶이 윤택해졌습니다. 데이터의 저장과 처리기술이 급속도로 발전되고 작은 도구들이 통신할 수 있는 기능들을 가지고 있으며, 모든 것들이 연결되어 있습니다. 이러한 인프라와 환경을 기반으로 급속도로 인공지능 기술이 성장하게 되었습니다.

4차산업의 대표 기술인 인공지능 (http://www.dailybizon.com/news/articleView.html?idxno=12734)

인공지능의 단점과 부작용, 그리고 어뷰징

전자 우편 주소

현황과 문제

현재 인공지능 기술을 이용한 서비스는 우리가 알지 못하게 굉장히 많이 존재하고 있습니다. 물론 아직 서비스 전체를 인공지능화해서 하고 있는 서비스는 거의 없지만 부분적으로는 대부분의 기업들이 활용을 하고 있습니다. 그리고, 알파고 열풍으로 시작된 인공지능 바람은 한번의 과도기를 거쳐 지금 우리 생활에 하나씩 들어오고 있는 단계라고 볼 수 있습니다. 기술 발전의 사이클을 보여주는 Gartner Hype Cycle을 보면 현재 인공지능 기술은 ‘Slope of Enlightenment (깨우침의 단계)’, 즉 기술의 실제 활용사례가 등장하면서 우리의 삶에 들어오는 구간이라고 볼 수 있습니다.

Gartner Hype Cycle: 기술 발전의 사이클

문제는 이 시기부터 기술 발전이 또 한번 급속도로 올라오면서 단점과 부작용이 나타난다는 것입니다. 대표적인 사례가 바로 X-Ray와 방사선인데, 의료적으로는 방사선과 X-Ray가 혁신을 일으켰으나, 핵무기를 만들 수 있는 배경이 되었습니다. 최근의 예로는 기술발전의 예로 보기는 어렵지만, 배터리 발전으로 급속도로 증가하고 있는 전동킥보드가 있습니다. 전동킥보드로 우리가 빠르고 쉽게 움직일 수 있지만, 안전과 보안의 문제가 발생했고 사고 수도 늘었습니다.

이렇듯 기술 발전은 장점만 있는 것은 아니고, 어디든 단점은 존재하며 인공지능도 예외가 아닙니다.

멜론의 음원 사재기 논란과 넷플릭스 추천 시스템

우리가 쉽게 이해할 수 있는 예시를 하나 들어보자면 멜론의 인기차트 시스템이 있습니다. 멜론의 인기차트는 다양한 변수들을 집계하여 음원 차트 랭킹을 매기고 있습니다. 물론 가중치는 요소마다 다르지만 주로 많이 해당하는 부분이 스트리밍 횟수입니다. 중복 요소 제거와 반복 청취 등 인위적인 개입은 최소한으로 제외하는 것으로 알고 있습니다. 문제는 최근 기술의 발달로 이러한 예외사항들을 피해가면서 스트리밍을 인위적으로 올리는 일종의 ‘어뷰징’이 이루어졌다는 것입니다. 다시 말하면 일종의 인공지능 알고리즘을 이용하여 이득을 보고 있는 것입니다. 본래 공정한 차트를 운영하자는 취지에서는 많이 어긋난 것이기도 합니다. 멜론의 음원 사재기 사례는 하지만 아직 공식적으로 불법이라거나 법적인 문제가 있는 것은 아닙니다. 하지만, 여기서 말하고자 하는 바는 이러한 인공지능 시스템이 인위적인 행동에 대해서 완벽하지 않을 수 있다라는 점입니다.

넷플릭스도 마찬가지입니다. 어떤 콘텐츠 제작사가 인위적으로 특정 콘텐츠를 많이 클릭하게 하는 일종의 시스템을 개발했다면 넷플릭스가 가지고 있는 고유의 알고리즘과 그 목적을 깰 수 있을 것입니다.

논란이 되었던 멜론의 차트 시스템 (위의 사진은 사재기 논란과 무관합니다)

딥페이크

딥페이크는 최근 가장 논란이 되고 있는 요소 중 하나입니다. 특정한 부위와 요소를 CG기술과 디지털 및 인공지능 기술을 활용하여 속일 수 있는 기술입니다. 이 기술이 논란이 되고 있는 이유는 바로 도덕성과 윤리에 대한 부분 때문입니다. 악의적으로 음란물이나 포르노 영상에 다른 사람의 얼굴을 바꿔치기 하거나 정치인의 연설을 다른 사람으로 바꾼다거나 하는 등의 사례들이 최근 종종 발생하였습니다.

인공지능 기술 발전의 나쁜 사례로 언급되고 있는 딥페이크 ‘DeepFake’ (http://www.thegolftimes.co.kr/news/articleView.html?idxno=44916)

또 다른 반대급부의 성장

이렇듯 인공지능의 단점과 부작용은 이제 서서히 드러나고 있습니다. 즉, 반대급부의 성장이 일어나고 있는 것입니다. 하지만, 이를 막기 위한 또 다른 반대급부의 성장도 이루어지고 있습니다. 바로 보안 기술과 관제 기술의 발전입니다. 인공지능 기술을 활용하여 보안 영역과 관제의 영역에 적용하는 사례가 등장하고 있습니다. 이상한 트래픽이 감지되었거나 갑자기 특이한 사항이 발생했을 경우 서비스를 차단하거나 문제제기를 할 수 있는 프로세스과 기술들이 나오고 있는 것입니다. 이 부분 역시 인공지능 기술과 함께 성장하고 있는 영역입니다.

기술의 성장과 이면

최근 인공지능의 부작용과 단점을 말씀드리면서, 짚고자 하는 핵심은 일종의 ‘어뷰징’ 행위와 나쁜 인공지능 기술이 착한 인공지능의 알고리즘과 시스템을 파괴할 수 있다라는 점입니다. 물론 이를 방지하기 위한 인공지능도 성장하고 있지만 결과적으로 기술의 발전이 무조건 좋은 영향만 가져다 주지 않는다는 부분을 잘 보여주고 있습니다.

결론

기술의 발전은 항상 단점과 부작용을 경계하며 진행되어야 합니다. 2차 세계 대전을 겪으면서 인류가 이러한 부분을 많이 인지하고 개선했다라고 생각하지만 사실 아직도 이러한 부분이 완전하지는 않아보입니다. 착한 방향으로 기술이 발전할 수 있도록 우리 모두가 협력하고 노력해야 하며, 나쁜 방향으로 가기 위한 규제와 법안을 발의하고 수립해야 합니다. 원천적으로 모든 나쁜 기술들을 막을수는 없겠지만 사후 관리와 처벌 강화의 측면으로도 고민이 필요해 보입니다.

인공지능의 단점과 부작용, 그리고 어뷰징