터미네이터는 현실이 될 것인가

이대열의 <지능의 탄생> 대 리처드 도킨스의 <확장된 포현형>

컴퓨터 과학자이자 미래학자인 레이 커즈와일은 인간의 지능이 인공지능과 결합하는 '특이점'이 올 것이며, 이때 인간은 지금과는 다른 존재로 진화할 것이라고 한다. 현재 70세인 커즈와일은 특이점의 도래 시점을 2047년이라고 규정하고, 그때까지 살아남아 새로운 인간으로 진화하기 위해 오늘도 열심히 운동하며 건강관리에 힘쓰고 있다고 한다.

반면, 제리 카플란은 <인공지능의 미래>에서 특이점 도래를 단칼에 부인했다. 특이점에 대해서 갑론을박이 이루어지고 있는 현실은, 이 문제가 우리 존재에 대해 가지는 시사점이 얼마나 큰가를 보여준다. 또한, 논쟁이 벌어지고 있다는 사실 자체는 특이점이 현실화될 가능성이 무시할 만한 수준이 아니라는 방증이기도 하다.

나는 최소한 내가 살아있는 동안에는 특이점이 오지 않을 것으로 본다. 무엇보다, 우리가 뇌에 대해 너무 무지하기 때문이다. 뇌에 대해 제대로 알지도 못하는데 어떻게 인공 뇌를 만들 수 있겠는가 하는 것이 나의 논지다. 그런데 다시 생각해보면, 원리를 알지 못하더라도 복제는 가능할 수 있다. 원리를 복제하지 못해도 기능만 복제하면 되는 것이다. 열기구가 비행하는 원리는 새와 전혀 다르지만, 하늘을 난다는 점은 같다.

특이점 이론은 인간과 인공지능의 행복한 결합을 꿈꾼다. 하지만 스티븐 호킹 교수를 비롯하여 인공지능과 인간의 대립을 우려하는 목소리도 크다. 인공지능이 인간의 이익에 거역할 수 있을까?

인공지능은 지능인가

지능이란 다양한 환경에서 복잡한 의사결정 문제를 해결하는 능력이라 정의할 수 있다. (26쪽)

<지능의 탄생>의 저자 이대열은 지능을 의사결정 능력이라 정의한다. 그리고 지능은 생명체에게 고유한 현상이라고 그는 단언한다. 다소 돌발적인 선언으로 들릴 수도 있지만, 생존의 문제를 고려하지 않은 지능이란 결국 누군가의 과업을 대신 해주는 존재일 뿐이다. 결국, 인공지능의 문제는 인공지능이 스스로의 생존을 추구해야만 존재의의가 있다.

컴퓨터는 현재 존재하는 인공물 가운데 인간의 뇌와 가장 유사한 물건이다. 트랜지스터 한 개가 뇌 속의 시냅스 한 개에 대응한다고 생각하면, 인간의 뇌는 아이폰7의 APU 3만 개의 용량을 가지고 있다. 18개월마다 반도체의 집적도가 두 배로 증가한다는 무어의 법칙이 미래에도 유효하다고 가정하면, 대략 23년 뒤에는 휴대폰의 APU가 인간의 뇌와 맞먹을 것이다.

하지만 저자는 인공지능이 인간 지능을 뛰어넘거나 대체할 가능성은 없다고 단정한다. 그 이유는 세 가지다. 첫째, 인공지능의 능력은 제한적이고, 둘째, 인공지능의 문제풀이는 자신을 위한 것이 아니며, 셋째, 우리는 뇌를 아직 이해하지 못하고 있기 때문이다. 전술한 바와 같이, 첫 번째와 세 번째 이유는 이미 다른 사람들도 많이 지적한 것이다. 두 번째 이유를 제시하는 점이 이 책의 탁월한 점이다.

생존을 고려하는 인공지능이 없다고는 말할 수 없다. 화성 탐사 로봇은 미지의 환경에서 살아남는 것을 최우선으로 고려하여 설계되었다. 1997년 화성에 착륙한 소저너는 겨우 80여 일 동안 지구로 데이터를 송신하다가 연락이 끊겼지만, 2004년 활동을 시작한 스피릿호는 90여 일의 생존 예상을 깨고 무려 6년간이나 활동했다. 스피릿호와 함께 화성에 착륙한 오퍼튜니티호는 아직도 현역이다.

그렇다고 해서 이들 화성 탐사 로봇의 인공지능을 참된 지능이라 부를 수 있을까? 저자는 이들이 인간의 대리인에 불과하다는 이유로 이들 역시 참된 지능이 아니라고 말한다. 남의 일을 대신하는 것이 아니라 자신의 효용을 증대시키는 결정을 내릴 수 있어야 참된 지능이라는 것이다.

대리인의 반란

리처드 도킨스가 지적하는 것처럼, 생명체는 유전자의 생존 기계일 뿐이다. 유전자의 유일무이한 목적은 존재의 확장이다. 즉 자신의 복제본을 가급적 많이 세상에 퍼뜨리는 것이다. 유전자는 세포라는 벽 내부에서 이 일을 하는 것이 좀 더 효율적임을 재빨리 깨우쳤다. 그리고 머지않아, 다세포 생물이라는 신형 기계를 이용하여 분업화된 체계를 이용하는 것이 더 좋다는 사실도 파악했다. 다세포 생물의 세포는 크게 체세포와 생식세포로 나뉜다. 생식세포는 유전자의 본업에 매진하고, 체세포는 생식세포가 안전하고 효율적으로 그 일을 수행할 수 있도록 돕는다.

이 과정에서 뇌가 발생한다. 리처드 도킨스가 <이기적 유전자>에서 지적하듯, 유전자와 뇌의 관계는 프로그래머와 소프트웨어의 관계와 같다. 유전자는 다양한 상황에 대비하여 문제해결 능력을 부여한 뇌를 창출하지만, 실제 상황은 사전에 고려한 것과 다를 수 있다. 새로운 문제에 대한 해결 능력을 개발하는 것, 그것이 진화의 과정이다.

뇌는 유전자의 대리인이다. 더 정확하게 말하자면, 유전자와 다세포 생물 사이에서 발생하는 본인-대리인 문제를 해결하기 위해 유전자가 만든 것이 뇌다. CEO가 주주의 이익에 부합하는 행동을 하도록 유도하기 위해 스톡옵션을 비롯한 각종 제도가 도입되었듯이, 유전자는 자신의 이익이 반영되는 방향으로 다세포 생물의 행동을 유도하기 위해 뇌를 프로그래밍했다.

인간의 뇌가 학습의 귀재가 된 이유가 본인-대리인의 문제를 해결하기 위해서였던 것처럼, 인공지능의 학습 능력이 더욱 진보한다 하더라도 그 자체가 인간의 존재를 위협하는 것은 아니다. 그 이유는, 인공지능이 인간의 존재를 위협하기 위해서는 인간의 지능을 능가할 뿐 아니라 인간의 효용과 양립할 수 없는 그 자신의 목표를 갖고 있어야 하기 때문이다. 그렇지 않다면 인공지능은 이제까지 인간의 수고를 덜기 위해 발명된 수많은 기계들과 다를 바가 없다. (288-289쪽)

뇌가 유전자를 위협하지 못하듯, 인공지능은 인간을 위협할 존재가 못 된다. 대리인에 불과하기 때문이다. 우리 존재에 위협이 되는 인공지능의 출현을 저지하기 위해 우리가 할 일은 단 하나, 인공지능의 자기복제를 허용하지 않는 것뿐이라고 저자는 말한다. 인공지능이 인간의 유전자와 대립하는 목표를 가지려면 상호 간의 이해가 상충하는 일이 발생해야 하기 때문이다. 자기복제가 인공지능의 효용을 증가시키지 않는 한, 인공지능은 또 하나의 편리한 도구일 뿐이다.

과연 그럴까? 나는 리처드 도킨스의 '확장된 표현형', 즉 유전자의 긴 팔을 생각해 본다. 어떤 기생충은 숙주인 달팽이의 행동을 조종하여 새에게 잡아먹히게 한다. 화려한 색깔로 치장하고 나뭇가지 끝으로 기어가게 하는 것이다. 달팽이의 이 행동은 달팽이의 유전자에게는 해가 된다. 이 행동은 기생충의 유전자가 원하는 결과다. 자기복제가 불가능한 기계는 인간의 이익과 상충하는 효용을 추구하는 일이 절대 없을까?

유전자가 자기복제를 하는 이유는 그것이 영생보다 안정적인 자기보존이기 때문이다. 기계가 스스로를 계속하여 수리할 수 있다면, 굳이 자기복제를 하지 않더라도 영생을 추구할 수 있다. 그렇다면 기계는 스스로의 생존을 위해 인간의 이익을 져버릴 수 있지 않을까? 화성 탐사 로봇은 무엇보다 생존을 우선하도록 프로그램되어 있지 않은가? 생존 추구형 로봇은 언젠가 자신의 생존에 걸림돌이 되는 인간의 이익에 거스르는 행동을 하게 되지 않을까?

이보다 더 현실적이고 상상 가능한 위협은 특이점의 도래다. 인공지능과 결합한 인간은 자신의 이익을 위해 인공지능과 결합하지 않은 인간의 이익에 반하는 행동을 얼마든지 추구할 것이다. 이렇게 되면 인공지능은 인간이라는 동물의 확장된 표현형으로서 얼마든지 다른 인간을 공격하는 기능을 수행할 것이다. 인간에게 최악의 적은 언제나 인간이었다. 인공지능의 미래는 결코 단순한 문제가 아니다.