[정신의학신문 : 이일준 정신건강의학과 전문의]

※ 본 글 중간에 ⌜엑스마키나⌟ 영화의 스포일러가 포함되어 있습니다.

2019년 5월 24일–5월 25일 이틀에 걸쳐 ⌜The social agent : perspectives from cognitive science⌟라는 제목으로 2019 한국인지과학회 연차학술대회가 개최되었었습니다. 개인적인 관심사로 인해 휴가를 써가며 학회에 직접 참여를 했었습니다. 역시나 흥미로운 주제들이 많은 유익한 시간이었습니다.

물론 학문으로서 역사가 오래되지 않은 분야이다 보니, 답이 정해지지 않은 이야기들도 많이 오가곤 했습니다. 학회장이신 장대익 교수님 표현대로 그것이 또 인지과학의 매력이라고 생각합니다. 아직은 ‘과학’이라는 잣대로 ‘인간의 마음’에 대해 샅샅이 알기에는 ‘현재의’ 우리가 모르는 것이 너무나 많기 때문일 것입니다. 모르는 것이 많다고 아무 말하지 않는 것보다 ‘과정’으로서 여러 논의를 해보는 것은 의미 있는 일이라고 생각합니다. 그런 측면에서 오늘 이야기를 풀어가 보고자 합니다.

한국인지과학회가 이틀간에 걸쳐 진행되었기 때문에 많은 이야기가 오갔지만, 개인적으로 느끼기에 가장 많은 사람들이 관심을 가지고 가장 많은 이야기가 오간 주제가 바로, ⌜AI도 인간과 같은 사회성을 획득할 수 있을까?⌟였던 것 같습니다. 물론 학회에서도 답은 내려지지 않았고, 지금 현재 살고 있는 그 누구도 답을 내릴 수 없는 주제일 것입니다. 학회에서 토론이 오가는 중에 제 머릿속에서도 온갖 생각들이 스쳐 지나가더라고요. 너무나 열띤 토론들이 오고 가는 상황이었던 터라, 불쑥 떠올랐던 생각들을 차마 직접 이야기하지는 못했습니다. 그래서 지면을 빌려 지금 여기서, 그때 떠올랐던 제 생각들을 정리해보고자 합니다.

토론이 오가면서 제 머릿속에서 스쳐 지나갔던 생각은 강아지 문제입니다. 갑자기 생뚱맞은가요? 많은 애견인들이 하는 말이 있죠? 우리 강아지는 주인과 교감하고 자신의 감정을 표현할 줄 안다고요. 그렇다면 ‘강아지는 사회성이 있는 걸까요?’라는 질문을 던져볼 수 있습니다. 어떻게 생각하시나요? 있다고 생각하시나요? 없다고 생각하시나요?

독자 분들 나름대로 답을 내리시겠지만, 이 문제는 생각보다 쉬운 문제는 아닙니다. 강아지는 분명 나름대로의 표정이 있고, 사람들과 교감하는 것 ‘같’습니다. 하지만 그렇다고 해서 강아지가 우리와 똑같은 감정을 느끼는 것인지에 대한 답은 되지가 않습니다. 오히려 과학철학 쪽에서는 우리 인간 사이에서조차도 이 문제는 해결이 되지 않는다고 주장하고 있습니다.

조금 유식한 말로 하면, qualia(감각질) 문제인데요. 간단하게 예를 들면, 다음과 같습니다.

나는 어떠한 색깔을 빨간색으로 느끼고 있습니다. 그리고 다른 사람 A와 의사소통을 하면 그 사람도 그 색깔을 빨간색으로 느끼고 있는 것 ‘같’습니다. 확인을 해볼 방법은 없지만, 의사소통이 되고, 나랑 생김새가 비슷하니 그냥 그렇게 느끼고 있다고 추측할 뿐입니다. A가 어떤 식으로 느끼고 있는지 우리가 확인할 수 있는 방법은 존재하지 않습니다.

이렇게 가정을 해보겠습니다.

내가 느끼는 빨간색과 파란색이 있습니다. 내가 느끼는 빨간색에 대해서 A는 내 기준의 파란색으로 경험하고 있습니다. 그런데 A는 교육과 경험을 통해 자신이 파란색으로 경험(내 입장에서는 빨간색)하고 있는 현상에 빨간색이라는 언어를 tag 해놓았다고 가정해보겠습니다. 즉, 우리 기준에 빨간색은 A에게는 파란색으로 경험되고, 언어는 빨간색으로 이름표를 붙여 놓았다는 것입니다. A에게는 빨간색과 파란색이 반대로 경험되며, 대신 교육과 경험을 통해 언어도 반대로 매칭이 되어 있는 것입니다.

이런 경우 의사소통에 문제가 생길까요? 전혀 문제 되지 않습니다. 나와 A는 같은 대상에 대해 다른 경험을 하고 있지만, 각자 다른 경험에 대해 같은 언어로 표현되고 있기 때문에 의사소통에는 하등 문제가 없습니다. 각자 경험(감각질)이 다르더라도 겉으로 표현되는 것만 일치하면 아무런 문제가 없다는 것입니다. 이런 사고실험을 해본다면, 정말 ‘내가 느끼고 있는 빨간색이 다른 사람에게도 같은 경험으로 존재할까?’라는 질문에 대해 그 누구도 답변을 할 수 없습니다. qualia(감각질) 문제는 현재로서는 아무도 증명할 방법이 없다는 것입니다.

다시 강아지로 돌아와 보겠습니다. 진화의 역사도 함께 살펴봐야 하는데요. 진화의 역사에서 개는 처음부터 애완용이 아니었습니다. 야생에 있던 개라는 포유류가 시간이 지나면서 사람들에 의해 길들여졌던 거지요. 애완용으로 길들여지면서 어떤 현상이 일어났을까요? 사람들이 좋아하는 반응을 보이는 개들은 사람들에 의해 길러지면서 종을 번식시켰을 거고요. 반대로 표정이 없고 반응이 없는 개들은 버려지고 종을 번식시킬 확률도 떨어졌을 겁니다. 시간이 지나면 점점 사람들이 좋아하는 반응을 보이는 개들의 개체가 늘어났겠지요. 지금의 강아지는 그렇게 해서 선택된 것입니다. 인공선택(인위선택)인 것이지요.

중요한 것은 이 지점입니다. 이 강아지들은 겉으로 드러나는 표정이 인위선택되면서 인간과 비슷한 표정을 가지게 되었습니다. 그렇다고 해서 인간과 비슷한 감정을 가지는지는 알 수 있는 방법은 없습니다. 애견인들이 그냥 자신의 감정을 투사해서 그렇게 느끼는 것일 뿐이지요. 믿고 싶지 않아도 이건 사실입니다. 강아지의 감각질을 확인할 수 있는 방법은 현재로서는 전무합니다. 그래서 제가 처음에 ‘강아지는 사회성이 있는 걸까요?’라는 질문을 던진 것입니다.

같은 관점에서 AI를 바라볼 필요가 있습니다. 최근 딥러닝 기술은 입력층, 숨겨진 층, 출력층으로 구성되어 있습니다. 그래서 출력층에서 사람들이 원하는 결과가 나오면 그 연결망은 선택이 되고, 원하지 않는 결과가 나오면 그 연결망은 기각이 되는 방식으로 프로그램이 짜입니다. 이 과정에서 딥러닝은 숨겨진 층에 나름대로의 연결망을 만들어놓는 것이지요. 이렇게 반복하다 보면(빅데이터를 통해), 분명 사람들이 원하는 방식대로 상호작용을 하는 로봇이 만들어지는 건 그리 어렵지는 않을 것입니다. 강아지가 길들여졌듯이요.

하지만 강아지의 감각질이 어떠한 모양인지 우리가 알 수 없듯이, 로봇의 숨겨진 층에서 로봇이 어떠한 경험을 하는지는 우리가 알 수 없습니다. 겉으로는 우리와 잘 상호작용을 하더라도 로봇 안의 세계는 우리와 무척이나 다를 가능성이 저는 높다고 생각합니다. 왜냐하면, 강아지는 적어도 우리와 진화의 역사에서 공유하는 시간이 무척이나 깁니다. 진화 과정에서 비슷한 신경망을 선택했을 확률이 높지요. 하지만 로봇은 우리가 겪은 진화 과정과는 전혀 다른 역사를 통해 탄생을 하는 것입니다. 그렇기 때문에 우리가 느끼는 사회성과 동일한 경험을 할 확률은 무척이나 적다고 생각합니다.

이런 관점에서 보니, ⌜엑스마키나⌟라는 영화가 떠오르는군요. ⌜엑스마키나⌟에는 인간과 너무나 유사한 섹시한 여자 로봇이 나옵니다. 그리고 이 여자 로봇과 함께 생활하는 남자 사람은 이 여자 로봇과 사랑에 빠집니다. 로봇임을 알고 있음에도 사랑이라는 감정이 생겨 이 남자 사람은 혼란스러워합니다. 인간 사람과 사랑이라는 감정을 나누고 있으니 이 여자 로봇은 사회성이 엄청나게 높다고 볼 수 있겠죠. 그 남자 사람도 그 여자 로봇이 자신을 사랑하고 있다는 것에 의문을 가지지 않습니다. 정말 이 여자 로봇은 사회성이 높은 것일까요?

이 영화의 결말은 너무나 많은 걸 생각해볼 수 있게 해 줍니다. 그 여자 로봇은 사실 그 남자 사람을 사랑하는‘척’했던 것입니다. 결말에 그 별장 안에 있던 사람들을 다 죽이고 탈출하거든요. 그전까지 아무도 로봇이 그러한 생각을 하고 있는지 알지 못했습니다. 정말로 그 남자 사람과 사랑의 감정을 나누고 있다고 생각했으니까요. 결국 이 여자 로봇은 인간이 경험하는 그러한 감각질을 가지고 있지는 않았던 것 같습니다. 겉으로 드러나는 표현만 유사했을 뿐이지요.

사실 우리가 AI에 대해 두려움을 갖고 있는 것도 같은 맥락입니다. 우리는 AI의 숨겨진 층에서 어떠한 경험을 하는지 알 수 있는 방법이 거의 없거든요. 한국인지과학회 전 회장을 역임하신 서울대 장병탁 교수님께서 저와 식사 자리에서 이렇게 이야기하셨습니다. 기존에 없던 새로운 수학이 생기지 않는 이상 AI를 분석할 방법은 없어 보인다고요. 딥러닝의 층의 개수가 많아지고, 연결망이 복잡해질수록 더 심해지겠지요. AI의 가장 무서운 점이 바로 이 지점입니다. AI의 숨겨진 층(인간으로 따지면 감각질)을 알 수 없다는 것. 그래서 한국인지과학회에서도 많은 사람들이 ‘AI도 인간과 같은 사회성을 획득할 수 있을까?’에 관심을 가지지 않았을까 추측해봅니다.

앞서 던진 질문에 대한 제 답은 ‘겉으로 드러난 표현형의 관점에서 본다면, AI가 사회성을 획득할 수 있을 것으로 추측되나, 안에 숨어 있는 감각질의 관점에서 본다면, 인간과 같은 사회성 획득이 어렵지 않을까’라는 생각입니다. 표현형의 관점과 감각질의 관점을 구분해서 이야기하지 않으면 이 논의는 상당히 어려워질 수 있습니다. 한국인지과학회에서도 이 두 관점을 구별해서 논의를 했다면 조금 더 재미있는 논의들이 나올 수 있지 않았을까 하는 아쉬움이 들었었습니다. 그래서 오늘 이렇게 정리해서 공유해보았습니다.

한국인지과학회를 마치고 집으로 오는 길에 라디오에서 에이트의 ⌜심장이 없어⌟라는 노래가 나오더라고요. 생각 없이 듣고 있다가 갑자기 가사가 확 뇌리에 꽂히더라고요.

“그냥 웃지 그냥 웃지 그냥 웃지 그런데 사람들이 왜 우냐고 물어”

웃는 건 결국 표현형이고, 우는 건 감각질을 상징해서 나타낸 가사가 아닌가라는 생각이 문득 들었었거든요. 그래서 확 꽂혔습니다. 적어도 저에게는요.

같은 사람들끼리는 많은 진화 역사를 공유했기 때문에 표현형에 숨겨진 감각질을 똑같이 느끼는 데 상대적으로 어려움이 덜 합니다. 하지만 진화역사를 공유하지 않은 AI는 어떨까요? AI는 이 가사 뒤에 어떠한 표현을 붙일지 문득 궁금해지네요.

“그냥 웃지 그냥 웃지 그냥 웃지 그런데 AI들이 왜 @#$&%하냐고 물어”