연구자들은 무인승용차의 윤리가 문화(文化)에 따라 어떻게 달라질 수 있는지를 알아보기 위해, 대규모 온라인 연구를 실시했다(참고 1).
 

승용차를 운전하는 도중, 갑자기 행인 한 명이 뛰어들었다고 치자. 그래서 왼쪽으로 급히 핸들을 꺾으려는데 그쪽에는 가로등이 서 있다. 이런 경우, 당신이라면 '거리의 보행자 한 명'과 '승용차 속의 운전자 두 명' 중에서 누구를 우선적으로 살릴 것인가?

그건 쉽지 않은 결정이지만, 수백만 대의 자율승용차(autonomous car)들은 가까운 미래에 그런 결정을 내려야 할 것이다(참고 2). 우리는 기계에 어떤 프로그램을 입력하지만, '위기상황에서 누구를 우선적 살려야 한다'는 원칙은 지금껏 도덕적 기계(moral machine)를 이용한 실험의 '가상적 설정'일 뿐이었다.

우리가 하루 종일 부지불식 중에 내리는 통상적인 도덕적 결정에는 여러 가지가 있다. 무인승용차의 도입이 임박한 시점에서, 우리는 이런 결정의 기준을 사전에 논의할 필요가 있다. 논의의 원칙은 '대중에게 공개적으로 묻는 것'이다.

어떤 결정은 쉬워 보일 수 있다. 이를테면, '4인 가족'과 '고양이 한 마리' 중에서 한쪽을 선택하는 경우가 그렇다. 그러나 알쏭달쏭한 경우도 많다. 예컨대, '한 명의 홈리스 + 반려견'과 '비즈니스맨 한 명' 중에서 한쪽을 선택하는 경우는 어떨까? 또는 '두 명의 스포츠맨 + 한 명의 할머니'와 '두 명의 초등학생'은 어떤가?

문제는, 경우의 수가 매우 많다는 것이다. 즉 가능한 사고(事故)의 유형이 너무 많아, 가변적 요소가 많은 사회과학 방법을 이용하여 모든 유형들을 전부 조사하는 것이 불가능해 보인다. 럭비공처럼 어디로 튈지 모르는 '인간의 문화와 배경'이 결정에 영향을 미칠 수도 있기 때문이다. 그래서 연구진이 실제로 선택할 수 있는 유일한 옵션은, 그 문제를 많은 사람들이 드나드는 웹사이트에 업로드하는 것이었다.

물론 그게 말만큼 쉬운 건 아니다. 그러나 연구진이 의도한 것은, 그런 상황을 온라인 과제로 제시하여 전 세계 사람들로 하여금 공유하고 참여하게 하는 것이었다. 연구진은 전 세계 233개 국가 및 지역에 속하는 수천만 명의 온라인 참가자들이 내린 결정에서, 거의 4,000만 가지의 도덕적 결정사례를 수집했다.

결과는 매우 흥미로웠다. 첫째로, 전 세계에 공통적으로 적용되는 세 가지 기본원칙이 발견되었다. ① 동물보다 사람이 먼저다. ② 더 많은 사람이 먼저다. ③ 어린이가 먼저다.

둘째로, 상이한 윤리적 배경을 가진 국가군(群) 별로 결정기준이 다른 것으로 나타났다. 1그룹에는 많은 서구 국가들이 포함되고, 2그룹에는 많은 아시아 국가들이 포함되며, 3그룹에는 라틴아메리카 국가와 과거에 프랑스의 식민 지배를 받았던 군가들이 포함된다.

① 연구진이 발견한 문화적 차이 중에는, 다차원적(multi-dimensional)이어서 기술(記述)하기가 어려운 것도 있다. 그러나 그중에는 매우 현저한 차이도 있다. 예컨대 아시아 국가들은 어린이를 우선적으로 살리는 쪽을 그다지 강하게 선호하지 않는 것으로 나타났다. 즉, 동양에서는 어린이보다 노인을 더 존중하는 것 같다.

② 그건 매우 흥미로운 결과이지만, 중요한 건 연령뿐만이 아니었다. 한 그룹은 뜻밖에도 남성보다 여성을 더 선호하는 것으로 나타났다. 예컨대 프랑스와 프랑스의 식민 지배를 경험한 나라의 사람들은 여성을 살리는 데 관심이 매우 많은 것으로 밝혀졌다.

③ 세 번째로 놀라운 것은 사람의 사회적 지위와 관련된 문제다. 예컨대, 한쪽에 남성 및 여성 경영자가 있고 다른 쪽에 홈리스가 있다고 하자. 이 경우, 경제적 불평등도가 높은 나라일수록 홈리스를 희생하고 경영자를 살리는 결정을 선호하는 경향이 높은 것으로 밝혀졌다.
 

전 세계 233개 지역/국가의 사람들을 대상으로 인터넷 설문조사를 실시한 결과, 가까운 미래에 자율승용차가 직면할 상이한 가치관은 크게 세 가지인 것으로 나타났다.

이번 연구는 '윤리가 문화에 따라 어떻게 변화하는지'에 대한 새로운 통찰을 제공한다. 연구진은 특히 인공지능과 자율승용차 분야에 시사하는 바가 많다고 생각하고 있다.

전체적으로 볼 때, 이번 연구결과는 인공지능으로 하여금 인간의 가치관을 따르거나 느끼도록 하는 데 매우 중요하다. 사람들의 마음은 간혹 다르다. 우리 주변에 있는 사람들 중에는 우리가 똑같이 생각하지 않는 사람들이 있다. 그리고 다른 나라 사람들은 우리나라 사람들과 다르게 생각한다. 그러므로 AI와 인간의 가치관을 일치시키려면, 먼저 그 차이를 이해해야 한다.

연구진이 의도했던 건 바로 그것이다. 그들의 바람은 '우리가 곧 직면하게 될 미래'에 대해 공감대를 형성하는 것이다. 미래의 자율승용차는 어떤 경계선을 넘을 때 윤리적 딜레마를 경험할 수 있으므로, 그것을 사전에 배워 대비하고 있어야 한다.

※ 참고문헌
1. Awad, E. et al. Nature (2018); https://doi.org/10.1038/s41586-018-0637-6
2. http://www.ibric.org/myboard/read.php?Board=news&id=289608&SOURCE=6

※ 출처: Nature https://www.nature.com/articles/d41586-018-07135-0

글쓴이_양병찬

서울대학교 경영학과와 동 대학원을 졸업한 후 기업에서 근무하다 진로를 바꿔 중앙대 학교에서 약학을 공부했다. 약사로 일하며 틈틈이 의약학과 생명과학 분야의 글을 번역했다. 포항공과대학교 생물학연구정보센터BRIC의 바이오통신원으로, <네이처>와 <사이언스>등에 실리는 의학 및 생명과학 기사를 실시간으로 번역, 소개하고 있다. 그의 페이스북에 가면 매일 아침 최신 과학기사를 접할 수 있다.

https://www.facebook.com/OccucySesamelStreet