자율주행차와 트롤리 사건 볼께요

어느 방향으로 가든 사람이 다칠 수밖에 없는 위급한 상황. 과연 무인 자율주행차(self-driving car)는 어떤 판정을 내려야 할까요? 다수가 다치는 것보다 소수가 다치는 쪽을 선택해야 옳은 것 1인가요?​

>

이런 고민은 이미 있었어요. 영국의 철학자 필리파 푸트(Philippa R. Foot)는 트롤리 문제(Trolley problem)의 사고를 검토하고 우리에게 윤리적인 문제를 제기했습니다. 트롤리 문제는, 다소 소리와 같은 귀추를 나타냅니다. 브레이크가 망가진 트롤리가 빠르게 달리고 있어요. 이대로 계속 간다면 레일에서 일하는 작업자 5명과 싸움이 분명한 귀추입니다. 옆 선로에는 인부 1명이 혼자 잡고 있습니다. 이 때 선로를 변환할 권한이 여러분에 있다면 어떤 선택을 합니까?​ 트롤리 문제에 답한 응답자 89%가 전기 선로를 바꾸겠다고 답했습니다 하지만 정작 이 같은 귀추에 놓이면 누구도 기쁘지 않고 고민에 빠질 수밖에 없어요. 어떤 선택을 하든 누군가는 큰 화를 당할겁니다. 작업자 수의 차이일 뿐이에요. 다수를 위해 소수를 희생하는...판정하기 어려운 문제입니다.​

>

자율주행차 도입이 가시화된 현 시점에서 트롤리 문제가 다시 불거진 것은 어쩌면 자연스러운 일로 여겨집니다. 차가 도로를 달리면 한순간의 실수는 금방 가라앉습니다. 자율주행차가 사건을 일으켜 스토리라는 법도 없습니다. 테스트 도중에 작성했는데, 지난해 미국 애기 제조주에서 우버의 자율주행차와 보행자가 충돌하는 사건이 있었습니다. 보행자는 병원으로 옮겨졌으나 안타깝게도 숨졌다.​

>

사람들의 생각은 제각각이었다. 센서가 제대로 작동했더라면 문재가 본인이 되지 않았을 것이라는 생각과 사람이 직접 운전하는 귀추여도 피하는 것이 불가능에 가까웠다는 생각이 서로 맞섰습니다. 공개된 영상을 보면 문화재 차량에는 우버 직원이 운전석에 타고 있다가 순식간에 일어난 일이라 즉각 대처하지 못하는 장면이 고스란히 담겨 있습니다. 경찰은 문재 관련 자료를 분석한 결과 사람이 운전해도 피하기 어려웠다는 결론을 내렸습니다. 그러나 우버는 자율주행차 운행을 전면 중단한다.​

>

우버 차량에 기술적인 결함은 없었던 것으로 판명되었지만, 이 의문을 계기로 사람들은 자율주행차의 안전성에 대해 의심을 품게 됩니다. 사람과 달리 자율주행 시스템의 소견은 절대 모르기 때문에 우려는 더욱 커졌습니다.자율주행차 시스템은 카메라나 각종 센서가 수집한 환경 정보를 주행에 반영합니다. 반면 반동적인 자율주행도 수없이 많은 선택의 연속이지만 반드시 중요한 결정을 내려야 하는 순간도 올 것입니다. 차 앞으로 갑자기 보행자가 달려들면 운전자에게 위험한 상황이 닥쳐도 급하게 핸들을 꺾어야 하는지, 아니면 진행 방향대로 달려야 하는지 스토리. 어떤 비결이라도 프로그래머가 코딩한 소프트웨어가 판단을 내려야 합니다. 다른 의문이 발발할 수 있습니다. 보행자 대신 작은 개가 뛰어들거나 노인과 어린이가 함께 나타나면 어떤 차례를 지켜야 할지도 의문이다. 물론 인명피해가 없는 최선의 비결이 존재하면 좋겠지만 미래에 하나 있는 모든 조건을 예측할 수는 없다.​

>

작년에는 괘씸한 논문이 발표되었다 학술지 네이처에 게재된 논문입니다. 미국 매사추세츠공대(MIT)와 하버드대 연구진으로 구성된 공동연구팀은 '모럴 머신(Moral Machine)'으로 불리는 웹사이트에서 트롤리 문화재에 대한 대규모 설문조사를 했습니다. 앙케이트에는 다음과 같은 정세가 주어졌습니다. 자율주행차가 횡단보도를 지본인이 되기 전 브레이크 마을이 발발한다. 만약 계속 앞으로 나아가면 길을 건넌 집은 보행자와 충돌하고 핸들을 돌리면 벽에 부딪혀 탑승자가 위험에 처합니다. 보행자는 성별과 봉잉이로 구분하고 동물도 포함하여 13개 시봉잉리오을 만들었습니다. ​

>

​ 해당 설문은 소셜 뉴스 웹 사이트'레디쯔(Reddit)'한 페이지를 장식하는 스타 유테유보'퓨디파이(PewDiePie)'도 홍보에 힘을 갖고 233개국에 있는 응답자들로부터 설문 데이터를 축적하는 것이다. 연구 결과를 보면 동물보다는 인간의 생명을 구하려고 하고 소수보다는 다수를 살리려는 경향이 과잉이었습니다.노인보다는 아이의 우선순위를 더 높게 소견했습니다. 남자보다는 여자, 승객보다는 보행자, 상황을 가만히 지켜보기보다는 행동하는 쪽을 선택했어요. 특이한 것은 선택지에는 범죄자도 포함되어 있는데 대부분의 사람들은 범죄자보다 개를 살리는 것이 우선이라고 선택했어요. 가장 높은 우선순위를 차지한 대상은 유모차(Stroller)였습니다.​

>

'떡하나은 자율주행차 윤리 규정'을 제안한 유하나한 정부입니다. 규정에는 '나이에 따른 차별은 금지되어야 한다'라는 항목이 포함되어 있습니다. 설문조사에 참여한 일반인들이 생각했던 윤리적 선호와는 상반된 것으로 보입니다. 덕하나은 자율주행차 산업기술장벽도 입법을 추진하고 있다.MIT 컴퓨터 과학자이자 논문 저자 중 한 명인 이야드 라흐완 교수는 "모럴 머신에서 제기한 구체적인 시나리오는 사실상 거의 하나가 되지 않는다"며 "여론조사가 인공지능(AI) 윤리를 세우는 기초가 돼서는 안 된다"고 강조했습니다. 게다가 인공지능은 자율성과 적응력을 가지고 있기 때문에 기존의 관념으로 규제해서는 안 된다고 예상했습니다.​

>

자율주행차를 개발 중인 구글은 인공지능으로 인한 윤리적인 문제는 없다는 입장을 밝혔습니다. 제프 하워드 딘(Jeff Dean), 구글 AI총괄은 "자율 주행 차는 사건을 막는 것을 목표로 삼을 뿐, 절대로 인명 피해가 줄이는 방향에서 알고리즘이 이프료크도에고 자신하는 1은 없다","오히려 자율 주행 차가 인간의 운전자보다 더 좋은 결과를 가져올 것"과 내용했다.자율주행차는 분명 우리의 삶에 편안함을 주는 놀라운 기술이다. 1개 인간도 무슨 이 최고의 선택인지 내용하지 않는 문제를 자율 주행 차에만 떠넘긴 것은 아닌지 문재도합니다. 그러나, 기술의 편리함에 도취해, 무고한 희생자가 스스로 오는 것을 간과해서는 안됩니다"지금 자율 주행차의 도입이 실시되어, sound가 늦더라도 기술적인 준비가 완성되었을 때, 처음으로 의미 있는 기술이라고 말할 수 있습니다. 사람의 생명에 관계되는 문제니까요.​텍 플러스 에디터 자신의 유권 tech-plus@naver.com​

>