더 나은 세상은 가능하다, 이정환닷컴!

로봇이 운전하는 자동차, 누구를 먼저 살려야 할까요?

Written by leejeonghwan

January 15, 2021

이런 상상을 해볼까요? 나는 인공지능을 연구하는 사람이고 자율주행 자동차의 알고리즘을 설계하고 있습니다.

(이 글은 ‘주니어 미디어오늘’에 실렸던 기사를 ‘성인용’으로 업데이트한 것입니다. 19금이라기 보다는 좀 더 복잡한 논의를 풀어 쓴 ‘매운맛’ 버전이라고 할 수 있겠죠. 해묵은 떡밥입니다만, 여전히 많은 생각할 거리를 남기는 주제라고 생각합니다.)

첫 번째 질문 :

앞에서 트럭이 넘어져서 굴러옵니다. 휠을 꺾어야 할 텐데, 왼쪽에는 어린이, 오른쪽에는 노인이 있습니다. 알고리즘은 어떤 선택을 하게 될까요?

두 번째 질문 :

자율주행 자동차가 도로를 달리고 있는데 갑자기 빨간 불에 무단횡단하는 사람을 맞닥뜨렸습니다. 당연히 차의 방향을 틀어야겠죠. 그런데 맞은 편에 도로 차단 벽이 설치돼 있습니다. 핸들을 돌리면 차에 탄 사람이 죽고 그대로 직진하면 길을 가던 사람이 죽게 됩니다. 알고리즘은 어떤 선택을 해야 할까요?

여기서 중요한 것은 어떻게든 선택을 해야 하고 그 선택은 인공지능을 설계한 사람의 판단에 따른다는 것입니다.

차가 ‘주인’을 먼저 보호해야 한다고 생각할 수 있을 거고요. 그래서 브레이크를 밟되 핸들을 꺾지 않고 직진해야 한다고 생각할 수도 있을 겁니다.

하지만 어떻게 될지 모르니 핸들을 꺾어야 한다고 생각할 수도 있을 겁니다. 정면으로 사람을 치는 것보다 일단 피하고 봐야 한다는 거죠. 그런데 만약 핸들을 꺾었을 때 내가 죽게 된다면? 과연 나는 그런 차를 사고 싶을까요? 누군가를 죽이느니 차라리 내가 죽는 게 낫다고 생각할 수도 있을까요?

상상하고 싶지 않은 상황이지만 어쨌거나 우리는 선택을 해야 합니다.

만약 보행자가 한 명이 아니라 여러 명이라면 어떨까요?

핸들을 꺾으면 바로 낭떠러지라면 어떨까요?

횡단보도에서 어린이와 노인 가운데 둘 중 한 사람을 들이 받아야 할 상황이라면 누구를 선택해야 할까요?

개와 사람 중에 누구를 들이 받을 거냐고 묻는다면 차라리 명확하겠지만 우리가 일상에서 부딪히는 문제는 이렇게 복잡합니다.

직진을 하면 무단횡단하는 사람 다섯 명을 치게 되고 핸들을 꺾으면 길가에 서 있는 한 사람을 치게 된다면 어떨까요?

어쩌면 자율주행 자동차를 탄 사람은 이런 윤리적 고민에서 자유로울 수도 있습니다. 나는 그냥 차에 타고 있을 뿐이고 책임은 그렇게 알고리즘을 설계한 자동차 회사가 져야 한다고 생각할 수도 있겠죠. 그렇다면 질문을 이렇게 바꿔볼 수도 있습니다.

세 번째 질문 :

철도 선로에서 작업을 하고 있는데 고장난 기차가 돌진하고 있습니다. 직진하도록 내버려두면 다섯 명이 죽고 신호기를 작동시켜 기차의 진행 방향을 바꾸면 한 명만 죽게 됩니다. 아무 것도 하지 않을 수도 있고 뭔가를 할 수도 있지만 내가 어떤 선택을 하느냐에 따라 누군가가 죽게 됩니다.

앞의 질문이 자동차 회사가 고민할 문제라면 이 질문은 우리의 선택의 문제입니다.

자율주행 자동차의 알고리즘과 선로의 신호기는 본질적으로 같은 문제입니다. 사고를 피할 수는 없고 다만 어떤 사고를 선택할 것인가 결정해야 하는 상황인 것이죠.

브레이크가 고장난 차를 타고 있는데 3명을 칠 것이냐 2명을 칠 것이냐를 선택해야 하는 상황과 비슷해 보이지만 적극적인 선택이냐 소극적인 방관이냐의 차이도 있죠.

메사츄세스공과대학(MIT)에서 ‘윤리 기계(Moral Machine)’라는 이름으로 설문 조사를 했는데요. 230만 명이 참여한 엄청난 규모의 조사였습니다. 당연히 동물 보다는 사람을 구해야 하고 한 사람 보다는(한 사람을 희생해서라도) 여러 사람을 구해야 한다는 상식적인 결론이 나왔겠죠.

하지만 신호기의 경우처럼 다섯 명이 죽도록 내버려두는 것과 한 명을 죽게 만드는 것은 분명히 다릅니다. 다섯 명을 살리기 위해 한 사람을 죽여야 할 수 없다는 선택인 것이죠.

녹색 신호등일 때와 빨간 신호등일 때의 판단도 다를 수 있습니다. 신호를 지키지 않고 무단 횡단을 하는 사람을 살리기 위해 내가 죽을 수도 있는 선택을 해야 할까요?

이게 이른바 자율주행 자동차의 도덕성 테스트(moral test)라는 것인데요. 여기에는 몇 가지 비약이 있습니다. 일단 핸들을 꺾으면 내가 죽고 안 꺾으면 지나가던 사람이 죽는다는 가정이 현실적이지 않고요. 확률이 정확히 반반이라고 볼 이유도 없습니다. 보통은 브레이크를 밟아서 급정거하겠죠. 노인을 죽일 거냐, 어린이를 죽일 거냐, 이런 질문도 큰 의미가 없거나 애초에 필요 없는 질문입니다. 해서는 안 될 질문이고요. 노숙자를 살릴 거냐, 기업 임원을 살릴 거냐, 이런 질문도 마찬가지입니다.

MIT 연구 결과를 좀 더 살펴보면, 동양에서는 노인을 살려야 한다는 답변이 더 많았고 서양에서는 어린이를 살려야 한다는 답변이 더 많았습니다.

좀 더 복잡한 질문도 있었습니다. 아래 그림에서 왼쪽의 ‘스위치’ 상황은 5명이 죽을 것인가 1명이 죽을 것인가의 문제라면 가운데 ‘루프’ 상황에서는 사이드 트랙이 다시 원래의 선로로 돌아가는 구조입니다. 선로의 방향을 틀 경우 1명이 죽고 열차의 속도가 느려져서 멈추게 되죠. 비슷해 보이지만 ‘스위치’ 상황은 5명과 1명 중에 누구를 줄일 것이냐의 선택이고 ‘루프’ 상황은 1명의 희생으로 5명을 살릴 것인가 말 것인가의 상황입니다.

오른쪽 ‘육교’ 상황은 좀 더 적나라하게 한 명을 떨어뜨려서 열차를 멈출 것인가 말 것인가의 선택을 묻고 있습니다. 이 경우 명백하게 살인이죠. 하지만 5명을 살릴 수 있습니다.

앞서 지적했듯이 저는 이런 질문 자체가 문제라고 생각합니다. 불쾌하기도 했고요. 어쨌거나 결과는 다음과 같습니다. 한국과 일본, 중국 등은 5명을 살리기 위해 1명을 죽여서는 안 된다는 답변이 상대적으로 더 많았고요. (죽여도 된다는 답변이 더 적었습니다.)

 

유명한 공상과학 소설가 아이작 아시모프가 만든 로봇공학의 원칙(Laws of Robotics)이라는 게 있었죠. 1942년에 쓴 소설에 나오는 이야기입니다.

첫째, 로봇은 인간을 다치게 해서는 안 되고 인간이 위험에 빠지는 걸 방치해서도 안 된다.
둘째, 첫 번째 원칙에 충돌하는 경우를 제외하고 인간의 명령을 따라야 한다.
셋째, 첫 번째와 두 번째 원칙에 충돌하는 경우를 제외하고 스스로를 보호해야 한다.

 

만약 자동차가 콘크리트 벽을 향해 돌진하고 있다면 무조건 브레이크를 작동시켜야 한다는 것이죠. 사람이 가속 패달을 밟고 있다고 하더라도 이걸 작동하지 않게 만들어야 하고요. 하지만 아시모프의 원칙에는 만약 인간을 다치게 해야 한다면 어떤 인간을 다치게 할 것인가에 대한 판단은 담겨 있지 않습니다.

만약 어떤 상황에서 탑승자와 보행자 중에 한 사람을 살려야 한다면 누구를 살려야 할까요? 차 주인은 당연히 탑승자를 보호해야 한다고 생각할 것입니다. 하지만 그런 차가 굴러다닌다면 매우 위험하겠죠. 하지만 사람들은 이왕 차를 산다면 그런 차를 사고 싶어할 겁니다. 이건 단순히 안전한 차를 만드는 것과는 차원이 다른 문제입니다.

네 번째 질문 :

더욱 복잡한 문제를 가정해 볼까요?

횡단보도 앞에 멈춰 있는데 뒤에서 트럭이 멈추지 않고 다가옵니다. 이 속도면 차 뒷 부분이 트럭에 부딪힐 상황이죠. 만약 옆 차선으로 옮긴다면 나는 다치지 않겠지만 트럭이 횡단보도를 건너는 사람들을 쳐서 큰 사고가 날 것입니다. 만약 그대로 멈춰 있다면 내 차가 부서지고 나도 다치겠죠.

이런 건 자율주행 시대에 등장한 새로운 질문입니다. 사람이 운전하는 차라면 그렇게 판단이 빠를 수 없으니 별 수 없이 트럭과 부딪히겠지만 자율주행 자동차라면 재빨리 옆으로 피할 수 있을 것입니다. 하지만 이 경우 내가 다치지 않기 위해 다른 사람들을 더 큰 위협에 빠뜨리는 결과가 될 수도 있겠죠. 차에 탄 사람보다 맨 몸으로 부딪히는 사람이 훨씬 더 크게 다칠 테니까요.

책임은 전적으로 트럭 운전사에게 있지만 나는 더 큰 피해를 막을 수 있는 위치에 있습니다. 옆 차선으로 옮길 경우 나는 아무런 잘못이 없죠. 내가 직접적으로 누군가를 다치게 하는 것도 아니고요. 하지만 알고리즘을 설계하는 입장에서는 분명히 이기적인 선택을 한 것입니다. 그리고 그 선택이 누군가를 위험에 빠뜨리게 됩니다.

만약 여러분이 알고리즘의 설계자라면 어떤 선택을 하게 될까요?

다섯 번째 질문 :

헬멧을 쓴 오토바이 운전자와 헬멧을 쓰지 않은 오토바이 운전자 중에 누군가와 부딪혀야 한다면 이왕이면 헬멧을 쓴 운전자와 충돌하는 게 낫겠다고 생각할 수도 있습니다.

하지만 우리가 이런 자동차를 만든다면 헬멧을 쓰고 오토바이를 탔을 때 자동차와 부딪힐 확률이 더 늘어나게 될 수도 있습니다. 이것은 우리가 기대하지 않았던 결과죠. 그리고 공정하지도 않습니다.

여기서 ‘우리’라는 표현을 쓴 것은 이런 알고리즘이 단순히 자동차 회사의 판단이 아니라 사회적인 합의에 따라야 하고 또 이런 원칙이 투명하게 공개돼야 한다고 보기 때문입니다. 물론 사회적 합의라는 게 너무 추상적이고 애초에 합의가 가능한 문제가 아닐 수도 있습니다.

이런 걸 엣지(edge, 가장자리) 케이스라고 합니다. 경계 조건(boundary condition)이라고도 하고요. 선택하기가 쉽지 않죠. 어느 쪽이든 누군가가 죽거나 다치게 되고요.

자율주행 기술에서 가장 앞서 있다는 평가를 받는 테슬라(Tesla)는 이런 질문에 정확한 답변을 하지 않고 있습니다. 어떤 답변을 하더라도 논란이 될 수밖에 없고 애초에 정답이 있을 수 없는 문제죠.

가능성은 낮지만 이런 극단적인 사건을 가정해 보는 건 문제를 단순화해서 최소한의 원칙을 만들기 위해서입니다. 모두가 만족하지 않을 수 있고 또 윤리적 딜레마를 완전히 해소할 수도 없겠지만 한계를 인정해야 답을 찾을 수 있기 때문입니다.

자동차가 주인의 안전을 위한 선택을 하는 것은 당연합니다. 사고를 피할 수 있다면 피해야 하고요. 하지만 그런 선택이 다른 누군가를 다치게 하거나 내가 다치지 않기 위해 훨씬 더 큰 희생을 대가로 치러야 한다면 고민이 되지 않을 수 없겠죠.

분명한 것은 우리가 이런 복잡한 문제에 대한 선택을 해야 한다는 것입니다. 자동차 회사 직원들이 아니라 우리가 선택과 결단을 해야 할 문제입니다. 우리는 이제 로봇과 함께 살아가야 합니다. 가까운 미래에 사람이 자동차를 운전하는 게 금지되는 때가 올지도 모릅니다. 어쨌거나 사람보다 로봇이 운전을 더 잘하기 때문이죠. 그래서 이건 우리가 어떤 세상을 원하는가, 그리고 어떤 세상을 만들 것인가에 관한 문제이기도 합니다. 어떤 로봇도(알고리즘도) 완벽할 수는 없고 실수와 한계를 인정하는 데서부터 출발해야겠죠.

Driverless car conceptual illustration. Cute robot driving a taxi with a passenger on the front seat / flat editable vector illustration, clip art

이 글은 ‘주니어 미디어오늘’에 실린 글입니다. 미디어오늘이 창간한 10대 독자들을 위한 미디어 리터러시 전문 매체입니다. ‘주니어 미디어오늘’에는 조금 더 쉽게 풀어 썼습니다만 이런 주제가 어린이들이 읽기에 어떨지 의견 주시면 반영하겠습니다.

‘주니어 미디어오늘’ 1호는 좀 쉽고 가볍게 제작했는데 어린이들 보는 책이라고 해서 깊이를 포기할 필요는 없겠다는 게 제 생각입니다. 그래서 2호 주제는 ‘리터러시, 다르게 생각하는 힘’으로 잡았습니다.

‘주니어 미디어오늘’ 바로 가기. http://www.nextliteracy.co.kr/

‘주니어 미디어오늘’은 미디어 활용 가이드면동시에 실전 매뉴얼이고 나쁜 뉴스의 해독제입니다. 미디어로 생각하기와 미디어로 말하기, 문해력을 키울 수 있는 다양한 텍스트를 담았습니다. 비판적 사고와 다르게 생각하는 훈련, 문제의 핵심을 짚고 본질에 다가가는 완전히 새로운 미디어 리터러시 방법론을 만들어 보겠습니다.

leejeonghwan.com audio
Voiced by Amazon Polly

Related Articles

Related

잔여백신 예약 노하우.

잔여백신 예약 노하우.

“나만 안 맞았어 백신(EVEM, Everybody Vaccinated. Except Me.)” 증후군에 시달리다가 오늘 작정하고 휴가부터 냈습니다. 10시부터 매복하다가 5분 만에 예약 성공해서 맞고 왔습니다. 위에 그림에서 보는 것처럼 터치를 네 번 해야 되는데, 이걸 1초 만에 끝내는 게 관건입니다. 별 건 아니지만 약간의 노하우가 있어서 정리해 봅니다. 0. 잔여 백신은 노쇼 백신과는 좀 다른 의미입니다. 일단 1병을 개봉해서 여러 명이 맞을 수 있는데 LDS(Low...

모니터 연결 없이 라즈베리파이 원격 제어하기.

모니터 연결 없이 라즈베리파이 원격 제어하기.

1. 일단 SD카드를 컴퓨터에 연결해서 라즈베리 OS를 설치해 줍니다. 2. 자동으로 와이파이를 잡아주기 위해 루트 디렉토리에 wpa_supplicant.conf 파일을 만들고 다음과 같이 적어줍니다. 터미널 프로그램으로 접속하면 됩니다. cd /Volumes/boot touch ssh vi wpa_supplicant.conf country=US ctrl_interface=DIR=/var/run/wpa_supplicant GROUP=netdev update_config=1...

티본 스테이크, 실패 없이 잘 굽는 방법.

티본 스테이크, 실패 없이 잘 굽는 방법.

유튜브에 뒤져보면 온갖 비법이 넘쳐나는데 전문가들도 조금씩 스타일이 다르다. 스테이크를 잘 굽는 모든 노하우는 결국 안쪽까지 온도가 잘 전달되게 만드는 것이 전부다. 자칫 겉은 타고 안은 피가 뚝뚝 떨어지는 상황을 피하려면 최적의 온도와 시간을 맞춰야 한다. 이게 다 고기가 두꺼워서 생기는 문제다. 몇 가지 기본만 갖추면 된다. 첫째, 겉면을 굽고(시어링), 둘째, 버터를 끼얹으면서 안쪽까지 열이 전달되도록 하고(베이스팅), 셋째, 꺼내서 적정 시간을 식힌다(레스팅). 핵심은...

더 나은 세상은 가능하다, 이정환닷컴!

Join

Subscribe For Updates.

이정환닷컴 뉴스레터를 구독하세요.