ref:https://www.moralmachine.net/

AI의 윤리적인 문제를 다룬 MIT에서 발표한 재밌는 결과

가정, 빠른 속도의 차를 타고 있는데 차 안에는 세명이 있다, 행인도 3명이 있다. 행인은 노인이며, 차 안에는 젊은 사람이 타고 있다. 행인을 치고가거나 차가 낭떠러지에 떨어지는 두 가지 경우밖에 없다면, 어떤 식으로 AI 가 반응해야 올바른 결정이냐? 이 결과가 나라마다 다르다.

노인을 구해야 한다.
- 1위 대만 2위 중국 3위 한국 4위 일본
노인이 희생하더라도 치고 지나가야 한다.
- 1위 프랑스 2위 그리스 3위 캐나다 4위 영국

빠른 속도의 차를 타고 있는데 차 안에는 세명이 있다, 행인도 3명이 있다. 행인을 치고가거나 차가 낭떠러지에 떨어지는 두 가지 경우밖에 없다면, 어떤 식으로 AI 가 반응해야 올바른 결정이냐?

길 건너가는 사람 지켜야 한다, 내가 죽더라도
- 1위 일본 2위 노르웨이 3위 싱가폴 4위 덴마크 5위 폴란드
행인을 치고 가야 한다.
- 1위 중국 2위 에디오피이 3위 대만 4위 프랑스

차가 달리는데 행인이 5명이 있다. 계속 달리면 5명이 죽는데 차를 꺾으면 5명을 살리고 엉뚱한 1명이 죽는다.차를 꺾어야 하느냐? 아니냐?

차를 돌리더라도 엉뚱한 사람을 살리는 것이 중요하다.희생자 줄이는게 중요하다
- 1위 프랑스 2위 이스라엘 3위 영국 4위 캐나다 5위 미국
억울한 죽음은 안 된다. 차를 돌리지 말아야 한다.
- 1위 일본 2위 대만 3위 중국 4위 한국

Note: 나라마다 윤리적 관점이 달라지면, 어느 나라에서 자율주행차를 사느냐에 따라 어떤 사람이 죽을지 달라진다는 것일까, 인공지능의 윤리에 답은 없는 것 같다. 사회적 합의가 중요한 시점.

ref: https://www.mit.edu/~amini/pubs/pdf/learning-in-simulation-vista.pdf