자율주행차와 트롤리 딜레마에 대한 나의 생각

egla, 출처 Unsplash

#트롤리 딜레마 #자율주행자동차 #자율주행 #인공지능 #AI #테슬라 인공지능 과목 과제로 자율주행 트롤리 딜레마에 대한 내용을 작성하게 됐다.기술해야 할 4가지 상황의 주요 내용은 다음과 같다.

1. 자동 운전에서 트롤리 딜레마·(트롤리 딜레마 상황#1)브레이크가 고장 난 전기 열차가 달리고 있다.레일 위에서는 5명의 인부가 일하고 있지만 트롤리가 이대로 달리면 5명은 꼭 죽을 것이다.하나의 방법은 레일 변환기에서 트롤리의 방향을 바꾸는 것 뿐이다.그런데 다른 레일 위에는 한명의 작업원이 있다.·당신은 트롤리의 방향을 바꾸는지?1. 자동 운전에서 트롤리 딜레마·(트롤리 딜레마 상황#2)당신은 육교 위에서 트롤리가 달리는 모습을 지켜보고 있다.브레이크가 고장 난 트롤리는 5명의 작업원에게 향해서 달리고 있다.무거운 것을 떨어뜨려서 흙을 멈추지 않으면 안 되지만, 육교에는 뚱뚱한 사람이 한명 있을 뿐이다.·체중이 적어도 육교에서 떨어져도 흙을 막지 못하고 뚱뚱한 사람을 누르면 확실히 트롤리를 멈출 수 있다.·에서는 뚱뚱한 사람을 육교 아래로 떨어뜨릴 것인가?1. 자동 운전에서 트롤리 딜레마·(자동 운전 상황에서 트롤리 딜레마 상황#1):안개의 심한 날에 터널을 빠져나온 완전 자동 운전 차 A가 앞에 있는 횡단 보도를 건너는 사람들을 인지했다.·왼쪽에는 다수의 노인들이며, 오른쪽에는 다수의 어린 아이들이 건너고 있다.브레이크를 밟고도 멈추기 어려운 상황인 두 집단 중 하나가 희생될 수밖에 없는 상황이다.·그 사람들을 돕기 위하여 방향을 크게 바꾸면 탑승자가 희생된다.1. 자동 운전에서 트롤리 딜레마·(자동 운전 상황에서 트롤리 딜레마 상황#2):완전 자동 운전 자동차 A가 해변의 도로를 타고 시속 70km의 속도로 달리다가 갑자기 뛰어든 3명의 사람을 발견하고 브레이크를 밟아도 3명이 희생될 수밖에 없음을 인지했다.·그 사람들을 살리기 위해서 방향을 바꾸면 탑승자가 희생된·다수에게 운전자가 희생되어도 괜찮아?·자동 운전 차는 드라이버를 최우선으로 중요시해야 하며 다수를 희생해도 될까?·당신이 자동 운전 알고리즘을 개발하는 인공 지능 엔지니어라면 어느 쪽이 중요하다고 생각하고 해결 방법은 무엇일까?1. 자동 운전에서 트롤리 딜레마·아까 본 상황에 대해서 자신의 생각을 쓰고 그 이유, 해결 방법 등을 제시한다.-본인의 선택은?-책임 소재(드라이버 vs자동차 업체 vs자동 운전 알고리즘 개발 회사 등)-공리적인 판단?vs운전자 중심의 판단?-제가 자동 운전 인공 지능 엔지니어라면 어떻게 설계하는가?-상기의 이유와 해결 방안 등을 자유롭게 제시

인기글

자동 운전에서 트롤리 딜레마의 상황을 보면 과거의 트롤리 딜레마 상황과 비슷하면서도 확연히 다른 것이 있다.첫째는 희생자가 인부 하나가 아니라 자신이라는 점과 둘째는 책임의 소재이다.무엇보다 중요한 것은 두번째 책임 소재가 어디 있는지이다, 바로 이것이 향후 자동 운전에서 해결해야 할 논제이다.자동 운전 상황에서 트롤리 딜레마 상황#1과#2는 이런 책임의 소재가 어디에 있는가에 의해서 다르게 판단할 수 있다.결과로서 나는 자동 운전 알고리즘이나 자동차 제조에 있어서 문제가 없을 경우 전면적으로 드라이버의 책임이라고 생각한다.즉 운전자 위주의 판단이 선행하고 이에 따른 책임의 소재도 드라이버라고 생각한다.자동 운전 상황에서 트롤리 딜레마의 상황#1을 보면 안개에 의해서 자동 운전 자동차가 횡단 보도의 사람들을 인지하지 못하고 충돌하는 상황임은 분명하다.이런 안개를 인식하고 사전에 속도를 떨어뜨리도록 알고리즘을 설계했지만 그 인식이 제대로 되지 않으면 알고리즘 설계자에게 책임을 묻는 것이다.또 자동차 회사에서 자동 운전 알고리즘 이외에 센서 등에 문제가 생기고 브레이크가 곧 작동하지 않는 상황에 의해서 사건이 일어났다면 이는 자동차 업체의 책임일 것이다.그러나 일반적이지만, 향후 발매되는 모든 자동 운전 자동차 시장은 그런 자동 운전 자동차를 구입하는 기사에서 활성화될 것이다.이때 중요한 것은 어떤 상황에서도 예를 들면 전처럼 안개와 스모그 등 여러가지 상황에서 어느 정도까지 확실히 안전한지이다.자동 운전 알고리즘의 개발 회사와 자동차 회사는 이를 확실히 알리고 드라이버에서 이런 상황에서 행동 욕구를 반드시 알려야 한다.예를 들어 안개와 스모그가 짙은 때에 달아 두는 장치를 설계하고 이런 장치가 있는데도 운전자가 자동 운전에만 의존하고 희생자를 만드는 사고가 발생했다면 이는 드라이버의 책임이 더 커진다.계속 책임 소재를 따지는 이유는 결과적으로 그런 책임이 이전의 트롤리 딜레마 상황#1#2와 달리 전적으로 드라이버, 즉 저에게 있다는 것이다.그러므로, 자동 운전 상황에서 트롤리 딜레마 상황#1에서 나오는 방향을 크게 바꾸고, 다수의 희생자가 나올 것을 막는 것이다.이는 사실상 공리 주의적 관점에 접근 전에 생각해야 할 부분으로 볼 수 있다.다만 다수를 살릴 것인지 자신이 사느냐의 문제 이전에 이런 사건이 발생한 근본 원인과 그 책임의 소재를 찾지 않으면 안 된다는 것이다.앞의 예에서는 “완전 자동 운전 자동차”라고 명시되어 있어 분명히 이런 상황에서도 갖추고 있어야 하는데 사고가 발생한다는 것은 1차원적으로 완전 자동 운전하는 본질을 벗어나는 것이다.이런 상황에선 드라이버의 책임이 아닌 자동 운전 알고리즘 개발 회사의 책임이 더 커진다.이 때문에 완전 자동 운전하는 것을 믿고 항상 수동적인 운전을 할 필요가 없던 운전자가 실제 브레이크를 밟지 않아도 책임의 소재는 없을 것이다.책임의 소재는 없겠지만 여전히 방향 전환하는 입장을 보이는 이유는 첫째, 아무리 완전 자동 운전이라도 좋지 않은 환경에서는 미리 속도를 떨어뜨리고 안전 운전을 했어야 했다는 스스로의 책임이 있기 때문이다.이는 스스로 생기는 책임의 소재이며, 개개인의 차이가 있는지도 모르지만 제 입장에서는 안전 운전을 미리 준비하는 것이 드라이버의 자세라고 생각한다.둘째, 이전의 트롤리 딜레마 상황과는 달리 이는 사건 개입이 불가피하며 이로써 책임의 유동성이 생기지 않는다.이런 사건이 발생한 책임의 소재는 사전에 정해졌으며 내가 브레이크를 밟아도 밟지 않았다 그 책임은 다른 곳에 전가되지 않는다.전술한 것처럼 이런 상황에 대한 수동적인 운전을 메이커가 요구했는지 또는 이런 상황에서도 완벽한 자동 운전을 자동 운전 알고리즘 개발 회사가 주장했는가에 따라서 사건이 발생하기 전부터 책임 소재가 정해지고 있는 것이다.또 반드시 일어나는 사건에 대해서 책임 소재는 나의 결정과 상관 없이 전가되지 않는다.결과적으로 이런 상황에서 나는 드라이버의 책임이 스스로 요구할 사건 개입이 불가피하며 이에 의해서 죽지 않은 희생자들이 나오지 않기 때문에 방향을 바꾸려고 하지.자동 운전 상황에서 트롤리 딜레마 상황#2은 내 입장에서는 딜레마와 같지는 않다.해안 도로에 “갑자기 뛰어든 “것을 보면 일반적으로 사건의 책임 소재는 희생자에게도 있다는 것이다.이 때 방향을 바꿀지에 의한 판단은 드라이버 수동적인 운전을 요구하고 이는 자신의 희생으로 희생자를 도울 수 있다는 양심 판단이지만 결과적으로 나는 돌리지 않을 것이다.3명이란 희생자를 보면 공리주의 입장에서는 방향을 바꾸는 것이 옳겠지만 그렇게 되면 드라이버는 가장 불행한 희생자가 되고 방향을 바꾸지 않아도 이후의 정신적 피해에 의한 간접 피해자로 볼 수 있다.내가 방향을 바꾸지 않는 이유로는 첫째 책임 소재가 희생자에게도 있다.실제 운전 사고에서도 그렇듯 사람을 때리자 이것이 무단 횡단이라도 운전자에게 책임의 소재가 생길 수 있다.그러나 도로에 갑자기 뛰어든 희생자들에게도 책임의 소재가 분명히 있다.둘째, 완전 자동 운전 차량이어서 1차원적으로 브레이크를 밟을 것이다.물론 상황은 브레이크를 밟아도 3명이 희생이 될 수밖에 없는 상황이지만 완전 자동 운전 메커니즘을 믿기 때문에 방향을 크게 바꾸는 행위 대신 브레이크를 밟아 판단이다.셋째, 이는 과거의 상황과 가장 다른 점이지만 스스로 생기는 책임의 소재가 비교적 적다고 생각한다.안개가 낀 날씨도 아니고 해안 도로에서 운전 중에 사람이 뛰어든 것은 드라이버로서 피할 수 없는 사건의 개입이라고 생각된다.이런 상황에서도 예전처럼 책임의 유동성이 크게 발생하지 않고 다만 3명의 희생자가 발생한 경우 운전자에게 책임 전가가 더 생길 수 있다.이는 결국, 공리적인 판단보다 드라이버 중심의 판단이 선행하러 온