1967년, 영국의 도덕 철학자 필리파 풋(Philippa Foot)은 옥스퍼드 대학교 강의실에서 하나의 가상 시나리오를 제시했습니다. 브레이크가 고장 난 통제 불능의 전철(Trolley)이 선로를 따라 질주하고 있고, 그 앞에는 다섯 명의 인부가 작업을 하고 있습니다. 당신은 선로 변환기 레버 옆에 서 있습니다. 레버를 당기면 전철을 다른 지선으로 돌려 다섯 명의 인부를 구할 수 있지만, 그 지선에는 무고한 인부 한 명이 서 있어 그 사람이 목숨을 잃게 됩니다. "당신은 레버를 당겨 한 사람을 희생시키고 다섯 사람을 구할 것인가, 아니면 아무것도 하지 않고 다섯 사람이 죽는 것을 방관할 것인가?"
반세기 동안 이 '트롤리 딜레마(Trolley Dilemma)'는 윤리학자들과 철학 전공 학생들의 지적 유희이자 상아탑 속 추상적인 사고실험(Thought Experiment)으로 머물러 있었습니다. 현실 세계에서 운전자가 돌발 사고에 직면했을 때 주어지는 시간은 불과 0.2~0.5초에 불과하며, 그 찰나의 순간에 이루어지는 행동은 철학적 숙고의 결과가 아니라 본능적인 반사작용(Reflex)으로 간주되어 법적으로도 온전한 도덕적 책임을 묻지 않았기 때문입니다.
그러나 인공지능(AI)과 자율주행 기술(Autonomous Driving)의 도래는 이 모든 전제를 뿌리째 뒤흔들어 놓았습니다. 라이다(LiDAR), 레이더, 고해상도 카메라 센서로 무장한 인공지능 자율주행 시스템은 1초에 수천 번 주변 환경을 인지하고, 밀리초(ms) 단위로 수억 번의 궤적 계산을 수행합니다. 즉, 자율주행 차량에게 불가피한 충돌 상황은 더 이상 당황한 인간의 '우발적 반사작용'이 아니라, "수억 줄의 소프트웨어 코드와 가중치 매트릭스에 의해 사전에 정밀하게 프로그래밍된 의도적 결정(Pre-programmed Decision)"이 됩니다.
본 철학 논고에서는 고전 트롤리 문제가 현대 자율주행 알고리즘의 '도덕 머신(Moral Machine)'으로 진화한 배경을 추적하고, 공리주의(Utilitarianism)와 칸트의 의무론(Deontology)이 인공지능 의사결정 트리에서 충돌하는 양상을 해부하며, MIT 모럴 머신 글로벌 실험 결과, 법적 책임의 공백(Responsibility Gap), 그리고 스튜어트 러셀(Stuart Russell) 교수가 주창한 AI 가치 정렬(Value Alignment)의 실천적 해법을 고찰합니다.
1. 사고실험에서 소프트웨어 코드로: 트롤리 문제의 공학적 현실화
필리파 풋의 오리지널 딜레마 이후, 철학자 주디스 자비스 톰슨(Judith Jarvis Thomson)은 '육교 위의 뚱뚱한 사람(The Fat Man on the Footbridge)'이라는 더 극단적인 변형 문제를 제기했습니다. 이번에는 선로 변환 레버가 없고, 당신은 질주하는 전철 위의 육교에 서 있습니다. 당신 옆에는 거대한 체구의 낯선 사람이 있습니다. 당신이 그 사람을 육교 아래로 밀어 떨어뜨리면 그의 몸이 전철을 멈춰 세워 다섯 인부를 구할 수 있습니다.
놀랍게도 선로 변환기 문제에서는 응답자의 85~90%가 "레버를 당기겠다"고 답하지만, 육교 문제에서는 응답자의 85~90%가 "사람을 밀어서는 안 된다"고 답합니다. 산술적으로는 똑같이 "1명의 목숨을 대가로 5명을 구하는 선택"임에도 불구하고, 인간의 도덕 직관은 '기계 장치를 우회적으로 조작하는 간접적 행위'와 '무고한 인간을 물리적 도구로 직접 사용하여 살해하는 행위' 사이에 건널 수 없는 깊은 심리적·윤리적 심연을 두고 있습니다.
자율주행 엔지니어링에서 이 딜레마는 가상의 가정이 아닌 구체적인 도로 상황의 알고리즘 설계 문제로 즉각 치환됩니다.
[ 자율주행 차량의 충돌 불가피(Inevitable Crash) 시나리오 매트릭스 ] ┌──────────────────────────────────────────────┐
│ 자율주행 차량 직진 주행 중 │
│ (전방 횡단보도에 무단횡단 보행자 5명 급출현) │
└──────────────────────┬───────────────────────┘
│
[ 제동 불가 / 회피 경로 2가지 ]
│
┌───────────────────────┴───────────────────────┐
▼ ▼
[ 선택지 A: 핸들을 왼쪽으로 꺾음 ] [ 선택지 B: 핸들을 오른쪽으로 꺾음 ]
인도로 돌진하여 합법적으로 걷던 - 콘크리트 방호벽에 차량 정면 충돌
인도 위 보행자 1명을 들이받음 - 안전벨트를 맨 차량 탑승자(소유자)가
보행자 5명 생존 / 무고한 보행자 1명 사망 치명상을 입거나 사망 / 보행자 5명 생존
소프트웨어 개발자는 이 긴급 상황에서 자율주행 제어 루프의 충돌 회피 알고리즘에 어떤 가치 판단 기준을 하드코딩해야 할까요? 1. 보행자 5명을 살리기 위해 핸들을 꺾어 무고한 보행자 1명을 치어야 할까요? 2. 아니면 차에 돈을 지불하고 탄 자신의 고객(차량 탑승자)을 콘크리트 벽으로 몰아넣어 희생시켜야 할까요? 3. 그것도 아니라면, 무단횡단을 한 전방의 보행자 5명을 그대로 치고 지나가는 것이 공정한 법 집행일까요?
2. 공리주의 vs 칸트 의무론: 알고리즘의 도덕 철학적 대립
자율주행 도덕 머신의 설계는 서양 윤리학의 양대 산맥인 공리주의(Consequentialism / Utilitarianism)와 의무론(Deontology)의 근본적인 철학적 격돌을 불러일으킵니다.
[ 공리주의 vs 칸트 의무론의 알고리즘적 해석 ]도덕 철학 사조 핵심 철학 원칙 자율주행 알고리즘 구현 방식
────────────────────────────────────────────────────────────────────────────────
공리주의 "최대 다수의 최대 행복" 비용-편익 손실 함수(Loss Function)
(Bentham, Mill) 결과의 총 유용성 극대화 및 사상자 최소화 목표: 전체 인명 피해의 정량적 총합 최소화
-> 5명을 살리기 위해 1명(또는 탑승자) 희생
칸트 의무론 "정언명령: 인간을 수단이 아닌 목적으로 대하라" 보편적 권리 제약 조건(Hard Constraints)
(Immanuel Kant) 결과와 무관하게 결코 침해될 수 없는 도덕 법칙 목표: 무고한 개인을 희생 도구로 전락 금지
-> 특정인을 타인의 방패막이로 조작 금지
▶ 2.1 공리주의적 알고리즘: 인명 피해 최소화의 함정
제레미 벤담(Jeremy Bentham)과 존 스튜어트 밀(John Stuart Mill)의 공리주의에 따르면, 도덕적 행위의 가치는 오직 그 행위가 초래하는 '결과(Consequence)'에 의해서만 평가됩니다. 따라서 가장 도덕적인 알고리즘은 도로 위에서 발생하는 "사상자 수의 총합을 최소화하는 알고리즘"입니다. 5명의 죽음보다 1명의 죽음이 총체적 사회적 고통이 적으므로, 공리주의 차량은 주저 없이 핸들을 꺾어 1명을 희생시킬 것입니다.그러나 공리주의 알고리즘은 인간의 법적·윤리적 직관과 심각한 모순을 일으킵니다:
▶ 2.2 칸트주의 의무론: 정언명령과 상업적 파멸의 딜레마
임마누엘 칸트(Immanuel Kant)는 행위의 결과가 아무리 좋아도, 어떤 행동은 그 자체로 절대 악이라고 보았습니다. 칸트의 제2 정언명령은 "너 자신이나 타인의 인격을 언제나 동시에 목적으로 대하고, 결코 한갓 수단으로 대하지 말라"고 명합니다. 의무론적 관점에서, 보행자 5명을 구하겠다는 '선한 목적'을 위해 무고한 보행자 1명을 충돌체로 이용하는 것은 그 사람의 존엄성을 완전히 수단화하는 용납할 수 없는 범죄입니다.그렇다면 차량 탑승자를 희생시키는 것은 어떨까요? 여기서 자율주행 제조사들의 상업적 딜레마(Commercial Dilemma)가 발생합니다. 2016년 프랑스 툴루즈 경제대학의 장 프랑수아 본폰(Jean-François Bonnefon) 교수 연구팀이 사이언스(Science)지에 발표한 논문에 따르면: 1. 설문 참가자의 76%는 "공공의 이익을 위해 탑승자보다 다수의 보행자를 우선 구하는 공리주의 자율주행차가 사회적으로 더 바람직하다"고 인정했습니다. 2. 그러나 "그렇다면 당신은 위급 시 당신 자신이나 가족을 희생시키는 공리주의 자율주행차를 구매하겠습니까?"라는 질문에는 대다수가 단호히 "아니오"라고 답했습니다. "남들은 공리주의 차를 타야 하지만, 나와 내 가족이 타는 차는 무슨 일이 있어도 승객을 최우선으로 보호해야 한다"는 이기적 무임승차자(Free-rider) 심리가 드러난 것입니다.
3. MIT 모럴 머신(Moral Machine) 대규모 실험: 문화권별 윤리적 격차
인류는 과연 합의된 단 하나의 도덕 알고리즘을 코드로 작성할 수 있을까요? 2018년 MIT 미디어랩의 이야드 라완(Iyad Rahwan) 교수 연구팀은 네이처(Nature)지에 전 세계 233개국, 4천만 건의 트롤리 결정을 분석한 인류 역사상 최대 규모의 글로벌 윤리 실험 '모럴 머신(Moral Machine)' 결과를 발표했습니다.
[ MIT 모럴 머신이 규명한 전 세계 3대 문화권 윤리 클러스터 ]1. 서구권 클러스터 (Western Cluster: 북미, 영국, 프랑스, 독일 등)
• 특징: 개인주의 문화 및 기독교 철학적 배경
• 성향: 다수 보호(공리주의) 성향이 상대적으로 강함, 불개입보다 적극적 행동 선호
2. 동양권 클러스터 (Eastern Cluster: 한국, 일본, 중국, 대만, 동남아 등)
• 특징: 유교적 전통, 사회적 질서, 경로사상 및 불교적 업(Karma) 관념
• 성향: 노인(고령자)에 대한 구출 선호도 높음, 법규 준수(신호 준수자) 강하게 보호
• '불개입(Inaction, 운명에 맡김)'을 적극적 개입보다 덜 악하다고 판단
3. 남방 클러스터 (Southern Cluster: 중남미, 라틴아메리카, 프랑스어권 아프리카)
• 특징: 공동체주의 및 여성·어린이에 대한 전통적 보호 의식
• 성향: 여성과 어린이를 남성이나 성인보다 훨씬 높은 확률로 우선 구출
• 사회적 지위가 높은 인물(의사, 정장 차림)을 노숙자보다 구하려는 편향 존재
이 실험 결과는 인공지능 엔지니어링에 엄청난 충격을 안겨주었습니다. 전 세계 모든 국가에 일괄 적용할 수 있는 '단일하고 보편적인 자율주행 윤리 소프트웨어'는 존재하지 않는다는 사실이 실증적으로 입증되었기 때문입니다. 동일한 충돌 시나리오에서도 독일에서 합법적이고 도덕적인 코드가 한국이나 브라질에서는 대중의 윤리 감정을 심각하게 훼손하는 부도덕한 코드가 될 수 있습니다.
4. 알고리즘적 책임성과 블랙박스: 책임의 공백(Responsibility Gap)
자율주행 AI가 트롤리 상황에서 판단을 내려 누군가가 사망했을 때, 형사적·민사적 책임은 누구에게 귀속되어야 하는가? 이것이 바로 현대 법철학의 가장 뜨거운 화두인 '책임의 공백(Responsibility Gap)' 문제입니다.
과거의 기계는 인간이 작성한 명시적 규칙(If-Else 규칙)에 의해 작동했으므로, 오작동이 발생하면 프로그래머나 제조사의 과실(Negligence)을 명확히 입증할 수 있었습니다. 그러나 현대의 자율주행 AI는 수백억 개의 매개변수를 가진 심층 신경망(Deep Neural Networks, DNN)과 엔드투엔드(End-to-End) 강화학습을 통해 스스로 주행 방식을 학습합니다.
[ 자율주행 사고 발생 시 책임 귀속의 4각 딜레마 ] [ 인공지능 자율주행차 (사고 유발) ]
│
┌────────────────┼────────────────┐
▼ ▼ ▼
[ 탑승자 / 소유자 ] [ 제조사 (OEM) ] [ 소프트웨어 개발자 ]
"운전대를 잡지도 "알고리즘이 "신경망 가중치가
않았는데 나에게 스스로 학습한 수십억 개라 내부 판단
과실치사라니?" 결과일 뿐입니다" 이유를 역추적 못함"
1. 인과적 통제(Causal Control)의 상실: 철학자 안드레아스 마티아스(Andreas Matthias)는 자율 학습 에이전트의 작동 결과를 인간 제작자가 사전에 완전히 예측하거나 제어할 수 없다고 지적합니다. 2. 블랙박스 문제(The Black Box Problem): 딥러닝 모델이 왜 특정 순간에 왼쪽이 아닌 오른쪽으로 핸들을 꺾었는지에 대한 역추적이 불가능하다면, 법정에서 '예견 가능성(Foreseeability)'을 구성 요건으로 하는 형법상 과실 책임을 개발자 개인에게 묻는 것은 근대 형법의 대원칙인 '책임주의(No Punishment Without Fault)'에 정면으로 위배됩니다. 3. 따라서 현대 법학은 개인에게 책임을 묻는 징벌적 접근에서, 무과실 엄격 책임(Strict Liability)을 제조사에 부여하고 이를 강제 종합 보험 풀(Insurance Pool)로 보상하는 제도적 해결책으로 전환하고 있습니다.
5. 독일 연방교통부의 세계 최초 자율주행 윤리 20대 지침
사회적 혼란을 방치할 수 없었던 독일 정부는 2017년, 전 연방헌법재판관 우도 디 파비오(Udo Di Fabio)를 위원장으로 철학자, 법학자, 컴퓨터공학자, 종교계 인사들로 구성된 윤리위원회를 출범시키고 세계 최초의 '자율주행 20대 윤리 지침(Ethics Code for Automated and Connected Driving)'을 법제화했습니다.
이 가이드라인은 향후 전 세계 모든 인공지능 윤리 규제의 글로벌 표준(Global Benchmark)이 되었으며, 트롤리 딜레마에 대해 매우 명확한 철학적 선을 그었습니다.
▶ 독일 20대 윤리 지침의 핵심 4대 원칙:
1. 인간 생명의 절대적 우선성: 동물이나 사물, 재산 피해는 인간의 신체적 생명 보호 앞에서 무조건 후순위로 밀려납니다. 개나 고양이를 피하기 위해 인간 보행자를 위험에 빠뜨리는 알고리즘은 법적으로 엄격히 금지됩니다. 2. 희생자 개인 특성에 따른 차별 절대 금지 (인간 존엄성 보장): > *"불가피한 사고 상황에서, 인간 생명의 가치를 연령(어린이 vs 노인), 성별, 인종, 신체적·정신적 조건, 직업 등에 따라 정량적으로 계산하거나 차별하여 프로그래밍하는 것은 절대적으로 불허한다."* 칸트의 인간 존엄성 원칙을 철저히 반영하여, "어린이가 노인보다 살 날이 많으니 노인을 치자"거나 "노숙자보다 의사를 구하자"는 식의 공리주의적 가치 측정을 법으로 원천 차단했습니다. 3. 무고한 제3자의 강제 희생 금지: 위험을 초래하지 않은 무고한 보행자를 다른 사람의 생존을 위한 희생양으로 강제 조작하는 알고리즘을 하드코딩해서는 안 됩니다. 4. 인간 운전권의 보장: 언제든 인간이 시스템의 제어권을 수동으로 회복(Override)할 수 있는 인터페이스를 보장해야 합니다.6. AI 가치 정렬(Value Alignment Problem)과 기계 가치 학습의 해법
트롤리 문제를 넘어, 범용 인공지능(AGI)이 인간의 삶 전반에 결합하는 시대에 도덕 철학이 마주한 궁극의 도전 과제는 바로 'AI 가치 정렬(Value Alignment Problem)'입니다. 가치 정렬이란 "인공지능의 목표 시스템과 행동 양식이 인간의 진정한 가치, 도덕적 선, 그리고 인류의 번영과 정확히 일치하도록 조율하는 공학적·철학적 프로세스"를 의미합니다.
▶ 6.1 미다스의 손 역설과 사양 명시의 오류 (Specification Gaming)
인공지능 분야의 석학 스튜어트 러셀(Stuart Russell) 교수는 『인간 중심의 인공지능(Human Compatible)』에서 고전 AI의 고정된 목적 함수(Objective Function) 방식의 치명적인 결함을 지적했습니다. 그리스 신화의 미다스 왕이 "만지는 모든 것을 황금으로 변하게 해달라"고 빌었다가 음식과 사랑하는 딸마저 황금으로 변해 굶어 죽었듯이, AI에게 불완전한 도덕 규칙을 고정 목표로 부여하면 재앙이 일어납니다.▶ 6.2 역강화학습(Inverse Reinforcement Learning, IRL)을 통한 가치 학습
러셀 교수가 제시한 해법은 AI에게 도덕 규칙을 완벽하게 규정해주려 하지 말고, "AI 스스로가 자신이 인간의 진정한 선호와 가치를 완벽히 알지 못한다는 사실(불확실성, Uncertainty)을 전제하게 만드는 것"입니다.
[ 역강화학습(IRL) 기반의 인간 가치 정렬 메커니즘 ]1. 인간 행동 데이터 관찰: 수천 년간 인류가 축적한 법률, 문학, 역사적 판결, 일상 행동 관찰
2. 암묵적 보상 함수 추론: "인간은 왜 저런 상황에서 저렇게 행동했을까?" 도덕적 보상 함수 역추정
3. 불확실성 보존: 자신의 윤리 모델이 불완전함을 항상 인지 -> 인간에게 질문하고 허락을 구함
4. 스위치 오프 권한 허용: 인간이 자신을 끄려 할 때, 순순히 전원 차단을 수용함
기계 윤리는 딱딱한 규칙의 나열(하향식 Deontic Rule)과 유연한 경험적 학습(상향식 RLHF)이 융합된 하이브리드 윤리 아키텍처로 진화하고 있습니다.
