*출처: 21세기를 위한 21가지 제언 -더 나은 오늘은 어떻가 가능한가- / 유발하라리, 전병근 옮김
이 책의 제1부에서 저자는 다음과같은 문제를 제시한다.
두 꼬마가 공을 쫓아서 자율주행 차량 앞으로 뛰어드는 상황을 가정해보자. 차량을 운전 중인 알고리즘은 번개처럼 빠른 계산으로 두 꼬마를 피하는 유일한 방법은 반대 차선으로 방향을 트는 것이라고 결론을 내린다. 그럴 경우 마주 오는 트럭과 충돌하는 위험을 불사해야 하는데, 그 때 차량 주인 -뒷자석에 앉아 단잠에 빠져있다- 이 사망할 확률은 70%라고 계산한다. 이럴 떄 알고리즘은 어떻게 해야할까?
이런 '트롤리 문제'는 수 천년간 지속되어왔다. 하지만 여태 트롤리문제의 운전자는 '인간'이었는데, 자율주행차가 보편화되었을 때, 즉 운전자가 '알고리즘에 의해 짜여진 AI'가 되었을 때의 가치판단은 완전히 다른 이야기이다. 이런 윤리적 이슈에 대해서 저자는 다음과 같은 상황을 가정한다. 만약 우리가 칸트와 밀과 롤스에게 코드를 작성하는 법을 가르쳐주고, 이들이 안락한 연구실에서 신중하게 자율주행 차량을 프로그래밍한다면, 차량은 고속도로에서 주행할 때 이력된 도덕률을 그대로 따를 것이다. 사실상 모든 차들이 미하엘 슈마허와 임마누엘 칸트를 합친 운전자에 의해 조종되는 상황을 맞이하는 것이다. 즉, 자율주행차량이라는 수단으로 오히려 이 사회는 윤리적 판단이 증가하게 되는 셈이다. 보편화 가능한 기술의 메리트이다. 기계는 잠재의식이 없다. 즉흥적이거나 감정적이지도 않다. 다른 이야기로 구직을 기계가 결정하는 세상이 온다면, 흑인이나 여성에 대한 차별적 요소는 없을 거라고 확신할 수 있다. 문제는 그 알고리즘을 입력하는 인간이 잠재의식 속의 편견을 소프트웨어에 입력하는 상황이 완벽하게 객관적일 수 없다는 것이다.
머신러닝이라는 기술이 보편화된 세상에서, 기계는 인간이 입력한 알고리즘 그 이상의 '자아'로 활동할 가능성이 크다. 이로 인해 철학적 문제는 더욱 커질 것이고, 엄청나게 복잡하고 고차원적인 소송 등이 오갈 것이다. 그렇다고 지금 당장 국가가 개입해서 시장을 규제하고, 모든 자율주행 차량을 구속하는 윤리 코드를 정할 수는 없다. 자율주행차량을 생산하기 위해 테슬라가 실제로 그런 얽히고 설킨 문제에 대해 입장을 취해야 할 이유가 아직까지는 없다. 물론 생길 것이라고 생각한다. 장기적인 관점에서는.
인간은 이런 문제를 생각해보고 윤리적 기준을 세우는 것으로 의식 수준을 높여나가는 것이 기계가 경쟁상대가 된 지금의 최선인 것 같다는 생각이 든다. 기계는 빠르게 발전하지만, 인간 의식의 잠재력 또한 아직 무한한 수준으로 발전 가능하다고 생각한다. 우리가 아직 인지하지 못할 뿐이다.