공상과학만화 또는 영화에서 그려지는 미래 세계는 대부분 기계가 제어하는 차가운 세계로 그려진다. 정확하고 공정한 판단을 하지만 인간의 정이 없는 기계의 판단으로 인해 갈등이 발생하거나 기계가 특이사항을 고려하지 못해 잘못된 판단을 내리고, 이를 통해 각성한 주인공이 기계사회를 처단하거나 한적한 곳으로 홀로 떠나는 것이 주요 스토리이다.

자율주행차에 사람들이 바라는 것은 정확하고 공정한 판단이다. 자율주행차가 스스로 도로교통법을 준수하고 안전하게 주행을 수행해 인간이 운전에 신경을 쓸 필요가 없기를 바란다. 그러나 만약 자율주행에 탑재되는 인공지능이 사실은 공정하지 못한 프로그램이라면? 만약 인공지능이 잘못된 데이터를 통해 운전을 학습했다면 어떻게 될까? 이에 대한 위험성은 아직 크게 부각되지는 않았지만, 앞으로 꼭 생각해봐야 할 사항이기도 하다.

인공지능이 공정하지 못한 프로그램이 될 수 있다는 것은 필자의 기우가 아니다. 인공지능은 결국 소프트웨어이고 소프트웨어를 개발하는 것은 사람이다. 이 말은 이미 개발 단계부터 개발자의 생각이 인공지능을 형성하는 데 개입될 수 있다는 것으로, 개발자가 악의를 갖고 있지 않다 해도 평소에 개발자가 갖고 있던 편견과 판단이 자연스럽게 인공지능 내에 스며들게 된다. 여기에는 인공지능의 주변 환경 인식은 물론 데이터 분류와 최종 판단 등 대부분의 로직이 포함된다.

현재 테슬라가 오토파일럿 시스템을 자랑하고 있지만, 사실 오토파일럿도 완성된 자율주행 기술이 아니다. 자동차가 도로를 주행할 때 마주칠 수 있는 상황을 나누어보면 30만가지가 넘는데다가 각각의 상황이 연속적으로 나타나는 것이 아니라 복합적으로 나타나기 때문에 모든 상황에 대해서 학습을 하고 완벽하게 대응할 수 있는 인공지능을 개발한다는 것은 현재 기술로써는 불가능에 가깝다. 최근 테슬라의 오토파일럿 시스템이 일으킨 몇 건의 교통사고가 이를 여실히 증명한다.

인간의 편리를 위해 개발되는 인공지능이지만 이 인공지능의 판단에 있어 가장 큰 불안 요소 역시 인간이다. 이 방면의 전문가인 언맨드솔루션의 문희창 대표에 따르면 인공지능이 탑재된 자율주행차와 인간이 운전하는 자동차가 동시에 도로를 주행할 때 인간의 돌발 행동으로 인해 인공지능 시스템이 오작동을 일으킬 수도 있으며, 이로 인해 사고가 발생할 수도 있다고 한다. 실제로 구글의 자율주행차가 버스 운전사의 행동으로 인해 오작동을 일으켜 사고를 발생시키기도 했다.

현재 많은 자동차 제조사들이 자율주행차를 시험하면서 인공지능의 학습도 꾸준히 진행하고 있지만, 아직까지는 제한된 도로에서 시험을 진행하기 때문에 많은 데이터를 수집하지 못하고 있는 상황이다. 게다가 인공지능이 학습을 한다 해도 주어진 데이터의 한계를 벗어날 수 없다. 기존 데이터의 규모와 특성, 데이터를 만드는 인간들의 속성이 인공지능에 자연스럽게 반영되기 때문에 공정한 인공지능이 만들어지는 것이 더 힘들어진다.

자율주행차의 완성도를 높이기 위해서, 또 윤리적으로 받아들일 수 있는 로직을 갖춘 자율주행차를 만들기 위해서는 각 자동차 제조사는 물론 정부와 관계기관들이 모두 모여 논의를 거칠 필요가 있다. 어찌되었건 1톤 이상의 물체가 움직이는 것이고, 한순간에 흉기로 돌변할 수도 있는 만큼 자율주행차와 인공지능에 대한 윤리 문제, 도덕적인 문제에 대해서 하나의 표준을 성립할 필요가 있다.

그리고 완전 자율주행차를 기다리는 사람들에게는 안된 이야기지만, 현재 그리고 근미래의 기술 수준으로는 자율주행차량에 인공지능을 탑재하기 보다는 운전자의 안전한 주행을 위해 다양한 안전 경고 시스템과 브레이크 어시스트 같은 부분적인 운전 개입을 통한 사고 방지 기술에 초점을 맞추어야 할 것으로 보인다. 최종적인 판단 및 책임은 아직 운전자에게 있음을 인지시키고 여기에 맞는 기술을 개발한 후 인공지능이 충분히 학습할 수 있는 데이터를 확보한 후에도 많은 테스트 과정을 거쳐야 한다.

이 과정은 많은 데이터를 축적해 나가는 과정이기 때문에 시간이 오래 걸릴 수 있으며, 테스트를 통해 안전함을 증명해 나가야 한다. 이렇게까지 하는 이유는 자동차는 전자기기와 다르기 때문이다. 만약 새로 개발한 스마트폰이 오작동을 일으킨다 해도 전화를 받거나 정보 확인이 안될 뿐이지만, 자동차가 오작동을 일으킨다면 인명 피해가 반드시 발생한다. 자동차 개발 시 작은 확률의 오작동 가능성도 넘길 수 없는 이유이기도 하다.

자율주행차와 인공지능을 보면서 대부분의 사람들이 자연스럽게 기계를 신봉하게 되지만, 결국 그 두 개를 만드는 것은 인간이다. 법이 사회를 규율하듯 자율주행차의 인공지능도 도로를 규율하게 되는데, 법은 작동 방식과 영향이 겉으로 드러나지만 인공지능은 컴퓨터 안에 숨어 있어 개발자 외에는 접근할 수 없다. 자율주행차의 인공지능이 발전할수록 인공지능에 대한 투명성과 사회적 논의가 끊임없이 논의되어야 하고, 인간의 존엄성과 윤리관에 대해서도 끊임없는 성찰이 필요하다. 개발자에게 기술 개발보다 인간을 중시하는 윤리 교육이 더 중요해지는 시점이다.