[전치형, 과학의 언저리] 회장님의 자율주행차

전치형
카이스트 과학기술정책대학원 교수

어느 제약회사 회장님이 운전기사에게 던지는 욕설과 폭언을 녹음한 파일을 들었다(<한겨레> 7월14일치). 14분 가까이 계속되는 험한 말을 듣고 있기가 괴로웠는지, 나는 문득 인공지능과 자율주행차의 앞날에 대해 생각하기 시작했다. 회장님은 사람과 대화하는 인공지능이나 인공지능을 이용해 스스로 운전하는 자동차를 개발하는 이들이 맞닥뜨릴 난제를 미리 보여주었다. 인공지능은 운전기사의 자리로 투입되어 여러 회장님을 상대해야 할 것이기 때문이다.

“야 인마.” “욕하지 마십시오.” “죄송합니다. 죄송합니다. 인마는 욕이 아니오.” 회장님의 욕설을 정중히 막아보려는 운전기사의 시도는 무시당했다. 많은 인공지능 연구자들은 사람과 인공지능 사이에 윤리적 대화가 오가도록 하고 싶어 한다. 사람이 건네는 말의 윤리성을 판단해서 이에 적절히 대응하고, 사람에게 비윤리적인 말을 건네지 않도록 스스로 조절하는 인공지능을 만들려는 것이다. 하지만 회장님의 비꼬는 말투 앞에서 윤리적 관계에 대한 인공지능의 요청은 무력할 뿐이다.

“그럼 인격적으로 대해 주십시오.” “그래 됐어. 미안합니다. 죄송해요. 죄송합니다. 내가 너를 업무기사로 그냥 놔둘 거를 오게 해서 죄송합니다.” 운전기사의 요청에 회장님은 다시 한 번 공손해서 무서운 말로 응답했다. 인공지능은 이 사과의 잔인함을 알아챌 수 있을까. 이 짧은 대화의 비윤리성은 양측이 사용한 어휘가 저급하다거나 그 내용이 모질어서 생겨난 것이 아니다. 극도로 일방적인 고용관계, 권력관계에 있는 두 사람이 외부와 차단된 차 안에 같이 앉아 있는 상황이 이 부드러운 대화를 섬뜩하게 만든다. 인공지능이 이 관계를 모르는 채로 윤리적인 판단을 내릴 것을 기대하기는 어렵다.

“아 힘들어서 정말 못 해 먹겠네. 됐어, 됐어. 미안합니다. 댁한테 죄송하게. 아휴 택시 타고 다니는 게 낫지. 무서워서 어떻게 타고 다니냐.” 한 말씀 드리고 싶다는 운전기사의 요청에 회장님은 이렇게 응대했다. 하지만 회장님이 굳이 낯선 기사가 모는 택시를 잡아탈 리가 없다. 회장님은 백만 킬로 무사고인 베테랑 기사도 단번에 자르고 새 기사를 구할 수 있기 때문이다.

운전기사를 고용하는 대신 혼자 자율주행차를 타고 다닐 이유도 없어 보인다. 아무리 기술이 발달해도 자율주행차 채택을 거부할 사람들은 운전 실력을 뽐내고 싶은 젊은이가 아니라 운전기사와 비서를 대동하고 다니는 회장님일 것이다. 안타깝게도 운전기사는 단지 차를 모는 사람이 아니라 회장님의 위신을 세워주는 역할, 또는 회장님 화풀이 상대라는 역할도 맡고 있기 때문이다(물론 신뢰하는 말벗이 되는 때도 있다).

“술에 취해서 차에 타면, 파란불에 보행자가 지나고 있는데도 횡단보도를 지나가라고 했다.” “회장은 항상 ‘벌금을 내면 되지 않느냐. 내가 늦지 않는 게 중요하다’는 태도였다.” 회장님 녹음 파일을 보도한 <한겨레> 기사에 나오는 운전기사의 증언이다. 인간 운전기사는 자율주행차보다 규칙을 어기라는 명령을 더 잘 따른다. 잘 따를 수밖에 없다. 만에 하나 완전 자율주행 시스템이 성공해서 교통법규를 잘 지키고 윤리적으로 움직이는 차만 타야 한다면, 회장님은 불편하고 곤혹스러울 것이다. 자율이란 부당한 지시를 듣지 않는 것, 상호 존중을 요구하는 것이기 때문이다. 완전 자율주행 시스템을 탐탁하게 여기지 않는 사람이 제법 있다 해도 놀라운 일이 아니다.

대화하는 인공지능이든 자율주행하는 자동차든, 사람에게 가까이 붙어서 작동하는 똑똑한 기계는 우리가 알고 있고 겪고 있는 사회적 관계의 틀에서 벗어날 수 없다. 인공지능을 비서로 여기고 자율주행차를 운전기사로 여길 때 우리는 이미 거기에 사회적 성격을 부여한다. 사람들이 맺고 있는 관계의 불공정, 불평등, 비윤리는 인공지능과 자율주행차가 등장해도 사라지지 않는다. 이러한 사회적 성격은 우리가 이 똑똑한 기계들을 사용하는 방식에 깊이 스며들거나, 그것을 전면적으로 도입하는 데에 예상치 못한 걸림돌이 될 것이다.

“겁나서 니 차 못 타겠다, 야. 내리자, 내려.” 호통치는 회장님에게 베테랑 운전기사는 직업윤리의 좋은 사례가 될 만한 대답을 했다. “댁까진 제가 모셔다드리겠습니다.” 자율주행차가 쉽게 도달하지 못할 높은 자율의 경지였다.