가치를같이읽다

자율주행차 시대가 도래하고 있다. 미국자동차공학회(SAE)는 자율주행 정도를 6단계로 구분하고 있는데, 올해는 4단계의 자율주행차가 출시될 것으로 보인다. 4~5년 내에는 진정한 의미의 자율주행차라고 부를 수 있는 5단계가 나올 거란 전망도 있다. 문제는 빠르게 발전하는 기술만큼 리스크를 해소할 통제장치도 마련하고 있느냐는 점이다. 예컨대, 자율주행차가 고삐 풀린 망아지처럼 광폭질주를 한다면 어쩌겠냐는 거다.
 

고도로 발달한 인공지능(AI) 컴퓨터. AI는 자신을 위협하는 인류를 말살하기 위해 로봇을 조종하고, 핵전쟁을 일으킨다. 1984년에 개봉한 영화 ‘터미네이터’의 줄거리다. 당시만 해도 이 줄거리는 허무맹랑한 상상 속 이야기였다. 하지만 지금은 아니다. 충분히 있을 법한 이야기가 됐다. 

AI는 급속도로 진화하고 있다. 1980년대 초 필자가 신경회로나 뉴로 컴퓨터(Ne uro Computerㆍ두뇌 신경세포의 정보처리 방식을 응용한 첨단 컴퓨터)를 공부할 때만 하더라도 그 수준은 지렁이 뇌 정도에 불과했다. 지금은 그렇지 않다. 세계적인 바둑기사들을 잇따라 꺾으며 세계를 놀라게 할 정도로 AI의 수준이 높아졌다. 

활동 분야도 넓어졌다. 기후변화를 예측하고, 자금을 어디에 투자해야 할지 알려주며, 병원에선 수술 여부를 결정하기도 한다. 머지않아 변호사를 대체할 거란 전망까지 나오고 있다. 지금은 AI가 인간을 도와주고 보조해주는 역할을 하고 있지만 언제든 가장 위협적인 존재로 변할 수 있다는 거다. 
 

그중에서도 가장 우려스러운 분야가 자동차다. 특히 AI가 탑재된 자율주행차는 문제의 소지가 많다. 첫째는 가치판단 문제다. 극단적인 예를 들어보자. 제동장치가 고장난 자동차가 시속 100㎞로 주행하고 있다. 이때 횡단보도를 건너는 유치원생 무리를 마주했을 때 AI는 어떻게 판단할까.

인간이라면 운전자 본인의 안전이 어떻게 되든 유치원생들이 없는 곳으로 운전대를 꺾을 것이다. 하지만 AI는 탑승객의 안전을 고려해 무리에서 가장 멀리 떨어진 유치원생을 향해 돌진할 가능성이 높다. 윤리적으로 문제가 될 수 있는 심각한 사고가 발생할 가능성이 높다는 거다.

둘째 문제는 해킹에 취약하다는 점이다. 가령, 해킹으로 자동차를 원격조정해 살인을 교통사고로 위장할 수 있다. 최근 영화 중 대도시 한복판에 있던 전시장에서 해킹을 당한 자동차 수백대가 길거리로 쏟아져 나온 장면은 이를 잘 보여주는 대목이다. 나아가 영화 터미네이터처럼 AI가 자동차를 수족 부리듯 조종할 가능성도 배제할 수 없다. 주변의 자동차가 인간을 공격하는 흉기가 될 가능성이 충분히 높다는 얘기다.
 

물론 당장의 리스크는 아니지만 그렇다고 ‘먼 미래 얘기’로 치부해서도 곤란하다. 기술발전속도가 생각보다 훨씬 빠르기 때문이다. 올해부터 자율주행차 6단계 중 4단계에 해당하는 레벨3 수준의 자율주행차가 출시될 것으로 보인다. 또한, 레벨4 이상의 자율주행차는 앞으로 4~5년 이내에 나올 가능성이 높다.

레벨4부터는 비상시를 제외하고는 인간이 개입하지 않는 진정한 의미의 자율주행차다. 그렇게 되면 자율주행사고가 빈번해질 수 있는 것은 물론 앞서 언급한 우려가 현실화할 수도 있다. 지금이라도 AI를 통제할 수 있는 장치를 마련하는 게 중요한 이유다. 어쩌면 지금은 기술개발이나 속도경쟁보다 적절한 통제수단을 만드는 게 먼저일지 모른다. 
김필수 대림대 자동차학과 교수 autoculture@hanmail.net | 더스쿠프