혹시 인공지능 자동차가 인간을 공격하지는 않을까
혹시 인공지능 자동차가 인간을 공격하지는 않을까
  • 김필수 대림대 교수
  • 승인 2019.01.27 08:33
  • 댓글 0
이 기사를 공유합니다

김필수 자동차연구소 소장, 대림대 교수

영화 중 한 장면, 대도시 한복판 전시장에 있던 자동차가 해킹을 당하면서 수백 대의 자동차가 길거리로 쏱아져 나와 주인공을 위협하는 장면이 나온다. 우리가 가장 많이 본 영화의 하나인 ‘터미네이터’도 고도의 컴퓨터가 자신을 위협하는 인류를 말살하기 위해 핵전쟁을 일으키고 로봇을 조종해서 남아있는 인류를 공격하는 것이 줄거리다.      

허무맹랑한 이야기이고 먼 미래에나 있을 법한 얘기지만 최근 세계적인 석학들이 앞으로 미래의 인류의 생존을 가장 위협하는 대상으로 인공지능을 지적하고 있다. AI로 불리는 인공지능이 급격하게 진화하고 있다. 1980년 초 공부를 하면서 당시 신경회로나 뉴럴 컴퓨터라고 하여 일반 컴퓨터와 다른 원리를 공부한 적이 있다.

당시에는 지렁이의 뇌 수준이었던 인공지능이 파리 수준으로 발전하는 것이 쉽지 않고 따라서 아주 먼 미래의 이야기로 생각했었다. 그러나 얘기가 달라지고 있다. 몇 년 전  ‘알파고’라는 인공지능이 이세돌과 세기적인 바둑 대결을 펼치면서 인공지능에 대한 관심이 증폭됐다. 이 대결에서 유일하게 단 한번 인간이 승리한 바둑대결로 끝나면서 다시는 이러한 기회는 오지 않을 정도로 바둑분야 인공지능은 무적이 되었다. 

이러한 인공지능이 각 분야에서 맹활약 중일 정도로 기술개발은 빠르게 이뤄지고 있다. 머지않아 인간을 위협하는 존재가 될 수도 있을 것이다. 인공지능이 적용되는 분야 중 가장 우려가 되는 분야 가운데 하나가 자동차다. 자율주행차는 인간을 대신해 빠르고 완벽하게 안전하게 목적지까지 이동시켜주는 개념으로 등장한 자율주행차의 발전속도가 남다르기 때문이다. 

자율주행차 6단계 중 4단계인 레벨3 수준의 자동차가 올해 본격 등장한다. 한산한 고속도로에서 잠시 동안 운전대를 놓고 다른 일을 볼 정도의 수준이다. 아직은 본격적인 자율주행이라 할 수 없고 자율주행 등 관련하여 발생하는 사고 등 모든 책임은 운전자에게 있지만 운전을 보조해주는 높은 단계를 만날 수 있게 된다. 그러나 운전은 나누어서 역할을 할 수 있는 영역이 아니다. 자율주행을 많이 경험한 운전자는 점차 자동차에 운전을 맡기는 경향이나 시간이 많아진다. 

미국 테슬라의 자율주행 사고가 많은 이유도 바로 이러한 의존도 100%에 기인한다. 최근 고급 승용차를 중심으로 레벨2 단계인 자동차의 자율주행 기능을 많이 활용하는 부분도 많아지고 있다. 앞서 언급한 바와 같이 간단한 일을 보는 것이 아니라 한산한 고속도로 등에서 아예 운전대를 놓고 자동차에 운전을 맡기는 경험을 자주 하기 시작했다는 것이다. 

너무도 위험한 행위이지만 올해부터 출시되는 레벨3의 자동차가 본격 출시되면 이러한 행위는 더욱 많아질 것이고 국내에서 자율주행사고도 등장할 것이 확실시 된다. 우리가 진정한 자율주행차라고 언급하는 레벨4 이상의 경우는 4~5년 이내에 가능해질 것으로 판단된다. 레벨4는 특별한 비상 시를 제외하고 인간이 개입하는 경우가 없는 진정한 자율주행차의 시작이다. 당연히 자동차에 책임을 묻는 보험도 등장하고 이후 운전자의 유무가 관계없는 레벨5도 등장할 것으로 예상된다.

가장 큰 문제는 바로 이러한 자율주행차에 인공지능을 넣는다는 것이다. 운전가가 없이 인공지능이 판단하여 모든 것을 결정하는 만큼 상황에 따라 인간과 다른 판단도 가능하여 아찔하고 심각한 교통사고 사망자도 발생할 수 있기 때문이다. 극단적인 예이기는 하지만 브레이크가 고장 난 자동차가 시속 100Km를 주행하면서 횡단보도를 나란히 건너는 여러 명의 유치원생을 마주했을 경우 인간의 경우는 자신이 어떻게 되든 이를 회피하려 하겠지만 자율주행차는 탑승객 3명의 안전을 먼저 고려하는 판단을 할 수 있다. 

윤리적으로 인정하기 어려운 심각한 사고가 발생하는 문제점이 드러날 수 있다는 것이다. 또 하나 해킹을 통하여 원격으로 교통사고로 위장한 범죄행위도 우려된다. 가상의 얘기고 지나친 상상이지만 인공지능의 발달로 자동차를 무기로 활용하는 일, 인간을 목표로 저지르는 범죄도 영화처럼 벌어질 수 있다. 인간이 만든 자동차가 흉기로 돌변해 인간을 공격하는 무기가 범람할 수도 있다. 

기술 발전 속도가 빠르게 진행되면서 제대로 된 통제장치는 어떻게 개발되고 있는지 걱정이 된다. 아마도 이렇게 되면 인간이 최초로 불특정 다수에게 팔다리를 대신해 이동성을 부여한 최초의 모바일 인공지능도 탄생할 수 있다. 과거의 10년보다 앞으로의 1년이 빠르게 변하는 시대로 접어들고 있다. 기술적 영역이 무너지고 융합이 가속화되고 있다.  

따라서 우리 인간은 무조건적인 기술개발보다 적절한 통제수단과 역할을 함께 확인하면서 미래를 보는 시야가 절대적으로 필요해지기 시작했다. 단순한 자신의 발등을 찍는 사례가 아니라 우리 생명을 담보로 하는 순간이 될 수도 있는 만큼 더욱 세밀하고 냉철한 기준이 요구된다.      



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.