저는 운전 실력이 뛰어난 사람이 아닙니다. 특별히 발달된 반사 신경을 지니고 있지도 않고요. 그런데도 도로 위에서 일상적으로 펼쳐지는 크고 작은 '비상사태'를 해결해 가며 차를 운전합니다.
얼마 전에도 출근길에서 '돌발 상황'과 마주쳤지만 별 탈 없이 일터에 도착할 수 있었습니다. 제가 늘 다니는 도로 우측 차선에 공사구간을 알리는 원뿔이 서 있고, 그 뒤편에는 왼쪽 방향을 표시하는 화살표가 깜박이고 있었습니다. 저는 재빨리 좌측 방향지시등을 켜고 차선을 바꿔 주행했습니다.
▲ 도로에서 흔히 볼 수 있는 광경으로, 우측 도로 차선 두 개가 막혀 있고, 왼쪽에 임시 차선이 마련돼 있다. 운전자들이 흔히 마주치는 상황이지만, 자율주행차량은 이런 변수상황에 잘 대처하지 못한다. ⓒ 강인규
당연한 걸 무용담처럼 이야기한다고 생각하실지 모르겠습니다. 하지만 앞의 기사 <현대차 자율주행 현실화? 세계 최고 웨이모가 겪은 수모>(http://omn.kr/1zemj)를 읽은 독자들은 가로줄 그어진 빨간 삼각뿔이 어떤 위력을 갖고 있는지 알고 계실 겁니다. 세계 최고 기술력을 자랑하는 '웨이모 원' 로보택시가 그 앞에서 맥을 못 추고 온갖 곡예를 벌였으니까요. 공사판의 원뿔이 무슨 마법사의 고깔모자라도 되는 양 말입니다.
물론 자율주행차가 공사구간에서 늘 먹통이 되는 것은 아닙니다. 하지만 사람이 모는 차가 원뿔 앞에서 그런 희한한 짓을 하지 않는다는 점을 생각하면, 자율주행이 얼마나 불안정한 기술적 토대 위에서 작동하는지 알 수 있습니다. 저는 비상한 지능을 갖춘 사람이 아니지만, 도로에 서 있는 삼각뿔은 물론, 깜박이는 왼쪽 화살표의 의미까지 즉각적으로 파악할 수 있었습니다.
▲ 사람들은 드문드문 놓인 원뿔을 개별 장애물이 아닌 하나의 '선'으로 인식하고 대처하며, 오른편의 불완전한 방향표시등도 쉽게 이해할 수 있다. ⓒ 강인규
대다수 사람들은 원뿔과 좌측 화살표가 '우측 차선은 통행금지 상태니, 좌측 차선으로 이동하라'는 의미임을 이해할 수 있습니다. 하지만 사람에게 간단하다고 해서 컴퓨터 알고리즘에게도 간단한 일은 아닙니다. '의미'와 '이해'는 아직 기계가 도달하지 못한 영역이며, 이 영역의 상당 부분은 인지신경과학 분야에서조차 미지의 세계로 남아 있으니까요.
결론부터 말씀 드리면, 이 '이해'의 문제가 해결되기 전까지 완전한 형태의 자율주행은 실현될 수 없습니다. 그 이유를 말씀 드리겠습니다.
인공지능은 왜 공사용 원뿔 앞에서 작아질까
제가 앞에서 말씀 드린 도로 상황에 대처하기 위해서는 꽤 복잡한 사고의 과정을 거쳐야 합니다. 먼저 형광 페인트가 칠해진 원뿔이 '공사 지역'을 표시한다는 사실을 인식해야 하고, '화살촉'을 뜻하는 왼쪽 꺾쇠가 왼쪽 방향을 의미한다는 점도 이해해야 합니다.
사람들은 언어학습능력을 가지고 태어나기 때문에 이러한 상징과 기호체계를 쉽게 익힐 수 있을 뿐 아니라, 놀랍게도 이미 습득한 제한된 수의 기호들의 패턴을 파악해서 배우지 않은 것까지 추론해 냅니다. 예컨대 보행자가 건널목에서 신호를 기다리고 있을 때, 빨간 불이 꺼지고 파란 불 대신 흰 색 등이 켜진다 해도 길을 건너는 데 문제가 없습니다.
이 경우, 신호등에 약간의 문제가 있다고 생각하겠지만, '정지' 표시 이외에는 모두 '보행'을 뜻한다는 사실을 추론할 수 있기에 이런 유연성을 발휘할 수 있는 것이지요. 하지만 기계에게 유사한 능력을 부여하는 하는 것은 쉬운 일이 아닙니다. 게다가 현실세계는 기호의 의미를 혼란스럽게 하는 요소로 가득합니다. 제 길을 막고 있던 고깔 모양의 플라스틱은 주홍이 아니라 녹색이었고, 앞으로 쓰러져 있었습니다.
잘 아시듯, 원뿔은 입체이기 때문에, 보는 방향에 따라서 '역삼각형' '앞쪽으로 뿔이 달린 사각형' '둥근 구멍 난 사각형' 등 여러 형태를 띠게 됩니다. 따라서 컴퓨터에 원뿔을 제대로 인식시키기 위해서는, 3차원 스캔을 통해 모든 각도의 이미지를 입력해야 합니다. 시간이 걸리고 처리해야 할 데이터양이 늘어나긴 하지만, 그리 어려운 작업은 아닙니다.
문제는 도로에 놓인 원뿔이 치이고 밟히고 일그러져도 '원뿔'로 인식할 수 있어야 한다는 점입니다. 사람들은 차에 치여 깨지거나 바퀴에 눌려 납작해진 고깔까지 '원뿔'로 인식하는 데 문제가 없습니다. 오징어처럼 납작해져도 사람들 눈엔 그저 '찌그러진 원뿔'일 뿐이지요. 이는 개별적 사물의 특성을 일반화해 '원뿔다움'이라는 관념을 발전시킬 수 있는 인간의 추상화 능력 덕분입니다.
▲ 현실은 기호의 의미를 변질시키는 요인들로 가득하다. 예컨대 넘어진 원뿔은 구멍 뚫린 사각형으로 보이는데, 사람들은 이를 '넘어진 원뿔'로 인식하는 반면, 인공지능은 별개의 대상으로 인식하기 쉽다. ⓒ 강인규
인공지능은 이런 추상화에 매우 취약합니다. 컴퓨터는 카메라에 찍힌 이미지의 픽셀을 해석해 어떤 물건인지 쉽게 인식할 수 있습니다. 따라서 일정한 훈련을 거치면 '사과' '개' '나무' '자동차' 등 개별 대상을 구분하는 일을 잘 해냅니다. 문제는 대상의 특성에 대한 지식이 결여돼 있는 탓에 맥락이 조금만 바뀌어도 혼동을 일으킨다는 점입니다.
우리는 도로표지판에 스티커가 붙어 있어도 도로표지판으로 인식하고, 바나나 옆에 다른 물건을 놓아도 여전히 바나나를 볼 수 있습니다. 하지만 인공지능 전문가인 오리올 비냘스 팀의 연구는 딥러닝으로 잘 훈련된 인공지능조차 스티커 붙인 도로표지판을 '음식과 음료가 잔뜩 든 냉장고'로 인식하는 등 터무니 없는 오류를 일으킨다는 사실을 보여줍니다. 톰 브라운 연구팀은 인공지능이 사물을 아예 볼 수 없게 하는 방법을 고안하기도 했습니다. 그들은 토스터를 둥글게 찌그러뜨린 뒤 공 모양의 스티커를 만들었는데, 이것을 바나나 옆에 붙이자 인공지능은 바나나를 전혀 인식하지 못했습니다. 이 스티커는 다른 물건들에게도 효과가 있었고, 크기를 더 작게 만들어도 잘 작동했습니다.
▲ 통계에 기반한 머신러닝은 대체로 잘 작동하지만, 납득할 수 없는 오류를 일으키기도 한다. 노란색 소형승용차를 "스쿨버스"로 분류하거나, 스티커 붙은 주차금지 표지판을 "음식과 음료가 잔뜩 든 냉장고"로 인식한 사례가 그것이다. ⓒ Oriol Vinyals, et al.
▲ 인공지능 연구자인 톰 브라운 팀은 인공지능이 물체를 인식하지 못하게 방해하는 스티커를 개발했다. 토스터를 둥글게 찌그러뜨린 모양의 스티커를 바나나 옆에 붙이자 인공지능은 바나나를 전혀 인식하지 못했다. ⓒ Tom Brown, et al.
사람과 컴퓨터
사람들은 다양한 형태의 물건을 경험하면서 그것들을 종류별로 구분하는 법을 익힐 뿐 아니라, 그 종을 대표하는 '원형'의 특성('표지판다움' '바나다다움')을 개념화 해 머릿속에 저장합니다. 이는 예상치 못한 대상이 눈앞에 나타났을 때 그것을 분류해 적절히 대응하도록 해 줍니다.
사실 제가 본 원뿔 뒤의 '화살표'도 '화살표'가 아니었습니다. 사진에서 보듯, 전구 몇 개가 켜지지 않아서 직선 왼쪽에 '화살촉' 대신 점 두개가 깜박일 뿐이었지요. 저는 사람으로서 평균적 지능을 지닌 덕분에, 이 기괴한 형태가 '화살표'이며, 왼쪽 방향을 가리키고 있다고 추론할 수 있었습니다.
사람의 두뇌는 뭔가 빠져 있는 불완전한 형태까지 마음속에서 완성해서 이해하는 능력을 갖고 있습니다. 형태심리학에서 '완결(closure)'이라 부르는 심리 기제가 작용하기 때문입니다. 그로 인해 사람들은 아래와 같이 불완전한 형태의 그림들도 문제없이 이해할 수 있습니다.
▲ 사람들은 불완전한 형태를 마음 속에서 완성하는 능력을 갖고 있기에, 왼쪽 그림을 사각형으로, 오른쪽 그림을 공으로 인식할 수 있다. ⓒ 강인규
도로에 공사용 삼각뿔이 드문드문 놓여 있어도 우리는 그 엉성한 점들을 마음속에서 연결해 선으로 인식합니다. 공사용 고깔들 앞에서 웨이모 로보택시가 혼란스러워 한 이유는 그것들을 선이 아닌 개별적 장애물로 인식했기 때문입니다. 문제의 로보택시에 설치돼 있던 모니터를 보면, 차량이 원뿔이 놓인 가상의 선을 따라가는 대신 두 원뿔 사이로 빠져나가려고 했던 것을 알 수 있습니다.
제가 만일 인공지능이었다면 이 짧은 구간을 지날 때 최소한 네 가지 난관을 극복해야 했을 것입니다. 하나는 '넘어진 삼각뿔'도 유효한 삼각뿔이라고 이해해야 하고, 두 번째 점 두 개 붙은 직선을 '화살표'로 인식할 수 있어야 합니다. 세 번째는 '중앙선을 넘어서는 안 된다'는 프로그래밍 된 규칙을 어기고 잠시 반대 차선으로 달린 뒤 다시 한 번 중앙선을 넘어 본래 차선으로 되돌아오는 융통성을 발휘해야 합니다.
도로 위에서 펼쳐질 수 있는 예측불가능한 상황은 무궁무진합니다. 파란 신호등이 켜져 있어도 경찰이 수신호로 멈추라고 하면 멈춰야 하고, 반대로 빨간 신호등 앞에서도 진행하라고 팔을 저으면 지나가야 합니다. 그러기 위해서는 운전자를 향해 손바닥을 펼치는 행위가 '정지'를 뜻하고, 팔이나 손목을 젓는 행동이 '진행 지시'라는 뜻도 이해해야 합니다. (저는 경찰이 같은 의미로 손가락을 살짝 까닥이는 것을 보기도 했습니다.)
자율주행에 대한 비현실적인 기대와 전망 이면에는, 운전을 그저 장애물을 피해 달리고 서는 단순한 행위로 간주한 오해가 자리 잡고 있습니다.
완전자율주행은 언제쯤 실현될까
운전자는 다른 운전자의 행동을 해석할 뿐 아니라, 예측하기도 합니다. 예컨대 내가 1차로을 달리고 있는데 2차로 뒤에서 오던 차가 갑자기 속도를 내며 다가오면, 그 차가 곧 내 앞으로 끼어들 것으로 예상하고 마음의 준비를 하지요. 재빨리 브레이크를 밟아 속도를 줄여야 하는 상황이 올 수도 있기 때문입니다.
그 뿐인가요. 주택가를 달리다 공이 도로로 굴러들어 오면, 우리는 그것이 단지 피해야 할 '장애물'일 뿐 아니라, 근처에 어린이가 있을 수 있다는 '지표'로 이해합니다. 아이들이 공을 줍기 위해 도로로 뛰어나올 수도 있기 때문에, 규정 속도보다 속도를 늦출 필요도 있습니다. 컴퓨터에 이런 추론 능력을 부여하기 위해서는 아직 갈 길이 멉니다. 이 문제는 단지 시험주행으로 데이터를 축적하는 것만으로 해결되지 않기 때문입니다.
▲ 최근 웨이모 원은 공사구간의 원뿔 앞에서 주행 오류를 일으켰으며, 이는 자율주행에 널리 사용되는 기계학습 기반 인공지능의 한계를 보여준다. 이런 문제는 단지 데이터 양을 늘리는 것만으로 해결할 수 없다. ⓒ Joel Johnson
이 사실들이 말해주는 바는 명백합니다. 컴퓨터가 '이해'의 문제를 해결하기 전까지 완전 자율주행은 실현될 수 없다는 것이지요. 이것은 기계가 모든 면에서 사람 지능을 넘어서는 '인공일반지능(AGI)'이 개발된 후에야 가능해질 것입니다. 이것이 언제 가능할 지 예측하기는 불가능하다는 점에서, '2년 내' '올해 말 완전자율주행'을 공언해 온 테슬라의 머스크나 '2023년 상반기에 서울 도심에서 완전자율주행 기술을 선보이겠다'는 현대자동차의 주장은 현실과 동떨어져 있습니다.
▲ 자율주행을 둘러싼 업계의 헛된 약속은 일상이 된 지 오래다. 온전한 형태의 자율주행은 인간지능에 필적하는 '일반인공지능'이 나온 후 가능하며, 그 시기를 예측하기는 불가능하다. 따라서 '내년' '2년 뒤' '5년 후'처럼 기간을 못 박는 전망은 허풍이나 거짓으로 보면 된다. ⓒ 현대자동차
독자들은 이처럼 왜곡된 정보로부터 스스로를 지켜야 합니다. 신경과학 인공지능 전문가인 게리 마커스 뉴욕대 교수는 최근 저서 <2029 기계가 멈추는 날>에서, 현재의 인공지능에 대한 논의들 대부분이 "전혀 얼토당토않은, 인공지능(AI)의 장점만을 기반으로 하는 완벽한 공상"이라고 말하며, 이렇게 당부합니다.
"일자리, 안전, 사회구조의 측면에서 중대한 문제가 걸려있기 때문에, 독자들과 정책 결정권자들은 하루빨리 기술의 현실적인 상태를 이해해야 하며, 우리 모두가 인공지능(AI)에 대해 비판적으로 생각하는 방식을 배워야 합니다."
인공지능이 예측 불가능한 상황에 대처하기는 어렵기 때문에, 자율주행은 애초의 계획과 다른 방향으로 추진되고 있습니다. 처음에는 사람을 배제하는 형태로 진행되던 연구가, 이제 관제시스템과 원격보조 형태로 사람을 다시 개입시키는 방향으로 바뀌고 있는 것이지요. 운전석에 앉아 있던 사람을 관제소에 옮겨 놓고 실시간으로 주행 상황을 모니터링하면서 유사시 해결책을 제공하도록 만드는 것이지요.
하지만 이 경우, 웨이모 사태처럼 긴급 상황에 즉각 대처하기 어려울 뿐 아니라 (현장 지원 팀이 도착할 때까지 기다려야 합니다), 통신 장애로 인한 상황 악화의 가능성과 더불어, 자동차 운영비용이 크게 증가하는 문제가 발생합니다. 자율주행 시스템의 운영과 유지가 사람이 운전하는 것보다 몇 배나 비싸고 불편하다면, 자율주행 상용화의 길은 더욱 험난할 것입니다. 자율주행에 투자해 온 기업들의 주요 동기가 이윤이라는 점에서 특히 그렇습니다. (관련기사 <이재웅 쏘카 대표의 '황당' 예언... 내기 하실래요?> http://omn.kr/1rfic)
자율주행 기술 개발에 앞장섰던 대표적 업체들은 우버나 리프트같은 플랫폼 기업들이었습니다. 이들은 자율주행으로 매출이 늘수록 적자폭도 커지는, 승차공유 사업이 지닌 수익모델의 한계를 극복하고자 했습니다. 장기적으로 이 문제를 해결할 수 있는 사실상 유일한 방법이 인건비를 없애는 것이었기에, 운전석에서 사람을 제거하는 것이 중요했습니다. 다시 말해, 안전이 아닌 이윤극대화가 기술개발의 주요 동기가 된 것입니다.
▲ 구글 번역기의 오류 또한 통계에 기반한 기계학습의 한계를 보여준다. 문장 속에서 함께 사용될 확률이 높은 표현들을 조합하는 방식이기에 대체로 그럴 듯한 번역어를 내놓지만, 역시 의미가 아닌 통계에 의존하기 때문에 의미론적으로 성립할 수 없는 문장을 제시하기도 한다. 사진에서 보듯, '멋진 고장을 지나다'를 지역이나 장소를 뜻하는 '고장'이 아닌 '망가졌다'는 뜻의 '고장'으로 번역해 놓았다. '멋진'이나 '지나는 중'이라는 말의 뜻을 이해한다면 도저히 불가능한 문장 구성이다. ⓒ 강인규
현재 자율주행에 필요한 것은 미완의 기술을 섣불리 도로에 내놓는 게 아니라, 기술의 동기와 목적을 재설정하는 것이라고 생각합니다. 만일 교통사고를 줄이는 것이 자율주행의 진정한 목적이라면, 운전자를 그대로 둔 채 '인간적 실수'를 줄이는 기술을 개발하는 것도 충분히 가능하고, 어쩌면 더 합리적인 대안이 될 수 있을 것입니다.