몰랐던 Uber 자동 운전[Uber] 보행자가 무단횡단하는 사람이라고

 

지난해 애리조나(Arizona) 여성을 사망케 한 Uber 자율주행 SUV 내부의 소프트웨어는 이 사건에 대한 연방 조사의 일부로 발표된 새 문건에 따르면 횡단보도 밖 보행자를 감지하도록 설계되어 있지 않았습니다. 그것은 사고에 관한 새로운 문서에서 제공되는 가장 무서운 사실이지만, 다른 세부 사항에 의하면 회원의 자율주행차 운행은 다양한 방법으로 인간이 실제로 어떻게 행동하는지 고려되어 있지 않습니다.

11월 5일에 비행기의 충돌이나 대형 트럭 사고를 보다 빈번하게 조사하는 독립적인 정부 패널인 미국 연방 교통 안전 위원회(National Transportation Safety Board, NTSB)는 20개월 동안 Uber 사고에 관한 문서를 공개했습니다. 위원회는 2주 내로 사건에 대한 최종 보고서를 발표할 겁니다. 44세의 Rafaela Vasquez가 운행하던 Uber 테스트 차량이 Arizona, Tempe의 어두운 도로를 건너던 Elaine Herzberg라는 49세의 여성을 사망시킨 2018년 3월 18일, 사건의 내용에 대해 수백 쪽에 달하는 40건이 넘는 문서가 공개되었습니다. 당시 Arizona 주를 주행하는 동안 단 한 명의 드라이버만이 실험용 자동차의 동작과 소프트웨어를 모니터링하고 있었습니다. 충돌 후 몇 주 동안 게시된 비디오 영상에는 Vasquez가 충돌 직전의 충격에 반응하는 것이 포함됩니다.

새 문서는 일부 실수가 Uber의 내부 구조, 전문가들이 “안전 문화(safety culture)”라고 부르는 것과 명확하게 관련이 있음을 보여주고 있습니다. 우선, 자율주행 프로그램에는 운영 안전 부문이나 안전 관리자는 포함되지 않습니다.

가장 눈에 띄는 실수는 소프트웨어와 관련이 있었어요. 회원 시스템은 횡단보도 밖에서 걷는 보행자를 식별하거나 취급하는데 적합하지 않습니다. 회원 엔지니어는 잘못된 경보에 대해 매우 걱정하고 있으며, 충돌 감지와 조치 사이에 1초의 자동화된 지연 시간을 내장한 보입니다. 그리고 Uber는 차량이 Herzberg에 충돌하는 속도를 갑자기 줄이거나 충돌을 완전히 피할 수 있다고 결론을 내린 Volvo 자체의 제동 시스템을 끄기로 결정했습니다.(전문가들은 Uber 소프트웨어가 Volvo 시스템을 지우는 결정은 기술적으로 의미가 있다고 말합니다. 차에 두 가지 소프트웨어인 마스터가 있는 건 안전하지 않기 때문이죠.

그 이유는 차가 하젤이 멈추기에 충분한 시간 이상을 감지했음에도 불구하고 그녀에게 부딪혀 75피트를 나는 상황에서의 43.5mph의 속도였다는 것을 설명합니다. 차가 충돌하기 5.6초 전에 그녀의 존재를 처음 감지했을 때 그녀는 차로 분류되었습니다. 그리고 마음을 ‘기타’, 다시 ‘차량’, 다시 ‘기타’, 자전거’ 그리고 다시 ‘자전거’로 바꿨습니다.

Herzberg는 간단하고 설득력 있는 이유로 걸어갔다는 것은 전혀 짐작할 수 없었습니다. Uber는 횡단보도 밖에서 보행자를 찾도록 지시하지 않았어요. NTSB의 ‘차량자동화 (Vehicle Automation Report)’에 따르면 ‘시스템 설계에는 무단횡단자에 대한 고려는 포함되지 않았다(The system design did notincludea consideration for jaywalking pedestrians)’고 기록되어 있습니다. 새로운 추측을 시도할 때마다 의문의 사물인 Herzberg가 어디로 향했는지를 예측하는 과정을 다시 시작하였습니다. 시스템이 SUV를 HEZBERG와 부딪쳐 운전할 수 없어 브레이크를 밟을 필요가 있다는 것을 시스템이 인식한 것은 1.2초 전이었습니다.

Reuters

Uber가 “행동억제(action suppression)”라고 부르기 시작했는데 이는 시스템이 “검지된 위험의 특성(the detected hazard)”을 확인했기 때문에 1초간 브레이크를 보류시켰습니다. 그 시간 Uber의 가장 중요하고 마지막 방어선인 안전운전자가 차를 제어하고 브레이크를 밟을 수 있었습니다. 그러나, Vasquez는 그 시간, 그 길을 응시하지 않았습니다. 충돌하기 전의 0.2초로 자동 차는 오디오 경고를 내고 Vasquez는 핸들을 쥐고 자동 운전 모드를 해제했습니다. 하버가에 부딪혀 거의 1초만에 버스 클레이가 브레이크를 밟았습니다.

발표문에서 Uber 대변인은 “회사가 2018년의 충돌을 유감스럽게 생각한다”며 Advanced Technologies Group이 안전 프로그램을 변경하였다고 강조하였습니다. 조사의 일환으로 NTSB에 제출된 회원문서에 따르면, 회원들은 이후 20개월 동안 안전운전자 교육을 변경하여 현재 각 차량에 2명의 안전운전자들을 배치하고 있습니다. (현재 Uber는 피츠버그(Pittsburgh)에서 자율주행차를 테스트하고 11월에는 Dallas에서 테스트를 시작할 예정입니다.) 회사는 또한 안전팀의 구조를 변경하여 작업자가 익명으로 안전문제를 보고할 수 있는 시스템을 만들었다. 대변인은 NTSB의 조사 철저를 깊이 평가한다고 덧붙였다.

사고의 또 다른 요인은 Tempe 도로 구조 그 자체였습니다. 자전거를 타고 있던 Herzberg는 보행자를 위해 만들어진 것으로 보이는 가장 가까운 경로로 건너갔다. 하지만 제일 가까운 횡단 보도에서 360피트 떨어져 있었어요.

11월 19일, NTSB는 Washington DC에서 이 사건에 관한 회의를 개최합니다. 그 다음에 조사관은 사고에 대한 포괄적인 보고서를 발표해서 발생한 사고와 누가 또는 무엇이 잘못되었는지 자세히 설명해 줄 것입니다. 조사관은 또한 연방규제기관 및 Uber와 같은 기업에 향후 이러한 사고를 방지하는 방법을 설명하는 기술을 구축합니다.

물론 Herzberg에는 너무 늦습니다. 그녀의 가족은 사고 후 11일 만에 Uber와의 소송을 끝냈어요.

인터럽트 최초의 자동 운전에 의한 사망 사고의 이야기는 아마 역사적으로 기록될 것이라고 생각합니다. 그러한 불명예스러운 사고는 Uber 자율주행 차량에 의해 2018년 3월에 발생했습니다. 그 후, 많은 자동 운전차 개발 기업에 있어서 「안전」이라고 하는 테마는 최대의 화제가 되었다고 해도 과언이 아닐 것입니다. 물론 이전에도 안전성을 강조하고 있었습니다만, 이 사고 이후 더욱 강조하게 되었습니다. 2주 후가 되면 약 20개월의 최종 조사 결과가 발표된다고 합니다. 발표 이전에 이번에 NTSB에서 관련 수많은 자료를 공개했습니다.

자동차 사고가 발생하면, 그 원인에 대해 조사가 반드시 필요하지만, 이번 사고는 자율 주행차에 의한 최초의 사고이며, 이전의 사례가 없는 것으로 보아, 아마 터무니없이 신중한 접근하고 있는 것은 아닐까 생각합니다. 이미 검찰은 이번 사고에 대해 Uber를 기소하지 않겠다고 발표한 상황에서 피해자 가족들은 Uber와 합의를 마쳤습니다.

그러나 법적인 문제를 떠나서 NTSB는 사고 원인 조사를 진행해 왔습니다. 이번에 공개된 문서 중에는 2016년 9월부터 2018년 3월까지 Uber 자율주행차량과 관련하여 37번의 사고가 있었다는 내용도 포함되어 있다고 합니다. 그리고 이번에 소개한 내용 중에 나름대로 큰 의미를 가진 무단횡단자에 대한 인지를 하지 Software의 문제에 대한 내용도 포함되어 있습니다.

최종 보고서가 발표되고 언론이 어떻게 반응할지는 모르겠지만, 이미 이번 자료 공개로 인해 많은 사람들이 자율주행차에 대한 신뢰도가 떨어질 것으로 예상하고 있습니다. 물론 회원들의 안전에 대한 불감증은 사고의 원인일 수 있지만 기본적으로 자율주행차 Software에 대한 일반인들의 신뢰에 영향을 미치는 단서가 되기 때문입니다. 지금까지 자율주행차에 대한 부정적인 주장을 해온 사람들이 이야기했던 것의 한 예가 될 것입니다. Software는 얼마든지 문제가 발생할 수 있다는 주장이에요. 아무리 많은 시나리오를 상정해 작성된 Software라도 세상은 모든 상황에 대처할 수 없다는 전제입니다.

이러한 한계에 대해서 자율주행차 개발 기업은 결국, 많은 학습을 통해 현실 세계에 자율주행차를 등장시키기 위해서 노력하고 있습니다. 그런 이유로 자신들이 운행하고 있던 이동 거리에 대해 강조한 것입니다. 단지 한정된 지역에서의 정해진 테스트가 아니고, 실제의 도로에서 진행해야 하는 실전 테스트가 중요한 이유입니다. 이런 것을 생각하면 정말 자율주행 자동차가 저희 곁으로 오는 길은 멀게 느껴집니다.

Uber는 이 사고 이후 지속적으로 안전을 강조하는 내용의 소식을 전하고 있습니다. Waymo에서 발표한 사고 발생 시 응급의료요원을 위한 안내서와 같은 Uber 가이드라인을 발표하였고, 최근에는 자율주행차의 안전을 위한 이사회를 구성하고 있습니다. 물론, 자주차 개발에 있어서의 안전을 위한 준비 사항을 나타내는 Safety Report도 2018년에 발표했습니다. 이러한 Uber 자율주행차의 노력은 현재 적자에 빠져 있는 Uber의 미래의 기반이 되기 때문에 포기할 수 없습니다. 물론 그 목표가 완성될 때까지 살아남았다면 말이죠.

우리도 어쩌면 자율주행차를 제 차에서 목격할 날이 올 겁니다. 물론 시험중인 자율주행자동차입니다. 물론 처음에는 신기해서 목격담을 서로 하죠. 그러나 느린 속도의 운행과 법률을 지키는 차를 항의도 하고 위협 운전도 할 것입니다. 하지만 이러한 모든 과정은 한국의 교통 상황에 적응할 수 있는 자율주행차 개발을 위해 꼭 필요한 일입니다. 자율주행차는 시간이 필요한 기술입니다.

2주 뒤에 발표될 최종 보고서에 대한 언론의 반응도 궁금해요. 한국에서도 소개가 될거라고 생각합니다. 아직 불안한 자율주행차. 이런 제목이 붙을지 모른다.

▶NTSB의 사고관련 보고서를 첨부합니다.

PS: 검색에서 접근하여 원하는 내용을 찾지 못했을 경우 ‘태그’ 또는 ‘검색’을 통해 더 많은 자료를 찾을 수 있습니다. 그래도 찾는 내용이 없으면 저에게 연락주시면 (이메일, 메모) 제가 아는 범위내에서 도움을 드리도록 하겠습니다. 부담스러워 하시지 않으셔도 됩니다.

Over the Vehicle !!!

참고 자료 The National Transportation Safety Board releases hundreds of pages related to the 2018 crash in Tempe , Arizona , that killed Elaine Herzberg.www.wired.com