"양날의 검" 테슬라 오토파일럿 차량

테슬라는 ‘오토파일럿’과 ‘완전자율주행(FSD)' 기능을 제공하고 있다. 이를 구현하기 위해 차량에서 방대한 양의 데이터를 수집하고 있다. 테슬라는 도대체 어떤 데이터를 차량에서 수집하고 있을까. 또 이렇게 전 세계 자동체에서 수집하는 방대한 양의 데이터를 활용한 테슬라의 오토파일럿 기능은 얼마나 개선됐을까.

 

테슬라, 완전자율주행을 위해 방대한 주행기록 수집

테슬라 차량은 신차 99% 이상 ‘이벤트 데이터 레코더(EDR, Event Data Recorder)’ 탑재하고 있다. EDR은 일종의 차량 블랙박스로 사고 발생 5초 전부터 사고 순간까지를 기록하는 장치다. 

차량이 충돌사고를 냈을 때 부팅해 차량의 속도, 가속도, 브레이크 사용, 조향입력, 자동제동, 안전성 제어 등에 대한 정보를 불과 5초 만에 수집 기록해 충돌사고의 상세 조사 때 이들 데이터를 유용하게 사용할 수 있다.

EDR의 데이터는 차량에 탑재된 컴퓨터에 삽입되어 있는 SD 카드에 저장된다. 이 SD카드에는 타임스탬프(어느 시점에 데이터가 존재했다는 사실을 증명하기 위하여 특정 위치에 표시하는 시각)가 부착된 게이트웨이 로그가 기록된다. 

안전벨트 착용 정보와 오토파일럿 이용 현황 정보, 크루즈 컨트롤 기능에 대한 설정, 운전자가 운전대를 잡았는지 여부 등 정보도 포함된 것으로 알려졌다.

이 정보들은 비교적 낮은 해상도로 저장되기 때문에 차량 수명이 다하는 수년 치 게이트웨이 로그를 SD카드에 저장할 수 있다.

미국 국제전기전자공학회(IEEE)에서 발행하는 ‘IEEE 스펙트럼(IEE E Spectrum)’ 보고서에 따르면 이 게이트웨이 로그는 차량이 Wi-Fi 네트워크에 연결되면 정기적으로 테슬라 서버에 업로드된다. 

테슬라는 과거 소송에서 이 게이트웨이 로그를 증거로 제출한 적이 있어 게이트웨이 로그가 반영구적으로 테슬라의 서버에 보관돼 있다는 합리적 추론이 가능하다.

 

 

 

또 테슬라 차량에는 카메라와 레이더 등센서가 다수 탑재돼 있다. 이를 통해 테슬라는 운전자, 보행자, 기타 주변 환경에 대한 데이터 수집도 가능하다.

이 데이터들은 테슬라 서버에 업로드되지 않도록 설정된 것 같지만, 실제로는 에어백이 작동했을 때 주변 상황이나 차량 내 상황을 사진으로 기록하도록 설정되어 있다. 

또 차량이 와이파이에 연결했을 때 게이트웨이 로그와 마찬가지로 테슬라 서버에 업로드하도록 설계되어 있다. 해당 사진은 서버에 업로드된 후 차량 컴퓨터에서는 삭제된다.

이 밖에 오토파일럿 컴퓨터는 테슬라 차량이 주차 상태에서 주행 상태로 이동할 때마다 전체 운행 로그(trip logs)를 기록한다.

이 운행 로그에는 차량이 주차할 때까지 GPS, 속도, 도로 종류, 오토파일럿이 활성화되었는지 정보와 활성화된 타이밍에 대한 정보가 포함된다. 또 이 운행 로그도 차량용 컴퓨터가 와이파이에 접속했을 때 테슬라 서버에 업로드되고 차량용 컴퓨터에서 삭제된다.

테슬라가 이렇게 방대한 데이터를 이용하고 있는 것은 오토파일럿이나 FSD 기능 개발이다. 

테슬라 차량에는 2016년부터 ‘섀도우 모드(Shadow Mode)’로 불리는 오토파일럿 기능이 작동하지 않을 때 인간 운전자의 행동과 같이 오토파일럿을 백그라운드에서 실행해 운전 프로세스를 시뮬레이션하는 모드가 기능하고 있다.

오토파일럿의 예측과 운전자의 운전이 다를 경우 차량은 탑재된 카메라로 상황을 촬영해 차량의 속도 등 기타 세세한 파라미터(매개변수)를 포함한 정보를 테슬라 서버에 업로드 한다.

개발팀은 이 데이터를 검증해 오토파일럿에 이용되고 있는 뉴럴 네트워크의 학습 데이터로 입력한다. 

이 섀도우 모드는 전 세계에 존재하는 수백만 대의 테슬라 차량에서 작동하고 있어 차량이 수집한 데이터를 적절히 처리하고 보관하는 것은 매우 큰 비용이 들어간다. 

실제로 테슬라는 섀도우 모드에서 수집한 이미지나 동영상을 평가하고 라벨(label) 부착을 위한 대규모 팀을 편성하고 있는 것에 대해 "매우 비용이 많이 든다"고 인정했다. 2022년 6월에는 이 업무에 종사하던 200여명의 직원을 해고한 것으로 알려졌다.

 

 

미국 자율차 충돌사고 70%가 테슬라 차량

이처럼 방대한 양의 데이터를 처리하는 테슬라의 오토파일럿 기능은 수년간 개선되고 있는 것처럼 보이지만 여전히 심각하고 치명적인 사고가 계속 발생하고 있다. 

이는 순전히 테슬라의 오토파일럿 기능의 치명적인 결함을 지적하는 목소리도 있다. 관련 전문가들 대부분은 “테슬라 카메라 전용 시스템은 라이더가 탑재된 시스템 기반 자율자동차와 같은 수준의 안전을 얻을 수 없다”는 지적이다.

또한 한편으로 운전자가 테슬라 차량을 지나치게 과대평가하고 있는 점도 문제로 지적되고 있다.

실제로 2022년 7월 28일에는 미국 캘리포니아주 차량관리국(DMV)이 테슬라가 자사의 자율주행 기술인 ‘오토파일럿’ 및 ‘완전자율주행(FSD)’ 기능을 홍보하는 과정에서 허위광고를 했다고 고발했다.

캘리포니아주 행정청문회에 제출된 두 건의 문서에서 DMV는 “테슬라의 '오토파일럿'이나 'FSD' 같은 표기는 단순히 제품명이나 브랜드명이 아니라 첨단운전자보조시스템(ADAS)을 탑재한 차량이 자율주행차로 작동하는 것처럼 선전하는 문구다”라고 비판했다.

그러면서 “테슬라의 ADAS 탑재 차량은 테슬라의 광고 시점에서뿐만 아니라, 지금도 자율주행차로 동작하는 것이 아니다”라고 지적한 바 있다. 이번 소송은 운전자의 오해나 새로운 차량 기술의 오용을 막기 위해서라고 설명하고 있다.

또 DMV는 CNBC를 통해 “승소할 경우 테슬라는 소비자에게 광고를 게시하고 테슬라 운전자에 대해 오토파일럿과 FSD에 관한 기술적 한계를 포함한 보다 상세한 설명 및 법률 위반에 대한 적절한 조치를 요구할 것”이라고 설명한 바 있다.

또한 DMV는 테슬라의 오토파일럿 및 FSD가 특별한 허가 없이 공공도로 사용할 수 있는 수준의 것인지 판단하기 위해 별도의 안전성 리뷰를 실시하고 있다.

테슬라는 새로 제작된 모든 차량에 오토파일럿 기능을 구현하고 있으며 FSD를 옵션으로 1만2000달러(한화 약 1600만원)를 선불로 받거나 또는 매월 199달러(한화 약 25만원)로 제공하고 있다.

현재 테슬라가 제공하는 FSD는 베타 버전으로 운전자가 미국 공공도로에서 FSD를 테스트할 수 있도록 하고 있다. 테슬라는 프리미엄 FSD 시스템이 설치된 테슬라 운전자만 FSD 베타에 참여할 수 있으며 이미 10만명 이상이 FSD 베타를 사용 중이라고 밝혔다. 

2018년 1월 미국 캘리포니아주 컬버시티 고속도로에서 발생한 테슬라 충돌 사고. [출처: 미국 컬버시티소방서(Culver City Fire Station) 공식 트위터]

한편 FSD의 정밀도에 대한 의문이 여전히 남아 있다. 도로에 있는 장애물을 인식하지 못하고 충돌한 경우가 보고되고 있다.

2022년 7월 초 연방정부가 발표한 통계에 따르면 2021년 6월부터 2022년 7월까지 보고된 ‘자칭 자율주행차에 의한 충돌사고’ 중 70%(270건 초과)가 테슬라 차량에 의한 것으로 판명됐다.

이 데이터는 테슬라의 자율주행차가 충돌 사고를 일으키기 쉽다는 것은 아니다. 하지만 테슬라 차량이 완전한 자율주행 기능을 제공하고 있지 않다는 것을 보여주기에는 충분한 데이터다.

또 미국 고속도로교통안전국(NHTSA. National Highway Traffic Safety Administration)은 테슬라 차량 충돌 사고 가운데 오토파일럿의 원인으로 보이는 사고가 최소 37건이나 존재한다고 지적했다.

게다가 해당 사고에 대해 특별 조사를 진행하고 있으며, 37건의 충돌사고로 적어도 17명이 사망했다.

이와 별도로 NHTSA는 테슬라 차량이 정지해 있던 긴급 구조 차량과 충돌 사고가 잇따르면서 오토파일럿 기술에 결함이 있어 리콜이 필요한지 확인하기 위한 평가를 시작했다고 밝혔다.