키사이트-요크대, 자율주행 AI 안전성 검증 맞손

소프트웨어 정의 차량(SDV) 내 인공지능 안전성 증명 근거 구축
ISO/PAS 8800 국제 표준 준수 및 상용화 가속 지원

인공지능(AI; Artificial Intelligence) 기술이 첨단 운전자 보조 시스템(ADAS; Advanced Driver Assistance Systems)과 자율주행, 소프트웨어 정의 차량(SDV; Software-Defined Vehicle)의 핵심으로 떠오르고 있다. 하지만 차량에 탑재된 인공지능이 실제 도로에서 안전하게 작동하는지 검증하는 일은 완성차 및 부품 업계의 큰 과제다.

전자기량 측정 및 테스트 전문기업 키사이트테크놀로지스(Keysight Technologies)가 영국 요크대학교(University of York)의 자율성 보장 센터(CfAA; Centre for Assuring Autonomy)와 손잡고 소프트웨어 정의 차량(SDV) 내 인공지능(AI)의 안전한 도입을 가속화하기 위한 공동 연구 협약을 체결했다. 양사는 인공지능 시스템의 안전성과 신뢰성을 객관적으로 증명하는 실용적 평가 방법을 공동 개발한다.

AI 안전 사례(AI Safety Cases) 구축 및 ISO/PAS 8800 대응

인공지능 기능이 고도화됨에 따라 개발 단계는 물론 차량의 전체 수명주기 동안 인공지능 시스템이 의도한 대로 안전하게 작동한다는 근거를 증명해야 하는 압박이 커지고 있다.

이번 연구는 자동차 분야 인공지능 안전성 관련 국제 표준인 ISO/PAS 8800 요구사항 이행을 지원하는 근거 기반 접근 방식을 만드는 데 집중한다. 양사는 학술 연구와 산업 표준을 바탕으로 측정 가능한 안전성 평가 방법론을 탐구한다. 또한 감사가 가능한 인공지능 안전 근거를 생성하는 실용적 프레임워크를 구축하여, 연구 성과와 실제 공학적 기술 구현 사이의 격차를 줄일 계획이다. 완성차 업체와 부품 공급업체는 이를 통해 인공지능 안전 사례 구축 프로세스를 효율화하고 개발 리스크를 낮출 수 있다.

학술 연구와 실무 공학의 결합… AX1000A AI 소프트웨어 무결성 빌더 반영

영국 요크대학교는 운송 및 자동차 분야 등 복잡한 시스템의 안전 공학 연구에서 세계적인 명성을 보유하고 있다. 요크대의 시스템 안전학 석좌교수인 사이먼 버튼(Simon Burton)은 인공지능 기술이 차량 핵심 기능으로 자리 잡는 전환점에서 강력한 데이터 기반 평가 방식이 필수적이라고 강조했다.

키사이트의 자동차 AI 솔루션 센터 총괄인 루카스 클로제(Lukas Klose)는 요크대의 연구 역량과 키사이트의 검증 프레임워크를 결합해 국제 표준을 준수하는 신뢰할 수 있는 인공지능 배포를 지원하겠다고 밝혔다. 이번 연구 결과는 향후 키사이트의 인공지능 검증 도구인 ‘AX1000A 키사이트 AI 소프트웨어 무결성 빌더(AX1000A Keysight AI Software Integrity Builder)’ 개발에 반영되어 인공지능 안전 논거 수립과 검증 활동을 강화하는 데 활용된다.