原文链接：https://mp.weixin.qq.com/s/CvcXhL8Bm8dftBF5Fa55KQ
- 论文链接：https://arxiv.org/pdf/2506.08459
- 代码链接：https://github.com/sisl/Diffusion-Based-AV-Safety-Validation
摘要
本文介绍了用于自动驾驶系统安全性验证的扩散模型。由于现实世界测试具有高风险和高成本并且潜在的故障较为罕见且多样化，因此自动驾驶系统的安全性验证极具挑战性。为了应对这些挑战，本文训练了一个去噪扩散模型，以生成给定任何初始交通状态下自动驾驶汽车的潜在故障情况。在四路交叉路口问题上的实验表明，扩散模型可以在各种场景中生成逼真的故障样本，同时捕获各种潜在的故障。本文模型不需要任何外部训练数据集，它可以通过适度的计算资源进行训练和推理，并且没有假设被测系统具有任何的先验知识，其适用于交通路口的安全性验证。
主要贡献
本文的主要贡献总结如下：
1）支持根据交叉路口的任何指定初始状态来生成导致故障的传感器噪声样本；
2）生成逼真的传感器噪声样本，同时涵盖了很多交通场景中各种可能的故障；
3）相比于蒙特卡洛仿真方法，在生成导致碰撞的传感器噪声方面具有更高的样本效率；
4）使用多阶段自改进的训练策略，而无需外部数据集；
5）没有假设被测系统（SUT）的任何先验知识；
6）支持在适度的硬件上进行训练和推理。
论文图片和表格
总结
本文提出了一种使用生成人工智能来实现自动驾驶汽车安全性验证的框架。针对交通路口问题，本文训练了一个扩散模型来生成传感器噪声的时间序列，它可能会导致自动驾驶汽车在特定的初始交通状态下与侵入者发生碰撞。在所有测试的场景中，来自训练模型的故障样本展现出高密度和高覆盖，这证明了模型能够根据初始状态生成逼真的故障情况，同时捕获被测系统（SUT）的各种可能故障。在大多数场景中，扩散模型实现了比CEM算法更高的故障率，证明了其实现了样本高效的故障生成。
本文设想该框架也可能适用于自动驾驶中的鲁棒规划应用。未来工作可以利用知识蒸馏等技术来压缩模型，并且在硬件上部署该蒸馏模型，以支持基于当前交通状态来实时生成潜在的故障。这些数据为车载主动防撞系统提供了有价值的信息，并且可能极大地提高自动驾驶汽车的运行安全性。
发表回复