本专利涉及软件测试领域，特别涉及自动驾驶测试领域，具体来说，本专利提供了一种基于热图的无监督自动驾驶系统错误行为预测方法.
背景技术：
1、自动驾驶作为人工智能技术在交通出行方向的重要应用，其重要性不言而喻.随着科研人员对自动驾驶研究的不断深入，越来越多的自动驾驶模型与框架应运而生，自动驾驶系统的自动化等级也逐步提高，其应用场景正由单纯的辅助驾驶场景向脱离驾驶员监管的自动驾驶场景转变.自动驾驶已经越发频繁地出现在人们视野里，推动社会交通方式不断更迭，为人们安全出行提供更多的保障，逐渐成为交通行业及汽车行业的未来发展方向.引入成熟的自动驾驶系统将从根本上有效提高驾驶人群的安全性和舒适性，但也将自动驾驶系统的可靠性与车辆驾驶安全性绑在了一起.自动驾驶系统一旦做出错误决策，将导致十分惨重的后果.因此，对自动驾驶系统进行严格且全面的测试，以充分保证其决策正确性是十分有必要的.自动驾驶测试研究作为自动驾驶技术发展的保障，也受到了越发广泛的关注.
2、在现实世界中对自动驾驶系统进行真实场景测试成本较高，既需要有完善的设备支持，又需要开辟专用的驾驶测试道路，不但耗费人力物力，还有着极高的危险性.除此之外，测试人员也无法实现获取特定场景的需求，很难对场景中的各项自然因素(如光照、雨雪等)做到精确把控，测试结果很大程度上受到自然条件影响.因此，现有的自动驾驶系统测试任务在进行实地测试前，均需要进行大量的仿真系统测试.在仿真测试中，研究人员通过在模拟器中设置不同的参数来丰富测试场景的多样性，以满足测试工作的需要，达到充分评估自动驾驶系统安全性的目的.
3、近年来，许多基于仿真平台开发的自动驾驶测试方法被不断提出.以往的自动驾驶测试任务大多聚焦于对自动驾驶系统进行非实时的离线测试，其主要目的在于通过进行大量的测试来发现自动驾驶系统的错误，以不断对其进行修正，提升自动驾驶系统的质量.但尽管自动驾驶系统在投入使用前已经经过了严格且全面的验证，其在实际运行中仍然可能存在安全问题.因此，对自动驾驶系统的行为安全性进行实时预测是十分有必要的，如何提前预测自动驾驶系统危险驾驶行为的发生，也成为了保证自动驾驶安全性的重要研究课题，得到了自动驾驶测试领域的广泛关注.deeproad、selforacle、thirdeye等具有代表性的自动驾驶系统错误行为预测方法的涌现，则标志着研究人员在自动驾驶系统决策安全性的实时预测方向取得了重要突破，自动驾驶测试任务得以由离线检测任务逐步向在线预测方向发展，使得实际应用中的自动驾驶系统拥有更为全面的安全保障.现阶段，这些预测方法已能够对一些危险场景做出正确预警，在自动驾驶系统错误行为预测任务中取得了一定的效果.但已有预测方法对安全场景的预测误报率较高，预测效果不佳.因此，目前仍需要能够准确预测危险场景，并有着较低误报率的自动驾驶系统错误行为预测方法.
技术实现思路
1、本发明提供了一种基于热图的无监督自动驾驶系统错误行为预测方法.本发明采用可解释方法提取决策模型对场景的注意力分布热图，结合模型注意力热图重点关注的位置特征信息与原始场景特征信息，引入无监督学习方法对组合特征进行聚类，充分利用了模型内部信息预测自动驾驶系统行为的安全性.
2、为了实现本发明的目的，本发明提供一种基于热图的无监督自动驾驶系统错误行为预测方法，包括如下步骤：
3、s1：使用深度学习可解释方法提取自动驾驶模型对每一时刻场景图像做出决策时的注意力分布热图，使得判断依据中包含更多的模型中间状态和可解释信息，将黑盒方法转化为白盒方法进而提升预测可信度，达到提升预测效果的目的，；
4、s2：将提取到的注意力热图与原始场景图像信息融合，充分利用热图中重点关注部位的位置特征信息；
5、s3：对融合后特征进行降维，避免高维特征数据对聚类方法的性能产生较大幅度的影响，导致聚类效果下降与资源消耗剧增；并采用无监督学习方法对降维后特征进行聚类，找到这些数据中潜在的相似特征，得到若干个安全行为特征簇及危险行为特征簇；
6、s4：计算组合特征图与上一步骤中聚类得到的各簇间的距离，将其分配给距离最近的安全簇或危险簇，或将其识别为一个离群点；若特征图被划分入安全场景特征簇中，其对应的场景图像将被赋予一个安全标签；相反，若特征图被划分进入危险场景特征簇或被标记为离群点，则其对应的场景图像将被赋予危险标签；
7、s5：在数据流中设置定长滑动窗口，并规定警报阈值，若此时数据窗口内被识别为危险场景图像(场景图像对应的热图未被分配到安全簇中)的图像数量未超过警报阈值，则认为此时的驾驶场景仍十分安全，自动驾驶系统做出的决策置信度较高；若此时数据窗口内被识别为危险场景图像的图像数量超过阈值，则此时的驾驶场景将被预测为危险场景，认为自动驾驶决策模型将会作出错误决策的可能性较大，应立即向系统发出警报，以采取相应补救措施.
1.一种基于热图的无监督自动驾驶系统错误行为预测方法，其特征在于，包括如下步骤：
2.如权利要求1所述的基于热图的无监督自动驾驶系统错误行为预测方法，其特征在于，通过提取决策模型对场景图像的注意力分布热图，使用了自动驾驶决策模型的中间特征；将提取到的注意力热图与原场景图像进行结合，充分利用了热图中重点关注部位的位置特征；采用无监督学习方法对组合特征进行聚类，进而达到对危险场景与安全场景进行区分的目的；能够有效提升自动驾驶系统错误行为预测的准确率，同时降低预测误报率，且普适性好，在几乎所有场景下有稳定效果，充分利用模型信息提高了预测置信度与警报效果。
