本公开总体上涉及自主驾驶。更具体地,所公开的系统和方法涉及车载相机的外参校准和自检。
背景技术:
1、相机在自主驾驶中起决断性作用,提供必要的视觉信息以帮助车辆感知其周围环境并做出明智决定。例如,安装在车辆的不同位置的相机可以提供车辆环境的360°视图,以允许车辆检测周围对象,诸如交通标志、车道线、其他车辆、行人、十字路口、人行道等。更具体地,可以分析由车载相机拍摄的图像以确定关于在车辆周围的环境中对象的形状、大小和位置的三维(3d)信息。这样的技术可以被称为摄影测量。
2、在对由车载相机拍摄的图像执行摄影测量分析之前,相机应当被校准。例如,应当校准如焦距、透镜畸变、和传感器特性的内参以校准图像中的任何畸变。此外,外参(其定义相机的位置和取向)也需要被校准。常规相机校准过程通常涉及使用相机来拍摄专门设计的目标(例如,棋盘)的图像,计算3d世界点与其对应的2d图像点之间的映射,然后求解相机参数。
3、任何错误校准可能导致对象的物理位置的不准确测量,这然后可能导致依赖于所拍摄图像的各种感知任务(例如,映射向量化或对象检测)失败。常规校准方法可能是不准确的和低效的。此外,在安装和初始校准之后,相机可能经受位置/姿势改变。这种改变的定时检测对于防止感知错误可能是必要的。
技术实现思路
1、本公开提供了一种用于校准安装在车辆上的相机的外参的系统和方法。当车辆被停放时,相机可以拍摄具有在世界坐标系中测量的已知世界坐标的多个特征点的图像。多个特征点位于车辆被停放所在的地平面上。该系统可以基于所拍摄的图像确定在像素坐标系中测量的多个特征点的像素坐标。多个特征点从地平面投影到相机的图像平面。该系统可以基于多个特征点的子集估计地平面与图像平面之间的单应性矩阵。该系统可以基于所估计的单应性矩阵生成外参的初始估计,并且基于外参的初始估计、多个特征点的世界坐标以及多个特征点的像素坐标应用优化技术以获得校准的外参。应用优化技术可以包括使多个特征点从图像平面到地平面的逆投影误差最小化。
2、在本实施例的变型中,生成外参的初始估计可以还包括:通过应用相机方向约束和归一化约束将所估计的单应性矩阵转换为外参矩阵。
3、在本实施例的变型中,使逆投影误差最小化可以包括:构建误差向量和计算误差向量的欧几里得范数。误差向量中的相应分量对应于特征点的逆投影误差,并且逆投影误差指示特征点与特征点从图像平面到地平面的投影之间在地平面上的距离。
4、在本实施例的变型中,优化技术包括列文伯格-马夸尔特(levenberg-marquardt,lm)技术。
5、在本实施例的变型中,该系统可以基于相机的预定内参从图像去除畸变。
6、在该实施例的变型中,该系统可以确定在部署车辆到道路操作之后是否需要对外参进行重新校准。
7、在进一步变型中,该系统可以基于校准的外参确定理论消失线,获得在车辆运动时由相机拍摄的图像流,确定图像流的每个图像中的消失点,确定消失点与理论消失线之间的距离,以及从图像流中的所有图像中收集关于距离的统计数据。
8、在进一步变型中,确定消失点可以包括:检测图像中的多个车道线,将多个车道线拟合至对应的直线,以及确定图像中具有从点到直线的最小平方距离总和的点。
9、在进一步变型中,收集关于距离的统计可以包括:构建指示距离分布的直方图。
10、在进一步变型中,该系统响应于确定需要对外参进行重新校准而生成通知。
1.一种用于校准安装在车辆上的相机的外参的方法,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,生成所述外参的所述初始估计还包括:通过应用相机方向约束和归一化约束将所估计的单应性矩阵转换成外参矩阵。
3.根据权利要求1所述的方法,其特征在于,使所述逆投影误差最小化包括:
4.根据权利要求1所述的方法,其特征在于,所述优化技术包括列文伯格-马夸尔特(lm)技术。
5.根据权利要求1所述的方法,其特征在于,还包括:基于所述相机的预定内参从所述图像去除畸变。
6.根据权利要求1所述的方法,其特征在于,还包括:确定在部署所述车辆到道路操作之后是否需要对所述外参进行重新校准。
7.根据权利要求6所述的方法,其特征在于,还包括:
8.根据权利要求7所述的方法,其特征在于,确定所述消失点包括:
9.根据权利要求7所述的方法,其特征在于,收集关于所述距离的统计包括:构建指示所述距离的分布的直方图。
10.根据权利要求6所述的方法,其特征在于,还包括:
11.一种计算系统,包括:
