欢迎来到知嘟嘟! 联系电话:13095918853 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13095918853
知嘟嘟经纪人
收藏
专利号: 2019107959888
申请人: 杭州电子科技大学
专利类型:发明专利
专利状态:已下证
专利领域: 测量;测试
更新日期:2024-01-05
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种基于自学习的自动焊接及缺陷检测方法,其特征在于包括如下步骤:步骤1、采用基于知识的焊点粗定位,并规划焊接最优路径,为视觉系统和机械臂提供运行方向;

步骤2、基于机器视觉的焊点细定位,并判断焊点类型,精确引导机械臂找到焊点位置,针对性实施自动焊接;

步骤3、采用基于在线深度强化学习的焊点缺陷检测,自动检测焊点缺陷及判断类型,为同工位二次补焊提供依据和指导;

步骤1中所述的基于知识的焊点粗定位及焊接最优路径规划,具体实施步骤如下:

1‑1.首先建立非标元器件知识库,库内包括所有种类非标元器件的名称、信息及焊接手段;读取PCB文件后,得到所需焊接元器件及焊点信息,利用知识库,识别PCB板中所有非标元器件的焊点;建立自定义PCB坐标系,标注所有非标元器件焊点,使每个焊点获得唯一的坐标信息,完成焊点粗定位;

1‑2.为最小化总工作时间,多焊接路径进行规划,搜索视觉系统相机移动的最优路径;

确定目标焊点的唯一视场;所述视场是一个相机在单次拍照能够获得的最大图像区域;PCB板进板并固定后,相机首先移动到全板MARK点,作为PCB板上相机寻点路径的初始点;MARK点是用铜印刷在电路板上的标记;

1‑3.按照规划的路径顺序移动到目标视场区域;焊点顺序访问的问题建模为一个标准的旅行商问题;以焊点的坐标信息为依据,使用Hopfield神经网络获得最优路径,自动规划焊点焊接顺序;

所述的步骤2中基于机器视觉的焊点细定位及焊点形状判别,具体实现如下:使用YOLOv3作为目标检测模型进行目标的细定位,该目标检测模型在YOLOv2的基础上进行应用性的改进,包括多尺度检测、多标签分类,并使用基于残差神经网络改进的Darknet53网络作为特征提取器;基于机器视觉的焊点细定位包括如下步骤:数据集制作、网络模型训练、过滤识别结果并输出;

所述的数据集制作包括如下步骤:

2‑1‑1.数据采集:所用数据来自一台AOI自动光学检测设备拍摄PCB电路板的原始图像,对每一块PCB电路板,相机拍摄多个局部视场,再通过图像拼接的方法拼接成一张完整的图像;

2‑1‑2.数据预处理:YOLOv3在网络输入时将图像统一为416×416像素大小,即将图像都分割成416×416像素大小,再进行人工标注;

2‑1‑3.数据标注:神经网络训练需要大量的图像数据,随机选取部分图像使用标注工具LabelImg进行人工标注,标注出其中的接插件焊点目标;

2‑1‑4.数据保存:标注完的结果生成一个.xml文件,其中保存的关键信息有目标类别name,以及目标框的四个端点坐标xmin、xmax、ymin和ymax;标注完的数据按照VOC数据格式存储,一张图像对应一个标签文件,图像保存格式为.img,标签文件保存格式为.xml;

所述的网络模型训练的过程包括如下步骤:5

2‑2‑1.网络输入,数据增强:在YOLOv3中有5次下采样过程,2 =32,因此网络输入图像大小为32的倍数,YOLOv3把输入图像分割为13×13的栅格,因此输入图像大小要求为32×

13=416;数据增强方式包括翻转变换、随机修剪、色彩抖动、平移变换、尺度变换、对比度变换、噪声扰动和旋转变换;

2‑2‑2.网络结构:在图像特征提取方面,YOLOv3采用Darknet‑53的网络结构,在指定层之间设置快捷链路;从0层一直到74层,含有53个卷积层,其余为res层;从75到105层为YOLOv3网络的特征交互层,分为三个尺度,每个尺度内,通过卷积核的方式实现局部的特征交互;

2‑2‑3.网络输出:对于一个输入图像,YOLOv3将其映射到3个尺度的输出张量,代表图像各个位置存在各种对象的概率;对于一个416×416的输入图像,在每个尺度的特征图的每个网格设置3个先验框,总共有13×13×3+26×26×3+52×52×3=10647个预测;每一个预测是一个4+1+1=6维向量,这个6维向量包含边框坐标、边框置信度、对象类别的概率;

2‑2‑4.损失函数:损失函数由4部分组成,xy_loss:中心点的损失值;wh_loss:宽高的损失值;confidence_loss:框的损失值;class_loss:类别损失值;将各部分损失值的和,除以均值,累加,作为最终的图片损失值;

所述的损失函数计算如下所示:

其中,参数定义如下:

2 2

S:总共S×S个网络单元(i=0,…,S)B:每个单元格里的都有B个预测框(j=0,…,B)定义为1或0,1:网络单元i中存在目标,则第j个预测框预测有效;0:网络单元中不存在目标时;

x,y:预测边界框的中心位置

训练数据中的实际位置

w,h:预测边界框的宽高数据

训练数据中的实际宽高数据

c:表示置信度得分

预测框边界与实际边界的交叉部分λcoord:坐标预测权重

λnoobj:置信度预测权重

pi(c):预测的类别

训练数据的实际类别;

所述的网络模型结果过滤并输出步骤如下:

2‑3‑1.输出坐标与类别:对于每一个预测框有一个置信度,预设置信度高于0.3为一个疑似目标,当两个预测框交并比大于一个阈值时,则认为两个预测框标定的是同一个目标,对同一个目标一般存在多个预测框,在这些预测框中选取置信度最高的框作为最后的结果;输出其坐标信息和类别信息;

2‑3‑2. K‑means聚类出阈值分布:对训练集中焊点尺寸使用K‑means聚类,结果作为焊点大小输出的阈值;

所述的步骤3中基于在线深度强化学习的焊点缺陷检测,具体实现如下:由于不同的焊点缺陷在RGB三色光源下呈现不一样的颜色分布特征;基于在线深度强化学习的焊点缺陷检测方法,通过经验重放机制判断焊点检测结果质量,不断优化检测模型;在线的自动检测焊点缺陷及判断类型,使焊接生产线具有自学习性,并且为机械臂在焊接工位实施二次补焊提供前提条件。