工业数据清洗:工厂数字化路上最容易踩的隐形坑

摘要:很多工厂数字化项目死在了数据环节,其中工业数据清洗是最容易被低估的核心步骤。本文结合我多年做设备数字化改造的实际经验,讲清楚工业数据脏的根源,可落地的清洗方法,以及常见的踩坑点,给负责项目的中级工程师做参考。

去年给珠三角一家做汽车冲压的老厂做数字化改造,上线冲压件开裂预测模型的时候,踩了个大雷。调参调了快半个月,模型训练精度始终卡在72%上不去,甲方催得急,我们团队天天熬夜找问题,最后翻原始数据集才发现——三分之一的采集数据根本不能用。

很多人觉得数据清洗是IT的活,扔个算法跑一遍就行。说实话,那是你没接触过真实的工业现场。

为什么工业数据脏得远超你想象

互联网的脏数据大多是用户输入错误、爬虫漏抓,无非就是缺失、乱码,改改就行。工业现场不一样,什么离谱的情况都有。

工人检修完忘了插传感器信号线,设备空跑八个小时,数据全是零。车间行车启动的时候变频器干扰,整个车间的模拟量信号集体跳变到满量程,看起来像是设备炸了其实就是电磁干扰。不同批次买的传感器,采集频率差个几十毫秒,同一个设备不同传感器的时钟不同步,差个两三百毫秒,做时序工况分析的时候,整个对应关系全错。

汽车冲压线振动传感器原始脏数据波形图
汽车冲压线振动传感器原始脏数据波形图

更坑的是,很多工厂设备换了,工艺改了,数据标签还没改。新工人打标签,把合格品标成不合格,不合格标成合格品,这种标签错误,算法根本识别不出来,只能靠懂工艺的工程师逐批核对。

乙方很多项目,拿到数据直接跑个3σ原则去异常,完事了。结果呢?把换模时候的正常低载荷数据全给删了,模型根本学不到不同工况的特征,精度能高才怪对吧。

我用了五年的三级工业数据清洗逻辑

做了快十个工厂的数字化项目,我总结出来的方法,根本不需要什么花里胡哨的AI算法,核心就是结合工业知识分层清洗,比纯算法靠谱太多。

第一层是物理层规则清洗,按照设备本身的物理参数范围先卡阈值,这个是基础。比如冲压机的工作油压范围是10-16MPa,符合GB/T 39115-2020《智能制造 工业数据清洗 要求》的规范要求,超出这个范围的,直接标记为异常,不是直接删除,要单独存起来——这些异常说不定就是早期故障的信号,删了才是大错。

第二层是业务逻辑校验清洗,这个全靠工业知识,算法学不来。比如折弯机的滑块下行速度额定最大是150mm/s,采集出来个500mm/s,肯定是采集模块错了,直接标记。再比如,设备都没开机,主电路电流不可能超过10A,出现大于10A的数值,肯定是采集错了。

工业场景三级数据清洗流程框图
工业场景三级数据清洗流程框图

第三层是关联对齐清洗,这一步最费时间,但对精度影响最大。不同数据源的时间戳要对齐,不同工况的数据要做匹配标记。比如我们做焊接质量预测,焊接电流数据和焊道位置数据差了一秒,你对应的电流和焊道位置对不上,洗得再干净也没用。还有同一条生产线的新旧模具,基线不一样,必须分开标记清洗,不能混在一起。

我试过,这一步做对,模型精度直接涨15%到20%,一点水分都没有。

几个刻进我骨子里的踩坑经验

几个刻进我骨子里的踩坑经验
几个刻进我骨子里的踩坑经验

干这么多年,踩的坑能绕车间三圈,挑几个最痛的给你说。

第一个坑,绝对不要随便删异常值。前两年我圈内一个朋友做风电齿轮箱故障预警,图省事,把所有超过3倍标准差的点全删了,结果那些点刚好是早期齿轮点蚀的振动信号,删完之后模型根本报不出预警,等到现场发现异响的时候,齿轮已经裂了,业主方直接索赔几十万,项目黄了不说,名声也坏了。

异常值不是都是脏数据,很多时候就是你要找的故障信号。

第二个坑,不要随便填充缺失值。很多人遇到空值,直接填均值,太省事了对吧?但是如果是温度传感器断线了,连续两个小时空值,你填成车间环境温度,模型就会以为这两个小时设备运行完全正常,根本发现不了传感器已经坏了,下次真出设备故障,直接漏检。正确做法是标记缺失,留好业务标识,让模型自己学缺失代表什么含义。

第三个坑,新老设备数据不能混洗。老设备用了五六年,磨损大,振动基线本来就比新设备高15%左右,你把新老设备的数据放在一起清洗,统一做标准化去异常,很容易把老设备的正常振动当成异常删掉,模型上线之后,到老设备上用直接废一半精度。

不过话说回来,很多工厂本身的数据管理就乱,新老设备数据扔一个表,没人打标签,这不踩坑才怪。

最后

工业数据清洗,从来不是纯数据技术的活,本质是工业知识的梳理过程。懂数据的不懂设备,懂设备的不懂数据,最后就洗不出能用的数据。现在很多工厂砸了几百万上千万做数字化,最后出不了能用的模型,十有八九是第一步数据就错了。

这个坑,早点认清楚,少走好几年弯路。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:工业数据清洗:工厂数字化路上最容易踩的隐形坑
文章链接:https://yqhljx.com/list_9/3355.html