CN111612797B - 一种水稻图像信息处理系统 - Google Patents
一种水稻图像信息处理系统 Download PDFInfo
- Publication number
- CN111612797B CN111612797B CN202010388101.6A CN202010388101A CN111612797B CN 111612797 B CN111612797 B CN 111612797B CN 202010388101 A CN202010388101 A CN 202010388101A CN 111612797 B CN111612797 B CN 111612797B
- Authority
- CN
- China
- Prior art keywords
- image
- rice
- random
- subunit
- color
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 235000007164 Oryza sativa Nutrition 0.000 title claims abstract description 158
- 235000009566 rice Nutrition 0.000 title claims abstract description 158
- 230000010365 information processing Effects 0.000 title claims description 12
- 240000007594 Oryza sativa Species 0.000 title 1
- 241000209094 Oryza Species 0.000 claims abstract description 157
- 238000012545 processing Methods 0.000 claims abstract description 35
- 238000003709 image segmentation Methods 0.000 claims abstract description 25
- 230000011218 segmentation Effects 0.000 claims abstract description 24
- 238000004458 analytical method Methods 0.000 claims abstract description 4
- 230000008859 change Effects 0.000 claims description 21
- 230000009466 transformation Effects 0.000 claims description 20
- 241000196324 Embryophyta Species 0.000 claims description 17
- 238000006243 chemical reaction Methods 0.000 claims description 17
- 238000001514 detection method Methods 0.000 claims description 16
- 108091006146 Channels Proteins 0.000 claims description 15
- 239000003086 colorant Substances 0.000 claims description 7
- 238000005520 cutting process Methods 0.000 claims description 7
- 229910052757 nitrogen Inorganic materials 0.000 claims description 6
- 230000006870 function Effects 0.000 claims description 4
- 238000010606 normalization Methods 0.000 claims description 4
- 239000003623 enhancer Substances 0.000 claims description 3
- 238000009432 framing Methods 0.000 claims description 3
- 230000010354 integration Effects 0.000 claims description 3
- 238000000034 method Methods 0.000 abstract description 25
- 230000000694 effects Effects 0.000 abstract description 7
- 238000012706 support-vector machine Methods 0.000 description 9
- IJGRMHOSHXDMSA-UHFFFAOYSA-N Atomic nitrogen Chemical compound N#N IJGRMHOSHXDMSA-UHFFFAOYSA-N 0.000 description 4
- 244000207740 Lemna minor Species 0.000 description 4
- 235000006439 Lemna minor Nutrition 0.000 description 4
- 235000001855 Portulaca oleracea Nutrition 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 238000012549 training Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 235000013339 cereals Nutrition 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 239000004744 fabric Substances 0.000 description 2
- 230000002349 favourable effect Effects 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 239000002028 Biomass Substances 0.000 description 1
- 241001464837 Viridiplantae Species 0.000 description 1
- 241000607479 Yersinia pestis Species 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 230000032683 aging Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 235000016709 nutrition Nutrition 0.000 description 1
- 230000035764 nutrition Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 238000007873 sieving Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000017260 vegetative to reproductive phase transition of meristem Effects 0.000 description 1
- 230000016776 visual perception Effects 0.000 description 1
- 239000012855 volatile organic compound Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20112—Image segmentation details
- G06T2207/20132—Image cropping
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30181—Earth observation
- G06T2207/30188—Vegetation; Agriculture
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种水稻图像信息采集系统,包括至少三个图像采集模块、图像识别模块、图像分割模块和网络模型数据库,其中:至少三个图像采集模块固定在水稻田的至少三个方向边缘区域,以预设频率对水稻田进行图像采集,获取同一时间的至少三幅水稻图像;图像识别模块,与至少三个图像采集模块通过网络连接,对水稻图像中的水稻冠层信息和背景信息进行识别;图像分割模块,与图像识别模块通过网络连接,图像分割模块对水稻图像进行分割处理;网络模型数据库对经过分割处理后的水稻图像进行模型匹配分析。本发明无需较多的人工参与,对水稻图像的处理效果较好。
Description
技术领域
本发明属于农业技术领域,具体涉及一种水稻图像信息处理系统。
背景技术
水稻是中国乃至全球最主要的粮食作物,其种植面积及产量水平显著影响全球粮食产量安全。传统水稻的稳定高产在很大程度上来源于广大稻农精耕细作的支撑,但随着农村劳动力转移、农村劳动力老龄化、水稻传统生产效率降低以及农村土地流转,亟需以规模化经营和科技装备为我国水稻持续增产提供新动力。研究表明,监测水稻冠层能获取大量水稻生长信息,包括生长动态、叶面积指数、生物量、氮素营养状态、开花动态以及病虫害状况,可为规模化水稻的自动化耕作管理提供参数指导。
目前,利用数字图像技术分割作物冠层图像时采用两种方法-基于图像处理软件的手动方法和基于图像分割技术的自动方法。其中,手动方法分割精度高,但是需要较多的人工参与,使用起来不方便;而自动方法的分割效果差强人意。
发明内容
有鉴于此,本发明提供了一种水稻图像信息处理系统,以解决现有技术中利用数字图像技术分割作物冠层图像时,采用手动方法分割精度高,但是需要较多的人工参与,使用起来不方便;而自动方法的分割效果差强人意的问题。
本发明是通过以下技术手段实现上述技术目的的。
一种水稻图像信息处理系统,包括:
至少三个图像采集模块,固定在水稻田的至少三个方向边缘区域,以预设频率对所述水稻田进行图像采集,获取同一时间的至少三幅水稻图像;
图像识别模块,与所述至少三个图像采集模块通过网络连接,对所述水稻图像中的水稻冠层信息和背景信息进行识别;
图像分割模块,与所述图像识别模块通过网络连接,所述图像分割模块对所述水稻图像进行分割处理;
网络模型数据库,与所述数字图像分割模块通过网络连接;所述网络模型数据库对经过分割处理后的所述水稻图像进行模型匹配分析;
其中,所述图像识别模块包括数据读取子模块、GT框获取子模块、数据增强子模块和辅助处理子模块;
所述数据读取子模块采用VOCDetection函数,通过参数和固定文件夹路径读取所述水稻图像文件;
所述GT框获取子模块对所述水稻图像文件中的目标水稻坐标信息进行框选,获得GT框;
所述数据增强子模块还包括光度变形单元和几何变换单元;所述光度变形单元包括随机改变亮度子单元、随机改变对比度子单元、变换颜色空间子单元、随机改变饱和度子单元、随机改变色调子单元、随机变换通道子单元;所述几何变换单元包括随机扩张子单元、随机裁剪子单元和随机镜像子单元;
所述随机改变亮度子单元在所述水稻图像的像素上增加第一实数,所述第一实数范围为[-32,32];
所述随机改变对比度子单元在所述水稻图像的像素上乘第一系数,所述第一系数的范围为[0.5,1.5];
所述变换颜色空间子单元对所述水稻图像的颜色空间在RGB和HSV之间进行互换;
所述随机改变饱和度子单元对所述水稻图像的HSV颜色空间中的S维度上乘第二系数,所述第二系数为实数,且范围为[0.5,1.5];
所述随机改变色调子单元对所述水稻图像的HSV颜色空间中的H维度随机加第二实数,所述第二实数的范围为[-18.8,18.0];
所述随机变换通道子单元对所述水稻图像的RGB通道顺序进行随机变换;
所述随机扩张子单元对所述水稻图像的高和宽乘以一个ratio系数,获得扩张水稻图像,所述随机扩张子单元将原始的所述水稻图像放置在所述扩张水稻图像的右下角,将所述扩张水稻图像的其他位置像素值使用均值填充,相应的所述GT框也进行移动;
所述随机裁剪子单元对原始是所述水稻图像进行随机矩形裁剪,裁剪区域包含所述GT框中心点,将原始的所述水稻图像的所述GT框转换到裁剪区域的所述水稻图像中;
所述随机镜像子单元对所述水稻图像进行左右翻转处理;
所述辅助处理子模块对所述GT框信息进行列表整合处理;
所述图像分割模块对所述水稻图像进行归一化处理,得到标准化色彩参数r、g、b;
对所述标准化色彩参数r、g、b进行CIE L*a*b*色彩转化,获取CIE X、Y、Z三基元和L*、a*、b*色彩参数;
根据所述标准化色彩参数r、g、b获取H、S、V色彩参数;
根据所述标准化色彩参数g、所述a*色彩参数、b*色彩参数和S色彩参数获取分割超平面Z。
上述技术方案中,所述标准化色彩参数r、g、b分别为:
其中,所述R、G、B为三基色,黑色表示为(0,0,0),白色表示为(255,255,255)。
上述技术方案中,根据所述水稻图像的RGB色彩计算所述CIE X、Y、Z三基元以及所述L*、a*、b*色彩参数:
其中,
上述技术方案中,根据所述标准化色彩参数r、g、b获取H、S、V色彩参数,包括:
由所述R、G、B三基色转换为三个变量X1、Y1和Z1:
由所述三个变量X1、Y1和Z1转化为所述H、S、V色彩参数:
V=X1
上述技术方案中,根据标准化色彩特征g、所述a*色彩参数、b*色彩参数和S色彩参数获取分割超平面Z,包括:
采用线性SVM计算分类所述超平面Z:
Z=0.421g+0.753a*+0.152b*+0.051S+0.085。
上述技术方案中,所述图像分割模块还包括:轮廓跟踪单元,用于获取所述水稻图像中的所有轮廓的坐标点序列作为轮廓链码;
凹点检测单元,其输入端与所述轮廓跟踪单元的输出端连接;所述凹点检测单元执行以下操作:
步骤一,任意选择轮廓线上的一点作为初始点;
步骤二,连接所述初始点与所述轮廓线上顺时针方向的第i个临近点,构成一条第一线段,判断所述第一线段上的所有像素点的灰度值,根据所述灰度值分析所述第一线段上的所有像素点为背景或杂草;
步骤三,若所述第一线段上背景像素个数占所述第一线段上像素总数的比例小于预设值,则判定所述初始点和所述第i个临近点之间不存在凹点;所述i为大于25的整数;
若所述第一线段上背景像素点个数占所述第一线段上像素总数的比例大于所述预设值,则判定所述初始点和所述第i个临近点之间存在凹点;所述预设值范围为50%-90%;
步骤四,对所述初始点和所述第i个临近点分别连接与其前面临近的第6个点和后面临近的第六个点,形成第二线段作为虚拟局部弦;分别计算这i个像素点与之对应的所述虚拟局部弦的距离,获取所述距离最大的点A,并且保证所述虚拟局部弦的中点在背景中,则将所述点A判定为一个凹点。
上述技术方案中,所述图像分割模块还包括:杂草识别单元,其输入端与所述凹点检测单元的输出端连接;
所述杂草识别单元执行以下操作:
步骤一、获取所述轮廓线的参数大小;对所述轮廓线进行凹点检测以及Hough变换,获取所述轮廓线上的凹点和能组成圆弧的轮廓点;其中,若以第一圆心为中心、边长为r/2的正方形内的80%像素点是目标像素,则判定所述第一圆心为中心的圆弧属于杂草的轮廓线;
步骤二、确定圆附近的两个有效凹点;其中,所述有效凹点为所述圆附近曲率最大的两个凹点;
步骤三、将所述两个有效凹点连成一条直线,将在所述直线一侧并且在所述圆内的像素点置为背景,得到水稻叶片图像。
上述技术方案中,对所述轮廓线进行Hough变换,包括以下步骤:
步骤a、在所述水稻图像中取一个基准点(Xb,Yb),以所述基准点为圆心、Rmax为外半径、Rmin为内半径投影到参数空间,得到坐标点集合Fb;将所坐标点集合Fb保存到名称为baseunion的内存区域中;
步骤b、遍历所述水稻图像全部像素点,当遍历到第一个边缘点(x1,y1)时,把所述所坐标点集合Fb中的所有元素分别加上x方向与y方向的偏移量x1-xb、y1-yb,从而得到新的坐标点集合F1;在所述参数空间中,累加所述集合F1中的所有元素对应的第一累加值;
步骤c、重复所述步骤b,计算出Fj,累加所述Fj中的所有元素对应的第二累加值,直至遍历到所有边缘点;其中,2≤j≤N,N为实数;
步骤d、在所述参数空间中找出所述第二累加值的极大值;所述极大值在所述参数空间中的坐标值即为所述第一圆心。
本发明的有益效果为:
(1)本发明先通过图像识别模块对水稻图像进行数据增强,然后对图片进行光度变形,包含改变对比度、改变饱和度、改变色调、改变亮度和增加噪声等,接着有对图片进行扩张和裁剪等,最后对GT框坐标归一化、和resize图片、减去均值等操作,识别出水稻图像中的目标信息;再通过筛选出具有明显双峰特征的g、a*、b*和S色彩特征构成的多维色彩空间中,采用支持向量机学习算法获得分隔水稻和背景像元的优化超平面Z,计算水稻冠层图像中每一像元的Z值,并用最大类间方差法计算分割阈值Z,从而实现水稻冠层图像分割,达到较好的分割效果。同时,先通过图像识别模块对水稻图像进行GT框框选处理,实现了速度快且精度不低的一轮目标检测,然后再对GT框内的水稻图像进行分割,减少了分割图像的计算量,有效平衡了计算资源消耗和处理速度之间的关系,提高了处理效率。
(2)本发明采用线性SVM和最大类间方差法相结合的水稻冠层图像分割方法,具有较高的分割精度和光强稳健性,可以在田间多变光照条件下达到9%以内的分割误差效果。
(3)由于水稻叶片呈现长条形,背景中浮萍呈现近圆形,这两种织物形状都是凸性的,因此水稻叶片与浮萍的交点必定是凹点,本发明运用凹点检测原理检测到交叠处的凹点。
(4)水稻叶片和杂草在曲率上有很大差异,为了消除叶片轮廓上的点对结果的影响,本发明采用计算曲率的方法进行排除,曲率大于某一阈值的点,才会被列入hough变换检测的对象,否则不进行处理。
附图说明
通过参考附图能更加清楚的理解本发明的特征和优点,附图是示意性的而不应理解为对本发明进行任何限制,在附图中:
图1示出了本发明实施例中一种水稻图像信息处理系统的结构框图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
如图1所示,一种水稻图像信息处理系统,包括至少三个图像采集模块1、图像识别模块2、图像分割模块3和网络模型数据库4,其中:至少三个图像采集模块1固定在水稻田的至少三个方向边缘区域,以预设频率对水稻田进行图像采集,获取同一时间的至少三幅水稻图像;图像识别模块2,与至少三个图像采集模块1通过网络连接,对水稻图像中的水稻冠层信息和背景信息进行识别;图像分割模块3与图像识别模块2通过网络连接,图像分割模块3对水稻图像进行分割处理;网络模型数据库4对经过分割处理后的水稻图像进行模型匹配分析。
其中,图像识别模块2包括数据读取子模块、GT框获取子模块、数据增强子模块和辅助处理子模块。数据读取子模块采用VOCDetection函数,通过参数和固定文件夹路径读取水稻图像文件。GT框获取子模块对水稻图像文件中的目标水稻坐标信息进行框选,获得GT框。数据增强子模块还包括光度变形单元和几何变换单元。光度变形单元包括随机改变亮度子单元、随机改变对比度子单元、变换颜色空间子单元、随机改变饱和度子单元、随机改变色调子单元、随机变换通道子单元;随机改变亮度子单元在水稻图像的像素上增加第一实数,第一实数范围为[-32,32];随机改变对比度子单元在水稻图像的像素上乘第一系数,第一系数的范围为[0.5,1.5];变换颜色空间子单元对水稻图像的颜色空间在RGB和HSV之间进行互换;随机改变饱和度子单元对水稻图像的HSV颜色空间中的S维度上乘第二系数,第二系数为实数,且范围为[0.5,1.5];随机改变色调子单元对水稻图像的HSV颜色空间中的H维度随机加第二实数,第二实数的范围为[-18.8,18.0];随机变换通道子单元对水稻图像的RGB通道顺序进行随机变换。几何变换单元包括随机扩张子单元、随机裁剪子单元和随机镜像子单元;随机扩张子单元对水稻图像的高和宽乘以一个ratio系数,获得扩张水稻图像,随机扩张子单元将原始的水稻图像放置在扩张水稻图像的右下角,扩张水稻图像的其他位置像素值使用均值填充,相应的GT框也进行移动;随机裁剪子单元对原始水稻图像进行随机矩形裁剪,裁剪区域包含GT框中心点,将原始水稻图像的GT框转换到裁剪区域的水稻图像中;随机镜像子单元对水稻图像进行左右翻转处理。辅助处理子模块对GT框信息进行列表整合处理。
图像分割模块3对水稻图像进行归一化处理,得到标准化色彩参数r、g、b;对标准化色彩参数r、g、b进行CIE L*a*b*色彩转化,获取CIE X、Y、Z三基元和L*、a*、b*色彩参数;根据标准化色彩参数r、g、b获取H、S、V色彩参数;根据标准化色彩参数g、a*色彩参数、b*色彩参数和S色彩参数获取分割超平面Z。
在本实施例中,至少三个图像采集模块1为图像传感器,固定设置在观测农田的至少三个方向的边缘区域,且图像传感器设置在距离地面至少1.5米高的位置。图像识别模块2接收图像传感器拍摄到的水稻图像,对其进行识别处理,图像分割模块3接收图像识别模块2识别后的水稻图像,对其中的水稻冠层与背景部分进行分割。网络模型数据库4接收经过处理的水稻图像,将其与数据库中水稻各个生长期的图像进行匹配,通过特征值确定水稻处于哪个生长期,并且分析其健康状况,特征值包括叶面面积、叶片颜色和植株高度等。在具体实施例中,提取经过图像分割模块3处理的水稻图像的部分叶片图像作为特征图像,将其发送至网络模型数据库4,网络模型数据库4将接收到的水稻图像与数据库中存储的标准水稻图像进行特征值比对,通过本次比对,还可以初步筛选出水稻图像中是否存在杂草。
图像传感器由远程终端控制执行拍摄以及传送图片的操作,或者对图像传感器设置时钟,将三个图像传感器的拍摄时钟进行同步,实现同频率拍摄以及传送图像的操作。图像分割模块3采用最大类间方差法,执行以下操作:记GT框内水稻图像中的水稻特征值为S1、背景特征值为S2,通过分析水稻S1和背景S2两类图像在RGB色彩空间中R、G、B色彩特征值的分布频率,在rgb色彩空间中r、g、b色彩特征值的分布频率,筛选出具有明显双峰特征的g、a*、b*和S色彩特征构成的多维色彩空间中,采用支持向量机学习算法获得分隔水稻和背景像元的优化超平面Z,计算水稻冠层图像中每一像元的Z值,并用最大类间方差法计算分割阈值Z,从而实现水稻冠层图像分割。
在具体实施方式中,图像识别模块2使用VGG16作为主干网络,为了实现多尺度融合,需要将不同层的特征图提取出来进行判断。使用Conv4_3、Conv7、Conv8_2、Conv9_2、Conv10_2和Conv11_2的特征图来进行多尺度融合。每层特征图分别经过3*3的卷积,得到2个tensor,分别用于进行坐标预测和类别置信度预测。其中,用于坐标预测的通道数是(num_anchor*4),num_anchor表示该特征图每个位置对应的锚点框数量,4表示(x_min,y_min,x_max,y_max),分别对应锚点框的四个顶点坐标;用于类别置信度预测的通道数是(num_anchor*num_classes),num_classes表示类别的数量(包含背景),对于VOC来说,num_classes=21,20个类别加上1个背景。另外,在对Conv4_3层的特征图使用L2归一化后,再进行3*3的卷积,这样做的目的是,防止此层特征图的值过大,利于收敛。
每个特征图对应的锚点框均不相同,即锚点框会根据特征图的尺寸发生变化。例如,Conv4_3的锚点框和Conv7的锚点框的尺寸是不一样的。假定使用m张特征图进行预测判断,每张特征图的锚点框大小,可以通过下式进行计算:
其中,smin=0.1,smax=0.6,分别表示Conv4_3特征图的锚点框尺寸为0.1,Conv11_2特征图的锚点框尺寸为0.6。锚点框的大小即为面积,通过对不同特征图设置不同的锚点框,有利于检测不同尺寸的物体,大特征图可检测小物体,小特征图可以检测大物体。当设定了锚点框后,就需要制定其匹配规则,即制定哪些锚点框用于回归GT框和预测类别。首先,为每个GT框匹配一个与其IOU(Intersection over Union,准确度)最高的先验锚点框,保证了每个GT框都有对应的锚点框,来预测GT框;其次,当GT框与先验锚点框的IOU大于阈值(0.5)时,也指定该锚点框用来预测该GT框。当然,若锚点框A与多个GT框的IOU都大于阈值,则该锚点框A选择与其IOU最大的GT框,GT框中的对象包含水稻冠层。
在具体实施例中,随机改变亮度子单元以probability=0.5的随机概率,随机对图像每个像素添加一个值,该添加值是从[-delat,delta]中随机选取的,默认的delta值是32。
随机改变亮度子单元对亮度(Brightness)调整后,进行对比度、色相和饱和度的随机变换,其顺序是随机的。有两种选择,首先对比度处理,然后色相和饱和度;或者首先色相和饱和度处理,然后对比度处理。每种选择都是随机的,probability=0.5。对比度是在RGB空间处理,色相和饱和度是在HSV空间处理。因此,在进行每一步操作前需要先作对应的颜色空间转换。对比度、色相和饱和度的调整类似于亮度调整,都是按照probability=0.5随机进行,通过随机在一个上界和下界区间内选择形变的值。
在具体实施例中,光度变形单元还包括随机光照噪声子单元,颜色变换定义包括六种方式:(0,1,2)、(0,2,1)、(1,0,2)、(1,2,0)、(2,0,1)、(2,1,0)。对于RGB图像,颜色变换为(0,2,1),则交换green和blue通道,保持red通道不变。
随机裁剪子单元是对展开图像得到的图像裁剪出其中的一部分图像块,并确保该图像块至少一个真实值有重叠,至少一个真实值的中心(centroid)位于该图像块中。这样就可以避免不包含明显的前景目标的图像块不用于图像识别网络训练(只有包含明显的前景目标的图像块采用于网络训练)。同时,保证只有部分前景目标可见的图片用于网络训练。
在一个图像批次中,每张图片的GT框数量是不等的,因此,需要定义一个函数来处理这种情况。辅助处理子模块就是用于处理这种情况,使得一张图片能对应一个列表清单,这里列表清单里面有所有GT框的信息组成,方便后续调取数据。
本发明实施例中,先通过图像识别模块2对水稻图像进行数据增强,然后对图片进行光度变形,包含改变对比度、改变饱和度、改变色调、改变亮度和增加噪声等,接着对图片进行扩张和裁剪等。在此操作中,会涉及到GT框坐标的变换。最后,当上述变化处理完后,对GT框坐标归一化、和resize图片、减去均值等操作,识别出水稻图像中的目标信息,再通过筛选出具有明显双峰特征的g、a*、b*和S色彩特征构成的多维色彩空间中采用支持向量机学习算法获得分隔水稻和背景像元的优化超平面Z,计算水稻冠层图像中每一像元的Z值,并用最大类间方差法计算分割阈值Z,从而实现水稻冠层图像分割,达到较好的分割效果。同时,先通过图像识别模块2对水稻图像进行GT框框选处理,实现了速度快且精度不低的一轮目标检测,然后再对GT框内的水稻图像进行分割,减少了分割图像的计算量,有效平衡了计算资源消耗和处理速度之间的关系,提高了处理效率。
作为可选的实施方式,标准化色彩参数r、g、b分别为:
其中,R、G、B为三基色,黑色表示为(0,0,0),白色表示为(255,255,255)。
在本实施例中,RGB色彩模式中,彩色图像中每一像元的颜色由R、G、B三基色构成,为了提高彩色图像中每一像元的色彩辨识度,常对R、G、B值进行归一化处理,得到标准化色彩参数r、g、b。
作为可选的实施方式,根据水稻图像的RGB色彩计算CIE X、Y、Z三基元以及L*、a*、b*色彩参数:
其中,
在本实施例中,CIE L*a*b*色彩空间是CIE组织确定的一个理论上包括了人眼可见的所有色彩模式,包含3个色彩维度:颜色的亮度L*,L*=0表示黑色,L*=100表示白色;红/绿色彩通道的位置a*,a*取负值指示绿色而取正值指示红色;黄/蓝色彩通道的位置b*,b*取负值指示蓝色而取正值指示黄色。a*和b*色彩参数与水稻叶片的氮素含量显著相关,在室外绿色植物图像分割中具有较好的光强稳健性。其中,n和t均为大于0的实数。
作为可选的实施方式,根据标准化色彩参数r、g、b获取H、S、V色彩参数,包括:
由R、G、B三基色转换为三个变量X1、Y1和Z1:
由三个变量X1、Y1和Z1转化为H、S、V色彩参数:
V=X1
在本实施例中,HSV色彩模式由色调H、饱和度S和明度V三个色彩参数构成,被认为更接近与人体视觉感知,可由RGB值计算所得。
作为可选的实施方式,根据标准化色彩特征g、a*色彩参数、b*色彩参数和S色彩参数获取分割超平面Z,包括:
采用线性SVM计算分类超平面Z:
Z=0.421g+0.753a*+0.152b*+0.051S+0.085。
在本实施例中,为进一步提高水稻像元和背景像元的色彩辨识度,采用线性支持向量机(SVM)学习算法在g、a*色彩参数、b*色彩参数和S色彩参数构成的多维色彩空间中寻求将水稻像元和背景像元精确分割的优化分类超平面,用Z表示。
采用线性SVM和最大类间方差法相结合的水稻冠层图像分割方法,具有较高的分割精度和光强稳健性,可以在田间多变光照条件下达到9%以内的分割误差效果。
作为可选的实施方式,图像分割模块3还包括:轮廓跟踪单元,用于获取水稻图像中的所有轮廓的坐标点序列作为轮廓链码;凹点检测单元,其输入端与轮廓跟踪单元的输出端连接;凹点检测单元执行以下操作:
步骤一,任意选择轮廓线上的一点作为初始点;
步骤二,连接初始点与轮廓线上顺时针方向的第i个临近点,构成一条第一线段,判断第一线段上所有像素点的灰度值,根据灰度值分析这些像素点属于背景还是杂草;
步骤三,若第一线段上背景像素个数占第一线段上像素总数的比例小于预设值,则判定初始点和第i个临近点之间不存在凹点;i为大于25的整数;
若第一线段上背景像素点个数占第一线段上像素总数的比例大于预设值,则判定初始点和第i个临近点之间存在凹点;预设值范围为50%-90%;
步骤四,对初始点和第i个临近点分别连接与其前面临近的第6个点和后面临近的第6个点,形成第二线段作为虚拟局部弦;分别计算这i个像素点与之对应的虚拟局部弦的距离,获取距离最大的点A,并且保证虚拟局部弦的中点在背景中,则将点A判定为一个凹点。
在本实施例中,初始点和临近点都是在轮廓链码上的取点。由于水稻叶片呈现长条形,背景中浮萍呈现近圆形,这两种织物形状都是凸性的,因此水稻叶片与浮萍的交点必定是凹点,所以可以运用凹点检测原理检测到交叠处的凹点。在具体实施例中,对于小于25个像素的轮廓线,不予进行检测其凹点,因为在水稻冠层图像中小于25个像素的轮廓线可以认为是水稻叶片之间相互交叠形成的孔洞,这种情况不予考虑。
作为可选的实施方式,图像分割模块3还包括:杂草识别单元,其输入端与凹点检测单元的输出端连接;杂草识别单元执行以下操作:
步骤一、获取轮廓线的参数大小;对轮廓线进行凹点检测以及Hough变换,获取轮廓线上的凹点和能组成圆弧的轮廓点;其中,若以第一圆心为中心、边长为r/2的正方形内的80%像素点是目标像素,则判定第一圆心为中心的圆弧属于杂草的轮廓线;
步骤二、确定圆附近的两个有效凹点;其中,有效凹点为圆附近曲率最大的两个凹点;
步骤三、将两个有效凹点连成一条直线,将在直线一侧并且在圆内的像素点设置为背景,得到水稻叶片图像。
作为可选的实施方式,对轮廓线进行Hough变换,包括以下步骤:
步骤a、在水稻图像中取一个基准点(Xb,Yb),以基准点为圆心、Rmax为外半径、Rmin为内半径投影到参数空间,得到坐标点集合Fb;将所坐标点集合Fb保存到名称为base union的内存区域中;
步骤b、遍历水稻图像全部像素点,当遍历到第一个边缘点(x1,y1)时,把所坐标点集合Fb中的所有元素分别加上x方向与y方向的偏移量x1-xb、y1-yb,从而得到新的坐标点集合F1;在参数空间中,累加集合F1中的所有元素对应第一累加值;
步骤c、重复步骤b,计算出Fj,2≤j≤N(N为实数);累加Fj中的所有元素对应的第二累加值,直至遍历到所有边缘点;
步骤d、在参数空间中找出第二累加值的极大值;极大值在参数空间中的坐标值即为第一圆心。
在本实施例中,水稻叶片和杂草在曲率上有很大差异,为了消除叶片轮廓上的点对结果的影响,本发明实施例采用计算曲率的方法进行排除,曲率大于某一阈值的点,才会被列入hough变换检测的对象,否则不进行处理。
虽然结合附图描述了本发明的实施例,但是本领域技术人员可以在不脱离本发明的精神和范围的情况下作出各种修改和变型,这样的修改和变型均落入由所附权利要求所限定的范围之内。
Claims (5)
1.一种水稻图像信息处理系统,其特征在于,包括:
至少三个图像采集模块,固定在水稻田的至少三个方向边缘区域,以预设频率对所述水稻田进行图像采集,获取同一时间的至少三幅水稻图像;
图像识别模块,与所述至少三个图像采集模块通过网络连接,对所述水稻图像中的水稻冠层信息和背景信息进行识别;
图像分割模块,与所述图像识别模块通过网络连接,所述图像分割模块对所述水稻图像进行分割处理;
网络模型数据库,与数字图像分割模块通过网络连接;所述网络模型数据库对经过分割处理后的所述水稻图像进行模型匹配分析;
其中,所述图像识别模块包括数据读取子模块、GT框获取子模块、数据增强子模块和辅助处理子模块;
所述数据读取子模块采用VOCDetection函数,通过参数和固定文件夹路径读取所述水稻图像文件;
所述GT框获取子模块对所述水稻图像文件中的目标水稻坐标信息进行框选,获得GT框;
所述数据增强子模块还包括光度变形单元和几何变换单元;所述光度变形单元包括随机改变亮度子单元、随机改变对比度子单元、变换颜色空间子单元、随机改变饱和度子单元、随机改变色调子单元、随机变换通道子单元;所述几何变换单元包括随机扩张子单元、随机裁剪子单元和随机镜像子单元;
所述随机改变亮度子单元在所述水稻图像的像素上增加第一实数,所述第一实数范围为[-32,32];
所述随机改变对比度子单元在所述水稻图像的像素上乘第一系数,所述第一系数的范围为[0.5,1.5];
所述变换颜色空间子单元对所述水稻图像的颜色空间在RGB和HSV之间进行互换;
所述随机改变饱和度子单元对所述水稻图像的HSV颜色空间中的S维度上乘第二系数,所述第二系数为实数,且范围为[0.5,1.5];
所述随机改变色调子单元对所述水稻图像的HSV颜色空间中的H维度随机加第二实数,所述第二实数的范围为[-18.8,18.0];
所述随机变换通道子单元对所述水稻图像的RGB通道顺序进行随机变换;
所述随机扩张子单元对所述水稻图像的高和宽乘以一个ratio系数,获得扩张水稻图像,所述随机扩张子单元将原始的所述水稻图像放置在所述扩张水稻图像的右下角,将所述扩张水稻图像的其他位置像素值使用均值填充,相应的所述GT框也进行移动;
所述随机裁剪子单元对原始水稻图像进行随机矩形裁剪,裁剪区域包含所述GT框中心点,将原始的所述水稻图像的所述GT框转换到裁剪区域的所述水稻图像中;
所述随机镜像子单元对所述水稻图像进行左右翻转处理;
所述辅助处理子模块对所述GT框信息进行列表整合处理;
所述图像分割模块对所述水稻图像进行归一化处理,得到标准化色彩参数r、g、b;
对所述标准化色彩参数r、g、b进行CIE L*a*b*色彩转化,获取CIE X、Y、Z三基元和L*、a*、b*色彩参数;
根据所述标准化色彩参数r、g、b获取H、S、V色彩参数;
根据所述标准化色彩参数g、所述a*色彩参数、b*色彩参数和S色彩参数获取分割超平面Z;
所述图像分割模块还包括:杂草识别单元,其输入端与所述凹点检测单元的输出端连接;
所述杂草识别单元执行以下操作:
步骤一、获取所述轮廓线的参数大小;对所述轮廓线进行凹点检测以及Hough变换,获取所述轮廓线上的凹点和能组成圆弧的轮廓点;其中,若以第一圆心为中心、边长为r/2的正方形内的80%像素点是目标像素,则判定所述第一圆心为中心的圆弧属于杂草的轮廓线;
步骤二、确定所述杂草的轮廓线上的两个有效凹点;其中,所述有效凹点为所述圆附近曲率最大的两个凹点;
步骤三、将所述两个有效凹点连成一条直线,将在所述直线一侧并且在所述杂草的轮廓线内的像素点置为背景,得到水稻叶片图像;
对所述轮廓线进行Hough变换,包括以下步骤:
步骤a、在所述水稻图像中取一个基准点(Xb,Yb),以所述基准点为圆心、Rmax为外半径、Rmin为内半径投影到参数空间,得到坐标点集合Fb;将所述坐标点集合Fb保存到名称为baseunion的内存区域中;
步骤b、遍历所述水稻图像全部像素点,当遍历到第一个边缘点(x1,y1)时,把所述所坐标点集合Fb中的所有元素分别加上x方向与y方向的偏移量x1-xb、y1-yb,从而得到新的坐标点集合F1;在所述参数空间中,累加所述集合F1中的所有元素对应的第一累加值;
步骤c、重复所述步骤b,计算出Fj,累加所述Fj中的所有元素对应的第二累加值,直至遍历到所有边缘点;其中,2≤j≤N,N为实数;
步骤d、在所述参数空间中找出所述第二累加值的极大值;所述极大值在所述参数空间中的坐标值即为所述第一圆心。
5.根据权利要求4所述的水稻图像信息处理系统,其特征在于,根据标准化色彩特征g、所述a*色彩参数、b*色彩参数和S色彩参数获取分割超平面Z,包括:
采用线性SVM计算分类所述超平面Z:
Z=0.421g+0.753a*+0.152b*+0.051S+0.085。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010139326 | 2020-03-03 | ||
CN2020101393268 | 2020-03-03 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111612797A CN111612797A (zh) | 2020-09-01 |
CN111612797B true CN111612797B (zh) | 2021-05-25 |
Family
ID=72198191
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010388101.6A Active CN111612797B (zh) | 2020-03-03 | 2020-05-09 | 一种水稻图像信息处理系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111612797B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112317363B (zh) * | 2020-10-15 | 2022-10-21 | 大数金科网络技术有限公司 | 一种工业产品智能检测系统及检测方法 |
CN113781503B (zh) * | 2021-09-14 | 2024-03-22 | 中铁工程装备集团有限公司 | 岩碴图像分割方法及装置 |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103778426A (zh) * | 2012-10-22 | 2014-05-07 | 内蒙古大学 | 绿色作物特征提取方法以及农情信息检测视觉系统 |
CN107808116A (zh) * | 2017-09-28 | 2018-03-16 | 中国科学院合肥物质科学研究院 | 一种基于深度多层特征融合学习的小麦麦蜘蛛检测方法 |
CN108537286A (zh) * | 2018-04-18 | 2018-09-14 | 北京航空航天大学 | 一种基于关键区域检测的复杂目标精准识别方法 |
CN108665450A (zh) * | 2018-04-28 | 2018-10-16 | 中国农业大学 | 一种玉米果穗机械损伤区域识别方法 |
CN109325495A (zh) * | 2018-09-21 | 2019-02-12 | 南京邮电大学 | 一种基于深度神经网络建模的作物图像分割系统及方法 |
CN109344821A (zh) * | 2018-08-30 | 2019-02-15 | 西安电子科技大学 | 基于特征融合和深度学习的小目标检测方法 |
CN109360206A (zh) * | 2018-09-08 | 2019-02-19 | 华中农业大学 | 基于深度学习的大田稻穗分割方法 |
CN109614973A (zh) * | 2018-11-22 | 2019-04-12 | 华南农业大学 | 水稻秧苗及苗期杂草图像语义分割方法、系统、设备和介质 |
CN109961024A (zh) * | 2019-03-08 | 2019-07-02 | 武汉大学 | 基于深度学习的小麦田间杂草检测方法 |
CN110060233A (zh) * | 2019-03-20 | 2019-07-26 | 中国农业机械化科学研究院 | 一种玉米果穗破损检测方法 |
CN110222696A (zh) * | 2019-04-16 | 2019-09-10 | 天津科技大学 | 一种利用GPCNNs和ELM进行植物叶片疾病识别的方法 |
CN110826556A (zh) * | 2019-10-15 | 2020-02-21 | 遂昌濠畅电子科技有限公司 | 改进深度学习的广谱农作物杂草识别与定位方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CA2977532A1 (en) * | 2015-03-06 | 2016-09-15 | Dana-Farber Cancer Institute, Inc. | Pd-l2 biomarkers predictive of pd-1 pathway inhibitor responses in esophagogastric cancers |
US10599926B2 (en) * | 2015-12-16 | 2020-03-24 | Regents Of The University Of Minnesota | Automated detection of nitrogen deficiency in crop |
-
2020
- 2020-05-09 CN CN202010388101.6A patent/CN111612797B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103778426A (zh) * | 2012-10-22 | 2014-05-07 | 内蒙古大学 | 绿色作物特征提取方法以及农情信息检测视觉系统 |
CN107808116A (zh) * | 2017-09-28 | 2018-03-16 | 中国科学院合肥物质科学研究院 | 一种基于深度多层特征融合学习的小麦麦蜘蛛检测方法 |
CN108537286A (zh) * | 2018-04-18 | 2018-09-14 | 北京航空航天大学 | 一种基于关键区域检测的复杂目标精准识别方法 |
CN108665450A (zh) * | 2018-04-28 | 2018-10-16 | 中国农业大学 | 一种玉米果穗机械损伤区域识别方法 |
CN109344821A (zh) * | 2018-08-30 | 2019-02-15 | 西安电子科技大学 | 基于特征融合和深度学习的小目标检测方法 |
CN109360206A (zh) * | 2018-09-08 | 2019-02-19 | 华中农业大学 | 基于深度学习的大田稻穗分割方法 |
CN109325495A (zh) * | 2018-09-21 | 2019-02-12 | 南京邮电大学 | 一种基于深度神经网络建模的作物图像分割系统及方法 |
CN109614973A (zh) * | 2018-11-22 | 2019-04-12 | 华南农业大学 | 水稻秧苗及苗期杂草图像语义分割方法、系统、设备和介质 |
CN109961024A (zh) * | 2019-03-08 | 2019-07-02 | 武汉大学 | 基于深度学习的小麦田间杂草检测方法 |
CN110060233A (zh) * | 2019-03-20 | 2019-07-26 | 中国农业机械化科学研究院 | 一种玉米果穗破损检测方法 |
CN110222696A (zh) * | 2019-04-16 | 2019-09-10 | 天津科技大学 | 一种利用GPCNNs和ELM进行植物叶片疾病识别的方法 |
CN110826556A (zh) * | 2019-10-15 | 2020-02-21 | 遂昌濠畅电子科技有限公司 | 改进深度学习的广谱农作物杂草识别与定位方法 |
Non-Patent Citations (2)
Title |
---|
基于深度学习的复杂背景下茶叶嫩芽检测算法;孙肖肖 等;《河北大学学报(自然科学版)》;20190325(第2019年02期);第211-216页 * |
支持向量机和最大类间方差法结合的水稻冠层图像分割方法;黄巧义 等;《中国农业科技导报》;20190415(第2019年04期);第52-60页 * |
Also Published As
Publication number | Publication date |
---|---|
CN111612797A (zh) | 2020-09-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105718945B (zh) | 基于分水岭和神经网络的苹果采摘机器人夜间图像识别方法 | |
Bulanon et al. | Development of a real-time machine vision system for the apple harvesting robot | |
CN111753577B (zh) | 自动采摘机器人中的苹果识别与定位方法 | |
CN102214306B (zh) | 叶片病斑识别方法及装置 | |
CN108319973A (zh) | 一种树上柑橘果实检测方法 | |
CN111259925B (zh) | 基于k均值聚类和宽度突变算法的田间麦穗计数方法 | |
CN101443791A (zh) | 在数字图像中实现改进的前景/背景分离 | |
CN112819094A (zh) | 一种基于结构相似度度量的目标检测与识别方法 | |
CN107705254B (zh) | 一种基于街景图的城市环境评估方法 | |
Chen et al. | A novel color edge detection algorithm in RGB color space | |
CN109584258B (zh) | 草地边界识别方法及应用其的智能割草装置 | |
CN114359323B (zh) | 一种基于视觉注意机制的图像目标区域检测方法 | |
CN112101260B (zh) | 一种作业人员安全带识别方法、装置、设备和存储介质 | |
CN113255434B (zh) | 一种融合果实特征与深度卷积神经网络的苹果识别方法 | |
CN111612797B (zh) | 一种水稻图像信息处理系统 | |
CN112257702A (zh) | 一种基于增量学习的农作物病害识别方法 | |
CN111275652A (zh) | 一种去除城市遥感图像中雾霾的方法 | |
US7528991B2 (en) | Method of generating a mask image of membership of single pixels to certain chromaticity classes and of adaptive improvement of a color image | |
CN115100240A (zh) | 视频中的物体追踪方法及装置、电子设备、存储介质 | |
CN108711160B (zh) | 一种基于hsi增强性模型的目标分割方法 | |
CN118195980A (zh) | 一种基于灰度变换的暗部细节增强方法 | |
CN115049689A (zh) | 一种基于轮廓检测技术的乒乓球识别方法 | |
CN114842240A (zh) | 融合ghost模块和注意力机制的MobileNetV2农作物叶片图像分类方法 | |
CN112489049A (zh) | 基于超像素和svm的成熟番茄果实的分割方法及系统 | |
CN111079530A (zh) | 一种成熟草莓识别的方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |