Nothing Special   »   [go: up one dir, main page]

CN102024156B - 彩色人脸图像中的唇部区域定位方法 - Google Patents

彩色人脸图像中的唇部区域定位方法 Download PDF

Info

Publication number
CN102024156B
CN102024156B CN201010547072XA CN201010547072A CN102024156B CN 102024156 B CN102024156 B CN 102024156B CN 201010547072X A CN201010547072X A CN 201010547072XA CN 201010547072 A CN201010547072 A CN 201010547072A CN 102024156 B CN102024156 B CN 102024156B
Authority
CN
China
Prior art keywords
region
lip
image
value
segresult
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201010547072XA
Other languages
English (en)
Other versions
CN102024156A (zh
Inventor
唐朝京
张权
赵晖
刘俭
刘星彤
李皓
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
National University of Defense Technology
Original Assignee
National University of Defense Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by National University of Defense Technology filed Critical National University of Defense Technology
Priority to CN201010547072XA priority Critical patent/CN102024156B/zh
Publication of CN102024156A publication Critical patent/CN102024156A/zh
Application granted granted Critical
Publication of CN102024156B publication Critical patent/CN102024156B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明提供一种彩色人脸图像中的唇部区域定位方法,技术方案包含两个步骤:唇部区域粗定位阶段和唇部区域精确定位阶段。在唇部区域粗定位阶段,将输入的彩色人脸图像利用平行线投影分割技术和肤色检测技术同时进行两种处理,并把得到的结果进行或运算,得到唇部区域粗定位结果。在唇部区域精确定位阶段,在粗定位结果中的唇部边缘特征点周围构建窄带区域,然后利用闭式解分割技术对窄带区域进行纹理分割,最后将主动形状模型的特征模板与纹理分割结果进行匹配,通过一系列迭代过程,输出唇部区域精确定位结果。利用本发明能够在图像含有噪声的情况下仍然实现唇部区域的精确定位。

Description

彩色人脸图像中的唇部区域定位方法
技术领域
本发明属于数字图像处理领域,涉及一种人脸图像中唇部区域的定位方法。
背景技术
人脸图像中唇部区域的提取与精确定位在人脸识别、语音动画合成、多模式人机交互、虚拟主持人等方面有着重要的应用。在图像的传输和存储过程中,经常会受到散粒噪声、光电子噪声、热噪声等各种噪声的干扰,极大地降低了图像的质量,妨碍了唇部区域的精确定位。因此,如何在人脸图像,特别是含有噪声的人脸图像中对唇部区域进行精确定位,是一个亟待解决的问题。
唇部区域是人脸中特征十分突出的部位之一。早期的唇部区域定位的方法是针对灰度图像采用阈值分割的方法,即单纯地利用图像的一维灰度直方图或二维灰度直方图,根据灰度信息分割人脸图像,然后对唇部区域进行检测与定位。由于唇部区域和人脸肤色的灰度信息差别较小,这种定位方法不能达到很高的精度。
唇部区域的唇色相对于人脸肤色的颜色较红,因而许多方法着眼于利用人脸图像中彩色信息实现唇部区域的检测和定位。已有的方法是对彩色图像进行色彩空间变换,从RGB(Red-Green-Blue,简称红绿蓝)空间转换到                                               
Figure 201010547072X100002DEST_PATH_IMAGE002
(Luminance-Chroma简称亮度-色度)空间,选取其中区分肤色和唇色比较明显的一个或多个分量进行唇部区域检测和定位,定位时采用线性判别限制一定颜色范围为唇色。这种定位方法过于粗糙,容易受到噪声和不同光照条件的影响。
另外,一些研究人员提出了自动轮廓模型、可变形模型和主动形状模型来实现唇部区域的定位。但这些方法存在人工痕迹明显,定位不精确的缺点。一些人提出了多级、由粗到细的唇部特征提取策略,这种方法在检测到大致人脸区域的基础上,利用人脸构造的先验知识、面部灰度分布特性粗略地估计唇部特征点,再借助于给出模板的初始参数,实现精确的唇部区域定位。然而,这种方法需要事先训练较多的初始特征参数,在图像噪声较大的情况下,不能保证初始特征参数的正确性,因而影响唇部区域的精确定位结果。
发明内容
本发明提供一种彩色人脸图像中的唇部区域定位方法,能够在图像含有噪声的情况下仍然实现唇部区域的精确定位。
本发明的技术方案包含两个步骤:唇部区域粗定位阶段和唇部区域精确定位阶段。在唇部区域粗定位阶段,一种处理步骤是将输入的彩色人脸图像转换为灰度图像,并用平行线投影分割技术对灰度图像进行分割;另一种处理步骤是将输入的彩色人脸图像利用肤色检测技术进行检测,并将检测结果二值化;最后,将上述两种处理步骤得到的结果进行或运算,得到唇部区域粗定位结果。在唇部区域精确定位阶段,在粗定位结果中的唇部边缘特征点周围构建窄带区域,然后利用闭式解分割技术对窄带区域进行纹理分割,最后将主动形状模型的特征模板与纹理分割结果进行匹配,通过一系列迭代过程,输出唇部区域精确定位结果。
本发明的具体实施步骤是:
第一步,唇部区域粗定位阶段。
设输入彩色人脸图像为FaceImage,对该彩色图像同时进行下述两种处理:
第一种处理,转换为灰度图像并进行分割,包括:
第(1)步,将彩色人脸图像FaceImage转换为灰度人脸图像
Figure 201010547072X100002DEST_PATH_IMAGE004
,灰度级取值范围为从0到L。其中,L为整数,并且L的取值范围为[128,512]。
第(2)步,用平行线投影分割方法对灰度人脸图像
Figure 407376DEST_PATH_IMAGE004
进行分割,得到图像
Figure 262199DEST_PATH_IMAGE004
的二值分割结果,记为图像SegResult1,二值的取值为0和1。
第二种处理,肤色检测并进行二值化分割,包括:
第(1)步,肤色检测。
将彩色人脸图像FaceImage的各像素值在
Figure 976690DEST_PATH_IMAGE002
 (Luminance-Chrom,称亮度-色度)彩色空间表示,设坐标为
Figure DEST_PATH_IMAGE006
的像素,亮度值是,蓝色色度是
Figure DEST_PATH_IMAGE010
,红色色度是
Figure DEST_PATH_IMAGE012
。在彩色人脸图像的唇部区域中,
Figure DEST_PATH_IMAGE014
的强度远高于
Figure DEST_PATH_IMAGE016
的强度。肤色检测计算公式为:
Figure DEST_PATH_IMAGE018
            (公式一)
      
Figure DEST_PATH_IMAGE020
                       (公式二)
利用肤色检测计算公式得到灰度图像
Figure DEST_PATH_IMAGE022
,灰度图像
Figure 997998DEST_PATH_IMAGE022
中坐标为的像素对应的灰度值是
Figure DEST_PATH_IMAGE024
第(2)步,二值化分割。
用模糊C-均值聚类算法对灰度图像
Figure 513128DEST_PATH_IMAGE022
进行二值化分割,得到二值分割结果,记为图像SegResult2,二值的取值为0和1。
将第一种处理得到的结果SegResult1和第二种处理得到的结果SegResult2进行或运算,得到唇部区域粗定位结果SegResulta。SegResulta为二值图像,对应取值是1的区域称为目标区,即为唇部区域。
第二步,唇部区域精确定位阶段。
本步骤输入唇部区域粗定位结果SegResulta,输出唇部区域精确定位结果SegResultb
第[1]步,利用主动形状模型 (Active Shape Model,简称ASM)方法训练已知唇部区域的图像(将已知唇部区域的图像的集合称为训练集),得到基于训练集的特征模板,该特征模板为一个唇部区域的像素点集。
第[2]步,构建窄带区域。
利用边缘提取方法提取二值图像SegResulta中目标区的边缘点,将提取的边缘点作为特征点,利用提取出的特征点构建窄带区域,具体构建方法见“具体实施方式”中引用的文章。
第[3]步,闭式解分割。
对窄带区域
Figure 717845DEST_PATH_IMAGE026
做闭式解分割,通过最小化代价函数,得到最优分割结果。其具体过程描述为:假设窄带区域
Figure 854428DEST_PATH_IMAGE026
的任意一个像素点
Figure DEST_PATH_IMAGE028
在灰度人脸图像
Figure 460990DEST_PATH_IMAGE004
中对应相同位置像素点的灰度值
Figure DEST_PATH_IMAGE030
Figure 329720DEST_PATH_IMAGE028
为窄带区域
Figure 84049DEST_PATH_IMAGE026
的像素点序列号)都由目标值和背景值
Figure DEST_PATH_IMAGE034
按照比例组成,决定目标值
Figure 696427DEST_PATH_IMAGE032
所占比例的比例参数为
Figure DEST_PATH_IMAGE036
,则
Figure DEST_PATH_IMAGE038
                           (公式四)
Figure DEST_PATH_IMAGE042
                          (公式五)
其中
Figure DEST_PATH_IMAGE044
Figure DEST_PATH_IMAGE048
代表像素点
Figure 905298DEST_PATH_IMAGE028
周围一个
Figure DEST_PATH_IMAGE050
的窗函数,通过拉格朗日法寻找不同的
Figure 272826DEST_PATH_IMAGE036
Figure DEST_PATH_IMAGE052
Figure DEST_PATH_IMAGE054
,使得代价函数最小化,
Figure DEST_PATH_IMAGE058
                 (公式六)
设当上述代价函数
Figure 279832DEST_PATH_IMAGE056
取最小值时对应的比例参数
Figure 492639DEST_PATH_IMAGE036
的取值为
Figure DEST_PATH_IMAGE060
。当
Figure DEST_PATH_IMAGE062
时,判断像素点
Figure 949159DEST_PATH_IMAGE028
为目标点,当
Figure DEST_PATH_IMAGE064
时,判断像素点
Figure 222008DEST_PATH_IMAGE028
为背景点,所有被判断为目标点的像素点构成了一个目标模板。
第[4]步,主动形状模型特征模板匹配。
Figure DEST_PATH_IMAGE066
为目标模板,
Figure DEST_PATH_IMAGE068
为特征模板,将目标模板和特征模板进行匹配:
当 
Figure DEST_PATH_IMAGE070
,目标模板所对应的相同坐标的像素点即对应彩色人脸图像FaceImage的唇部区域SegResultb;否则,令
Figure 761050DEST_PATH_IMAGE066
 为二值图像SegResulta中的目标区,返回第[2]步。
本发明的有益效果:在唇部区域粗定位过程中,平行线投影分割方法能够有效避免噪声的影响,但该方法对唇部区域的边界不敏感。肤色检测技术能够利用颜色信息精确地检测出无噪声人脸图像中的唇部区域,但检测结果容易受到噪声的干扰,稳定性差。因此,唇部区域的粗定位过程集合了这两种方法的优点,最大程度地避免了噪声对分割结果的影响,确定了唇部区域的大致范围。在唇部区域精确定位过程中,通过构建窄带区域,使得分割区域减小,减少了闭式解分割技术的计算量,提高了计算精度,减少了计算时间。另外,将闭式解分割技术有效地融入到主动形状模型中,改善了传统主动形状模型技术中对平滑区域特征点收敛不精确的问题,这样做的优势在于:闭式解分割技术对平滑图像分割较为精确,因此可用该方法分割出图像中的平滑区域,即人脸区域,使得目标人脸像素保留,而背景像素为零,这样可使平滑部分边缘突变,更有利于唇部区域定位的匹配计算。利用主动形状模型特征模板进行循环匹配,直到满足匹配条件,进一步提高了唇部区域的定位精度结果。
附图说明
图1是本发明提供的彩色人脸图像唇部区域定位流程示意图;
图2是利用本发明进行仿真实验的结果实例1;
图3是利用本发明进行仿真实验的结果实例2;
图4是利用本发明进行仿真实验的结果实例3。
具体实施方式
下面结合附图对本发明进行详细说明。
图1是本发明提供的彩色人脸图像唇部区域定位流程示意图。如图1所示,包含两个步骤:第一步,唇部区域粗定位阶段;第二步,唇部区域精确定位阶段。在第一步的唇部区域粗定位阶段,输入的彩色人脸图像FaceImage,首先转换为灰度图像,并用平行线投影分割方法对灰度图像进行分割,得到二值分割结果SegResult1,其中平行线投影分割方法参见工学博士论文《真实感汉语可视语音合成关键技术研究》,国防科技大学,2010年1月,作者:赵晖;同时,对输入的彩色图像进行肤色检测,并实施二值化分割, 得到二值分割结果SegResult2;最后,将上述得到的结果SegResult1和SegResult2进行或运算,得到唇部区域粗定位结果SegResulta。在唇部区域精确定位阶段,首先利用主动形状模型方法训练图像,得到特征模板,具体实现方法参见论文《Multi-resolution search with active shape models》,Proceedings of International Conference on Pattern Recognition,1994, 1:610-612,作者:Cootes T F, Taylor C J;然后利用唇部区域的粗定位结果SegResulta构建窄带区域,窄带区域构建方法参见论文《改进的多模板ASM人脸面部特征定位算法》,计算机辅助设计与图形学学报,2010,10:1762-1768,作者:李皓、谢琛、唐朝京,然后利用闭式解分割技术对窄带区域进行分割,构建目标模板,将特征模板与目标模板进行匹配,通过一系列迭代过程,输出唇部区域精确定位结果SegResultb,其中用到的匹配方法参见论文《改进的多模板ASM人脸面部特征定位算法》,计算机辅助设计与图形学学报,2010,10:1762-1768,作者:李皓、谢琛、唐朝京。
图2~图4是利用本发明进行仿真实验的结果。仿真实验采用软件matlab7.6编程实现,计算机的处理器为双核Athlon CPU 2.29GHz,内存2.00G。选取300幅已知唇部区域的彩色人脸图像作为训练集,对200幅无噪声的彩色人脸图像和300幅含噪声的彩色人脸图像利用本发明进行唇部区域定位,这些图像的人脸全部正对屏幕。每幅图像处理的平均时间为0.17秒。随机选取其中的三幅图像及处理结果,如图5、图6和图7所示。图5(a)为含高斯噪声
Figure DEST_PATH_IMAGE072
的彩色人脸图像;(b)为唇部区域粗定位结果;(c)为唇部区域精确定位结果。图6(a)为含泊松噪声的彩色人脸图像;(b)为唇部区域粗定位结果;(c)为唇部区域精确定位结果。图7(a)为含椒盐噪声的彩色人脸图像;(b)为唇部区域粗定位结果;(c)为唇部区域精确定位结果。以上三幅图中,(b)和(c)中均利用红色曲线标识出唇部区域的轮廓。从图中可以看出,本发明提供的唇部区域定位方法具有较高的定位精度和较强的抗噪声能力。

Claims (2)

1.一种彩色人脸图像中的唇部区域定位方法,其特征在于包括下述步骤:
第一步,唇部区域粗定位阶段;
设输入彩色人脸图像为FaceImage,对该彩色人脸图像同时进行下述两种处理:
第一种处理,转换为灰度图像并进行分割,包括:
第(1)步,将彩色人脸图像FaceImage转换为灰度人脸图像f,灰度级取值范围为从0到L;其中,L为整数;
第(2)步,用平行线投影分割方法对灰度人脸图像f进行分割,得到图像f的二值分割结果,记为图像SegResult1,二值的取值为0和1;
第二种处理,肤色检测并进行二值化分割,包括:
第(1)步,肤色检测;
将彩色人脸图像FaceImage的各像素值在亮度-色度彩色空间表示,设坐标为(x,y)的像素,亮度值是Y(x,y),蓝色色度是Cb(x,y),红色色度是Cr(x,y);
肤色检测计算公式为:
MouthMap(x,y)=Cr(x,y)2·(Cr(x,y)2-η·Cr(x,y)/Cb(x,y))2
η = 0.95 × Σ ( x , y ) ∈ FaceImage C r ( x , y ) 2 Σ ( x , y ) ∈ FaceImage C r ( x , y ) / C b ( x , y )
利用肤色检测计算公式得到灰度图像m,灰度图像m中坐标为(x,y)的像素对应的灰度值是MouthMap(x,y);
第(2)步,二值化分割;
用模糊C-均值聚类算法对灰度图像m进行二值化分割,得到二值分割结果,记为图像SegResult2,二值的取值为0和1;
将第一种处理得到的结果SegResult1和第二种处理得到的结果SegResult2进行或运算,得到唇部区域粗定位结果SegResulta;SegResulta为二值图像,对应取值是1的区域称为目标区;
第二步,唇部区域精确定位阶段;
第[1]步,利用主动形状模型方法训练已知唇部区域的图像,将已知唇部区域的图像的集合称为训练集,得到基于训练集的特征模板,该特征模板为一个唇部区域的像素点集;
第[2]步,构建窄带区域;
利用边缘提取方法提取二值图像SegResulta中目标区的边缘点,将提取的边缘点作为特征点,利用提取出的特征点构建窄带区域I;
第[3]步,闭式解分割;
对窄带区域I做闭式解分割,通过最小化代价函数,得到最优分割结果;其具体过程描述为:假设窄带区域I的任意一个像素点j在灰度人脸图像f中对应相同位置像素点的灰度值Ij,其中j为窄带区域I的像素点序列号,都由目标值Fj和背景值Bj按照比例组成,决定目标值Fj所占比例的比例参数为αj,则
Ij=αjFj+(1-αj)Bj
αj=ajIj+bj ∀ j ∈ W j
其中aj、bj是比例系数,并且aj=1/(Fj-Bj),bj=-Bj/(Fj-Bj),Wj代表像素点j周围一个3×3的窗函数,通过拉格朗日法寻找不同的αj、aj、bj,使得代价函数J(αj,aj,bj)最小化,
J ( α j , a j , b j ) = Σ j ∈ I ( Σ j ∈ W j ( α j - a j I j - b j ) 2 + 0.001 · a j 2 )
设当上述代价函数J(αj,aj,bj)取最小值时对应的比例参数αj的取值为αmin;当αmin≥0.5时,判断像素点j为目标点,当αmin<0.5时,判断像素点j为背景点,所有被判断为目标点的像素点构成了一个目标模板;
第[4]步,主动形状模型特征模板匹配;
设Al为目标模板,Ar为特征模板,将目标模板和特征模板进行匹配:
当Al∩Ar>Ar·75%,目标模板所对应的相同坐标的像素点即对应彩色人脸图像FaceImage的唇部区域SegResultb;否则,令Al为二值图像SegResulta中的目标区,返回第[2]步。
2.根据权利要求1所述的彩色人脸图像中的唇部区域定位方法,其特征在于,L的取值范围为[128,512]。
CN201010547072XA 2010-11-16 2010-11-16 彩色人脸图像中的唇部区域定位方法 Expired - Fee Related CN102024156B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201010547072XA CN102024156B (zh) 2010-11-16 2010-11-16 彩色人脸图像中的唇部区域定位方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201010547072XA CN102024156B (zh) 2010-11-16 2010-11-16 彩色人脸图像中的唇部区域定位方法

Publications (2)

Publication Number Publication Date
CN102024156A CN102024156A (zh) 2011-04-20
CN102024156B true CN102024156B (zh) 2012-07-04

Family

ID=43865436

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201010547072XA Expired - Fee Related CN102024156B (zh) 2010-11-16 2010-11-16 彩色人脸图像中的唇部区域定位方法

Country Status (1)

Country Link
CN (1) CN102024156B (zh)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101859149B (zh) * 2010-05-25 2012-07-04 无锡中星微电子有限公司 一种太阳能电池板角度自动调整的方法和太阳能电池系统
CN102495998B (zh) * 2011-11-10 2013-11-06 西安电子科技大学 基于视觉选择性注意计算模型的静态目标检测方法
CN102663348B (zh) * 2012-03-21 2013-10-16 中国人民解放军国防科学技术大学 一种光学遥感图像中的海上舰船检测方法
CN102799885B (zh) * 2012-07-16 2015-07-01 上海大学 嘴唇外轮廓提取方法
CN107506691B (zh) * 2017-10-19 2020-03-17 深圳市梦网百科信息技术有限公司 一种基于肤色检测的唇部定位方法和系统
CN110837757A (zh) * 2018-08-17 2020-02-25 北京京东尚科信息技术有限公司 人脸比例计算方法、系统、设备及存储介质
CN109190529B (zh) * 2018-08-21 2022-02-18 深圳市梦网视讯有限公司 一种基于唇部定位的人脸检测方法和系统
CN110428492B (zh) * 2019-07-05 2023-05-30 北京达佳互联信息技术有限公司 三维唇部重建方法、装置、电子设备及存储介质
CN111091081A (zh) * 2019-12-09 2020-05-01 武汉虹识技术有限公司 一种基于虹膜识别的红外补光调整方法及系统
CN113460067B (zh) * 2020-12-30 2023-06-23 安波福电子(苏州)有限公司 一种人车交互系统
CN113723385B (zh) * 2021-11-04 2022-05-17 新东方教育科技集团有限公司 视频处理方法及装置、神经网络的训练方法及装置
CN115035573A (zh) * 2022-05-27 2022-09-09 哈尔滨工程大学 一种基于融合策略的唇部分割方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN100452081C (zh) * 2007-06-01 2009-01-14 华南理工大学 一种人眼定位及人眼状态识别方法
CN101604446B (zh) * 2009-07-03 2011-08-31 清华大学深圳研究生院 用于疲劳检测的嘴唇图像分割方法及系统

Also Published As

Publication number Publication date
CN102024156A (zh) 2011-04-20

Similar Documents

Publication Publication Date Title
CN102024156B (zh) 彩色人脸图像中的唇部区域定位方法
CN103456010B (zh) 一种基于特征点定位的人脸卡通画生成方法
CN107844795B (zh) 基于主成分分析的卷积神经网络特征提取方法
CN101593272B (zh) 一种基于asm算法的人脸特征定位方法
CN103914699A (zh) 一种基于色彩空间的自动唇彩的图像增强的方法
CN104933738B (zh) 一种基于局部结构检测和对比度的视觉显著图生成方法
CN106709964B (zh) 基于梯度修正和多向纹理提取的素描画生成方法及装置
CN106951840A (zh) 一种人脸特征点检测方法
CN105719327A (zh) 一种艺术风格化图像处理方法
CN103177446A (zh) 基于邻域和非邻域平滑先验的图像前景精准提取方法
CN110288538A (zh) 一种多特征融合的运动目标阴影检测及消除方法
CN107146229B (zh) 基于元胞自动机模型的结肠息肉图像分割方法
CN102147867B (zh) 一种基于主体的国画图像和书法图像的识别方法
CN109740572A (zh) 一种基于局部彩色纹理特征的人脸活体检测方法
CN104658003A (zh) 舌体图像的分割方法和装置
CN107886558A (zh) 一种基于RealSense的人脸表情动画驱动方法
CN110210426A (zh) 基于注意力机制从单幅彩色图像进行手部姿态估计的方法
CN106529432A (zh) 一种深度融合显著性检测与先验知识的手部区域分割方法
CN109920018A (zh) 基于神经网络的黑白照片色彩恢复方法、装置及存储介质
CN102663762B (zh) 医学图像中对称器官的分割方法
CN112906550A (zh) 一种基于分水岭变换的静态手势识别方法
Guo et al. Multifeature extracting CNN with concatenation for image denoising
CN102184404A (zh) 掌纹图像中手掌区域的获取方法及装置
CN107992856A (zh) 城市场景下的高分遥感建筑物阴影检测方法
CN102930538A (zh) 高斯势与空间直方图融合的自适应图像分割方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
C17 Cessation of patent right
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20120704

Termination date: 20121116