CN109472817A - 一种基于循环生成对抗网络的多序列磁共振图像配准方法 - Google Patents
一种基于循环生成对抗网络的多序列磁共振图像配准方法 Download PDFInfo
- Publication number
- CN109472817A CN109472817A CN201811128381.6A CN201811128381A CN109472817A CN 109472817 A CN109472817 A CN 109472817A CN 201811128381 A CN201811128381 A CN 201811128381A CN 109472817 A CN109472817 A CN 109472817A
- Authority
- CN
- China
- Prior art keywords
- sequence
- magnetic resonance
- image
- transformation matrix
- original
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 32
- 230000000306 recurrent effect Effects 0.000 title 1
- 239000011159 matrix material Substances 0.000 claims abstract description 35
- 230000009466 transformation Effects 0.000 claims abstract description 35
- 238000005259 measurement Methods 0.000 claims abstract description 27
- 238000013507 mapping Methods 0.000 claims description 9
- 238000012549 training Methods 0.000 claims description 5
- 238000011524 similarity measure Methods 0.000 claims 7
- 125000004122 cyclic group Chemical group 0.000 claims 1
- 230000006870 function Effects 0.000 description 4
- 238000005481 NMR spectroscopy Methods 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000002194 synthesizing effect Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 238000004064 recycling Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10088—Magnetic resonance imaging [MRI]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Image Analysis (AREA)
- Magnetic Resonance Imaging Apparatus (AREA)
Abstract
一种基于循环生成对抗网络的多序列磁共振图像配准方法,包括以下步骤:1)对输入的序列1和序列2的磁共振原始图像,用CycleGAN进行训练,输出序列1和序列2的磁共振生成图像;2)对同序列的生成图像和原始图像进行单模态配准,计算变换矩阵及同序列两图之间的相似性度量;3)比较两个序列的相似性度量,选择对应策略,输出最终变换矩阵;4)使用最终变换矩阵对浮动图进行变换,获得最终的结果图。本发明对已配准样本的依赖较小,网络可训练性较高,抗干扰能力较强,配准精度较高。
Description
技术领域
本发明涉及一种多序列磁共振图像配准方法。
背景技术
磁共振图像在采集时所用加权像不同,导致不同序列的磁共振的图像表示不同,若直接对图像寻找特征,往往无法匹配到一致的特征。因此,在多序列核磁共振图像配准过程中寻找一致性的特征成为该类型配准的关键问题,即将不同序列的核磁共振图像转换成同一序列的图像,之后可使用单模态的图像配准方法进行配准。在传统的机器学习图像生成技术中,往往需要大量的已配准的数据进行训练,如基于结构化随机森林的图像生成技术。而引入生成对抗网络的方法来实现多序列磁共振图像之间相互转换能有效减少了对已匹配的多序列的数据的依赖,成为医学图像配准研究领域中比较热门的话题,如基于GAN的配准方法、基于条件GAN的配准方法及基于DCGAN的配准方法等。但这些方法在训练时很难保持两个子网络的平衡,易出现网络难以训练的问题。
存在的技术缺陷为:生成对抗网络可训练性较弱,抗干扰能力较弱。
发明内容
为了克服现有生成对抗网络在多序列磁共振图像的转换过程中抗干扰能力不足、易出现网络难以训练的问题,本发明提供了一种易于训练网络,抗干扰能力较强的结合循环生成对抗网络的转换方法进行多序列磁共振图像配准。
本发明解决其技术问题所采用的技术方案是:
一种基于循环生成对抗网络的多序列磁共振图像配准方法,包括如下步骤:
1)对输入的序列1和序列2的磁共振原始图像,用CycleGAN进行训练,输出序列1和序列2的磁共振生成图像;
2)对同序列的生成图像和原始图像进行单模态配准,计算变换矩阵及同序列两图之间的相似性度量,过程如下:
2.1)对序列1的原始图像X和生成图像X*,寻找两图的特征点及其映射关系,计算序列1磁共振图像的变换矩阵1;
2.2)计算生成图和原图的归一化互信息,作为序列1生成图和原图的相似性度量1;
2.3)采用与序列1相同的方法,计算序列2磁共振图像的变换矩阵2及生成图和原图的相似性度量2;
3)比较两个序列的相似性度量,选择对应策略,输出最终变换矩阵,过程如下:
3.1)设置相似度比较标准值,若相似性度量1和相似性度量2的差距小于该值,则两序列的相似性度量差距较小,反之较大;
3.2)若两序列的相似性度量差距较小,则计算变换矩阵1和变换矩阵2的均值作为最终变换矩阵并输出;
3.3)若两序列的相似性度量差距较大,则选取相似性度量更优的变换矩阵作为最终变换矩阵并输出。
4)使用最终变换矩阵对浮动图进行变换,获得最终的结果图。
进一步,所述步骤1)的过程如下:
1.1)将序列1的磁共振原始图像X输入生成器GXY,生成序列2的磁共振生成图像Y*;
1.2)将Y*与序列2的磁共振原始图像Y输入判别器DY,判断输入数据的真伪;
1.3)生成器GXY接受判别器DY的判别反馈,调整参数权值,生成新的Y*进行判别,直到判别器DY无法判别输入数据真伪性;
1.4)输出序列2的磁共振生成图像Y*;
1.5)序列1的磁共振生成图像X*获得方式与上述同理;
1.6)约束对两个子网络的训练进行平衡,使得不会出现损失消失的情况,损失函数用以下公式表示:
其中,Pdata(x)是真实样本的分布,Pdata(y)是合成样本的分布,F是生成器GXY的映射函数,G是生成器GYX的映射函数。
本发明的技术构思为:该方法针对获取的未匹配多序列磁共振图像在生成对抗网络中难以训练且易产生噪声点的应用场景。首先利用利用循环生成对抗网络增加的循环一致性约束,使网络在训练中不易出现损失消失等情况,使网络更容易被训练,生成精度较高的多序列磁共振生成图。为减小生成图像的误差点对配准过程的影响,增强配准结果的鲁棒性,对同序列的磁共振生成图像和原始图像进行单模态配准,获得两组变换矩阵和相似性度量,然后比较两序列生成图与原始图像之间的相似性度量,选择相应的加权策略,获得最终的输出矩阵。最后将该变换矩阵映射到原始图像中进行配准。
本发明的有益效果主要表现在:1、循环生成对抗网络可训练性较强,可生成精度较高的多序列磁共振图像;2、减小了生成图像的误差点对配准的影响,提高了配准结果的鲁棒性;3、提高了配准的精度。
附图说明
图1是一种基于循环生成对抗网络的多序列磁共振图像配准方法的流程图。
具体实施方式
下面结合附图对本发明作进一步描述。
参照图1,一种基于循环生成对抗网络的多序列磁共振图像配准方法,包括如下步骤:
1)将序列1和序列2的磁共振原始图像输入CycleGAN进行训练,输出序列1和序列2的磁共振生成图像;
2)对同序列的生成图像和原始图像进行单模态配准,计算变换矩阵及同序列两图之间的相似性度量,过程如下:
2.1)对序列1的原始图像X和生成图像X*,寻找两图的特征点及其映射关系,计算序列1磁共振图像的变换矩阵1;
2.2)计算生成图和原图的归一化互信息,作为序列1生成图和原图的相似性度量1;
2.3)采用与序列1相同的方法,计算序列2磁共振图像的变换矩阵2及生成图和原图的相似性度量2;
3)比较两个序列的相似性度量,选择对应策略,输出最终变换矩阵:
3.1)设置相似度比较标准值,若相似性度量1和相似性度量2的差距小于该值,则两序列的相似性度量差距较小,反之较大;
3.2)若两序列的相似性度量差距较小,则计算变换矩阵1和变换矩阵2的均值作为最终变换矩阵并输出;
3.3)若两序列的相似性度量差距较大,则选取相似性度量更优的变换矩阵作为最终变换矩阵并输出;
4)使用最终变换矩阵对浮动图进行变换,获得最终的结果图。
进一步,所述步骤1)的过程如下:
1.1)将序列1的磁共振原始图像X输入生成器GXY,生成序列2的磁共振生成图像Y*;
1.2)将Y*与序列2的磁共振原始图像Y输入判别器DY,判断输入数据的真伪;
1.3)生成器GXY接受判别器DY的判别反馈,调整参数权值,生成新的Y*进行判别,直到判别器DY无法判别输入数据真伪性;
1.4)输出序列2的磁共振生成图像Y*;
1.5)序列1的磁共振生成图像X*获得方式与上述同理;
1.6)约束对两个子网络的训练进行平衡,使得不会出现损失消失的情况,损失函数用以下公式表示:
其中,Pdata(x)是真实样本的分布,Pdata(y)是合成样本的分布,F是生成器GXY的映射函数,G是生成器GYX的映射函数。
Claims (2)
1.一种基于循环生成对抗网络的多序列磁共振图像配准方法,其特征在于,所述方法包括如下步骤:
1)对输入的序列1和序列2的磁共振原始图像,用CycleGAN进行训练,输出序列1和序列2的磁共振生成图像:
2)对同序列的生成图像和原始图像进行单模态配准,计算变换矩阵及同序列两图之间的相似性度量,过程如下:
2.1)对序列1的原始图像X和生成图像X*,寻找两图的特征点及其映射关系,计算序列1磁共振图像的变换矩阵1;
2.2)计算生成图和原图的归一化互信息,作为序列1生成图和原图的相似性度量1;
2.3)序列2磁共振图像的变换矩阵2及生成图和原图的相似性度量2计算方式同上。
3)比较两个序列的相似性度量,选择对应策略,输出最终变换矩阵,过程如下:
3.1)设置相似度比较标准值,若相似性度量1和相似性度量2的差距小于该值,则两序列的相似性度量差距较小,反之较大;
3.2)若两序列的相似性度量差距较小,则计算变换矩阵1和变换矩阵2的均值作为最终变换矩阵并输出;
3.3)若两序列的相似性度量差距较大,则选取相似性度量更优的变换矩阵作为最终变换矩阵并输出;
4)使用最终变换矩阵对浮动图进行变换,获得最终的结果图。
2.如权利要求1所述的一种基于循环生成对抗网络的多序列磁共振图像配准方法,其特征在于,所述步骤1)的过程如下:
1.1)将序列1的磁共振原始图像X输入生成器GXY,生成序列2的磁共振生成图像Y*;
1.2)将Y*与序列2的磁共振原始图像Y输入判别器DY,判断输入数据的真伪;
1.3)生成器GXY接受判别器DY的判别反馈,调整参数权值,生成新的Y*进行判别,直到判别器DY无法判别输入数据真伪性;
1.4)输出序列2的磁共振生成图像Y*;
1.5)序列1的磁共振生成图像X*获得方式与上述同理;
1.6)约束对两个子网络的训练进行平衡,使得不会出现损失消失的情况,损失函数用以下公式表示:
其中,Pdata(x)是真实样本的分布,Pdata(y)是合成样本的分布,F是生成器GXY的映射函数,G是生成器GYX的映射函数。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811128381.6A CN109472817B (zh) | 2018-09-27 | 2018-09-27 | 一种基于循环生成对抗网络的多序列磁共振图像配准方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811128381.6A CN109472817B (zh) | 2018-09-27 | 2018-09-27 | 一种基于循环生成对抗网络的多序列磁共振图像配准方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109472817A true CN109472817A (zh) | 2019-03-15 |
CN109472817B CN109472817B (zh) | 2021-08-03 |
Family
ID=65664683
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811128381.6A Active CN109472817B (zh) | 2018-09-27 | 2018-09-27 | 一种基于循环生成对抗网络的多序列磁共振图像配准方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109472817B (zh) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109978897A (zh) * | 2019-04-09 | 2019-07-05 | 中国矿业大学 | 一种多尺度生成对抗网络的异源遥感图像配准方法及装置 |
CN109978792A (zh) * | 2019-03-28 | 2019-07-05 | 厦门美图之家科技有限公司 | 一种生成图像增强模型的方法 |
CN110133643A (zh) * | 2019-05-22 | 2019-08-16 | 北京林业大学 | 植物根系探测方法及装置 |
CN110298871A (zh) * | 2019-06-10 | 2019-10-01 | 东软医疗系统股份有限公司 | 图像配准方法及装置 |
CN110444277A (zh) * | 2019-07-19 | 2019-11-12 | 重庆邮电大学 | 一种基于多生成多对抗的多模态脑部mri图像双向转换方法 |
CN110827331A (zh) * | 2019-11-04 | 2020-02-21 | 上海联影智能医疗科技有限公司 | 图像配准模型的训练方法、图像配准方法和计算机设备 |
CN110866888A (zh) * | 2019-11-14 | 2020-03-06 | 四川大学 | 基于潜在信息表征gan的多模态mri合成方法 |
CN114881848A (zh) * | 2022-07-01 | 2022-08-09 | 浙江柏视医疗科技有限公司 | 一种多序列mr转ct的方法 |
WO2024130705A1 (zh) * | 2022-12-23 | 2024-06-27 | 深圳华大生命科学研究院 | 一种图像配准方法、装置、设备和存储介质 |
CN118366624A (zh) * | 2024-06-19 | 2024-07-19 | 四川省肿瘤医院 | Nme-dwi参数的计算系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101405768A (zh) * | 2006-03-23 | 2009-04-08 | 国立大学法人东京工业大学 | 图像配准方法 |
CN104835112A (zh) * | 2015-05-07 | 2015-08-12 | 厦门大学 | 一种肝脏多相期ct图像融合方法 |
CN108573222A (zh) * | 2018-03-28 | 2018-09-25 | 中山大学 | 基于循环对抗生成网络的行人图像遮挡检测方法 |
-
2018
- 2018-09-27 CN CN201811128381.6A patent/CN109472817B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101405768A (zh) * | 2006-03-23 | 2009-04-08 | 国立大学法人东京工业大学 | 图像配准方法 |
CN104835112A (zh) * | 2015-05-07 | 2015-08-12 | 厦门大学 | 一种肝脏多相期ct图像融合方法 |
CN108573222A (zh) * | 2018-03-28 | 2018-09-25 | 中山大学 | 基于循环对抗生成网络的行人图像遮挡检测方法 |
Non-Patent Citations (1)
Title |
---|
吴玉霞: "多对比度磁共振颈动脉图像配准算法的研究", 《硕士学位论文》 * |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109978792A (zh) * | 2019-03-28 | 2019-07-05 | 厦门美图之家科技有限公司 | 一种生成图像增强模型的方法 |
CN109978897A (zh) * | 2019-04-09 | 2019-07-05 | 中国矿业大学 | 一种多尺度生成对抗网络的异源遥感图像配准方法及装置 |
CN109978897B (zh) * | 2019-04-09 | 2020-05-08 | 中国矿业大学 | 一种多尺度生成对抗网络的异源遥感图像配准方法及装置 |
CN110133643B (zh) * | 2019-05-22 | 2021-08-20 | 北京林业大学 | 植物根系探测方法及装置 |
CN110133643A (zh) * | 2019-05-22 | 2019-08-16 | 北京林业大学 | 植物根系探测方法及装置 |
CN110298871A (zh) * | 2019-06-10 | 2019-10-01 | 东软医疗系统股份有限公司 | 图像配准方法及装置 |
CN110444277A (zh) * | 2019-07-19 | 2019-11-12 | 重庆邮电大学 | 一种基于多生成多对抗的多模态脑部mri图像双向转换方法 |
CN110444277B (zh) * | 2019-07-19 | 2023-03-28 | 重庆邮电大学 | 一种基于多生成多对抗的多模态脑部mri图像双向转换方法 |
CN110827331B (zh) * | 2019-11-04 | 2022-07-26 | 上海联影智能医疗科技有限公司 | 图像配准模型的训练方法、图像配准方法和计算机设备 |
CN110827331A (zh) * | 2019-11-04 | 2020-02-21 | 上海联影智能医疗科技有限公司 | 图像配准模型的训练方法、图像配准方法和计算机设备 |
CN110866888A (zh) * | 2019-11-14 | 2020-03-06 | 四川大学 | 基于潜在信息表征gan的多模态mri合成方法 |
CN114881848A (zh) * | 2022-07-01 | 2022-08-09 | 浙江柏视医疗科技有限公司 | 一种多序列mr转ct的方法 |
WO2024130705A1 (zh) * | 2022-12-23 | 2024-06-27 | 深圳华大生命科学研究院 | 一种图像配准方法、装置、设备和存储介质 |
CN118366624A (zh) * | 2024-06-19 | 2024-07-19 | 四川省肿瘤医院 | Nme-dwi参数的计算系统 |
Also Published As
Publication number | Publication date |
---|---|
CN109472817B (zh) | 2021-08-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109472817A (zh) | 一种基于循环生成对抗网络的多序列磁共振图像配准方法 | |
TWI772805B (zh) | 訓練生成對抗網路的方法、產生影像的方法及電腦可讀儲存媒體 | |
CN112465111B (zh) | 一种基于知识蒸馏和对抗训练的三维体素图像分割方法 | |
CN109522857B (zh) | 一种基于生成式对抗网络模型的人数估计方法 | |
CN109978871B (zh) | 融合概率型和确定型纤维束追踪的纤维束筛选方法 | |
CN109410179A (zh) | 一种基于生成对抗网络的图像异常检测方法 | |
CN101968813A (zh) | 一种假冒网页检测方法 | |
CN111914617B (zh) | 一种基于平衡栈式生成式对抗网络的人脸属性编辑方法 | |
CN109598671A (zh) | 图像生成方法、装置、设备及介质 | |
Niu et al. | Detection of double JPEG compression with the same quantization matrix via convergence analysis | |
CN110427972A (zh) | 证件视频特征提取方法、装置、计算机设备和存储介质 | |
CN109635712B (zh) | 基于同构网络的自发微表情种类判别方法 | |
CN114220443A (zh) | 基于bn优化sngan的自适应音频隐写模型的训练方法和系统 | |
CN103077408A (zh) | 基于小波神经网络的海底声纳图像转换为声学底质类别方法 | |
CN114359577B (zh) | 一种三维磁共振脑部图像分析方法及其应用 | |
CN110263203A (zh) | 一种结合皮尔逊重构的文本到图像生成方法 | |
Huang et al. | Image steganography using texture features and GANs | |
CN109902746A (zh) | 非对称的细粒度红外图像生成系统及方法 | |
Pinetz et al. | Actual Impact of GAN Augmentation on CNN Classification Performance. | |
CN116958380A (zh) | 一种基于循环对抗生成网络的触觉纹理特征的生成方法 | |
CN117314837A (zh) | 一种基于改进detr铸件表面缺陷检测方法及系统 | |
CN116597274A (zh) | 无监督双向变分自编码本质图像分解网络、方法及应用 | |
Anon et al. | Detecting the undetectable: Combining kolmogorov-arnold networks and mlp for ai-generated image detection | |
Li et al. | Enhancing class-imbalanced learning with pre-trained guidance through class-conditional knowledge distillation | |
CN112801955A (zh) | 种群分布不平衡条件下的浮游生物检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |