CN112862738B - 多模态图像的合成方法、装置、存储介质及处理器 - Google Patents
多模态图像的合成方法、装置、存储介质及处理器 Download PDFInfo
- Publication number
- CN112862738B CN112862738B CN202110387317.5A CN202110387317A CN112862738B CN 112862738 B CN112862738 B CN 112862738B CN 202110387317 A CN202110387317 A CN 202110387317A CN 112862738 B CN112862738 B CN 112862738B
- Authority
- CN
- China
- Prior art keywords
- image
- projection
- sequence
- generator
- module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 62
- 230000002194 synthesizing effect Effects 0.000 title claims abstract description 31
- 238000003860 storage Methods 0.000 title claims abstract description 18
- 238000002595 magnetic resonance imaging Methods 0.000 claims abstract description 28
- 238000004364 calculation method Methods 0.000 claims abstract description 24
- 238000002591 computed tomography Methods 0.000 claims abstract description 24
- 238000001959 radiotherapy Methods 0.000 claims abstract description 15
- 238000010586 diagram Methods 0.000 claims description 17
- 238000006243 chemical reaction Methods 0.000 claims description 9
- 238000005070 sampling Methods 0.000 claims description 4
- 230000008485 antagonism Effects 0.000 claims 1
- 125000004122 cyclic group Chemical group 0.000 claims 1
- 238000007408 cone-beam computed tomography Methods 0.000 abstract description 6
- 238000005516 engineering process Methods 0.000 abstract description 6
- 230000006870 function Effects 0.000 description 25
- 230000008569 process Effects 0.000 description 12
- 238000004590 computer program Methods 0.000 description 10
- 230000015572 biosynthetic process Effects 0.000 description 6
- 238000003786 synthesis reaction Methods 0.000 description 6
- 239000002131 composite material Substances 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000001308 synthesis method Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 230000005855 radiation Effects 0.000 description 2
- 239000011165 3D composite Substances 0.000 description 1
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 1
- 238000013256 Gubra-Amylin NASH model Methods 0.000 description 1
- 210000003484 anatomy Anatomy 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 210000004872 soft tissue Anatomy 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 210000001519 tissue Anatomy 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10081—Computed x-ray tomography [CT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10088—Magnetic resonance imaging [MRI]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Medical Informatics (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Magnetic Resonance Imaging Apparatus (AREA)
- Image Processing (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
Abstract
本申请公开了一种多模态图像的合成方法、装置、存储介质及处理器。该方法包括：将第一模态图像通过生成器转换为第二模态图像；依据第二模态图像执行剂量计算以生成放疗计划。通过本申请，解决了相关技术中对MRI、CBCT等医学图像无法进行剂量计算，导致不能满足临床应用需要的技术问题。
Description
技术领域
本申请涉及图像处理技术领域，具体而言，涉及一种多模态图像的合成方法、装置、存储介质及处理器。
背景技术
磁共振成像(MRI)和计算机断层扫描(CT)是放射治疗中常用的两种成像方式。这两种图像都可以描述患者的解剖结构，并在三维空间显示组织特性。此外，CT图像可以提供精确辐射剂量计算所需的电子密度(ED)信息。由于具有良好的软组织、功能成像能力和无需额外辐射照射的优点，MRI已被深入地整合到放射治疗计划工作流程中。然而，MRI图像不能直接提供ED信息，因此不能作为RT计划和剂量计算的单一图像集。现有技术中将患者CT图像配准到MRI，然后将ED信息映射到MRI上。这需要对CT和MRI都进行单独扫描，这会提供图像剂量，而且耗时且成本高昂，因此难以满足临床应用的需求。
针对相关技术中对MRI、CBCT等医学图像无法进行剂量计算，导致不能满足临床应用需要的技术问题，目前尚未提出有效的解决方案。
发明内容
本申请的主要目的在于提供一种多模态图像的合成方法、装置、存储介质及处理器，以解决相关技术中对MRI、CBCT等医学图像无法进行剂量计算，导致不能满足临床应用需要的技术问题。
为了实现上述目的，根据本申请的一个方面，提供了一种多模态图像的合成方法。该方法包括：将第一模态图像通过生成器转换为第二模态图像；依据第二模态图像执行剂量计算以生成放疗计划。
进一步地，将第一模态图像通过生成器转换为第二模态图像包括：将第一模态图像的有序的图像序列输入共享的下采样模块和残差组模块，以获得残差特征；对残差特征执行复制和调整顺序的操作，得到已调整顺序的特征；将已调整顺序的特征输入Conv-LSTM网络模块，以使生成器充分学习不同顺序图像序列的不同空间信息；对Conv-LSTM输出的特征执行合并操作，得到合并的特征；将合并的特征输入共享的上采样模块，以得到第二模态图像。
进一步地，该方法还包括：对第二模态图像分别在冠状面、矢状面和横截面上进行投影，得到投影后的三个平面图；将投影后的三个平面图与第一模态图像分别进入对应的投影辨别器和3D辨别器进行辨别真伪，以与生成器形成对抗。
进一步地，生成器的损失函数包括以下至少之一：对抗性损失函数、投影损失函数、循环一致性损失。
进一步地，第一模态图像为磁共振成像图像，第二模态图像为计算机断层扫描图像。
为了实现上述目的，根据本申请的另一方面，提供了一种多模态图像的合成装置。该装置包括：第一转换单元，用于将第一模态图像通过生成器转换为第二模态图像；第一确定单元，用于依据第二模态图像执行剂量计算以生成放疗计划。
进一步地，第一转换单元包括：第一获取模块，用于将第一模态图像的有序的图像序列输入共享的下采样模块和残差组模块，以获得残差特征；第二获取模块，用于对残差特征执行复制和调整顺序的操作，得到已调整顺序的特征；第一输入模块，用于将已调整顺序的特征输入Conv-LSTM网络模块，以使生成器充分学习不同顺序图像序列的不同空间信息；第一合并模块，用于对Conv-LSTM输出的特征执行合并操作，得到合并的特征；第二输入模块，用于将合并的特征输入共享的上采样模块，以得到第二模态图像。
进一步地，该装置还包括：第一获取单元，用于对第二模态图像分别在冠状面、矢状面和横截面上进行投影，得到投影后的三个平面图；第一处理单元，用于将投影后的三个平面图与第一模态图像分别进入对应的投影辨别器和3D辨别器进行辨别真伪，以与生成器形成对抗。
进一步地，生成器的损失函数包括以下至少之一：对抗性损失函数、投影损失函数、循环一致性损失。
进一步地，第一模态图像为磁共振成像图像，第二模态图像为计算机断层扫描图像。
通过本申请，采用以下步骤：将第一模态图像通过生成器转换为第二模态图像；依据第二模态图像执行剂量计算以生成放疗计划，从而可以通过MRI图像进行RT计划，从而满足临床应用需要，进而解决了对MRI、CBCT等医学图像无法进行剂量计算，导致不能满足临床应用需要的技术问题。
附图说明
构成本申请的一部分的附图用来提供对本申请的进一步理解，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：
图1是根据本申请实施例提供的多模态图像的合成方法的流程图；
图2是根据本申请实施例提供的可选的多模态图像的合成方法的示意图一；
图3是根据本申请实施例提供的可选的多模态图像的合成方法的示意图二；
图4是根据本申请实施例提供的可选的多模态图像的合成方法的示意图三；以及
图5是根据本申请实施例提供的多模态图像的合成装置的示意图。
具体实施方式
需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
为了使本技术领域的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分的实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。
需要说明的是，本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本申请的实施例。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
根据本申请的实施例，提供了一种多模态图像的合成方法。
图1是根据本申请实施例的多模态图像的合成方法的流程图。如图1所示，该方法包括以下步骤：
步骤S101，将第一模态图像通过生成器转换为第二模态图像；
步骤S102，依据第二模态图像执行剂量计算以生成放疗计划。
例如，第一模态图像为磁共振成像图像(MRI)，第二模态图像为计算机断层扫描图像(CT)，将MRI图像输入到生成器中，得到CT图像，由于CT图像可以提供精确辐射剂量计算所需的电子密度(ED)信息，因此，在CT图像上进行RT计划和剂量计算。避免了现有技术中需要分别拍摄出病人当日的MRI和CT再进行多模态配准的方法将CT与MRI匹配起来，整个过程非常消耗时间且成本高昂的。通过本申请实施例提供的多模态图像的合成方法，从而可以通过对MRI等医学图像进行转换，转换后的图像可以进行剂量计算以生成放疗计划，满足了临床应用需要，进而解决了对MRI、CBCT等医学图像无法进行剂量计算，导致不能满足临床应用需要的技术问题。
可选地，在本申请实施例的多模态图像的合成方法中，将第一模态图像通过生成器转换为第二模态图像包括：将第一模态图像的有序的图像序列输入共享的下采样模块和残差组模块，以获得残差特征；对残差特征执行复制和调整顺序的操作，得到已调整顺序的特征；将已调整顺序的特征输入Conv-LSTM网络模块，以使生成器充分学习不同顺序图像序列的不同空间信息；对Conv-LSTM输出的特征执行合并操作，得到合并的特征；将合并的特征输入共享的上采样模块，以得到第二模态图像。
在本申请中，先介绍生成器的训练方法，如图2所示，图2为生成器的训练方法的总体框架图。其中，图2中包括MR合成CT和CT合成MR的过程。虚线与实线箭头分别表示生成与辨别过程，图2中的矩形分别表示对应的生成器与辨别器。
在本申请中提出了一种非配对的MR到CT图像合成方法。在图像合成的过程中，提出的方法不仅需要考虑对应的原始图像，而且还需要考虑其连续的前后层图像。具体地，提出的方案如下：(1)将Conv-LSTM网络结构引入本申请中的模型，模型的输入是有序的图像序列而不是单幅图像，并实现了混合空间序列的图像合成。这样，本申请中的模型既保留了2D Cycle-GAN网络参数少、优化容易和非配对的特性，又在一定程度上保证了生成图像的空间连续性。(2)在本申请中的模型中添加了3个辨别器。先将合成图像分别在横截面、矢状面和冠状面上进行投影，然后使用添加的辨别器来进一步辨别合成图像的真伪程度。(3)将non-local模块引入辨别器中，加强了合成的3D图像在前后层位置信息的关联程度。
如图3所示，图3是生成器的框架及其子模块。其中Conv代表卷积层，BN代表BatchNormalization层，Relu代表Relu激活层，De-Conv代表反卷积层，RB module代表残差block，CL module代表卷积长短期记忆。
本申请中的生成器用于建立合成图像的空间连续性，其框架如图4所示，生成器的输入为有序的图像序列，生成器的流程如下：
1)将有序的图像序列输入共享的下采样和残差组模块，以获得残差特征；2)对编码的特征执行复制和调整顺序的操作(复制残差特征，并对其顺序进行转置)；3)将已调整顺序的特征输入Conv-LSTM网络模块，使得生成器充分学习不同顺序图像序列的不同空间信息；4)对Conv-LSTM得到的特征执行合并操作；5)将合并的特征输入共享的上采样模块，以得到最终的输出。
可选地，在本申请实施例的多模态图像的合成方法中，该方法还包括：对第二模态图像分别在冠状面、矢状面和横截面上进行投影，得到投影后的三个平面图；将投影后的三个平面图与第一模态图像分别进入对应的投影辨别器和3D辨别器进行辨别真伪，以与生成器形成对抗。
如图4所示，(a)对3D合成图像块(对应上述的第二模态图像)分别在冠状面、矢状面和横截面上进行投影。(b)将投影后的三个平面与原始3D图像分别进入对应的投影辨别器和3D辨别器进行辨别真伪与生成器形成对抗。
另外，还可以对生成的CT图像进行投影操作(如图4(a)所示)，并将得到的冠状面、矢状面和横截面投影图像经过额外的三个辨别器来辨别真伪，如图4(b)所示。使用图像投影的方式可以类比于对投影目标进行了X-ray拍摄，只不过成像原理与X-ray不同，但都可以体现出目标在某个视角上的连续体素信息。
可选地，在本申请实施例的多模态图像的合成方法中，生成器的损失函数包括以下至少之一：对抗性损失函数、投影损失函数、循环一致性损失。
具体地，Adversarial Loss(对抗性损失函数)：Cycle-GAN模型的训练过程可以视为，通过生成器G和辨别器D之间的相互竞争来学习如何生成与真实目标分布相接近的样本，理想的生成器得到的生成样本应该让辨别器无法区分生成的图像与真实的CT图像。其竞争过程可以用如下：
Projection Loss(投影损失函数)：为了使得生成的图像序列具有连续的空间信息，本申请中在Cycle-GAN[45]模型的基础上额外加入了三个投影辨别器，其细节参见2.3小节。输入的图像序列先经过生成器Gx2y得到生成的目标图像序列/>再经过三个正交投影(轴面投影：Pax、冠状面投影Pco、矢状面投影：Psa)得到生成图像的投影最终由三个投影辨别器/>来区分生成图像的投影和真实图像的投影/> 并以此与Gx2y形成再次对抗：
Cycle Consistency Loss(循环一致性损失)：由于本申请中使用的方法是一种无监督的学习方法，不需要成对的图像数据，为了保证生成的图像与输入的图像之间的相似性，这里使用了Cycle Consistency Loss，其定义为公式(4)。将生成的结果通过Y→X的生成器Gy2x重新得到的结果应该与原始的输入相似：
Full Loss(所有损失函数)：最终在本申请中把X→Y和Y→X的adversarial loss、projection loss与cycle consistency loss结合起来得到：
其中，λcx和λcy分别代表X生成Y和Y生成X过程中的对抗损失权重强度。
需要说明的是，在本申请中提供了将MRI合成CT并进行RT计划和剂量计算的技术方案，具体的合成方法中的创新包括：(1)将Conv-LSTM网络结构引入本申请中的模型，模型的输入是有序的图像序列而不是单幅图像，并实现了混合空间序列的图像合成。这样，本申请中的模型既保留了2D Cycle-GAN网络参数少、优化容易和非配对的特性，又在一定程度上保证了生成图像的空间连续性。(2)在本申请中的模型中添加了3个辨别器。先将合成图像分别在横截面、矢状面和冠状面上进行投影，然后使用添加的辨别器来进一步辨别合成图像的真伪程度。
需要说明的是，在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。
本申请实施例还提供了一种多模态图像的合成装置，需要说明的是，本申请实施例的多模态图像的合成装置可以用于执行本申请实施例所提供的用于多模态图像的合成方法。以下对本申请实施例提供的多模态图像的合成装置进行介绍。
图5是根据本申请实施例的多模态图像的合成装置的示意图。如图5所示，该装置包括：第一转换单元501、第一确定单元502。
具体的，第一转换单元501，用于将第一模态图像通过生成器转换为第二模态图像；
第一确定单元502，用于依据第二模态图像执行剂量计算以生成放疗计划。
综上，本申请实施例提供的多模态图像的合成装置，通过第一转换单元501将第一模态图像通过生成器转换为第二模态图像；第一确定单元502依据第二模态图像执行剂量计算以生成放疗计划，从而可以通过对MRI等医学图像进行转换，转换后的图像可以进行剂量计算以生成放疗计划，满足了临床应用需要，进而解决了对MRI、CBCT等医学图像无法进行剂量计算，导致不能满足临床应用需要的技术问题。
可选地，在本申请实施例提供的多模态图像的合成装置中，第一转换单元501包括：第一获取模块，用于将第一模态图像的有序的图像序列输入共享的下采样模块和残差组模块，以获得残差特征；第二获取模块，用于对残差特征执行复制和调整顺序的操作，得到已调整顺序的特征；第一输入模块，用于将已调整顺序的特征输入Conv-LSTM网络模块，以使生成器充分学习不同顺序图像序列的不同空间信息；第一合并模块，用于对Conv-LSTM输出的特征执行合并操作，得到合并的特征；第二输入模块，用于将合并的特征输入共享的上采样模块，以得到第二模态图像。
可选地，在本申请实施例提供的多模态图像的合成装置中，该装置还包括：第一获取单元，用于对第二模态图像分别在冠状面、矢状面和横截面上进行投影，得到投影后的三个平面图；第一处理单元，用于将投影后的三个平面图与第一模态图像分别进入对应的投影辨别器和3D辨别器进行辨别真伪，以与生成器形成对抗。
可选地，在本申请实施例提供的多模态图像的合成装置中，生成器的损失函数包括以下至少之一：对抗性损失函数、投影损失函数、循环一致性损失。
可选地，在本申请实施例提供的多模态图像的合成装置中，第一模态图像为磁共振成像图像，第二模态图像为计算机断层扫描图像。
多模态图像的合成装置包括处理器和存储器，上述的第一转换单元501、第一确定单元502等均作为程序单元存储在存储器中，由处理器执行存储在存储器中的上述程序单元来实现相应的功能。
处理器中包含内核，由内核去存储器中调取相应的程序单元。内核可以设置一个或以上，通过调整内核参数来进行多模态图像的合成。
存储器可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)，存储器包括至少一个存储芯片。
本发明实施例提供了一种存储介质，其上存储有程序，该程序被处理器执行时实现多模态图像的合成方法。
本发明实施例提供了一种处理器，处理器用于运行程序，其中，程序运行时执行多模态图像的合成方法。
本发明实施例提供了一种设备，设备包括处理器、存储器及存储在存储器上并可在处理器上运行的程序，处理器执行程序时实现以下步骤：将第一模态图像通过生成器转换为第二模态图像；依据第二模态图像执行剂量计算以生成放疗计划。
处理器执行程序时还实现以下步骤：将第一模态图像的有序的图像序列输入共享的下采样模块和残差组模块，以获得残差特征；对残差特征执行复制和调整顺序的操作，得到已调整顺序的特征；将已调整顺序的特征输入Conv-LSTM网络模块，以使生成器充分学习不同顺序图像序列的不同空间信息；对Conv-LSTM输出的特征执行合并操作，得到合并的特征；将合并的特征输入共享的上采样模块，以得到第二模态图像。
处理器执行程序时还实现以下步骤：对第二模态图像分别在冠状面、矢状面和横截面上进行投影，得到投影后的三个平面图；将投影后的三个平面图与第一模态图像分别进入对应的投影辨别器和3D辨别器进行辨别真伪，以与生成器形成对抗。
处理器执行程序时还实现以下步骤：生成器的损失函数包括以下至少之一：对抗性损失函数、投影损失函数、循环一致性损失。
处理器执行程序时还实现以下步骤：第一模态图像为磁共振成像图像，第二模态图像为计算机断层扫描图像。
本申请还提供了一种计算机程序产品，当在数据处理设备上执行时，适于执行初始化有如下方法步骤的程序：将第一模态图像通过生成器转换为第二模态图像；依据第二模态图像执行剂量计算以生成放疗计划。
当在数据处理设备上执行时，还适于执行初始化有如下方法步骤的程序：将第一模态图像的有序的图像序列输入共享的下采样模块和残差组模块，以获得残差特征；对残差特征执行复制和调整顺序的操作，得到已调整顺序的特征；将已调整顺序的特征输入Conv-LSTM网络模块，以使生成器充分学习不同顺序图像序列的不同空间信息；对Conv-LSTM输出的特征执行合并操作，得到合并的特征；将合并的特征输入共享的上采样模块，以得到第二模态图像。
当在数据处理设备上执行时，还适于执行初始化有如下方法步骤的程序：对第二模态图像分别在冠状面、矢状面和横截面上进行投影，得到投影后的三个平面图；将投影后的三个平面图与第一模态图像分别进入对应的投影辨别器和3D辨别器进行辨别真伪，以与生成器形成对抗。
当在数据处理设备上执行时，还适于执行初始化有如下方法步骤的程序：生成器的损失函数包括以下至少之一：对抗性损失函数、投影损失函数、循环一致性损失。
当在数据处理设备上执行时，还适于执行初始化有如下方法步骤的程序：第一模态图像为磁共振成像图像，第二模态图像为计算机断层扫描图像。
本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
存储器可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。存储器是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白，本申请的实施例可提供为方法、系统或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
以上仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。
Claims (8)
1.一种多模态图像的合成方法，其特征在于，包括：
将第一模态图像通过生成器转换为第二模态图像；
依据所述第二模态图像执行剂量计算以生成放疗计划；
其中，对第二模态图像分别在冠状面、矢状面和横截面上进行投影，得到投影后的三个平面图；
将投影后的三个平面图与所述第一模态图像分别进入对应的投影辨别器和3D辨别器进行辨别真伪，以与所述生成器形成对抗；
其中，将投影后的三个平面图与所述第一模态图像分别进入对应的投影辨别器和3D辨别器进行辨别真伪，以与所述生成器形成对抗包括：
输入的图像序列先经过生成器Gx2y得到生成的目标图像序列/>再经过轴面投影Pax、冠状面投影Pco和矢状面投影Psa得到生成图像的投影/> 和最终由三个投影辨别器/>来区分生成图像的投影和真实图像的投影/>和/>并以此与Gx2y形成再次对抗。
2.根据权利要求1所述的方法，其特征在于，将第一模态图像通过生成器转换为第二模态图像包括：
将所述第一模态图像的有序的图像序列输入共享的下采样模块和残差组模块，以获得残差特征；
对所述残差特征执行复制和调整顺序的操作，得到已调整顺序的特征；
将已调整顺序的特征输入Conv-LSTM网络模块，以使所述生成器充分学习不同顺序图像序列的不同空间信息；
对所述Conv-LSTM输出的特征执行合并操作，得到合并的特征；
将合并的特征输入共享的上采样模块，以得到所述第二模态图像。
3.根据权利要求1所述的方法，其特征在于，所述生成器的损失函数包括以下至少之一：对抗性损失函数、投影损失函数、循环一致性损失；其中，所述投影损失函数为
4.根据权利要求1所述的方法，其特征在于，所述第一模态图像为磁共振成像图像，所述第二模态图像为计算机断层扫描图像。
5.一种多模态图像的合成装置，其特征在于，包括：
第一转换单元，用于将第一模态图像通过生成器转换为第二模态图像；
第一确定单元，用于依据所述第二模态图像执行剂量计算以生成放疗计划；
其中，所述装置还包括：
第一获取单元，用于对第二模态图像分别在冠状面、矢状面和横截面上进行投影，得到投影后的三个平面图；
第一处理单元，用于将投影后的三个平面图与所述第一模态图像分别进入对应的投影辨别器和3D辨别器进行辨别真伪，以与所述生成器形成对抗；
第一处理单元还用于将输入的图像序列先经过生成器Gx2y得到生成的目标图像序列再经过轴面投影Pax、冠状面投影Pco和矢状面投影Psa得到生成图像的投影和/>最终由三个投影辨别器/>来区分生成图像的投影和真实图像的投影/>和/>并以此与Gx2y形成再次对抗。
6.根据权利要求5所述的装置，其特征在于，所述第一转换单元包括：
第一获取模块，用于将所述第一模态图像的有序的图像序列输入共享的下采样模块和残差组模块，以获得残差特征；
第二获取模块，用于对所述残差特征执行复制和调整顺序的操作，得到已调整顺序的特征；
第一输入模块，用于将已调整顺序的特征输入Conv-LSTM网络模块，以使所述生成器充分学习不同顺序图像序列的不同空间信息；
第一合并模块，用于对所述Conv-LSTM输出的特征执行合并操作，得到合并的特征；
第二输入模块，用于将合并的特征输入共享的上采样模块，以得到所述第二模态图像。
7.一种处理器，其特征在于，所述处理器用于运行程序，其中，所述程序运行时执行权利要求1至4中任意一项所述的方法。
8.一种存储介质，其特征在于，所述存储介质包括存储的程序，其中，所述程序执行权利要求1至4中任意一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110387317.5A CN112862738B (zh) | 2021-04-09 | 2021-04-09 | 多模态图像的合成方法、装置、存储介质及处理器 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110387317.5A CN112862738B (zh) | 2021-04-09 | 2021-04-09 | 多模态图像的合成方法、装置、存储介质及处理器 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112862738A CN112862738A (zh) | 2021-05-28 |
| CN112862738B true CN112862738B (zh) | 2024-01-16 |
Family
ID=75992393
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110387317.5A Active CN112862738B (zh) | 2021-04-09 | 2021-04-09 | 多模态图像的合成方法、装置、存储介质及处理器 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112862738B (zh) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| FR3139225A1 (fr) | 2022-08-23 | 2024-03-01 | Compagnie Generale Des Etablissements Michelin | Synthèse d’images par méthodes de simulation physique et d’apprentissage profond pour l’apprentissage anticipé d’un modèle d’évaluation de la surface d’un pneumatique |
| CN116883247B (zh) * | 2023-09-06 | 2023-11-21 | 感跃医疗科技(成都)有限公司 | 一种基于Cycle-GAN的未配对CBCT图像超分辨率生成算法 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108351395A (zh) * | 2015-10-27 | 2018-07-31 | 皇家飞利浦有限公司 | 来自磁共振图像的虚拟ct图像 |
| CN110930421A (zh) * | 2019-11-22 | 2020-03-27 | 电子科技大学 | 一种用于cbct牙齿图像的分割方法 |
| CN111436936A (zh) * | 2020-04-29 | 2020-07-24 | 浙江大学 | 基于mri的ct图像重建方法 |
| CN111789612A (zh) * | 2020-08-10 | 2020-10-20 | 上海联影医疗科技有限公司 | 一种成像系统和方法 |
| CN112150569A (zh) * | 2020-09-24 | 2020-12-29 | 北京羽医甘蓝信息技术有限公司 | 将cbct图像生成为ct图像的方法、装置及终端设备 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11756160B2 (en) * | 2018-07-27 | 2023-09-12 | Washington University | ML-based methods for pseudo-CT and HR MR image estimation |
-
2021
- 2021-04-09 CN CN202110387317.5A patent/CN112862738B/zh active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108351395A (zh) * | 2015-10-27 | 2018-07-31 | 皇家飞利浦有限公司 | 来自磁共振图像的虚拟ct图像 |
| CN110930421A (zh) * | 2019-11-22 | 2020-03-27 | 电子科技大学 | 一种用于cbct牙齿图像的分割方法 |
| CN111436936A (zh) * | 2020-04-29 | 2020-07-24 | 浙江大学 | 基于mri的ct图像重建方法 |
| CN111789612A (zh) * | 2020-08-10 | 2020-10-20 | 上海联影医疗科技有限公司 | 一种成像系统和方法 |
| CN112150569A (zh) * | 2020-09-24 | 2020-12-29 | 北京羽医甘蓝信息技术有限公司 | 将cbct图像生成为ct图像的方法、装置及终端设备 |
Non-Patent Citations (1)
| Title |
|---|
| Z Xu et al.Satellite Image Prediction Relying on GAN and LSTM Neural Networks.《ICC 2019-2019 IEEE International Conference on Communications》.2019,第1-6页. * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112862738A (zh) | 2021-05-28 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Morris et al. | Cardiac substructure segmentation with deep learning for improved cardiac sparing | |
| JP6960509B2 (ja) | 合成医療画像を生成するためのニューラルネットワーク | |
| Ouyang et al. | Ultra‐low‐dose PET reconstruction using generative adversarial network with feature matching and task‐specific perceptual loss | |
| CN110047056B (zh) | 用深度图像到图像网络和对抗网络的跨域图像分析和合成 | |
| US20180225847A1 (en) | Systems and methods for data and model-driven image reconstruction and enhancement | |
| AU2014212517B2 (en) | Method and apparatus for generating a derived image using images of different types | |
| CN112862738B (zh) | 多模态图像的合成方法、装置、存储介质及处理器 | |
| Hänsch et al. | Evaluation of deep learning methods for parotid gland segmentation from CT images | |
| Liu et al. | Image synthesis-based multi-modal image registration framework by using deep fully convolutional networks | |
| CN111739614B (zh) | 医学图像增强 | |
| Thomas et al. | Improving automated glioma segmentation in routine clinical use through artificial intelligence-based replacement of missing sequences with synthetic magnetic resonance imaging scans | |
| US11449210B2 (en) | Method for providing an image base on a reconstructed image group and an apparatus using the same | |
| Chen et al. | Deep learning based unpaired image-to-image translation applications for medical physics: a systematic review | |
| CN109844815A (zh) | 使用从不同迭代提取的特征图像进行基于特征的图像处理 | |
| Buoso et al. | MRXCAT2. 0: Synthesis of realistic numerical phantoms by combining left-ventricular shape learning, biophysical simulations and tissue texture generation | |
| KR102112706B1 (ko) | 결절 검출 방법 및 이를 이용한 장치 | |
| Lee et al. | Deep learning-based computed tomography image standardization to improve generalizability of deep learning-based hepatic segmentation | |
| KR102574761B1 (ko) | 선명성을 향상시킨 의료영상 변환방법 및 그 장치 | |
| CN114066798A (zh) | 一种基于深度学习的脑肿瘤核磁共振影像数据合成方法 | |
| Li et al. | DDNet: 3D densely connected convolutional networks with feature pyramids for nasopharyngeal carcinoma segmentation | |
| CN106462988B (zh) | 多视角断层摄影重构 | |
| CN113012204B (zh) | 多模态图像的配准方法、装置、存储介质及处理器 | |
| Liu et al. | CCQ: cross-class query network for partially labeled organ segmentation | |
| CN115861394A (zh) | 医学图像的处理方法和装置、存储介质及电子设备 | |
| Xu et al. | Applying cross-modality data processing for infarction learning in medical internet of things |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |