RU2407071C2 - Способ генерации кадров маскирования в системе связи - Google Patents

Abstract

Изобретение относится к телекоммуникационным системам, в частности к способу, устройству и конфигурации, которые позволяют компенсировать потери и/или флуктуации времени задержки, и/или расфазировку тактовых сигналов пакетов сигналов. Способ генерации последовательности выборок маскирования в связи с передачей оцифрованного аудиосигнала содержит этап, на котором генерируют последовательность выборок маскирования из буферизованных выборок оцифрованного представления аудиосигнала во временном порядке взятия выборок, причем, по меньшей мере, две последовательные подпоследовательности выборок в последовательности выборок маскирования базируются на подпоследовательностях буферизованных выборок, при этом подпоследовательности буферизованных выборок следуют друг за другом в измененном временном порядке. Технический результат - повышение качества аудиосигнала при передаче в беспроводных коммуникационных системах и сетях с коммутацией пакетов. 3 н. и 34 з.п ф-лы, 13 ил.

Description

Область техники, к которой относится изобретение

Настоящее изобретение относится к телекоммуникационным системам. В частности, настоящее изобретение относится к способу, устройству и конфигурации, которые позволяют компенсировать потери и/или флуктуации времени задержки, и/или расфазировку тактовых сигналов пакетов сигналов с целью повышения качества передачи сигнал в беспроводных телекоммуникационных системах и сетях с коммутацией пакетов.

Описание уровня техники

Современные телекоммуникации базируются на цифровой передаче сигналов. Например, согласно фиг.1, передатчик 200 получает звуковой сигнал от источника 100. Этот источник может соответствовать одному или нескольким говорящим людям и другим источникам акустической волны, воспринимаемым микрофоном, или может являться системой хранения или генерации звукового сигнала, например системой текстуально-речевого синтеза или диалога. Если источник сигнал является аналоговым, он преобразуется в цифровое представление посредством аналого-цифрового преобразователя. Затем цифровое представление кодируется и компонуется в пакеты, формат которых пригоден для цифрового канала 300. Пакеты передаются по цифровому каналу. Цифровой канал обычно содержит несколько уровней абстракции.

В уровне абстракции, показанном на фиг.1, цифровой канал принимает последовательность пакетов на входе и доставляет последовательность пакетов на выходе. Вследствие ухудшения канала, обычно вызванного шумом, неоднородностями и перегрузкой в канале, выходная последовательность пакетов обычно ухудшается за счет потери некоторых пакетов и задержки по времени доставки и флуктуаций времени задержки других пакетов. Кроме того, различие тактовых генераторов передатчика и приемника может приводить к расфазировке тактовых сигналов. Задача приемника 400 состоит в декодировании принятых пакетов данных и в преобразовании декодированных цифровых представлений из потока пакетов и декодировании их в цифровые представления сигнала и дальнейшем преобразовании этих представлений в декодированный звуковой сигнал в формате, пригодном для вывода на получатель сигнала 500. Этот получатель сигнала может являться одним человеком или несколькими людьми, которые воспринимают декодированный звуковой сигнал посредством, например, одного или нескольких громкоговорителей. Альтернативно, получатель сигнала может представлять собой систему хранения речевых сигналов или аудиосигналов или диалоговую систему или распознаватель речевых сигналов или аудиосигналов.

Задача приемника состоит в точном воспроизведении сигнала, который можно представлять получателю. Когда получатель прямо или косвенно представляет слушателя-человека, задачей приемника является получение представления звукового сигнала, которое, будучи представлено слушателю-человеку, точно воспроизводит воспринимаемое человеком впечатление и информацию акустического сигнала от источника или источников. Для решения этой задачи в общем случае, когда канал ухудшает принятую последовательность пакетов за счет потерь, задержки, флуктуаций времени задержки и расфазировки тактовых сигналов, которые могут дополнительно присутствовать, эффективное маскирование необходимо как часть приемной подсистемы.

В порядке примера, одна возможная реализация приемной подсистемы для осуществления этой задачи показана на фиг.2. Согласно фиг.2 входящие пакеты сохраняются в буфере 410 флуктуаций, откуда блок 420 декодирования и маскирования получает принятые кодированные представления сигнала и декодирует и маскирует эти кодированные представления сигнала для получения представлений сигнала, пригодных для хранения в буфере 430 воспроизведения и для последующего воспроизведения. Управление временем начала маскирования и выбором конкретных параметров этого маскирования, например, длины маскированного сигнала, может, в порядке примера, осуществлять блок 440 управления, который отслеживает содержимое буфера флуктуаций и буфера воспроизведения и управляет работой блока 420 декодирования и маскирования.

Маскирование также может осуществляться как часть канальной подсистемы. На фиг.3 показан один пример канальной подсистемы, в которой пакеты переправляются из канала 310 в канал 330 через подсистему 320, которая в дальнейшем будет называться ретрансляционной. В реальных системах функция ретрансляции может осуществляться блоками, которые могут называться по-разному в зависимости от контекста, например, маршрутизаторами различных типов, прокси-серверами, краевыми серверами, контроллерами доступа к сети, контроллерами беспроводной локальной сети, шлюзами Voice-over-IP, медиа-шлюзами, контроллерами нелицензионной сети и пр. В данном контексте все они являются примерами ретрансляционных систем.

Один пример ретрансляционной системы, которая может осуществлять маскирование аудиосигнала, показана на фиг.4. Согласно фиг.4 пакеты направляются из входного буфера 310 в выходной буфер 360 через подсистемы 320 и 350 коммутации пакетов. Блок 370 управления отслеживает входной и выходной буферы и в результате того отслеживания принимает решения относительно необходимости перекодирования и маскирования. Если это необходимо, коммутаторы направляют пакеты через блок 330 перекодирования и маскирования. Если это не нужно, коммутаторы направляют пакеты через подсистему 340 минимального действия протокола, которая выполняет минимум операций над заголовками пакетов для их согласования с применяемыми протоколами. Эти операции могут включать в себя изменение порядковых номеров и меток времени пакетов.

При передаче аудиосигналов с использованием систем, в частности, проиллюстрированных в вышеприведенном описании, требуется маскирование потерь, задержки, флуктуации времени задержки, и/или расфазировки тактовых сигналов в сигналах, представляющих или частично представляющих звуковой сигнал. Подходы к задаче маскирования, отвечающие уровню техники, предусматривают использование методов повторения основного тона и методов изменения шкалы времени.

Методы повторения основного тона, иногда реализуемые в модели осциллятора, базируются на оценке периода основного тона в вокализованной речи или, альтернативно, на оценке соответствующей основной частоты вокализованного речевого сигнала. Если известен период основного тона, кадр маскирования получается путем повторного считывания последнего периода основного тона. Нарушения непрерывности в начале и конце кадра маскирования и между каждыми двумя повторениями периода основного тона можно сглаживать с использованием процедуры сложения с перекрытием с оконной обработкой. Примеры метода повторения основного тона можно найти в публикации № WO 0148736 и рекомендации Международного союза электросвязи ITU-T G.711 Приложение 1.

Системы, отвечающие уровню техники, предусматривают маскирование на основе повторения основного тона посредством декодеров, основанных на принципе кодирования с линейным предсказанием. В этих системах повторение основного тона обычно осуществляется в области возбуждения линейного предсказания путем считывания из цепи долгосрочного предсказателя или адаптивной кодовой книги. Примеры маскирования на основе повторения основного тона в области возбуждения линейного предсказания можно найти в патенте № US5699481, рекомендации Международного союза электросвязи ITU-T G.729, и Internet Engineering Task Force Request For Comments 3951. Вышеописанные методы применяются для маскирования потерь или возрастающей задержки, т.е. положительных флуктуаций времени задержки, и ситуаций недогрузки или близких к недогрузке входного буфера или буфера флуктуаций, например, вследствие расфазировки синхронизирующих импульсов. Для маскирования убывающей задержки, отрицательных флуктуаций времени задержки, или ситуаций перегрузки или близких к перегрузке входного буфера или буфера флуктуаций, необходимо генерировать укороченные сигналы маскирования. Методы, основанные на основном тоне, позволяют делать это посредством процедуры сложения с перекрытием между периодом основного тона и более ранним периодом основного тона. Пример этого метода можно найти в публикации № WO 0148736.

Это может делаться с использованием возможностей, имеющихся в декодерах с линейным предсказанием. В порядке примера, в патенте № US5699481 раскрыт способ, согласно которому векторы вклада фиксированной кодовой книги просто отбрасываются из сигнала воспроизведения на основании состояния адаптивной кодовой книги для стабилизации периодичности основного тона в воспроизводимом сигнале. В связи с методами повторения основного тона одна задача состоит в плавном продолжении сигнала от кадра маскирования к следующему кадру. В публикации № WO 0148736 раскрыт способ решения этой задачи. Согласно изобретению, раскрытому в WO 0148736, эта задача решается посредством кадров маскирования, изменяющихся во времени и, возможно, имеющих длину, зависящую от сигнала. Хотя это позволяет эффективно осуществлять плавное продолжение сигнала в связи с маскированием флуктуаций времени задержки и расфазировки тактовых сигналов, это решение малопригодно для систем, подобных показанным на фиг.4: маскирование такого типа не позволяет гарантировать кодирование маскирования в кадры фиксированной заранее заданной длины, которые плавно соединяются с уже закодированными кадрами, которые предпочтительно ретранслируются через блок 340 минимального действия протокола.

Постоянная проблема, связанная с методами маскирования потерь и резко возрастающей задержки, основанными на повторении основного тона, состоит в том, что повторение периодов основного тона делает воспроизводимый звуковой сигнал неестественным. В частности, этот аудиосигнал оказывается слишком периодическим. В худшем случае, в воспроизводимом звуковом сигнале воспринимаются так называемые струнные звуки. Из уровня техники известны различные способы снятия остроты этой проблемы. Эти способы включают в себя использование периодов повторения, вдвое или втрое превышающих оцененный период основного тона. В качестве одного примера, в Internet Engineering Task Force Request For Comments 3951 описан способ, согласно которому используется период вдвое больший оцененного периода основного тона, если оцененный период основного тона меньше 10 мс. В порядке другого примера, в рекомендации Международного союза электросвязи ITU-T G.711 Приложение 1 описан способ, согласно которому используется удвоение и затем утроение периода повторения для повторения двух и затем трех периодов основного тона вместо повторения одного периода основного тона. Полное описание этого способа можно найти в рекомендации Международного союза электросвязи ITU-T G.711 Приложение 1. Кроме того, для ослабления струнных звуков обычно применяется примешивание сигнала маскирования со случайной или псевдослучайной составляющей сигнала, уровень которого зависит от уровня вокализации речи, и постепенное ослабление сигнала маскирования. Иногда этот псевдослучайной сигнал получается посредством операций над буферизованным сигналом или с использованием таких средств, как случайные кодовые книги, которые уже имеются в декодере. Примеры использования таких средств можно найти в патенте № US5699481, рекомендации Международного союза электросвязи ITU-T G.729 и Internet Engineering Task Force Request For Comments 3951. Постепенное ослабление также используется для подавления привнесенных артефактов. Хотя, при данном базовом способе маскирования, это может быть наилучшим выбором для интерпретации ближним слушателем, дальний слушатель, в случае наличия эха и использования адаптивного фильтра для подавления этого эха, может интерпретировать эффект этого ослабления как особенно негативный. Дело в том, что ослабление снижает устойчивость возбуждения адаптивного эхокомпенсатора. Таким образом, отслеживание этого к фактическому пути распространения эха ухудшается, и дальний слушатель может испытывать еще большее эхо.

Методы изменения шкалы времени наподобие описанных, например, в Linag, Farber and Girod, "Adaptive Playout Scheduling and Loss Concealment for Voice Communication over IP Networks", IEEE Transactions on Multimedia, т. 5, № 4, стр. 532-543, дек. 2003 функционируют посредством процедуры согласованного сглаженного сложения с перекрытием. В этой процедуре сегмент сигнала буферизуется, но еще не воспроизведенный сигнал обрабатывается методом сглаживающего окна и идентифицируется как шаблонный сегмент, после чего осуществляется поиск других сегментов, обработанных методом сглаживающего окна, для идентификации подобного сегмента, где подобие может быть, например, в мере корреляции. Затем шаблонный сегмент, обработанный методом сглаживающего окна, и подобный сегмент, обработанный методом сглаживающего окна, перекрываются и суммируются для формирования сигнала с измененной временной шкалой. При растяжении временной шкалы воспроизведения область поиска подобного сегмента располагается до шаблонного сегмента во времени взятия выборок. Напротив, при сжатии временной шкалы воспроизведения область поиска подобного сегмента располагается после шаблонного сегмента во времени взятия выборок. Согласно известным методам изменения шкалы времени длина шаблонного или подобного сегмента и применяемые к ним окна заранее задаются до выполнения изменения шкалы времени, эти величины не адаптируются в соответствии с характеристиками конкретного сигнала, к которому применяется изменение шкалы времени. Согласно Linag, Farber and Girod, "Adaptive Playout Scheduling and Loss Concealment for Voice Communication over IP Networks", IEEE Transactions on Multimedia, т.5, №4, стр. 532-543, дек. 2003: при изменении шкалы времени согласно уровню техники пиковые задержки невозможно эффективно ослаблять от начальной точки при планировании воспроизведения с низкой задержкой, которое необходимо для осуществления оперативной двусторонней речевой связи в сетях с коммутацией пакетов.

Известны и другие методы, сходные с методами изменения шкалы времени и повторения основного тона. Один тип, который следует упомянуть в этом контексте, это методы маскирования на синусоидальной основе. См., например, Rødbro and Jensen, "Time-scaling of Sinusoids for Intelligent Jitter Buffer in Packet Based Telephony", в IEEE Proc. Workshop on Speech Coding, 2002, стр. 71-73. В зависимости от величины интерполяции соответствующее повторение основного тона, которое осуществляется этими методами посредством области синусоидальной модели, эти методы испытывают те же ограничения, которые были выявлены для вышеупомянутых методов повторения основного тона и изменения шкалы времени.

Сущность изобретения

Раскрытое изобретение, в частности варианты его осуществления, позволяют эффективно преодолевать вышеупомянутые ограничения известных решений, например слышимые артефакты, а также другие не упомянутые трудности известных решений.

В частности, по сравнению с известными методами на основе повторения основного тона, раскрытое изобретение предусматривает подходы к генерации сигналов маскирования, представляющих звуковой сигнал, где эти сигналы маскирования содержат значительно меньше артефактов, мешающих восприятию, например, струнных звуков. Таким образом, достигается ослабление ограничения этих систем, что позволяет непосредственно повышать воспринимаемое качество звука. Одновременно, это получается при внесении значительно меньшего ослабления в сигналы маскирования. Таким образом, ослабляется второе ограничение систем на основе повторения основного тона. Это ослабление второго ограничения также обеспечивает непосредственное повышение воспринимаемого качества сигнала маскирования на ближней стороне канала связи. Кроме того, ослабление второго ограничения обеспечивает, в системах с акустическим эхо и адаптивным фильтром на ближнем конце для ослабления эффекта акустического эха, воспринимаемого на дальнем конце, повышение воспринимаемого качества на дальней стороне канала связи. Этот второй эффект обусловлен тем, что сигналы маскирования, соответствующие заявленному изобретению, поскольку они демонстрируют меньшее ослабление, обеспечивают более устойчивое возбуждение для процесса адаптации адаптивного эхокомпенсирующего фильтра. Кроме того, раскрытые методы проявляют большую устойчивость к акустическому фоновому шуму, чем известные методы на основе повторения основного тона.

Кроме того, в частности, по сравнению с известными методами изменения шкалы времени заявленное изобретение позволяет маскировать пиковые задержки в системе с воспроизведением с низкой задержкой или планированием выходного буфера, что необходимо для оперативной двусторонней речевой связи в сетях с коммутацией пакетов, тем самым ослабляя это главное ограничение в известном изменении шкалы времени.

Согласно первому аспекту изобретение предусматривает способ генерации последовательности выборок маскирования в связи с передачей оцифрованного аудиосигнала, причем способ содержит этап, на котором генерируют последовательность выборок маскирования из буферизованных выборок оцифрованного представления аудиосигнала во временном порядке взятия выборок, в котором, по меньшей мере, две последовательные подпоследовательности выборок в последовательности выборок маскирования базируются на подпоследовательностях буферизованных выборок, причем подпоследовательности буферизованных выборок следуют друг за другом в измененном временном порядке.

К первому аспекту применяются следующие определения, которые будут пользоваться в данном описании. Термин "выборка" означает выборку, получаемую из оцифрованного аудиосигнала или из сигнала, выведенного из него, или коэффициентов или параметров, представляющих такие сигналы, причем эти коэффициенты или параметры имеют скалярные или векторные значения. Термин "кадр" означает множество последовательных выборок с использованием вышеприведенного определения выборки. Термин "подпоследовательность" означает множество двух или более последовательных выборок с использованием вышеприведенного определения выборки. Таким образом, в особом случае подпоследовательность идентична выборке. В случае использования, например сложения с перекрытием, две последовательных подпоследовательности могут включать в себя перекрывающиеся выборки. В зависимости от выбора кадров подпоследовательность может проходить между двумя последовательными кадрами. В предпочтительных вариантах осуществления подпоследовательности упорядочены так, что одна подпоследовательность не может быть подмножеством другой подпоследовательности.

Предпочтительно, по меньшей мере, две последовательные подпоследовательности выборок в последовательности выборок маскирования базируются на подпоследовательностях буферизованных выборок, причем подпоследовательности буферизованных выборок следуют друг за другом в обратном временном порядке. Таким образом, в предпочтительных вариантах осуществления последовательность выборок маскирования включает в себя последовательные подпоследовательности, например последовательные выборки, которые базируются на последовательных буферизованных выборках в обратном временном порядке. Например, две, три, четыре или даже больше последовательных подпоследовательностей выборок в последовательности выборок маскирования могут базироваться на подпоследовательностях буферизованных выборок, которые следуют друг за другом в обратном временном порядке. Иными словами, генерируемая последовательность маскирования предпочтительно включает в себя части, которые базируются на более или менее прямом обратном воспроизведении буферизованных выборок. В предпочтительном варианте осуществления последовательность выборок маскирования включает в себя множество последовательных выборок буферизованных выборок в обратном временном порядке. Вычисление, по меньшей мере, части последовательности выборок маскирования на основании буферизованных выборок с использованием этой схемы переупорядочения или обратного упорядочения обеспечивает последовательность маскирования с более естественным звучанием, не сопровождающуюся эффектами струнного звука, характерными для уровня техники, а также способствует устранению или сокращению некоторых других артефактов.

Описанный способ имеет многочисленные преимущества в связи с системами связи, например системами VoIP. Здесь оцифрованные речевые сигналы передаются в кадрах, и передачи испытывают потери кадров и флуктуации, в связи с чем возникает необходимость в последовательности маскирования выборок для, по меньшей мере, частичного снижения хорошо слышимого и раздражающего прерывания сигнала.

В предпочтительных вариантах осуществления положение буферизованных выборок определяют в точке, которая постепенно эволюционирует назад и вперед во времени взятия выборок в ходе генерации последовательности выборок маскирования. Это можно реализовать посредством генератора шаблона индекса, который управляет этой эволюцией во времени. Анализируя буферизованные выборки, этот генератор шаблона индекса выбирает начало, остановки и скорости проходов обратной эволюции во времени, он также управляет началом, остановками и скоростями прямой эволюции и шаблоном, упорядочивающим обратную эволюцию во времени и прямую эволюцию во времени для формирования последовательности маскирования с естественным звучанием.

Последовательность выборок маскирования может начинаться с подпоследовательности, базирующейся на подпоследовательности буферизованных выборок, которая является последней во временном порядке.

Переупорядочение подпоследовательностей во времени может базироваться на последовательном процессе индексирования и считывания выборок, сдвинутых вперед во времени, и отступления назад во времени. Предпочтительно, последовательный процесс индексирования и считывания выборок содержит этап, на котором

a) индексируют буферизованную выборку путем отступления на некоторое количество буферизованных выборок назад во временном порядке, после которого следует этап, на котором

b) считывают со сдвигом на некоторое количество буферизованных выборок вперед во временном порядке, начиная с буферизованной выборки, индексированной на этапе a), и используют считанные выборки для вычисления подпоследовательности последовательности выборок маскирования,

при этом количество буферизованных выборок для считывания со сдвигом вперед отличается от количества буферизованных выборок для отступления назад. Различие в этих количествах позволяет избежать периодичности, приводящей к возникновению неестественных струнных звуков. В нижеследующем подробном описании вариантов осуществления способ также ссылается на "шаги назад" и "длины считывания".

Количество буферизованных выборок для считывания со сдвигом вперед может быть больше или меньше количества буферизованных выборок для отступления назад. Предпочтительно, количество буферизованных выборок для считывания со сдвигом вперед меньше количества буферизованных выборок для отступления назад. Этот выбор обеспечивает способ, который предусматривает постепенную эволюцию буферизованных выборок дополнительно назад во времени, и, таким образом, обеспечивает последовательность маскирования, где последовательные выборки постепенно базируются на более старых буферизованных выборках, после чего начинается прямая эволюция.

Подпоследовательности последовательности выборок маскирования можно вычислять из подпоследовательностей буферизованных выборок с использованием процедуры взвешенного сложения с перекрытием. Весовые функции в процедуре взвешенного сложения с перекрытием могут дополнительно зависеть от частоты. Процедуру взвешенного сложения с перекрытием можно видоизменять в соответствии с индикатором качества совпадения, причем этот индикатор качества совпадения является мерой на двух или более подпоследовательностях выборок, поступающих в процедуру взвешенного сложения с перекрытием.

Переупорядочение во времени можно отчасти описывать прямой и обратной эволюцией указателя положения. Предпочтительно, обратная эволюция указателя положения ограничивается использованием критериев остановки. Критерии остановки для обратной эволюции, темп (или скорость) прямой и обратной эволюции и количество инициированных обратных эволюций можно совместно оптимизировать, например, для оптимизации качества звука при интерпретации слушателем-человеком.

Предпочтительно, операция сглаживания и коррекции применяется к буферизованным выборкам. Это можно делать либо до буферизации выборок, в буфере, либо непосредственно перед использованием выборок для вычисления выборок маскирования. Критерии остановки для обратной эволюции, темп прямой эволюции и обратной эволюции, количество инициированных обратных эволюций и операцию сглаживания и коррекции можно совместно оптимизировать, например, для оптимизации качества звука при интерпретации слушателем-человеком.

Обратную и прямую эволюции указателя положения можно совместно оптимизировать, например, для оптимизации качества звука при интерпретации слушателем-человеком.

Предпочтительно, фазовая фильтрация применяется для минимизации нарушения непрерывности на границах между последовательностью выборок маскирования и последовательным кадром выборок. Введение фазовой фильтрации помогает решать общеизвестные проблемы нарушения непрерывности, связанные с введением последовательности маскирования. В случаях применения такой фазовой фильтрации вышеупомянутая совместная оптимизация также может включать в себя искажение сигнала, привносимое фазовой фильтрацией, например, для оптимизации качества звука при восприятии слушателем-человеком.

Примешивание шума можно вводить в последовательность выборок маскирования. В частности, примешивание шума можно вводить в последовательность выборок маскирования, причем примешивание шума видоизменяется в соответствии с последовательным процессом индексирования выборок вперед во времени и отступления назад во времени. В таких случаях последовательный процесс индексирования выборок вперед во времени и отступления назад во времени и реакция на него могут включать в себя использование индикации качества совпадения.

Функцию ослабления можно применять в последовательности выборок маскирования. В частности, такую функцию ослабления можно видоизменять в соответствии с последовательным процессом индексирования выборок вперед во времени и отступления назад во времени. Последовательный процесс индексирования выборок вперед во времени и отступления назад во времени и реакция на него могут включать в себя использование индикации качества совпадения.

Предпочтительно, результирующее количество выборок в последовательности выборок маскирования заранее задано, например количество выборок в кадре маскирования может быть фиксированным. Количество выборок предпочтительно не зависит от характеристик оцифрованного аудиосигнала. Заранее заданное количество выборок предпочтительно имеет заранее заданное целочисленное значение в диапазоне 5-1000, например, в диапазоне 20-500, предпочтительно в зависимости от фактической частоты дискретизации.

Последовательность выборок маскирования может быть включена в один кадр маскирования. Способ может дополнительно содержать этап, на котором генерируют, по меньшей мере, второй кадр маскирования, следующий за первым кадром маскирования, причем второй кадр включает в себя вторую последовательность выборок маскирования. Последовательности выборок маскирования в первом и втором кадрах маскирования, предпочтительно, различны, т.е. последовательные копии кадров маскирования предпочтительно избегать. Использование кадров, включающих в себя разные последовательности маскирования, обеспечивает маскирование с более естественным звучанием. Предпочтительно, первый и второй кадры маскирования включают в себя одинаковое количество выборок.

Предпочтительно, по меньшей мере, одна подпоследовательность выборок во втором кадре маскирования, по меньшей мере, частично базируется на подпоследовательностях буферизованных выборок, расположенных с дополнительным смещением назад во времени по отношению к любым подпоследовательностям выборок, включенным в первый кадр маскирования. Таким образом, последующие кадры маскирования предпочтительно базируются на более старых буферизованных выборках.

Согласно второму аспекту изобретение предусматривает программный код, выполняемый на компьютере, предназначенный для осуществления способа согласно первому аспекту. Такой программный код может быть записан в машинозависимой или машинонезависимой форме и на любом языке программирования, например в машинном коде или на языке программирования более высокого уровня.

Согласно третьему аспекту изобретение предусматривает устройство хранения программ, содержащее последовательность команд для микропроцессора, например микропроцессора общего назначения, для осуществления способа согласно первому аспекту. Устройство хранения может представлять собой средство хранения данных любого типа, например диски, карты памяти или линейки памяти, жесткие диски и т.д.

Согласно четвертому аспекту изобретение предусматривает конфигурацию, например устройство или аппарат, для приема оцифрованного аудиосигнала, конфигурация включает в себя:

- средство памяти для хранения выборок, представляющих принятый оцифрованный аудиосигнал, и

- средство процессора для осуществления способа согласно первому аспекту.

Реализация этого изобретения адекватными средствами, например описанными ниже для предпочтительных вариантов осуществления, позволяет декодеру и системе маскирования и/или транскодеру и системе маскирования эффективно маскировать последовательности потерянных или задержанных пакетов без привнесения артефактов, мешающих восприятию. Кроме того, это осуществляется с устойчивостью по отношению к акустическому фоновому шуму и множеству громкоговорителей и без внесения быстрого замирания. Повышенная устойчивость обусловлена согласованностью способа, через эволюцию во времени, в меньшей степени зависит от строгой периодичности сигнала, чем методы на основе повторения. Таким образом, заявленное изобретение обеспечивает двустороннюю передачу речи высокого качества в условиях акустического фонового шума, акустического эха и/или сильной расфазировки синхронизирующих импульсов, канальных потерь и/или флуктуаций времени задержки.

Краткое описание чертежей

Ниже приведено более подробное описание изобретения со ссылкой на прилагаемые чертежи, на которых представлено следующее:

фиг.1 - блок-схема известной системы сквозной передачи звука с коммутацией пакетов, для которой характерны эффекты потерь, задержки, флуктуации времени задержки и/или расфазировки тактовых сигналов;

фиг.2 - иллюстративная приемная подсистема, осуществляющая буферизацию флуктуаций, декодирование и буферизацию маскирования и воспроизведения под управлением блока управления;

фиг.3 - блок-схема ретрансляционной подсистемы канала с коммутацией пакетов, для которой характерны эффекты расфазировки тактовых сигналов, потерь, задержки и флуктуации времени задержки;

фиг.4 - иллюстративная ретрансляционная подсистема, осуществляющая входную буферизацию, выходную буферизацию и, при необходимости, перекодирование и маскирование под управлением блока управления;

фиг.5 - блок-схема ряда предпочтительных вариантов осуществления настоящего изобретения;

фиг.5A - иллюстративная схема подпоследовательностей в кадрах маскирования, начиная с подпоследовательности, базирующейся на последних буферизованных подпоследовательностях в обратном временном порядке;

фиг.5B - другой пример более крупной последовательности подпоследовательностей в кадрах маскирования, начиная с последних двух буферизованных подпоследовательностей в обратном временном порядке, причем последовательные подпоследовательности базируются на буферизованных подпоследовательностях с дополнительным сдвигом назад во времени;

фиг.5C - индексы счетчика выборок в шаблоне индексирования, форматированном шагами назад и длинами (интервалами) считывания;

фиг.6 - иллюстративная схема сигналов, используемых в функции индексирования и интерполяции;

фиг.7 - логическая блок-схема возможного варианта реализации логики принятия решений для критериев остановки;

фиг.8 - логическая блок-схема возможного способа осуществления итерационной совместной оптимизации сглаживания и коррекции, критериев остановки и количества допустимых повторений;

фиг.9 - схема использования циклического сдвига и сложения с перекрытием в связи с инициализацией и возбуждением фильтра регулировки фазы; и

фиг.10 - возможный вариант осуществления раскрытой процедуры взвешенного сложения с перекрытием.

Хотя изобретение допускает различные модификации и альтернативные формы, конкретные варианты осуществления показаны в порядке примера на чертежах и подробно описаны ниже. Однако следует понимать, что изобретение не ограничивается конкретными раскрытыми формами. Напротив, изобретение охватывает все модификации, эквиваленты и альтернативы, отвечающие сущности и объему изобретения, определяемым прилагаемой формулой изобретения.

Описание предпочтительных вариантов осуществления

Способ, отвечающий изобретению, осуществляется в блоке 420 декодирования и маскирования приемника, например, показанном на фиг.2, или осуществляется в блоке 330 перекодирования и маскирования ретранслятора, например, показанном на фиг.4, или в любом другом месте системы связи, где его выполнение целесообразно. В этих местах имеется некоторое количество буферизованных кадров сигнала и требуется некоторое количество кадров маскирования. Доступные кадры сигнала и нужные кадры маскирования могут состоять из выборок во временной области аудиосигнала, например речевого сигнала, или могут состоять из выборок, выведенных из них, например выборок возбуждения линейного предсказания, или могут состоять из других коэффициентов, выведенных из аудиосигнала и полностью или частично представляющих кадры звукового сигнала. Примерами таких коэффициентов являются коэффициенты частотной области, коэффициенты синусоидальной модели, коэффициенты кодирования с линейным предсказанием, коэффициенты интерполяции формы сигнала и другие множества коэффициентов, которые полностью или частично представляют выборки аудиосигнала.

На фиг.5 показан предпочтительный вариант осуществления изобретения. Согласно фиг.5, доступные кадры сигнала 595, которые могут представлять собой принятые и декодированные или перекодированные кадры сигнала или кадры маскирования из более ранней операции этого или других способов генерации кадров маскирования, или комбинации вышеупомянутых типов кадров сигнала, сохраняются в буфере 600 кадров. Сигнал в буфере кадров анализируется генератором 660 шаблона индекса. Генератор шаблона индекса может предпочтительно использовать оценки основного тона 596 и вокализации 597 сигнала. В зависимости от общей конфигурации системы эти оценки могут быть доступны для ввода из других процессов, например процесса кодирования, декодирования или перекодирования, или вычисляться другими средствами, предпочтительно, с использованием методов анализа сигнала, соответствующих уровню техники. Кроме того, генератор шаблона индекса принимает количество 598 кадров сигнала маскирования для генерации и указатели 599 начала и конца конкретных кадров сигнала в буфере кадров, которые заменяются кадром или кадрами маскирования. В порядке примера, если эти буферы указывают на конец буфера кадров, это означает, что кадр или кадры маскирования должны быть сделаны адекватными для следования сигналу, хранящемуся в буфере кадров. В порядке другого примера, если эти указатели указывают непустое подмножество последовательных кадров в буфере кадров, это означает, что кадр или кадры маскирования должны заменить эти кадры в последовательности кадров, представляющей или частично представляющей звуковой сигнал.

Для дальнейшей иллюстрации допустим, что буфер 600 кадров содержит кадры сигнала A, B, C, D, E, и что количество кадров 598 маскирования равно двум. Тогда, если указатели 599 кадров, подлежащих замене, указывают на конец буфера кадров, это означает, что два кадра сигнала маскирования должны следовать последовательно после кадра сигнала E. Напротив, если указатели 599 указывают на кадры сигнала B, C, D, два кадра маскирования должны заменять кадры сигнала B, C, D и следовать последовательно после кадра сигнала A, и за ними должен следовать последовательно кадр сигнала E.

Что касается способов определения количества кадров 598 маскирования и подмножества кадров, которые, в конечном итоге, должны заменять кадры маскирования, т.е. указателей 599, предпочтительно использовать способы, соответствующие уровню техники. Таким образом, данные 596, 597, 598 и 599 совместно с кадрами 595 сигнала составляют входные данные для способа, устройства и конфигурации, соответствующих настоящему изобретению.

В некоторых общих конфигурациях системы длина или размер кадра сигнала предпочтительно поддерживается постоянной в ходе работы блока маскирования. Помимо прочих сценариев это обычно имеет место, когда блок маскирования интегрирован в ретрансляционную систему, где результат маскирования подлежит помещению в пакеты, представляющие звуковой сигнал в интервале времени заранее заданной длины, причем эта заранее заданная длина определяется в другом месте. В порядке примера, эта заранее заданная длина может определяться в ходе согласования протоколов при установлении вызова в системе Voice over IP и может изменяться в ходе преобразования в соответствии, например, с механизмами управления сетевой перегрузкой. Некоторые варианты осуществления настоящего изобретения, как пояснено ниже, предпочтительно, отвечают этому требованию работы с заранее заданной длиной кадра сигнала. Однако инновация как таковая не ограничивается этими системными требованиями; другие варианты осуществления данной инновации предусматривают работу с маскированиями, которые составляют нецелое число кадров, и маскированиями кадров, которые имеют длины, зависящие от времени, причем эти длины могут зависеть от конкретного содержимого буфера кадров, возможно в комбинации с другими факторами.

Варианты осуществления настоящего изобретения могут предпочтительно использовать операцию 610 сглаживания и коррекции, выполняемую над сигналом 605 из буфера кадров. В этой операции сглаживания и коррекции генерируется сигнал 615, в котором кадры, более ранние по времени, чем кадр или кадры маскирования, имеют повышенное подобие с кадром или кадрами сигнала, которые подлежат замещению кадром или кадрами маскирования, или кадром непосредственно перед ним. Альтернативно, если кадр или кадры маскирования вставлены последовательно с существующими кадрами без замещения, имеет место подобие с кадром или кадрами непосредственно перед назначенной позицией кадра или кадров маскирования. В дальнейшем термин «подобие» употребляется в обоих случаях. Подобие интерпретируется слушателем-человеком. В результате сглаживания и коррекции получается сигнал с повышенным подобием, в то же время сохраняя естественно звучащую эволюцию сигнала 615. Примеры операций повышения подобия, преимущественно выполняемых сглаживанием и коррекцией 610, включают в себя повышение плавности и подобия в таких параметрах, как энергетическая огибающая, контур основного тона, степень вокализации, частота среза вокализации и спектральная огибающая, а также других параметрах, важных для восприятия.

В отношении каждого из этих параметров резкие переходы в эволюции параметра в кадрах, подлежащие сглаживанию и коррекции, отфильтровываются, и средний уровень параметра в этих кадрах плавно изменяется для обеспечения большего подобия в вышеупомянутом смысле. Предпочтительно, подобие вводится только в той степени, которая позволяет сохранять естественно звучащую эволюцию сигнала. Под управлением генератора 660 шаблона индекса сглаживание и коррекция могут предпочтительно сглаживать переходы и нарушения непрерывности, которые, в противном случае, могли бы появляться в последующей операции 620 индексирования и интерполяции. Кроме того, сглаживание и коррекция контура основного тона может предпочтительно контролироваться генератором 660 шаблона индекса таким образом, чтобы минимизировать искажение, которое, так или иначе, вносится в кадры маскирования позже фазовым фильтром 650. Операция сглаживания и коррекции может преимущественно использовать замену, смешивание, интерполяцию и/или слияние сигнала или параметра с кадрами сигнала (или параметрами, выведенными из них), найденными с дополнительным сдвигом назад во времени в буфере кадров 600. Операция сглаживания и коррекции 610 может не выполняться в системе, не приводя к изменению общего объема настоящего изобретения. В этом случае сигнал 615 соответствует сигналу 605, и вход 656 сигнала и выход 665 управления генератора 660 шаблона индекса в этом случае могут быть исключены из конфигурации системы.

Операция 620 индексирования и интерполяции принимает, возможно, сглаженный и скорректированный сигнал 615 и шаблон 666 индекса. Кроме того, в некоторых предпочтительных вариантах осуществления настоящего изобретения операция индексирования и интерполяции принимает индикатор 667 качества совпадения. Индикатор качества совпадения может иметь скалярное значение в каждый момент времени или может быть функцией времени и частоты. Назначение индикатора качества совпадения пояснено ниже в описании. Шаблон 666 индекса параметризует операцию функции индексирования и интерполяции.

На фиг.5A показан пример того, как шаблон индекса может индексировать подпоследовательности в буферизованных выборках, BS1, BS2, BS3, BS4, с постепенным сдвигом назад во времени при синтезе одного или нескольких кадров маскирования. В показанном примере последовательные подпоследовательности CS1, CS2, CS3, CS, CS5, CS6, CS7 в кадрах маскирования CF1, CF2, CF3 базируются на буферизованных подпоследовательностях BS1, BS2, BS3 и BS4 выборок в кадрах BF1, BF2. Можно видеть, что подпоследовательности маскирования CS1-CS7 индексируются исходя из буферизованных подпоследовательностей BS1-BS4, при этом указатель положения постепенно перемещается назад и затем постепенно перемещается вперед во времени, что выражается функциональным обозначением CS1(BS4), CS2(BS3), CS3(BS2), означающим, что CS1 базируется на BS4, и т.д. Таким образом, на фиг.5A показан один пример, иллюстрирующий как последовательные подпоследовательности в кадрах маскирования могут следовать друг за другом, на основании последовательных буферизованных подпоследовательностей, но переупорядоченные во времени. Можно видеть, что первые четыре подпоследовательности маскирования CS1(BS4), CS2(BS3), CS3(BS2) и CS4(BS1) выбраны базирующимися на последних четырех подпоследовательностях буферизованных выборок BS1, BS2, BS3, BS4, в последовательном порядке, но в обратном временном порядке, таким образом, начиная с последней буферизованной подпоследовательности BS1. После первых четырех подпоследовательностей в обратном временном порядке следуют три подпоследовательности CS5, CS6, CS7, которые все базируются на последовательных буферизованных подпоследовательностях во временном порядке, а именно BS2, BS3 и BS4, соответственно. Предпочтительный шаблон индекса формируется генератором шаблона 660 индекса и может варьироваться в широких пределах в зависимости от входов 656, 596, 597, 598 и 599 этого блока. На фиг.5B приведен, с сохранением обозначений фиг.5A, другой иллюстративный пример того, как подпоследовательности маскирования CS1-CS11 могут базироваться на буферизованных подпоследовательностях BS1-BS4 при переупорядочении во времени. Можно видеть, что более поздние подпоследовательности маскирования постепенно базируются на буферизованных подпоследовательностях с дополнительным смещением назад во времени. Например, первые две последовательные подпоследовательности маскирования CS1 и CS2 базируются на последних двух буферизованных подпоследовательностях BS3, BS4 в обратном временном порядке, тогда как более поздняя подпоследовательность маскирования, например CS10, базируется на BS1, т.е. буферизованной подпоследовательности с дополнительным смещением назад во времени по отношению к используемым для вычисления CS1 и CS2. Таким образом, фиг.5B демонстрирует, что последовательные подпоследовательности маскирования базируются на буферизованных подпоследовательностях, индексированных вперед и назад во времени, таким образом, что индексирование постепенно эволюционирует назад во времени.

В предпочтительных вариантах осуществления настоящего изобретения эта постепенная эволюция назад во времени формализуется как последовательность того, что в целях настоящего описания названо шагами назад, и последовательность того, что названо длинами (интервалами) считывания. В простых вариантах осуществления этого формата шаблона индекса указатель на выборки сигнала, или представляющие их параметры или коэффициенты, смещается назад на величину, равную первому шагу назад, после чего некоторое количество выборок, или представляющих их параметров или коэффициентов, вставляется в кадр маскирования, причем эта величина равна первой длине считывания. После этого указатель смещается назад на величину, равную второму шагу назад, и считывается некоторое количество выборок, или представляющих их параметров или коэффициентов, равное второй длине считывания, и т.д.

На фиг.5C показан пример этого процесса посредством переупорядочения первого перечисления индексированных выборок. Это первое перечисление отображается на временной оси сигнала, тогда как перечисление, отображаемое на временной оси маскирования на фиг.5C, соответствует переупорядочению исходных выборок при их размещении в кадре маскирования. В этом иллюстративном примере первый, второй и третий шаги назад произвольно выбраны равными 5, 6, 5, соответственно, и первая, вторая и третья длины чтения также произвольно выбраны равными 3, 4, 3, соответственно. В этом примере, подпоследовательности с множествами временных индексов {6,7,8}, {3,4,5,6}, и {2,3,4}, соответственно, являются подпоследовательностями, эволюционирующими постепенно назад во времени. Последовательности шагов назад и длина считывания выбраны здесь исключительно в целях иллюстрации. При использовании остаточных речевых выборок, с частотой дискретизации 16 кГц в порядке примера, типичные значения шагов назад находятся в диапазоне от 40 до 240, но не ограничиваются этим диапазоном, и типичные значения длин считывания находятся в диапазоне от 5 до 1000 выборок, но не ограничиваются этим диапазоном. В более усовершенствованных вариантах осуществления этого формата переход от последовательности прямого направления (например, исходного времени или подпоследовательности, индексированной назад во времени) к другой последовательности прямого направления, по одному шагу назад в каждый данный момент, производится постепенно путем интерполяции с постепенным сдвигом.

Фиг.6 иллюстрирует действие простого варианта осуществления функции индексирования и интерполяции в соответствии с одним шагом назад и соответствующей длиной считывания и индикатором качества совпадения. Исключительно в целях иллюстрации, кадры сигнала состоят здесь из выборок аудиосигнала во временной области. Интерполяция с постепенным сдвигом применяется к общему определению "выборки", используемому в этом описании, т.е. включающей в себя скалярные или векторные коэффициенты или параметры, представляющие выборки аудиосигнала во временной области, подобным и, тем самым, простым способом. На этом чертеже 700 обозначает сегмент сигнала 615. Указатель 705 - это момент времени выборки, следующий за моментом времени выборки для последней сгенерированной выборки в выходном сигнале 625 индексирования и интерполяции. Интервал времени 750 имеет длину, равную длине считывания. Интервал времени 770 также имеет длину, равную длине считывания. Интервал времени 760 имеет длину, равную шагу назад. Выборки сигнала в 700, начиная с момента 705, и на длину считывания вперед во времени по очереди перемножаются с функцией 720 окна. Кроме того, выборки сигнала в 700, начинающиеся в положении одной выборки после шага назад до положения 706 и на длину считывания выборки вперед по очереди перемножаются с функцией 710 окна. Выборки, полученные перемножением с окном 710 и с окном 720, суммируются по очереди 730 для получения выборок 740, которые составляют новую совокупность выборок для вывода 625 из операции индексирования и интерполяции. По завершении этой операции указатель 705 переходит в положение 706.

В простых вариантах осуществления настоящего изобретения функции 710 и 720 окна являются простыми функциями длины считывания 750. Одна такая простая функция состоит в выборе окна 710 и окна 720 в качестве первой и второй половины, соответственно, окна Ханнинга, длина которого вдвое больше длины считывания. Хотя здесь можно выбирать функции в широком диапазоне, с учетом того, что такие функции должны иметь смысл в контексте настоящего изобретения, они должны осуществлять взвешенную интерполяцию между выборками в сегменте, обозначенном 750, и выборками, обозначенными 770, таким образом, чтобы постепенно, но не обязательно монотонно, перемещаться от большого весового коэффициента на сегменте, обозначенном 750 к большому весовому коэффициенту на сегменте, обозначенном 770.

В других вариантах осуществления настоящего изобретения функции 710 и 720 окна являются функциями индикатора качества совпадения. Простой пример такой функции состоит в том, что, в зависимости от порога нормированной корреляции на сегментах сигнала 700, указанного интервалами времени 750 и 770, операция интерполяции выбрана так, чтобы суммировать до единицы либо по амплитуде, либо по мощности. Другой пример такой функции избегает ограничения суммированием по амплитуде либо по мощности до единицы, но зато оптимизирует весовые коэффициенты окна как функцию только меры совпадения. Дополнительное уточнение этого способа принимает фактическое значение нормированной корреляции и оптимизирует операцию интерполяции в соответствии с ним, например, с использованием классических методов линейной оценки. Однако примеры предпочтительных методов описаны ниже. В этих примерах порог, соответственно, фактическое значение нормированной корреляции, дает примеры предпочтительной информации, переносимой индикатором 667 качества совпадения. Согласно предпочтительным вариантам осуществления, описанным ниже, операция интерполяции может реализовывать различные взвешивания на разных частотах. В этом случае индикатор 667 качества совпадения может предпочтительно переносить меры совпадения как функции частоты. В предпочтительных вариантах осуществления это взвешивание как функция частоты реализуется в виде линии задержки с отводами или другого параметрического фильтра, который можно оптимизировать для максимизации критерия совпадения.

Фиг.6 иллюстрирует действие индексирования и интерполяции, когда сигнал 615 (а следовательно, и сегмент 700 сигнала) содержит выборки, представляющие выборки во временной области звукового сигнала или выведенного из него сигнала временной области. Как отмечено выше, выборки в кадрах 595, а следовательно, в сигналах 605 и 615 могут, предпочтительно, быть такими, что каждая выборка является вектором (выборками с векторными значениями), где такой вектор содержит коэффициенты или параметры, представляющие или частично представляющие звуковой сигнал. Примерами таких коэффициентов являются частоты линейчатого спектра, коэффициенты частотной области или коэффициенты, задающие модель синусоидального сигнала, например множества амплитуд, частот и фаз. На основании этого подробного описания предпочтительных вариантов осуществления настоящего изобретения специалист в данной области техники может спроектировать операции интерполяции, которые предпочтительно применяются к выборкам с векторными значениями, тогда как описание остальных подробностей каждого конкретного случая таких выборок с векторными значениями можно найти в общей литературе.

Для понимания настоящего изобретения предпочтительно иметь в виду, что при неоднократном применении операции индексирования и интерполяции с длиной считывания, которая меньше шага назад, получается, что выборки в сигнале 625 представляют выборки сигнала, имеющие все большее и большее смещение назад в сигнале 615. Если шаг назад и/или длину считывания выбрать так, чтобы длина считывания была больше шага назад, то этот процесс повернется вспять, и выборки в сигнале 625 будут представлять выборки сигнала, которые постепенно смещаются все больше вперед в сигнале 615. Благодаря предпочтительному выбору последовательности шагов назад и последовательности длин чтения, можно получить продолжительный сигнал маскирования с богатой и естественной вариацией, не вызывая выборки вперед во времени из самого позднего принятого кадра сигнала в буфере 600 кадров или даже не вызывая выборки впереди другого заранее заданного момента времени, более раннего, чем самая поздняя выборка в самом позднем принятом кадре в буфере 600 кадров. Таким образом, настоящее изобретение делает возможным маскирование пиков задержки в системе с низкой задержкой воспроизведения или планированием выходного буфера. В формулировке данного описания простая строгая обратная эволюция во времени сигнала, которую, может быть, полезно рассматривать как элемент простого варианта осуществления настоящего изобретения, реализуется путем повторного использования длины считывания в одну выборку, шага назад в две выборки и окна 720, содержащего единичную выборку со значением 0 и окна 710, содержащего единичную выборку со значением 1,0.

Основной задачей генератора 660 шаблона индекса является управление действием операции 620 индексирования и интерполяции. В ряде предпочтительных вариантов осуществления это управление формализовано в шаблоне 666 индексирования, который может состоять из последовательности шагов назад и последовательности длин считывания. Это управление может быть дополнено последовательностью индикаций качества совпадения, каждая из которых, в свою очередь, может быть функцией, например, частоты. Дополнительной особенностью, которая может выводиться из генератора шаблона индекса, и использование которой поясняется ниже, является счетчик 668 повторения. Счетчик повторения показывает, сколько раз начиналась эволюция назад во времени при построении кадра или кадров маскирования. Генератор шаблона индекса получает эти последовательности на основании информации, которая может содержать сглаженный и скорректированный сигнал 656, выводимый из операции 610 сглаживания и коррекции; оценку 596 основного тона, оценку 597 вокализации, количество 598 генерируемых кадров маскирования и указатели 599 на кадры, подлежащие замене. В одном варианте осуществления генератора шаблона индекса он работает в разных режимах в зависимости от индикатора вокализации. Такие режимы проиллюстрированы ниже.

В порядке примера, предпочтительно используемого в области возбуждения линейного предсказания, если индикатор вокализации устойчиво указывает, что сигнал является невокализованной речью, или что в сигнале отсутствует активная речь, т.е. сигнал состоит из фонового шума, генератор шаблона индекса может войти в режим, в котором инициируется простое обращение эволюции во времени выборок сигнала. Как описано выше, это может осуществляться, например, путем формирования последовательности значений шага назад, равных двум, и последовательности значений длины чтения, равных единице (это описание опирается на выбор при проектировании, согласно которому операция индексирования и интерполяции будет сама идентифицировать эти значения и применять соответствующую функцию окна, как описано выше). В некоторых случаях эта последовательность может продолжаться до тех пор, пока обратная эволюция во времени сигнала не будет реализована для половины количества новых выборок, необходимых в кадре или кадрах маскирования, после чего значения в последовательности шагов назад могут быть заменены на 0, иными словами, начнется прямая эволюция во времени сигнала, которая будет продолжаться до тех пор, пока указатель 706 эффективно не вернется в отправную точку указателя 705 в первом применении шага назад. Однако этой простой процедуры не всегда достаточно для кадров маскирования высокого качества. Важной задачей генератора шаблона индекса является мониторинг адекватных критериев остановки. В вышеприведенном примере обратная эволюция во времени может переводить указатель 706 обратно в позицию в сигнале, в которой звук, при интерпретации слушателем-человеком, значительно отличается от начальной точки. Прежде, чем это произойдет, эволюция во времени должна претерпеть обращение.

Предпочтительные варианты осуществления настоящего изобретения предусматривают применение множества критериев остановки, базирующихся на множестве мер. Ниже приведены примеры некоторых из этих мер и критериев остановки. Если вокализация указывает, что сигнал по указателю 706 вокализован, то в вышеприведенном примере, начиная с невокализованного, направление эволюции во времени может предпочтительно поменяться на обратное, также, если энергия сигнала в области вокруг указателя 706 отличается (определяемая по абсолютному или относительному порогу) от энергии сигнала в отправной точке для указателя 705, направление эволюции во времени может предпочтительно изменяться на обратное. В третьем примере спектральное расстояние между областью вокруг отправной точки для указателя 705 и текущей позицией указателя 706 может превышать порог, и направление эволюции во времени должно измениться на обратное.

Второй пример режима может потребоваться, когда сигнал нельзя уверенно определить как невокализованный или не содержащий активной речи. В этом режиме оценка основного тона 596 составляет основу для определения шаблона индекса. Одна процедура для этого состоит в поиске каждого шага назад, дающего максимальную нормированную корреляцию между сигналом на один период основного тона вперед во времени от указателя 705 и сигналом на один период основного тона вперед от точки, находящейся в шаге назад от указателя 705. Поиск потенциальных значений шага назад может предпочтительно ограничиваться областью. Эта область может предпочтительно задаваться в пределах плюс-минус 10 процентов от ранее найденного шага назад или отставания на период основного тона, если не было найдено предыдущих шагов назад. После определения шага назад значение длины считывания определяет, должна ли эволюция сигнала во времени проходить назад или вперед во времени, и насколько быстрой должна быть эта эволюция. Медленная эволюция получается за счет выбора длины считывания, близкой к найденному значению шага назад. Быстрая эволюция получается за счет выбора длины считывания, много меньшей или много большей шага назад в случае обратной и прямой эволюции, соответственно. Задача генератора шаблона индекса состоит в выборе длины считывания для оптимизации качества звука при интерпретации слушателем-человеком. Выбор длины считывания, слишком близкой к шагу назад, может, в некоторых сигналах, например сигналах, которые не являются достаточно периодическими, приводить к артефактам, мешающим восприятию, например струнным звукам. Выбор длины считывания, слишком далекой от шага назад, приводит к тому, что в ходе эволюции во времени кадра или кадров маскирования, в конечном итоге, просматривается более длительный интервал времени в буфере кадров, альтернативно, что направление эволюции во времени приходится менять больше раз, прежде чем будет сгенерировано достаточное количество выборок для кадра или кадров маскирования.

В первом случае, в некоторых сигналах, например сигналах, которые не являются достаточно стационарными (альтернативно, не являются достаточно сглаженными и скорректированными), в звуке кадра или кадров маскирования возникают некоторые артефакты, мешающие восприятию, которые несколько напоминают заикание. Во втором случае могут возникать артефакты, напоминающие струнные звуки. Особенность предпочтительных вариантов осуществления настоящего изобретения состоит в том, что длину считывания можно определить как функцию шага назад и нормированной корреляции, которая оптимизируется в поиске оптимального шага назад. Один простой, но предпочтительный, выбор этой функции согласно вариантам осуществления настоящего изобретения, связанным с обработкой речевых сигналов, когда кадры сигнала содержат сигнал возбуждения линейного предсказания длительностью в 20 мс с частотой дискретизации 16 кГц, в порядке примера задается следующей функцией

где квадратные скобки [] используются для указания округления до ближайшего целого числа, и где символы ReadLength, NormalizedCorrelation и StepBack используются для обозначения длины считывания, нормированной корреляции, полученной для оптимального шага назад, и соответствующего шага назад, соответственно. Вышеприведенная функция служит лишь примером одного предпочтительного выбора в некоторых вариантах осуществления настоящего изобретения. Любой выбор длины считывания, включающий в себя любую функциональную зависимость для получения этой длины считывания, возможен без отхода от сущности настоящего изобретения. В частности, предпочтительные методы выбора длины считывания включают в себя использование управления 665 для параметризации операции 610 сглаживания и коррекции, например, для достижения совместной минимизации артефактов наподобие заикания и наподобие струнных звуков в промежуточном кадре 625 маскирования. Это объясняет, почему генератор шаблона индекса 660 принимает промежуточный сигнал 656, а не выходной сигнал 615 операции сглаживания и коррекции: сигнал 656 представляет возможные версии окончательного сигнала 615 под управлением 665 и позволяет генератору шаблона индекса решать задачу оптимизации методом итераций. Как и в вышеописанном случае режима невокализованной и неактивной речи, критерии остановки в этом режиме также важны. Все примеры критериев остановки, предложенные в вышеописанном режиме, применимы и в этом режиме. Дополнительно, в этом режиме критерии остановки на основе измерений на основном тоне и нормированной корреляции могут, предпочтительно, составлять часть вариантов осуществления настоящего изобретения.

На фиг.7 показан пример, предпочтительной логики принятия решений для комбинации критериев остановки. На фиг.7 используются следующие условные обозначения:

800: Установить, относится ли сигнал к типу высокой корреляции, типу низкой корреляции или не относится ни к одному из них. Определить начальный уровень энергии

801: Определить следующий шаг назад и нормированную корреляцию и длину считывания

802: Определить, вошел ли сигнал в тип низкой корреляции

803: Определить, вошел ли сигнал в тип высокой корреляции

804: Сигнал типа высокой корреляции?

805: Сигнал типа низкой корреляции?

806: Энергия ниже относительного минимального порога или выше относительного максимального порога?

807: Нормированная корреляция ниже порога для типа высокой корреляции?

808: Нормированная корреляция выше порога для типа низкой корреляции?

809: Достаточно ли выборок сгенерировано?

В случае работы в области возбуждения линейного предсказания для речи с частотой дискретизации 16 кГц. Пороги, упомянутые на фиг.7, можно предпочтительно выбирать следующим образом: в тип высокой корреляции можно входить, когда нормированная корреляция оказывается выше 0,8; порог для сохранения в типе высокой корреляции можно задать равным значению нормированной корреляции 0,5; в тип низкой корреляции можно входить, когда нормированная корреляция оказывается ниже 0,5; порог для сохранения в типе низкой корреляции можно задать равным значению нормированной корреляции 0,8; минимальную относительную энергию можно задать равной 0,3; и максимальную относительную энергию можно задать равной 3,0. Кроме того, можно использовать другие логики и другие критерии остановки в контексте настоящего изобретения, не выходя за рамки сущности и объема настоящего изобретения.

Применение критериев остановки означает, что единичная эволюция, назад во времени, до тех пор, пока либо не будет сгенерировано достаточно выборок, либо не будет удовлетворен критерий остановки, после чего вновь начнется эволюция вперед во времени, не гарантирует необходимое количество выборок для кадров маскирования. Поэтому генератор шаблона индекса может применять больше эволюций назад и вперед во времени. Однако слишком много прямых и обратных эволюций может привести к возникновению артефактов струнного звука в некоторых сигналах. Поэтому предпочтительные варианты осуществления настоящего изобретения предусматривают совместную оптимизацию критериев остановки, функции, применяемой для вычисления длин считывания, управления 665 сглаживанием и коррекцией и количества обратных и прямых эволюций, т.е. счетчика 668 повторения, и, если разрешают указатели 599 кадров, подлежащих замене, также количества выборок, размещаемых вперед во времени до начала каждой новой эволюции назад во времени. Для этого операцией сглаживания и коррекции также можно предпочтительно управлять таким образом, чтобы немного изменять контур основного тона сигнала. Кроме того, совместная оптимизация может осуществляться с учетом действия фазового фильтра 650 и создавать небольшие изменения в контуре основного тона, например, для того, чтобы шаблон индекса минимизировал искажение, вносимое в фазовый фильтр совместно с другими вышеупомянутыми параметрами. На основании описания предпочтительных вариантов осуществления настоящего изобретения специалист в данной области техники может понять, что для решения этой задачи можно применять различные общие инструменты оптимизации, в том числе итерационную оптимизацию, марковские процессы принятия решения, методы Витерби и т.д., любой из которых применим к этой задаче без отхода от объема настоящего изобретения.

Фиг.8 иллюстрирует посредством логической блок-схемы один пример итерационной процедуры для осуществления простой, но эффективной оптимизации этих параметров.

На фиг.8, используются следующие условные обозначения:

820: Инициировать управление сглаживанием и коррекцией 665

821: Получить новый сглаженный сигнал 656

822: Инициировать критерии остановки

823: Инициировать допустимое количество повторений

824: Определить шаблон индекса для последовательности обратных и прямых эволюций, равномерно распределенных по доступным кадрам, указанным указателями 599, или, при указании на конец доступных кадров, обратных эволюций, следующих непосредственно за прямыми эволюциями

825: Сгенерировано достаточное количество выборок для количества кадров маскирования 598?

826: Максимальное количество повторений достигнуто?

827: Увеличить допустимое количество повторений

828: Самый слабый порог для критериев остановки достигнут?

829: Ослабить пороги для критериев остановки

830: Изменить управление в сторону повышения влияния сглаживания и коррекции

Заметим, что одна эволюция назад и вперед во времени и следующая эволюция назад и вперед во времени, в случае, когда в ходе предыдущей/их эволюции или эволюций назад и вперед во времени не было синтезировано достаточно сигнала, могут предпочтительно отличаться. Например, следует предусмотреть последовательности шагов назад, длины считывания и функции интерполяции, а также указатель конечного положения после эволюции назад и вперед во времени, например, для минимизации артефактов периодичности, которые в противном случае возникают вследствие повторения аналогичных шаблонов индекса. Например, для области вокализованного речевого остатка с частотой дискретизации 16 кГц одна эволюция назад и вперед во времени, генерирующая, например, 320 выборок, может предпочтительно заканчиваться с дополнительным смещением назад примерно в 100 выборок в сигнале по отношению к более ранней эволюции назад и вперед во времени.

Раскрытые выше варианты осуществления эффективно решают проблемы искусственно звучащих струнных звуков, имеющих место в способах, соответствующих уровню техники, и в то же время допускают эффективное маскирование резких, пиковых флуктуаций времени задержки и внезапно происходящих потерь повторных пакетов. Однако в неблагоприятных сетевых условиях, встречающихся, например, в некоторых беспроводных системах и специализированных беспроводных сетях и негарантированных сетях и в других сценариях передачи, даже заявленный способ может в ряде случаев вносить небольшие составляющие тональности в кадры маскирования. Поэтому в некоторых вариантах осуществления настоящего изобретения предпочтительно применять операцию 630 слабого примешивания шума и фильтр 640 мягкого ослабления. Общие подходы к примешиванию шума и ослаблению хорошо известны специалистам в данной области техники. Они включают в себя предпочтительно использование частотно-зависимой эволюции во времени мощности шумовой составляющей и частотно-зависимую эволюцию во времени функции ослабления. Характерной особенностью использования примешивания шума и ослабления в контексте настоящего изобретения является непосредственное использование шаблона 666 индекса, меры 667 качества совпадения и/или счетчика 668 повторения для адаптивной параметризации операций примешивания шума и ослабления. В частности, индексы шаблона индексирования, когда неизменные выборки сигнала размещаются в кадре маскирования, и когда выборки кадра маскирования являются результатом операции интерполяции. Кроме того, отношение шага назад относительно длины считывания в сочетании с мерой качества совпадения указывают воспринимаемое качество, получающееся в результате операции интерполяции. Этот малый или отсутствующий шум можно предпочтительно примешивать к исходным выборкам, причем более сильный шум предпочтительно примешивать к выборкам, являющимся результатом процесса интерполяции, и величина шума, примешиваемого к этим выборкам, может предпочтительно быть функцией меры качества совпадения, предпочтительно в частотно-дифференцированном режиме. Кроме того, значение длины чтения относительно шага назад также указывает степень периодичности, которая может иметь место, примешивание шума может предпочтительно включать в себя эту меру при определении величины шума, примешиваемого к сигналу маскирования. Тот же принцип применяется к ослаблению; предпочтительно использовать мягкое ослабление, но меньшее ослабление можно применять к выборкам, представляющим исходные выборки сигнала, и большее ослабление можно применять к выборкам, полученным в результате операции интерполяции. Кроме того, величина ослабления в этих выборках предпочтительно может быть функцией индикации качества совпадения и преимущественно в частотно-дифференцированном режиме. Опять же, значение длины считывания относительно шага назад указывает степень периодичности, которая может иметь место; операция ослабления может предпочтительно включать в себя эту меру в проектировании ослабления.

Как отмечено выше в предпосылках настоящего изобретения, важной задачей подмножества вариантов осуществления настоящего изобретения является получение кадров маскирования заранее заданной длины, равной длине регулярных кадров сигнала. Когда это необходимо с точки зрения системы, средством для этого предпочтительно может быть фазовый фильтр 650. Простая в вычислительном отношении, приблизительная, но зачастую важная работа этого блока состоит в осуществлении сглаженного сложения с перекрытием между выборками, которые превышают заранее заданную длину кадра в число раз, равное количеству кадров маскирования, с хвостовым подмножеством выборок из кадра, следующего за кадрами маскирования. Сам по себе, этот способ хорошо известен из уровня техники и используется, например, в рекомендации Международного союза электросвязи ITU-T G.711 Приложение 1. Если это практично с точки зрения системы, простую процедуру сложения с перекрытием можно усовершенствовать путем умножения последующих кадров на -1 всякий раз, когда это приводит к повышению корреляции в области сложения с перекрытием. Однако можно предпочтительно использовать другие методы, например, при переходе между кадрами вокализованного сигнала, для дополнительного ослабления эффекта нарушений непрерывности на границах кадров. Один такой метод предусматривает повторную дискретизацию кадров маскирования. Этот метод сам по себе, также хорошо известен из уровня техники. См., например, Valenzuela and Animalu, "A new voice-packet reconstruction technique", IEEE, 1989. Таким образом, специалист в данной области техники может осуществлять ослабление нарушений непрерывности на границах кадров. Однако в предпочтительных вариантах осуществления раскрытого изобретения повторная дискретизация может предпочтительно продолжаться в кадрах, следующих за последним кадром маскирования. Это позволяет сделать наклон изменения во времени и, таким образом, частотный сдвиг, который возникает вследствие повторной дискретизации, незаметным при интерпретации слушателем-человеком. Кроме того, вместо повторной дискретизации в настоящем изобретении раскрыто использование всечастотных фильтров, изменяющихся во времени, для ослабления нарушений непрерывности на границах кадров. Один вариант осуществления этого подхода, задается уравнением фильтра

функция которого поясняется ниже. Предположим, что просмотр от задержки в L выборок до задержки в 0 выборок требуется по интервалу просмотра, который может включать в себя все выборки или их часть для всех или части кадров маскирования; в кадрах до кадров маскирования; и в кадрах после кадров маскирования. Тогда в начале интервала просмотра alpha_1(t) задается равным нулю, и alpha_2(t) задается равным 1,0 для реализации задержки в L выборок. После начала просмотра по t, alpha_1(t) должна постепенно возрастать до 0,5, и alpha_2(t) должна постепенно убывать до 0,5. Когда в конце интервала просмотра alpha_1(t) равняется alpha_2(t), фильтр H_L(z,t) вносит нулевую задержку. Если же требуется просмотр от задержки в ноль выборок до задержки в L выборок по интервалу просмотра, который может включать в себя все выборки или их часть для всех или части кадров маскирования; в кадрах до кадров маскирования; и в кадрах после кадров маскирования. Тогда в начале интервала просмотра alpha_1(t) задается равным 0,5, и alpha_2(t) задается равным 0,5 для реализации задержки в 0 выборок. После начала просмотра по t, alpha_1(t) должна постепенно убывать до 0, и alpha_2(t) должна постепенно возрастать до 1,0. Когда в конце интервала просмотра alpha_1(t) равняется 0, и alpha_2(t) равняется 1,0, фильтр H_L(z,t) вносит задержку в L выборок.

Вышеописанная фильтрация проста с точки зрения вычислений, однако имеет нелинейную фазовую характеристику. Исходя из особенностей восприятия использование этой нелинейной фазы ограничивается сравнительно малыми L. Предпочтительно L<10 для речи на частоте дискретизации 16 кГц. Один способ осуществления фильтрации более значительных начальных значений L состоит в инициировании нескольких фильтров для меньших значений L, которые суммируются до нужного полного значения L, эти несколько фильтров можно предпочтительно инициировать в разные моменты времени и просматривать их диапазон alpha по разным интервалам времени. Другой способ увеличения диапазона L, в котором можно применять этот фильтр, раскрыт ниже. Структура, которая реализует фильтрацию, функционально идентичную вышеописанной, делит сигнал на L полифаз и производит следующую фильтрацию в каждой из этих полифаз

Согласно настоящему изобретению полифазовая фильтрация предпочтительно реализуется с использованием повышающей дискретизации. Возможный способ ее реализации предусматривает повышающую дискретизацию каждой полифазы с коэффициентом K и осуществление фильтрации H_1(z,t) K раз в каждой дискретизированной с повышением полифазе с последующей понижающей дискретизацией с коэффициентом K и реконструкцией сигнала с измененной фазой из полифаз. Коэффициент K может быть выбран K=2. Благодаря процедуре повышающей дискретизации получается фазовая характеристика, более близкая к линейной. Таким образом, воспринимаемое качество при интерпретации слушателем-человеком повышается.

Вышеописанная фазовая регулировка по множеству кадров применима, когда кадры маскирования вставляются в последовательность принятых кадров без потерь. Она также применима, когда кадры отбираются из последовательности сигналов для снижения задержки воспроизведения последующих кадров. Она также применима в случае потери кадров и когда ноль или более кадров маскирования вставляется между принятыми кадрами перед принятыми кадрами и после потерянных кадров. В этих случаях предпочтительный способ получения входного сигнала для этого фильтра и нахождения задержки L состоит в следующем:

1) Для кадров, более ранних по времени, чем момент нарушения непрерывности, продолжает или начинает применяться раскрытый здесь или какой-либо иной способ маскирования.

2) Для кадров, более поздних по времени, чем нарушение непрерывности, некоторое количество выборок L_test вставляется в начало кадра посредством раскрытого здесь или какого-либо иного способа маскирования, но с обращенным индексированием временных выборок.

3) Мера совпадения, например нормированная корреляция, применяется между кадром или кадрами маскирования из 1) и кадром или кадрами из 2), включая начальные выборки L_test.

4) L_test, которая максимизирует меру совпадения, выбирается в качестве L.

5) Кадр или кадры маскирования из 2) и кадр или кадры из 3) теперь добавляются совместно, с использованием процедуры взвешенного сложения с перекрытием. Хотя это взвешенное сложение с перекрытием можно осуществлять способом, известным специалисту в данной области техники, его можно предпочтительно оптимизировать согласно раскрытию, приведенному ниже в этом описании.

6) Результирующий/е кадр или кадры подвергаются вышеописанной фазовой фильтрации, инициируемой при определенном значении L. Если L больше порога, то несколько фильтров инициируется и подвергается просмотру коэффициента в разные моменты времени и интервалы времени, причем их значения L суммируются до определенного значения L.

Предпочтительно, в речи или речевом остатке с частотой дискретизации 8 или 16 кГц, можно выбирать значение вышеупомянутого порога в диапазоне от 5 до 50. Также предпочтительно, в вокализованной речи или вокализованном речевом остатке, выборки маскирования L_test и их продолжение на следующий кадр получают путем циклического сдвига выборок первого периода основного тона кадра. Таким образом, меру корреляции без нормирования, коррелирующую с полным периодом основного тона, можно предпочтительно использовать как меру совпадения для отыскания предпочтительного циклического сдвига L.

На фиг.9 показан возможный вариант осуществления такого способа. Согласно фиг.9, фазовая регулировка обеспечивает сглаженный переход между кадром 900 сигнала и последующими кадрами. Это осуществляется следующим образом: из кадра 900 сигнала и более ранних кадров генерируется сигнал 910 маскирования. Этот сигнал маскирования можно генерировать с использованием раскрытых здесь методов или с использованием других методов, которые хорошо известны из уровня техники. Сигнал маскирования перемножается с окном 920 и суммируется 925 с другим окном 930, которое перемножается с сигналом, генерируемым следующим образом: сигнал 940 маскирования генерируется из последующих выборок 950 и, возможно, 960, путем эффективного применения метода маскирования, например, раскрытого здесь, или с использованием других методов, которые хорошо известны из уровня техники, и конкатенируется с последующими выборками 950. Количество выборок в маскировании 940 оптимизируется, например, для максимизации совпадения между маскированием 910 и сочленением 940 и последующими выборками 950.

Предпочтительно, нормированную корреляцию можно использовать как меру этого совпадения. Кроме того, для снижения сложности вычислений совпадение для вокализованной речи или вокализованного речевого остатка может содержать лишь один период основного тона. В этом случае выборки 940 маскирования можно получить как первую часть циклического сдвига одного периода основного тона, и меру корреляции по одному периоду основного тона теперь не нужно нормировать. Это позволяет исключить вычисления нормирующих множителей. Что касается операции индексирования и интерполяции, описанной выше в этом подробном описании предпочтительных вариантов осуществления, окна могут быть функцией индикатора качества совпадения и/или функцией частоты и реализовываться в виде линии задержки с отводами. Фильтр 970 действует следующим образом. Первые L выборок, полученных посредством процедуры сложения с перекрытием, передаются непосредственно на его выход и используются для задания начального состояния фильтра. После этого коэффициенты фильтра инициируются, как описано выше, и по мере того, как фильтр осуществляет фильтрацию от выборки L+1 и вперед, эти коэффициенты постепенно регулируются, например, для постепенного удаления задержки в L выборок, как описано выше.

В вышеописанной процедуре вновь применяется вышеописанный способ оптимизации весовых коэффициентов окон в соответствии с максимизацией критерия совпадения, а также обобщение функций окна на частотно-зависимые весовые коэффициенты и согласованные фильтры в форме линий задержки с отводами или другие формы параметрического фильтра. В предпочтительных вариантах осуществления эволюция во времени частотно-зависимых весовых коэффициентов фильтра обеспечивается посредством последовательности из трех последовательностей сложения с перекрытием, первая из которых ослабляет кадр или кадры маскирования из более ранних кадров, вторая усиливает их фильтрованную версию с помощью фильтра, например, для согласования кадров маскирования из более поздних кадров, полученных во времени, индексированном в обратном направлении, а затем снова ослабляет их, и третья упомянутая последовательность усиливает кадр или кадры более поздние по времени. Согласно другой совокупности предпочтительных вариантов осуществления эволюция во времени частотно-зависимых весовых коэффициентов фильтра обеспечивается посредством последовательности из четырех последовательностей сложения с перекрытием, первая из которых ослабляет кадр или кадры маскирования из более ранних кадров, вторая усиливает их фильтрованную версию с помощью фильтра, например, для согласования кадров маскирования из более поздних кадров, полученных во времени, индексированном в обратном направлении, а затем снова ослабляет их, третья усиливает фильтрованную версию кадров, более поздних по времени, например, для дальнейшего улучшения этого согласования, а затем снова ослабляет их, и, наконец, четвертое окно усиливает кадр или кадры, более поздние по времени. Дополнительные предпочтительные варианты осуществления методов взвешенного сложения с перекрытием раскрыты ниже в этом описании.

Что касается операции 610 сглаживания и коррекции в вариантах осуществления, где выборки остаточной области используются как часть информации, представляющей речевой сигнал, сглаживание и коррекцию можно применять к этому остаточному сигналу с использованием фильтрации, адаптированной к основному тону, например, гребенчатого фильтра или периодического узкополосного режекторного фильтра. Кроме того, можно применять фильтрацию Винера или Калмана, используя фильтр с долгосрочной корреляцией плюс шум в качестве модели нефильтрованного остатка. Таким образом, благодаря применению фильтра Винера или Калмана, дисперсия шума в модели применяется для регулировки степени сглаживания и коррекции. Это использование несколько противоречит интуитивному представлению, поскольку эта составляющая, согласно теории фильтрации Винера или Калмана, традиционно применяется для моделирования наличия нежелательной шумовой составляющей. Применительно к данной инновации задача состоит в установлении уровня сглаживания и коррекции. В порядке альтернативы гребенчатой или узкополосной режекторной фильтрации, адаптированной к основному тону, и фильтрации Винера или Калмана, третий способ предпочтительно применяется для сглаживания и коррекции остаточных сигналов в контексте данной инновации. Согласно этому третьему способу либо выборка амплитуды, которая предпочтительно применяется, например, к невокализованной речи, либо последовательные векторы выборок, которые предпочтительно применяются, например, к вокализованной речи, делаются все более подобными. Возможные процедуры осуществления этого описаны ниже для векторов вокализованной речи и выборок невокализованной речи, соответственно.

Для вокализованной речи последовательные выборки речи или остатка группируются в векторы, причем количество выборок в каждом векторе равно одному периоду основного тона. Для удобства описания будем обозначать этот вектор как v(k). Согласно способу получаем вектор остатка r(k) как составляющую вектора v(k), которую невозможно найти в окружающих векторах v(k-L1), v(k-L1+1),..., v(k-1) и v(k+1), v(k+2),...., v(k+L2). Для удобства описания составляющую, найденную в окружающих векторах, обозначим как a(k). Затем над вектором остатка r(k) выполняются линейные или нелинейные преобразования для снижения его слышимости, в то же время сохраняя естественное звучание результирующего реконструированного вектора, который получается путем повторной вставки составляющей a(k) в преобразованную версию r(k).

Таким образом, получаем сглаженную и скорректированную версию вокализованной речи или вокализованной остаточной речи. Ниже приведен один простой вариант осуществления вышеописанного принципа с использованием, для удобства, матрично-векторной системы обозначений и, для простоты примера, понятие линейной комбинации и наименьших квадратов для определения a(k). Это всего лишь пример простого варианта осуществления вышеописанного общего принципа сглаживания и коррекции.

В целях этого примера зададим матрицу M(k) следующим образом:

откуда a(k) можно вычислить, например, как оценку наименьших квадратов для v(k) при данной M(k)

где inv() обозначает обращение или псевдообращение матрицы и trans() обозначает транспонирование матрицы. Теперь остаток r(k) можно вычислить, например, вычитанием.

Один пример преобразования r(k) состоит в срезании пиков в этом векторе, например, для ограничения максимального абсолютного значения выборки уровнем, равным максимальной амплитуде вектора r(k), ближайшего к начальной точке процедуры маскирования назад-вперед, или до некоторого кратного значения амплитуды выборки в той же позиции в векторе, но в векторе, ближайшем к начальной точке процедуры маскирования назад-вперед. Преобразованный остаток rm(k) затем объединяется с вектором a(k) для реконструкции скорректированной версии v(k), для удобства обозначенной как ve(k). Это объединение можно осуществлять, например, посредством простого сложения:

Параметр alpha в этом примере можно задать равным 1,0 или можно предпочтительно выбрать меньшим 1,0, например равным 0,8.

Для невокализованной речи, можно использовать другой способ сглаживания и коррекции. Согласно одному примеру сглаживание и коррекция невокализованной речи предусматривает вычисление полиномиальной аппроксимации амплитуд остаточного сигнала в логарифмической области. В порядке примера можно использовать многочлен второго порядка и в области log10. После преобразования аппроксимирующего многочлена из логарифмической области обратно в линейную область, аппроксимирующая кривая предпочтительно нормируется к 1,0 в точке, соответствующей начальной точке процедуры назад-вперед. Затем аппроксимирующая кривая подвергается ограничению снизу, например, до 0,5, после чего амплитуды остаточного сигнала можно делить с помощью аппроксимирующей кривой, например, для сглаживания изменений амплитуды невокализованного остаточного сигнала.

Что касается процедур взвешенного сложения с перекрытием, некоторые, но не все применения которых раскрыты выше в этом описании, т.е. операция 620 индексирования и интерполяции и способ инициирования входного сигнала для фильтрации 970 с регулировкой фазы, можно осуществлять процедуры, известные специалисту в данной области техники. Однако в предпочтительных вариантах осуществления процедур взвешенного сложения с перекрытием, можно предпочтительно использовать способы, раскрытые ниже.

В простом варианте осуществления процедуры взвешенного сложения с перекрытием, видоизмененной в соответствии с индикатором качества совпадения, предполагается, что первое окно перемножается с первой подпоследовательностью, и второе окно перемножается со второй подпоследовательностью, и эти два произведения подвергаются операции сложения с перекрытием. Теперь, в порядке примера, предположим, что первое окно является убывающим окном, например монотонно убывающей функцией, и предположим, что второе окно является возрастающим окном, например монотонно возрастающей функцией. Во-вторых, в порядке простого примера, предположим, что второе окно параметризуется базовой формой окна со скалярным множителем. Теперь по определению: target - первая подпоследовательность; w_target - первая подпоследовательность, каждая выборка которой умножена на убывающее окно; w_regressor - вторая подпоследовательность, каждая выборка которой умножена на базовую форму окна для возрастающего окна; и coef - скалярный множитель. Теперь составляющую скалярного множителя второго окна можно оптимизировать, например, для минимизации суммарной квадратичной ошибки между target и результатом операции сложения с перекрытием. Используя для удобства матрично-векторную систему обозначений, проблему можно сформулировать как минимизацию суммы квадратов разностей между target и величиной

определяя отсюда векторы T и H как

Решение этой оптимизации задано в виде

где inv() обозначает скалярное или матричное обращение, trans() обозначает транспонирование матрицы или вектора, и * обозначает матричное или векторное умножение. Теперь, в качестве основных компонентов раскрытого изобретения, этот способ можно распространить для оптимизации фактической формы окна. Один способ осуществления этого состоит в следующем. Задаем множество форм, для которых искомое окно получается как линейная комбинация элементов этого множества. Теперь задаем H так, чтобы каждый столбец H представлял собой форму из этого множества, каждая выборка которой умножена на вторую подпоследовательность, и задаем coef как вектор-столбец, содержащий неизвестные весовые коэффициенты этих форм в оптимизирующей вырезающей функции. Согласно этим определениям вышеприведенные уравнения, формулирующие проблему и ее решение, теперь применяются для решения для более общей формы окна. Естественно, роль первое и второе окна могут поменяться ролями в вышеприведенном описании, в результате чего оптимизация будет осуществляться в отношении первого окна.

Более усовершенствованный вариант осуществления настоящего изобретения предусматривает совместную оптимизацию обеих форм окна. Для этого задают второе множество базовых форм окна, возможно, эквивалентное первому множеству форм окна, и, преимущественно, выбранное как обращенное по времени индексирование выборок в каждой из форм окна в первом множестве форм окна. Теперь определяем w_target как матрицу, каждый столбец которой является базовой формой окна из второго множества форм окна, каждая выборка которой умножена на первую подпоследовательность, и определяем coef как вектор-столбец, содержащий, во-первых, весовые коэффициенты для первого окна и, во-вторых, весовые коэффициенты для второго окна. Тогда более общую проблему можно сформулировать как минимизацию суммы квадратов разностей между target и величиной

где квадратные скобки [] используются для формирования матрицы из подматриц или векторов. Отсюда определяем векторы T и H как

Решение этой оптимизации задано в виде

Еще один более усовершенствованный вариант осуществления настоящего изобретения предусматривает оптимизацию не только мгновенных форм окна, но и окон с оптимизированным частотно-зависимым взвешиванием. Один вариант осуществления этого изобретения предусматривает применение разновидности линии задержки с отводами, хотя изобретение никоим образом не ограничивается этой разновидностью. Один способ для осуществления этого обобщения состоит в замене, в вышеприведенном определении w_target и w_regressor, каждого столбца некоторым количеством столбцов, в каждом из которых каждая выборка перемножена с базовой формой окна, соответствующей столбцу, которые его заменяют, но где в этой базовой форме окна теперь каждая выборка умножена на соответствующую подпоследовательность, задержка которой соответствует конкретной позиции в линии задержки с отводами.

Предпочтительно, при оптимизации коэффициентов, согласно этим способам, учитываются взвешивание, ограничение, или последовательное вычисление коэффициентов, без отхода от раскрытого изобретения. Такие взвешивания могут предпочтительно включать в себя взвешивание путем придания большего веса коэффициентам, соответствующим низким абсолютным значениям задержки. Такое последовательное вычисление может предпочтительно предусматривать расчет коэффициентов для низких абсолютных значений задержки в первую очередь, например, для минимизации суммарной квадратичной ошибки с использованием только этих коэффициентов, с последующим повторением этого процесса для все больших значений задержки, но только над оставшимися ошибками более ранних этапов этого процесса.

В целом варианты осуществления изобретения предусматривают использование нескольких подпоследовательностей в качестве целей оптимизации. Оптимизация, в общем случае, минимизирует функцию искажения, которая является функцией этих целевых подпоследовательностей и выходным сигналом системы взвешенного сложения с перекрытием. В этой оптимизации можно, без отхода от настоящего изобретения, применять различные ограничения при выборе базовых форм и задержек и их взвешивания для сложения с перекрытием в целом. В зависимости от точного выбора форм эффект сложения с перекрытием предпочтительно постепенно ослабевает от подпоследовательностей, следующих за область сложения с перекрытием во времени.

На фиг.10 показан возможный вариант осуществления раскрытого способа сложения с перекрытием, причем изобретение не ограничивается именно той структурой, которая изображена на фиг.10. Согласно фиг.10 одна подпоследовательность 1000 подвергается сложению с перекрытием, оптимизированному по времени и частоте, с другой подпоследовательностью 1010. Каждая из этих подпоследовательностей поступает в отдельную линию задержки, где на чертеже z обозначает опережение по времени одной выборки и z-1 обозначает задержку по времени одной выборки, и где задержки, равные 1, -1 и 0 выбраны исключительно в целях иллюстрации: в связи с настоящим изобретением можно предпочтительно использовать другие, бóльшие или меньшие, задержки. Каждая задержанная версия каждой подпоследовательности умножается на некоторое количество базовых форм окна, и результат каждого умножения умножается на коэффициент, подлежащий отысканию совместно с другими коэффициентами в ходе оптимизации. После перемножения с этими коэффициентами результирующие подпоследовательности суммируются, формируя выходной сигнал 1020 сложения с перекрытием, оптимизированный по времени и частоте. При оптимизации 1030 коэффициентов берут, в примере, показанном на фиг.10, подпоследовательности 1040 и 1050 и минимизируют функцию искажения, которая является функцией от 1040 и 1050 и выхода 1020.

В формуле изобретения условные обозначения, применяемые на чертежах, включены только по соображениям ясности. Эти ссылки на предпочтительные варианты осуществления на чертежах никоим образом не следует рассматривать в порядке ограничения объема формулы изобретения.

Claims (37)

1. Способ генерации последовательности выборок маскирования в связи с передачей оцифрованного аудиосигнала, причем способ содержит этап, на котором генерируют последовательность выборок маскирования из буферизованных выборок оцифрованного представления аудиосигнала во временном порядке взятия выборок,
причем последовательность выборок маскирования содержит, по меньшей мере, первое и второе множество из двух последовательных подпоследовательностей выборок маскирования,
первое и второе множества из двух последовательных подпоследовательностей выборок маскирования базируются на соответствующих первом и втором множествах из двух подпоследовательностей буферизованных выборок, причем две подпоследовательности буферизованных выборок в соответствующих первом и втором множествах из двух подпоследовательностей буферизованных выборок упорядочены в обратном временном порядке взятия выборок,
при этом второе множество из двух последовательных подпоследовательностей выборок маскирования расположено позже в последовательности выборок маскирования, чем первое множество из двух последовательных подпоследовательностей выборок маскирования, и
первая подпоследовательность первого множества из двух последовательных подпоследовательностей выборок маскирования базируется на первой подпоследовательности буферизованных выборок, первая подпоследовательность второго множества из двух последовательных подпоследовательностей выборок маскирования базируется на второй подпоследовательности буферизованных выборок, и вторая подпоследовательность буферизованных выборок располагается с дополнительным смещением назад во времени взятия выборок по отношению к первой подпоследовательности буферизованных выборок.

2. Способ по п.1, в котором две подпоследовательности буферизованных выборок в соответствующих первом и втором множествах из двух подпоследовательностей буферизованных выборок следуют друг за другом в обратном временном порядке.

3. Способ по любому из пп.1 или 2, в котором положение упомянутых подпоследовательностей буферизованных выборок определяют в точке, которая постепенно эволюционирует назад и вперед во времени взятия выборок в ходе генерации последовательности выборок маскирования.

4. Способ по п.2, в котором, по меньшей мере, три последовательных подпоследовательности в последовательности выборок маскирования базируются на, по меньшей мере, трех последовательных подпоследовательностях буферизованных выборок в обратном временном порядке взятия выборок.

5. Способ по п.1, в котором последовательности буферизованных выборок переупорядочены во времени взятия выборок, базируясь на последовательном процессе индексирования и считывания числа буферизованных выборок в прямом временном порядке и пошагового изменения числа буферизованных выборок в обратном временном порядке.

6. Способ по п.5, в котором последовательный процесс индексирования и считывания выборок содержит этап, на котором
a) индексируют буферизованную выборку путем отступления на некоторое количество буферизованных выборок назад во временном порядке, после которого следует этап, на котором
b) выполняют считывание со сдвигом на некоторое количество буферизованных выборок в прямом временном порядке, начиная с буферизованной выборки, индексированной на этапе а), и используют считанные выборки для вычисления подпоследовательности последовательности выборок маскирования,
при этом количество буферизованных выборок для считывания со сдвигом вперед отличается от количества буферизованных выборок для отступления назад.

7. Способ по п.6, в котором количество буферизованных выборок для считывания со сдвигом вперед больше количества буферизованных выборок для отступления назад.

8. Способ по п.6, в котором количество буферизованных выборок для считывания со сдвигом вперед меньше количества буферизованных выборок для отступления назад.

9. Способ по п.1, в котором подпоследовательности последовательности выборок маскирования вычисляют из подпоследовательностей буферизованных выборок с использованием процедуры взвешенного сложения с перекрытием.

10. Способ по п.9, в котором весовые функции в процедуре взвешенного сложения с перекрытием дополнительно зависят от частоты.

11. Способ по п.9 или 10, в котором процедуру взвешенного сложения с перекрытием видоизменяют в соответствии с индикатором качества совпадения.

12. Способ по п.11, в котором индикатор качества совпадения зависит от двух или более подпоследовательностей выборок, поступающих в процедуру взвешенного сложения с перекрытием.

13. Способ по п.1, в котором переупорядочение отчасти описывается прямой и обратной эволюцией указателя положения.

14. Способ по п.13, в котором обратная эволюция указателя положения ограничивается использованием критериев остановки.

15. Способ по п.1, в котором операцию сглаживания и коррекции применяют к буферизованным выборкам.

16. Способ по п.14, в котором критерии остановки для обратной эволюции, темп прямой и обратной эволюции и количество инициированных обратных эволюции совместно оптимизируют, например, для оптимизации качества звука при интерпретации слушателем-человеком посредством применения одного из способа итерационной оптимизации, марковского процесса принятия решения или метода Витерби.

17. Способ по любому из пп.14-16, в котором критерии остановки для обратной эволюции, темп прямой эволюции и обратной эволюции, количество инициированных обратных эволюций и операцию сглаживания и коррекции совместно оптимизируют, например, для оптимизации качества звука при интерпретации слушателем-человеком посредством применения одного из способа итерационной оптимизации, марковского процесса принятия решения или метода Витерби.

18. Способ по любому из пп.14-16, в котором обратную и прямую эволюции указателя положения совместно оптимизируют, например, для оптимизации качества звука при интерпретации слушателем-человеком посредством применения одного из способа итерационной оптимизации, марковского процесса принятия решения или метода Витерби.

19. Способ по п.1, в котором фазовую фильтрацию применяют для минимизации нарушения непрерывности на границах между последовательностью выборок маскирования и последовательным кадром выборок.

20. Способ по п.16, в котором фазовую фильтрацию применяют для минимизации нарушения непрерывности на границах между последовательностью выборок маскирования и последовательным кадром выборок, при этом совместная оптимизация также включает в себя искажение сигнала, вносимое фазовой фильтрацией, например, для оптимизации качества звука при восприятии слушателем-человеком.

21. Способ по п.1, в котором примешивание шума вводят в последовательность выборок маскирования.

22. Способ по п.5, в котором примешивание шума вводят в последовательность выборок маскирования, при этом примешивание шума изменяют в соответствии с последовательным процессом индексирования числа буферизованных выборок в прямом временном порядке и пошагового изменения числа буферизованных выборок в обратном временном порядке.

23. Способ по п.22, в котором последовательный процесс индексирования числа буферизированных выборок в прямом временном порядке и пошаговое изменение числа буферизованных выборок в обратном временном порядке и реакция на него включает в себя использование индикации качества совпадения.

24. Способ по п.1, в котором функцию ослабления применяют в последовательности выборок маскирования.

25. Способ по п.5, в котором функцию ослабления применяют в последовательности выборок маскирования, при этом функцию ослабления изменяют в соответствии с последовательным процессом индексирования числа буферизованных выборок в прямом временном порядке и пошаговым изменением числа буферизованных выборок в обратном временном порядке.

26. Способ по п.25, в котором последовательный процесс индексирования числа буферизованных выборок в прямом временном порядке и пошаговое изменение числа буферизованных выборок в обратном временном порядке и реакция на него включает в себя использование индикации качества совпадения.

27. Способ по п.1, в котором результирующее количество выборок в последовательности выборок маскирования заранее задано.

28. Способ по п.27, в котором заранее заданное количество выборок не зависит от характеристик оцифрованного аудиосигнала.

29. Способ по п.27 или 28, в котором заранее заданное количество выборок имеет заранее заданное целочисленное значение в диапазоне 5-1000, например в диапазоне 20-500.

30. Способ по п.1, в котором последовательность выборок маскирования включают в первый кадр маскирования.

31. Способ по п.30, в котором способ дополнительно содержит этап, на котором генерируют, по меньшей мере, второй кадр маскирования, следующий за первым кадром маскирования, причем второй кадр включает в себя вторую последовательность выборок маскирования.

32. Способ по п.31, в котором последовательности выборок маскирования в первом и втором кадрах маскирования отличаются.

33. Способ по п.31 или 32, в котором первый и второй кадры маскирования включают в себя одинаковое количество выборок.

34. Способ по п.33, в котором, по меньшей мере, одна подпоследовательность выборок во втором кадре маскирования, по меньшей мере, частично базируется на подпоследовательностях, расположенных с дополнительным смещением назад во времени взятия выборок по отношению к любым подпоследовательностям выборок, включенным в первый кадр маскирования.

35. Устройство хранения программ, содержащее последовательность сохраненных команд для микропроцессора, который при исполнении осуществляет способ по любому из пп.1-34.

36. Устройство хранения программ по п.35, в котором микропроцессором является микропроцессор общего назначения.

37. Устройство для приема оцифрованного аудиосигнала, содержащее
средство памяти для хранения выборок, представляющих принятый оцифрованный аудиосигнал, и
средство процессора для приема выборок из средств памяти и осуществления способа по любому из пп.1-34.

Images