KR101600615B1 - 비디오 코딩에서 직사각형 변환을 스캐닝하기 위한 장치 및 방법 - Google Patents

Abstract

직사각형 변환 블록들에 파면 스캔을 적용하는 것을 허용하는 장치 및 방법이 여기서 기술된다. 이러한 장치 및 방법은 변환 계수들의 병렬 처리를 인에이블함으로써 엔트로피 코딩(entropy coding)에 대해 더 큰 효율을 허용할 수 있다. 일부 실시예에서, 복수의 화상을 갖는 디지털 비디오 시퀀스를 코딩하기 위한 방법은, 복수의 화상 중 적어도 하나를 블록들로 분할하는 단계, 상기 블록들 중 적어도 하나에 직사각형 변환을 수행하여 하나 이상의 변환 계수를 생성하는 단계, 하나 이상의 변환 계수들에 양자화를 수행하는 단계, 및 하나 이상의 변환 계수들을 코딩 스캔 순서에 따라 한 번에 하나씩 인코딩하여 압축된 비트스트림을 생성하는 단계를 포함한다. 코딩 스캔 순서는 순방향 파면 스캔 순서 또는 역방향 파면 스캔 순서를 포함할 수 있고, 양자화는 양자화된 변환 계수의 생성을 야기할 수 있다.

Description

비디오 코딩에서 직사각형 변환을 스캐닝하기 위한 장치 및 방법{DEVICE AND METHODS FOR SCANNING RECTANGULAR-SHAPED TRANSFORMS IN VIDEO CODING}

관련 출원에 대한 상호참조

본 출원은, 참조에 의해 그 전체를 본 명세서에 포함하는 2011년 7월 22일 출원된 발명의 명칭이 "Wavefront Scan for Rectangular Transform"인 미국 가출원 번호 제61/511,014호의 우선권 혜택을 주장한다.

분야

본 개시는 대체로 비디오 코딩 분야에 관한 것으로, 더 구체적으로는, 엔트로피 코딩(entropy coding)에서 직사각형 변환을 스캐닝하기 위한 시스템, 장치 및 방법에 관한 것이다.

디지털 비디오 능력은, 디지털 텔레비전, 디지털 다이렉트 방송 시스템, 무선 방송 시스템, 개인 휴대 정보 단말기(PDA), 랩탑 또는 데스크탑 컴퓨터, 태블릿 컴퓨터, 전자-서적 리더, 디지털 카메라, 디지털 레코딩 장치, 디지털 매체 재생기, 비디오 게이밍 장치, 비디오 게임 콘솔, "스마트폰"이라 불리는 셀룰러 또는 위성 무선 전화, 비디오 원격회의 장치, 비디오 스트리밍 장치 등을 포함한, 광범위한 장치 내에 병합될 수 있다. 디지털 비디오 장치는, MPEG-2, MPEG-4, ITU-T H.263, ITU-T H.264/MPEG-4, Part 10, Advanced Video Coding (AVC), 현재 개발 중인 고효율 비디오 코딩(HEVC) 표준에 의해 정의된 표준들, 및 이러한 표준들의 확장판에서 설명된 바와 같은, 비디오 압축 기술을 구현한다. 비디오 장치들은, 이러한 비디오 압축 기술들을 구현함으로써 더욱 효율적으로 디지털 비디오 정보를 전송, 수신, 인코딩, 디코딩, 및/또는 저장할 수 있다.

비디오 압축 기술은 비디오 시퀀스에서 고유한 리던던시를 줄이거나 제거하기 위해 공간적(예를 들어, 화상내) 예측 및/또는 시간적(화상간) 예측을 수행한다. 블록-기반의 비디오 코딩의 경우, 비디오 슬라이스(비디오 프레임 또는 비디오 프레임의 일부)는, 트리 블록, 코딩 유닛(CU) 및/또는 코딩 노드들이라 불리는 비디오 블록들로 파티션화될 수 있다. 화상의 인트라-코딩된(I) 슬라이스 내의 비디오 블록들은 동일한 화상 내의 이웃 블록들 내의 기준 샘플들에 관한 공간적 예측을 이용하여 인코딩될 수 있다. 화상의 인터-코딩된(P 또는 B) 슬라이스 내의 비디오 블록들은, 동일한 화상 내의 이웃 블록들 내의 기준 샘플들에 관한 공간적 예측, 또는 다른 기준 화상들 내의 기준 샘플들에 관한 시간적 예측을 이용할 수 있다. 화상은 프레임라고 부를 수 있고, 기준 화상은 기준 프레임이라 부를 수 있다.

공간적 또는 시간적 예측은 코딩될 블록에 대한 예측 블록을 야기할 수 있다. 잔여 데이터(residual data)는 코딩될 원래 블록과 예측 블록 사이의 화소 차이를 나타낼 수 있다. 인터-코딩된 블록은 예측 블록을 형성하는 기준 샘플들의 블록을 가리키는 움직임 벡터에 따라 인코딩될 수 있고, 잔여 데이터는 코딩된 블록과 예측 블록 사이의 차이를 나타낸다. 인트라-코딩된 블록은 인트라 코딩 모드와 잔여 데이터에 따라 인코딩될 수 있다. 추가 압축을 위해, 잔여 데이터는 화소 영역으로부터 변환 영역으로 변환될 수 있고, 그 결과 잔여 변환 계수들을 야기하고, 그 다음, 이들은 양자화될 수 있다. 초기에 2차원 어레이로 배열된 양자화된 변환 계수들은 변환 계수들의 1차원 벡터를 생성하기 위하여 스캐닝될 수 있고, 엔트로피 코딩이 적용되어 더 높은 압축을 달성할 수 있다.

본 개시는 엔트로피 코딩에 대한 효율을 제공하는 새로운 장치와 방법을 고려한다.

따라서, 직사각형 변환 블록들에 파면 스캔을 적용하는 것을 허용하는 장치와 방법들이 여기서 제공된다. 이러한 장치와 방법들은 변환 계수들의 병렬 처리를 인에이블함으로써 엔트로피 코딩에 대해 더 큰 효율을 허용할 수 있다.

일부 실시예에서, 복수의 화상을 갖는 디지털 비디오 시퀀스를 코딩하기 위한 방법은, 복수의 화상 중 적어도 하나를 블록들로 분할하는 단계, 하나 이상의 변환 계수를 생성하기 위해 상기 블록들 중 적어도 하나에 직사각형 변환을 수행하는 단계, 하나 이상의 변환 계수들에 양자화를 수행하는 단계, 및 압축된 비트스트림을 생성하기 위해 코딩 스캔 순서에 따라 한 번에 하나씩 하나 이상의 변환 계수들을 인코딩하는 단계를 포함한다. 코딩 스캔 순서는 순방향 파면 스캔 순서 또는 역방향 파면 스캔 순서를 포함할 수 있고, 양자화는 양자화된 변환 계수들의 생성을 야기할 수 있다.

일부 실시예에서, 복수의 화상을 갖는 디지털 비디오 시퀀스를 코딩하기 위한 장치는, 복수의 화상 중 적어도 하나를 블록들로 분할하고, 하나 이상의 변환 계수를 생성하기 위해 블록들 중 적어도 하나에 직사각형 변환을 수행하며, 하나 이상의 변환 계수들에 양자화를 수행하고, 압축된 비트스트림을 생성하기 위해 코딩 스캔 순서에 따라 한 번에 하나씩 하나 이상의 변환 계수들을 인코딩하도록 구성된 비디오 코더를 포함한다. 코딩 스캔 순서는 순방향 파면 스캔 순서 또는 역방향 파면 스캔 순서를 포함할 수 있고, 양자화는 양자화된 변환 계수들의 생성을 야기할 수 있다.

다른 실시예들에서, 압축된 비트스트림을 처리하기 위한 방법은, 압축된 비트스트림을 수신하는 단계, 및 직사각형 변환의 하나 이상의 변환 계수들을 생성하기 위해 압축된 비트스트림을 처리하는 단계를 포함한다. 직사각형 변환의 코딩 스캔 순서에 따라, 한 번에 하나씩, 하나 이상의 변환 계수들이 생성될 수 있고, 코딩 스캔 순서는 순방향 파면 스캔 순서 또는 역방향 파면 스캔 순서를 포함할 수 있다.

역시 다른 실시예들에서, 압축된 비트스트림을 처리하기 위한 장치는, 압축된 비트스트림을 수신하고 직사각형 변환의 하나 이상의 변환 계수들을 생성하기 위해 압축된 비트스트림을 처리하도록 구성된 비디오 디코더를 포함한다. 직사각형 변환의 코딩 스캔 순서에 따라, 한 번에 하나씩, 하나 이상의 변환 계수들이 생성될 수 있고, 코딩 스캔 순서는 순방향 파면 스캔 순서 또는 역방향 파면 스캔 순서를 포함할 수 있다.

본 개시의 상세사항은, 그 구조 및 동작 양쪽 모두에 관하여, 유사한 참조 번호는 유사한 부분을 가리키는 첨부된 도면의 연구를 통해 부분적으로 이해될 수 있다. 도면들은 반드시 축척비율대로 그려진 것은 아니고, 본 발명의 원리를 예시하기 위해 강조가 이루어 졌다.
도 1은 이미지들의 공간적 및 시간적 샘플링을 나타내는 블록도이다.
도 2는 실시예에 따른 비디오 데이터의 직사각형 블록의 스캐닝을 효율적으로 수행하기 위한 기술을 구현할 수 있는 비디오 인코딩 및 디코딩 시스템의 예를 나타내는 블록도이다.
도 3은 실시예에 따라 블록들(LCU)로 분할되는 화상의 한 예이다.
도 4는 실시예에 따라 CU들로 분할되는 LCU의 한 예이다.
도 5는 실시예에 따른 도 4의 LCU 파티션의 쿼드 트리(quad tree) 표현이다.
도 6은 실시예에 따른 PU들로의 CU당 4개의 가능한 파티션을 도시한다.
도 7은 실시예에 따른 CU 파티션 및 연관된 TU들의 세트의 예이다.
도 8은 실시예에 따른 도 7의 예에서의 CU 내의 TU들의 쿼드 트리 표현이다.
도 9a 내지 도 9c는 비디오 데이터의 블록 및 대응하는 유의미 계수(significant coefficient) 위치 정보와 마지막 유의미 계수 위치 정보의 예를 나타내는 개념도이다.
도 10은 지그재그 스캐닝 순서를 이용하여 스캐닝된 비디오 데이터의 블록들의 예를 나타내는 개념도이다.
도 11은 지그재그 스캐닝 순서를 이용하여 스캐닝된 비디오 데이터의 블록들의 추가예를 나타내는 개념도이다.
도 12는 정사각형 파면 스캔의 예이다.
도 13의 (a) 내지 (d)는 실시예에 따른 파면 스캔 방향의 예이다.
도 14는 실시예에 따른 전체 순방향 직사각형 파면 스캔(하부-좌측으로부터 상부-우측으로의 45°)의 한 예이다.
도 15는 실시예에 따른 전체 역방향 직사각형 파면 스캔(하부-좌측으로부터 상부-우측으로의 45°)의 한 예이다.
도 16은 실시예에 따른 전체 순방향 직사각형 파면 스캔(상부-우측으로부터 하부-좌측으로의 -135°)의 한 예이다.
도 17은 실시예에 따른 전체 역방향 직사각형 파면 스캔(상부-우측으로부터 하부-좌측으로의 -135°)의 한 예이다.
도 18은 실시예에 따른 마지막 비-제로 양자화된 변환 계수까지의 부분적 순방향 직사각형 파면 스캔(하부-좌측으로부터 상부-우측으로의 45°)의 한 예이다.
도 19는 실시예에 따른 마지막 비-제로 양자화된 변환 계수에서 시작하는 부분적 역방향 직사각형 파면 스캔(하부-좌측으로부터 상부-우측으로의 45°)의 한 예이다.
도 20은 실시예에 따른 마지막 비-제로 양자화된 변환 계수까지의 부분적 순방향 직사각형 파면 스캔(상부-우측으로부터 하부-좌측으로의 -135°)의 한 예이다.
도 21은 실시예에 따른 마지막 비-제로 양자화된 변환 계수에서 시작하는 부분적 역방향 직사각형 파면 스캔(상부-우측으로부터 하부-좌측으로의 -135°)의 한 예이다.
도 22는 실시예에 따른 비디오 데이터의 직사각형 블록의 스캐닝을 효율적으로 수행하기 위한 기술을 구현할 수 있는 비디오 인코더의 예를 나타내는 블록도이다.
도 23은, 실시예에 따른, 비디오 데이터의 직사각형 블록에 대한 인코딩된 스캐닝된 정보를 효율적으로 디코딩하기 위한 기술들을 구현할 수 있는 비디오 디코더의 예를 나타내는 블록도이다.

본 개시의 기술들은, 일부 예에서, CABAC(context adaptive entropy coding), PIPE(probability interval partitioning entropy coding), 또는 또 다른 컨텍스트 적응형 엔트로피 코딩 방법론을 포함한, 임의의 컨텍스트 적응형 엔트로피 코딩 방법론과 함께 이용될 수 있다. 예시의 목적을 위해 본 개시에서 CABAC이 설명되지만, 본 개시에서 넓게 설명되는 기술들에 관한 제한은 없다. 또한, 이 기술들은, 일반적으로, 예를 들어, 비디오 데이터 외에도, 다른 유형의 데이터의 코딩에도 적용될 수 있다.

본 개시에서, 용어 "코딩"이란 인코더에서 발생하는 인코딩 또는 디코더에서 발생하는 디코딩을 말한다. 마찬가지로, 용어 코더란, 인코더, 디코더, 또는 결합된 인코더/디코더(CODEC)를 말한다. 용어, 코더, 인코더, 디코더, 및 CODEC 모두는 본 개시와 일치하는 비디오 데이터의 코딩(인코딩 및/또는 디코딩)을 위해 설계된 특정한 머신을 말한다.

본 논의는 일부 용어들의 매우 간략한 개요와 디지털 이미지 압축의 분야에서 공지된 기술들과 함께 시작한다. 이 개요는 공지된 기술을 세부적으로 교시하는 것을 의미하는 것은 아니다. 당업자라면 텍스트북과 관련 표준에서 더 세부적인 사항을 찾는 법을 알 것이다.

실제의 시각적 장면은 시간적으로 변하는 3차원 공간에서 레이아웃된 복수의 물체들로 구성된다. 색상, 질감, 조명, 및 위치와 같은 물체 특성은 연속적 방식으로 변한다. 디지털 비디오는 실제 장면의 공간적 및 시간적으로 샘플링된 표현이다. 이것은 주기적 시간 간격으로 센서 상으로의 장면의 2차원 투사를 포착함으로써 획득된다. 공간적 샘플링은 센서 출력 상에 중첩되는 샘플링 격자와 일치하는 포인트들을 취함으로써 이루어진다. 화소 또는 샘플이라 불리는 각 포인트는, 휘도 및 색상을 기술하는 색상 공간 영역으로부터의 한 세트의 값들에 의해 대응하는 센서 위치의 피쳐들을 나타낸다. 주어진 시간 인덱스에서의 화소들의 2차원 어레이는 프레임이라 불린다. 도 1은 시각 장면의 공간-시간 샘플링을 나타낸다.

비디오 인코딩 시스템은 비디오 데이터에서 리던던시를 제거함으로써, 예를 들어, 재생 충실도에 악영향을 주지 않고 폐기될 수 있는 요소들을 제거함으로써, 압축을 달성한다. 비디오 신호는 시간 및 공간에서 발생하기 때문에, 대부분의 비디오 인코딩 시스템은 이들 신호 내에 존재하는 시간적 및 공간적 리던던시 모두를 활용한다. 통상적으로, 연속된 프레임들 사이에는 높은 시간적 상관성이 있다. 이것은 또한 서로 가까운 화소들에 대한 공간적 영역에서도 마찬가지이다. 따라서, 이들 공간적-시간적 상관성을 주의깊게 활용함으로써 높은 압축 이득이 달성된다.

도 2는, 본 개시의 기술과 일치하는, 비디오 데이터의 직사각형 블록의 파면 스캐닝(wavefront scanning)을 효율적으로 수행하기 위한 기술을 구현할 수 있는 비디오 인코딩 및 디코딩 시스템(10)의 예를 나타내는 블록도이다. 도 2에 도시된 바와 같이, 시스템(10)은 인코딩된 비디오를 통신 채널(16)을 통해 목적지 장치(14)에 전송하는 소스 장치(12)를 포함한다. 소스 장치(12) 및 목적지 장치(14)는 광범위한 장치들 중 임의의 장치를 포함할 수 있다. 일부 경우에, 소스 장치(12) 및 목적지 장치(14)는, 무선 핸드셋, 소위 셀룰러 또는 위성 무선전화기, 또는 통신 채널(16) ―이 경우, 통신 채널(16)은 무선임― 을 통해 비디오 정보를 전달할 수 있는 임의의 무선 장치와 같은 무선 통신 장치를 포함할 수 있다.

본 개시의 기술들은 반드시 무선 응용이나 설정으로 제한되는 것은 아니라는 점을 이해하여야 한다. 이들 기술은, 오버-디-에어 텔레비전 방송, 케이블 텔레비전 전송, 위성 텔레비전 전송, 스트리밍 인터넷 비디오 전송, 저장 매체 상으로 인코딩되거나 저장 매체로터 회수되고 디코딩되는 인코딩된 디지털 비디오를 포함한, 일반적으로 인코딩이나 디코딩이 수행되는 임의의 시나리오, 또는 기타의 시나리오에 적용될 수 있다. 따라서, 통신 채널(16)은 요구되지 않으며, 예를 들어, 인코딩 장치와 디코딩 장치 사이의 임의의 데이터 통신없이 본 개시의 기술들은 인코딩이 적용되거나 디코딩이 적용되는 설정에 적용될 수 있다.

도 2의 예에서, 소스 장치(12)는 비디오 소스(18), 비디오 인코더(20), 변조기/복조기(모뎀)(22) 및 전송기(24)를 포함한다. 목적지 장치(14)는, 수신기(26), 모뎀(28), 비디오 디코더(30) 및 디스플레이 장치(32)를 포함한다. 본 개시에 따르면, 소스 장치(12)의 비디오 인코더(20) 및/또는 목적지 장치(14)의 비디오 디코더(30)는, 비디오 데이터의 직사각형 블록의 파면 스캐닝을 수행하기 위한 기술을 적용하도록 구성된다. 다른 예에서, 소스 장치 및 목적지 장치는 기타의 컴포넌트 또는 배열을 포함할 수도 있다. 예를 들어, 소스 장치(12)는 외부 카메라와 같은 외부 비디오 소스(18)로부터 비디오 데이터를 수신할 수도 있다. 마찬가지로, 목적지 장치(14)는 통합된 디스플레이 장치를 포함하는 것이 아니라 외부 디스플레이 장치와 인터페이싱할 수도 있다.

도 2의 예시된 시스템(10)은 단지 하나의 예일 뿐이다. 비디오 데이터의 직사각형 블록의 파면 스캐닝을 효율적으로 수행하기 위한 기술들은 임의의 디지털 비디오 인코딩 및/또는 디코딩 장치에 의해 수행될 수 있다. 본 개시의 기술들이 일반적으로는 비디오 인코딩 장치에 의해 수행되지만, 이 기술들은 또한, 통상 "CODEC"이라 불리는, 비디오 인코더/디코더에 의해 수행될 수도 있다. 게다가, 본 개시의 기술들은 또한 비디오 프리프로세서에 의해 수행될 수도 있다. 소스 장치(12) 및 목적지 장치(14)는, 소스 장치(12)가 목적지 장치(14)로의 전송을 위한 코딩된 비디오 데이터를 생성하는 이러한 코딩 장치들의 예일 뿐이다. 일부 예에서, 장치들(12, 14)은 장치들(12, 14) 각각이 비디오 인코딩 및 디코딩 컴포넌트들을 포함하는 실질적으로 대칭적 방식으로 동작할 수도 있다. 따라서, 시스템(10)은, 예를 들어, 비디오 스트리밍, 비디오 재생, 비디오 브로드캐스팅, 또는 비디오 전화를 위해, 비디오 장치들(12, 14) 사이에서 일방향 또는 양방향 비디오 전송을 지원할 수도 있다.

소스 장치(12)의 비디오 소스(18)는, 비디오 카메라, 이전에 포착된 비디오를 담고 있는 비디오 아카이브(archive), 및/또는 비디오 콘텐츠 제공자로부터 공급되는 비디오와 같은, 비디오 포착 장치를 포함할 수도 있다. 추가의 대안으로서, 비디오 소스(18)는, 소스 비디오와 같은 컴퓨터-그래픽 기반의 데이터, 또는 라이브 비디오, 아카이브된 비디오, 및 컴퓨터-생성된 비디오의 조합을 생성할 수 있다. 일부 경우에, 비디오 소스(18)가 비디오 카메라이면, 소스 장치(12) 및 목적지 장치(14)는 소위 카메라 전화 또는 비디오 전화를 형성할 수도 있다. 앞서 언급된 바와 같이, 그러나, 본 개시에서 설명된 기술들은 일반적으로 비디오 코딩에 적용가능할 수 있고, 무선 및/또는 유선 응용에 적용될 수도 있다. 각 경우에, 포착된, 미리-포착된, 또는 컴퓨터-생성된 비디오는 비디오 인코더(20)에 의해 인코딩될 수 있다. 인코딩된 비디오 정보는 그 다음, 통신 표준에 따라 모뎀(22)에 의해 변조되어, 전송기(24)를 통해 목적지 장치(14)에 전송될 수 있다. 모뎀(22)은 다양한 믹서, 필터, 증폭기, 또는 신호 변조용으로 설계된 기타의 컴포넌트들을 포함할 수도 있다. 전송기(24)는, 증폭기, 필터, 및 하나 이상의 안테나를 포함한, 데이터 전송용으로 설계된 회로를 포함할 수 있다.

목적지 장치(14), 예를 들어, 디코더의 수신기(26)는 채널(16)을 통해 정보를 수신하고, 모뎀(28)은 이 정보를 복조한다. 다시 한번, 전술된 비디오 인코딩 프로세스는 비디오 데이터의 직사각형 블록의 파면 스캐닝을 효율적으로 수행하기 위해 여기서 설명된 기술들 중 하나 이상을 구현할 수 있다. 채널(16)을 통해 전달된 정보는, 비디오 디코더(30)에 의해서도 이용되고 비디오 데이터의 블록들(예를 들어, 매크로블록, 또는 코딩 유닛)의 특성 및/또는 처리를 기술하는 신택스 요소를 포함하는, 비디오 인코더(20)에 의해 정의된 신택스 정보, 예를 들어, 블록들에 대한 스캐닝 순서 정보 및 기타의 정보를 포함할 수 있다. 디스플레이 장치(32)는 디코딩된 비디오 데이터를 사용자에게 디스플레이하고, 음극선관(CRT), 액정 디스플레이(LCD), 플라즈마 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 기타의 유형의 디스플레이 장치와 같은 다양한 디스플레이 장치들 중 임의의 장치를 포함할 수도 있다.

도 2의 예에서, 통신 채널(16)은, 무선 주파수(RF) 스펙트럼 또는 하나 이상의 물리적 전송 라인과 같은 임의의 무선 또는 유선 통신 매체 또는 무선 또는 유선 매체의 임의의 조합을 포함할 수도 있다. 통신 채널(16)은, 근거리 통신망, 광역 네트워크, 또는 인터넷과 같은 전역 네트워크와 같은, 패킷-기반의 네트워크의 일부를 형성할 수도 있다. 통신 채널(16)은 일반적으로, 유선 또는 무선 매체의 임의의 적절한 조합을 포함한, 소스 장치(12)로부터 목적지 장치(14)로 비디오 데이터를 전송하기 위한, 임의의 적절한 통신 매체, 또는 상이한 통신 매체들의 집합을 나타낸다. 통신 채널(16)은, 라우터, 스위치, 기지국, 또는, 소스 장치(12)로부터 목적지 장치(14)로의 통신을 용이하게 하는데 유용할 수 있는 기타 임의의 장비를 포함할 수도 있다. 다른 예에서, 인코딩 또는 디코딩 장치는 이러한 장치들간의 통신없이도 본 개시의 기술들을 구현할 수 있다. 예를 들어, 인코딩 장치는 본 개시의 기술들과 일치하는 인코딩된 비트스트림을 인코딩하고 저장할 수 있다. 대안으로서, 디코딩 장치는 인코딩된 비트스트림을 수신하거나 회수할 수 있고, 본 개시의 기술들과 일치하는 비트스트림을 디코딩할 수 있다.

비디오 인코더(20) 및 비디오 디코더(30)는, 대안으로서 MPEG-4, Part 10, Advanced Video Coding(AVC)이라고도 하는, ITU-T H.264 표준과 같은, 비디오 압축 표준에 따라 동작할 수 있다. 그러나, 본 개시의 기술들은 임의의 특정한 코딩 기술로 제한되는 것은 아니다. 다른 예로서는, MPEG-2, ITU-T H.263, 및 현재 개발 중인 HEVC(High Efficiency Video Coding) 표준이 포함된다. 일반적으로, 본 개시의 기술들은 HEVC에 관하여 기술되지만, 다른 비디오 코딩 표준들과도 역시 이용될 수 있다는 점을 이해하여야 한다. 도 2에 도시되지는 않았지만, 일부 양태에서, 비디오 인코더(20) 및 비디오 디코더(30) 각각은 오디오 인코더 및 디코더와 통합될 수 있고, 공통의 데이터 스트림 또는 별개의 데이터 스트림에서 오디오 및 비디오 양쪽 모두의 인코딩을 처리하기 위해 적절한 MUX-DEMUX 유닛 또는 기타의 하드웨어 및 소프트웨어를 포함할 수 있다. 적용가능하다면, MUX-DEMUX 유닛은 ITU H.223 멀티플렉서 프로토콜, 또는 사용자 데이터그램 프로토콜(UDP)과 같은 다른 프로토콜을 따를 수 있다.

비디오 인코더(20) 및 비디오 디코더(30) 각각은, 하나 이상의 마이크로프로세서, 디지털 신호 프로세서(DSP), 주문형 집적 회로(ASIC), 필드 프로그래머블 게이트 어레이(FPGA), 이산 로직, 소프트웨어, 하드웨어, 펌웨어 또는 이들의 임의의 조합과 같은, 다양한 적절한 인코더 및 디코더 회로 중 임의의 것으로서 구현될 수 있다. 비디오 인코더(20) 및 비디오 디코더(30) 각각은, 하나 이상의 인코더 또는 디코더에 포함될 수 있고, 이들 각각은 각각의 카메라, 컴퓨터, 모바일 장치, 가입자 장치, 브로드캐스트 장치, 셋탑 박스, 서버 등에서 결합된 인코더/디코더(CODEC)의 일부로서 통합될 수도 있다.

비디오 시퀀스는 통상적으로 일련의 비디오 프레임들을 포함한다. GOP(Group of Picture)는 일반적으로 일련의 하나 이상의 비디오 프레임들을 포함한다. GOP는, GOP에 포함된 프레임들의 개수를 기술하는 신택스 데이터를, GOP의 헤더에, GOP의 하나 이상의 프레임들의 헤더에, 또는 기타의 곳에 포함할 수 있다. 각 프레임은 각 프레임에 대한 인코딩 모드를 기술하는 프레임 신택스 데이터를 포함할 수 있다. 비디오 인코더, 예를 들어, 비디오 인코더(20)는 통상적으로, 비디오 데이터를 인코딩하기 위하여 개개의 비디오 프레임들 내의 비디오 블록들에 관해 동작한다. ITU-T H.264 표준에 따르면, 비디오 블록은 매크로블록 또는 매크로블록의 파티션에 대응할 수 있다. 다른 표준, 예를 들어, 이하에서 더 상세히 기술되는 HEVC에 따르면, 비디오 블록은 도 3에 도시된 바와 같이, 코딩 유닛(예를 들어, 가장 큰 코딩 유닛(LCU; largest coding unit)), 또는 코딩 유닛의 파티션에 대응할 수 있다. 비디오 블록들은 고정되거나 변동하는 크기를 가질 수도 있고, 지정된 코딩 표준에 따라 크기가 상이할 수 있다, 예를 들어, HEVC의 경우 (LCU 크기에 따라) 128x128 또는 64x64 또는 32x32 또는 16x16 화소들. 각각의 비디오 프레임은 복수의 슬라이스, 예를 들어, 비디오 프레임의 일부를 포함할 수도 있다. 각각의 슬라이스는, 서브-블록들이라고도 하는, 파티션들로 배열될 수도 있는, 복수의 비디오 블록을 포함할 수 있다.

지정된 코딩 표준에 따라, 비디오 블록들은, 16x16, 8x8, 4x4, 2x2 등과 같은, 다양한 "NxN" 서브-블록 크기들로 파티션화될 수 있다. 서브-블록화는 처리에서의 규칙성을 위해 이용될 수 있다. 본 개시에서, "NxN" 및 "N 바이 N"은, 수직 및 수평 치수의 블록의 화소 치수, 예를 들어, 16x16 화소들 또는 16 바이 16 화소들을 언급하기 위해 상호교환가능하게 사용될 수 있다. 일반적으로, 16x16 블록은 수직 방향으로 16개 화소(y=16)와 수평 방향으로 16개 화소(x=16)를 가질 것이다. 마찬가지로, NxN 블록은 일반적으로 수직 방향으로 N개 화소와 수평 방향으로 N개 화소를 가지며, 여기서 N은 음수가 아닌 정수 값을 나타낸다. 블록 내의 화소들은 행과 열로 배열될 수 있다. 게다가, 블록들은 반드시, 수직 방향에서와 동일한 수평 방향에서의 화소수를 가질 필요는 없다. 예를 들어, 블록들은 NxM 화소들을 포함할 수 있고, 여기서 M은 반드시 N과 동일할 필요는 없다. 한 예로서, ITU-T H.264 표준에서, 크기가 16 바이 16 화소인 블록들은 매크로블록이라 부를 수 있고, 16 바이 16 화소보다 작은 블록들은 16 바이 16 매크로블록의 파티션이라 부를 수 있다. HEVC와 같은 다른 표준에서는, 블록들은 그들의 크기에 관하여 더 일반적으로, 예를 들어, 코딩 유닛들 및 그 파티션들로서 정의될 수 있고, 이들 각각은 고정된 크기가 아니라 변동하는 크기를 갖는다.

비디오 블록들은 화소 영역에서 화소 데이터의 블록들을 포함하거나, 예를 들어, DCT, 정수 변환, 웨이브렛 변환, 또는 주어진 비디오 블록에 대한 잔여 데이터에 대한 개념적으로 유사한 변환과 같은, 변환의 적용 이후에 변환 영역에서 변환 계수들의 블록들을 포함할 수 있고, 여기서, 잔여 데이터는 블록에 대한 비디오 데이터와 그 블록에 대해 생성된 예측 데이터 사이의 화소 차이를 나타낸다. 일부 경우에, 비디오 블록들은 변환 영역에서 양자화된 변환 계수들의 블록들을 포함할 수 있고, 여기서, 주어진 비디오 블록에 대한 잔여 데이터로의 변환의 적용에 이어, 결과적인 변환 계수들도 역시 양자화된다.

양자화는 신호가 취할 수 있는 값들의 범위를 줄이므로, 더 적은 수의 비트로 신호를 표현할 수 있게 한다. 일부 실시예에서, 수정된 하나 이상의 변환 계수들을 생성하기 위해 외부 경계 조건들이 사용된다. 예를 들어, 변환 계수에 비제로 값이 부여되는지 그냥 제로-아웃되는지를 결정하는데 있어서 더 낮은 범위 또는 값이 이용될 수 있다. 비디오 인코딩에서, 양자화는 비트레이트와 재구성 품질 사이의 균형이 확립될 수 있도록, 손실을 도입하는 단계이다.

블록 파티션화는 블록-기반의 비디오 코딩 기술들에서 중요한 역할을 한다. 비디오 데이터를 코딩하기 위해 더 작은 블록들을 이용하면 높은 디테일 레벨을 포함하는 비디오 프레임의 위치에 대한 데이터의 더 나은 예측을 낳고, 그에 따라, 잔여 데이터로서 표현되는, 결과적 에러(예를 들어, 소스 비디오 데이터로부터의 예측 데이터의 편차)를 줄일 수 있다. 일반적으로, 예측은, 실제의 신호와 예측된 신호 사이의 작은 차이만이 인코딩될 필요가 있도록, 다양한 크기의 샘플 블록들간의 상관성을 모델링함으로써 비디오 시퀀스에서 공간적 또는 시간적 리던던시를 활용한다. 현재의 블록에 대한 예측은 이미 인코딩된 샘플들로부터 생성된다. 그러나, 이러한 기술들은 잔여 데이터를 잠재적으로 줄이지만, 더 작은 블록들이 비디오 프레임에 관해 어떻게 파티션화되는지를 나타내는 추가의 신택스 정보를 요구할 수 있고, 결과적으로 증가된 코딩된 비디오 비트레이트를 야기할 수 있다. 따라서, 일부 기술들에서, 블록 파티션화는, 추가의 신택스 정보로 인해 코딩된 비디오 데이터의 비트 레이트에서의 결과적 증가에 대비하여 잔여 데이터에서의 바람직한 감소를 밸런싱하는 것에 의존할 수 있다.

일반적으로, 블록들과 그 다양한 파티션들(예를 들어, 서브-블록들)은 비디오 블록들이라고 간주될 수 있다. 또한, 슬라이스는 복수의 비디오 블록들(예를 들어, 매크로블록들, 또는 코딩 유닛들) 및/또는 서브-블록들(매크로블록들의 파티션들, 또는 서브-코딩 유닛들)인 것으로 간주될 수 있다. 각각의 슬라이스는 비디오 프레임의 독립적으로 디코딩가능한 유닛일 수 있다. 대안으로서, 프레임 자체가 디코딩가능한 유닛이거나, 프레임의 다른 부분들이 디코딩가능한 유닛으로서 정의될 수도 있다. 또한, 시퀀스라고 하는 GOP는 디코딩가능한 유닛으로서 정의될 수 있다.

앞서 언급된 바와 같이, 현재 HEVC(High Efficiency Video Coding)라 불리는 새로운 비디오 코딩 표준을 개발하기 위한 노력이 현재 진행 중에 있다. 부상하고 있는 HEVC 표준은 H.265라고도 불린다. 표준화 노력은 HEVC Test Model(HM)이라 불리는 비디오 코딩 장치의 모델에 기초한다. HM은, 예를 들어 ITU-T H.264/AVC에 따른 장치들에 대한 비디오 코딩 장치들의 몇 가지 능력을 가정한다. 예를 들어, H.264는 9개의 인트라-예측 인코딩 모드를 제공하는 반면, HM은 예를 들어 인트라-예측 코딩되는 블록의 크기에 기초하여, 35개의 인트라-예측 인코딩 모드들을 제공한다.

일반적으로, 인트라-예측 인코딩에서, 프레임 내의 이웃하는 블록들 사이에는 높은 수준의 공간적 상관성이 존재한다. 결과적으로, 블록은 근처의 인코딩되고 재구성된 블록들로부터 예측될 수 있어서, 인트라-예측을 야기한다. 일부 실시예에서, 예측은, 현재의 블록의 위쪽과 좌측에 위치한 이전에 인코딩된 샘플들의 가중 평균에 의해 형성될 수 있다. 인코더는 원래 신호와 예측된 신호 사이의 차이를 최소화하는 모드를 선택하여 이 선택을 제어 데이터에서 시그널링할 수 있다.

HM은 비디오 데이터의 블록을 코딩 유닛(CU; Coding Unit)이라고 부른다. CU란 압축을 위해 다양한 코딩 툴이 적용되는 기본 유닛으로서 역할하는 이미지 영역을 말할 수도 있다. H.264에서, 이것은 또한 매크로블록이라 불릴 수도 있다. 비트스트림 내의 신택스 데이터는, 화소의 개수의 관점에서 가장 큰 CU인 가장 큰 코딩 유닛(LCU; largest coding unit)을 정의할 수 있다. 일반적으로, CU는, CU가 크기 구분을 갖지 않는다는 점을 제외하고는, H.264의 매크로블록과 유사한 목적을 가진다. 따라서, CU는, 도 4에 도시된 바와 같이, 서브-CU들로 파티션화 또는 "분할(split)"될 수 있다.

LCU는, LCU가 어떻게 파티션화되어 있는지를 나타내는 도 5에 도시된 바와 같은, 쿼드트리(quadtree) 데이터 구조와 연관될 수 있다. 구체적으로는, 쿼드트리의 각 노드에서, 노드가 서브-노드들로 더 분할된다면 비트 "1"이 할당되고, 그렇지 않다면 비트 "0"이 할당된다. 예를 들어, 도 4의 LCU 파티션은 도 5에 도시된 쿼드트리로 표현될 수 있다. 2진 데이터 10100의 쿼드트리 표현이 코딩되어 오버헤드로서 전송될 수 있다.

일반적으로, 쿼드트리 데이터 구조는 LCU의 CU당 하나의 노드를 포함하고, 여기서 루트 노드는 LCU에 대응하고, 다른 노드들은 LCU의 서브-CU들에 대응한다. 주어진 CU가 4개의 서브-CU들로 분할된다면, 분할된 CU에 대응하는 쿼드트리 내의 노드는 4개의 자식 노드들을 포함하고, 그 각각은 서브-CU들 중 하나에 대응한다. 쿼드트리 데이터 구조의 각 노드는 대응하는 CU에 대한 신택스 정보를 제공할 수 있다. 예를 들어, 쿼드트리 내의 노드는 CU에 대한 분할 플래그(split flag)를 포함하여, 그 노드에 대응하는 CU가 4개의 서브-CU들로 분할되는지를 나타낸다. 주어진 CU에 대한 신택스 정보는 재귀적으로(recursively) 정의될 수 있고, CU가 서브-CU들로 분할되는지에 의존할 수 있다.

분할되지 않는 CU(예를 들어, 말단(terminal)에 대응하는 CU, 또는 주어진 쿼드트리에서 "리프(leaf)" 노드)는 하나 이상의 예측 유닛(PU)을 포함할 수 있다. 일반적으로, PU는 대응하는 CU의 전부 또는 일부를 나타내고, CU에 대한 예측을 수행하기 위한 목적으로 PU에 대한 기준 샘플을 회수하기 위한 데이터를 포함한다. 예를 들어, CU가 인트라-모드 인코딩될 때, PU는 PU에 대한 인트라-예측 모드를 기술하는 데이터를 포함할 수 있다. 예를 들어, CU가 인터-모드 인코딩될 때, PU는 PU에 대한 움직임 벡터(motion vector)를 기술하는 데이터를 포함할 수 있다. 움직임 벡터를 정의하는 데이터는, 예를 들어, 움직임 벡터의 수평 성분, 움직임 벡터의 수직 성분, 움직임 벡터에 대한 해상도(예를 들어, 1/4 화소 정밀도 또는 1/8 화소 정밀도), 움직임 벡터가 가리키는 기준 프레임, 및/또는 움직임 벡터에 대한 기준 목록(예를 들어, 목록 0 또는 목록 1)을 기술할 수 있다. CU의 하나 이상의 PU들을 정의하는 CU에 대한 데이터는 또한, 예를 들어, 하나 이상의 PU들로의 CU의 파티션화를 기술할 수 있다. 파티션화 모드들은, CU가 언코딩(uncode)되는지, 인트라-예측 모드 인코딩되는지, 또는 인터-예측 모드 인코딩되는지를 구분할 수 있다. CU당 4개의 가능한 파티션들을 보여주는 예가 도 6에 도시되어 있다.

현재의 HEVC 표준에서, PU당, 수평, 수직, 45도 대각, 135도 대각, DC 등을 포함한, 35개의 공간 예측 방향 또는 모드들이 있다. 신택스는 일반적으로 PU당 공간적 예측을 나타내기 위해 이용된다.

일반적으로, 인터-예측 인코딩에서, 비디오 시퀀스는 프레임들 사이에 높은 시간적 상관성을 가지므로, 현재 프레임의 블록이, 기준 프레임들이라고 알려진 이전 프레임들의 영역에 의해 정확히 기술되는 것을 가능케 한다. 인터-예측은, 블록-기반의 움직임 추정 및 보상 기술을 이용하여 예측을 전개하기 위해 이전에 인코딩되고 재구성된 기준 프레임들을 이용한다.

하나 이상의 PU를 갖는 CU는 또한, 도 7에 도시된 바와 같이, 하나 이상의 변환 유닛(TU)들을 포함할 수 있다. 하나 이상의 PU들을 이용한 CU에 대한 예측에 이어, 전술된 바와 같이, 비디오 인코더는 더 많은 PU들 중 하나에 대응하는 CU의 각각의 부분들에 대한 하나 이상의 잔여 블록들을 계산할 수 있다. 잔여 블록들은, CU에 대한 비디오 데이터와 하나 이상의 PU에 대한 예측된 데이터 사이의 화소 차이를 나타낼 수 있다. 한 세트의 잔여 값들이 변환, 스캐닝, 및 양자화되어 한 세트의 양자화된 변환 계수들을 정의할 수 있다. TU는, 도 8에 도시된 바와 같이, CU를 참조하여 전술된 쿼드트리 데이터 구조와 상당히 유사한 변환 계수들에 대한 파티션 정보를 나타내는 파티션 데이터 구조를 정의할 수 있다.

다른 비디오 코딩 표준에서와 같이, HEVC는 잔여 데이터에 블록 변환을 적용하여 블록 내의 화소들을 비상관시키고 블록 에너지를 저차수 변환 계수들로 컴팩트한다. 그러나, 매크로블록에 단일의 4x4 또는 8x8 변환을 적용하는 표준들과는 달리, HEVC는 단일의 CU에 상이한 크기들의 한 세트의 블록 변환들을 적용할 수 있다. CU에 적용될 한 세트의 블록 변환들은 그 연관된 TU들에 의해 표현된다. 따라서, TU는 반드시 PU들의 크기로 제한되지 않는다는 것, 예를 들어, TU들은 동일한 CU에 대해 대응하는 PU들보다 크거나 작을 수도 있다는 점을 이해하여야 한다. 일부 예에서, TU의 최대 크기는 대응하는 CU의 크기에 대응할 수 있다. 일반적으로, TU들은 어떤 블록 변환들이 CU 파티션들에 적용되어야 하는지를 나타내고, 여기서 각 블록 변환의 범위는 각 TU의 위치와 크기에 의해 정의된다. 특정한 CU와 연관된 TU들의 구성은 다양한 기준에 기초하여 다를 수 있다.

한 예에서, CU에 대응하는 잔여 샘플들은, "잔여 쿼드트리"(RQT; residual quad tree)라고 알려진 쿼드트리 구조를 이용하여 더 작은 유닛들로 세분될 수 있다. 도 8에 도시된 바와 같이, RQT 표현 11000이 코딩되어 오버헤드로서 전송될 수 있다. 이 경우, RQT의 리프 노드들은 TU들이라고 불릴 수 있고, 이에 대해 대응하는 잔여 샘플들이 변환되고 양자화될 수 있다.

예측 데이터 및 잔여 데이터를 생성하기 위한 인트라-예측 또는 인터-예측 인코딩에 이어, 그리고, 변환 계수들을 생성하기 위한 (H.264/AVC에 이용되는 4x4 또는 8x8 정수 변환이나 이산 코사인 변환(DCT)과 같은) 임의의 변환에 이어, 변환 계수들의 양자화가 수행될 수 있다. 양자화란 일반적으로, 예를 들어, 고정밀 변환 계수들을 유한 개수의 가능한 값들로 변환함으로써, 계수들을 나타내는데 이용되는 데이터의 양을 잠재적으로 줄이기 위해 변환 계수들이 양자화되는 프로세스를 말한다. 양자화 프로세스는 계수들의 일부 또는 전부와 연관된 비트 깊이를 줄일 수 있다. 예를 들어, n-비트 값은 양자화 동안에 m 비트 값으로 라운드 다운(round down)될 수 있고, 여기서 n은 m보다 크다. 이해하여야 하는 바와 같이, 양자화는 손실 동작이고, 양자화에 의한 손실은 일반적으로 회복될 수 없다.

양자화에 이어, 양자화된 데이터(예를 들어, 양자화된 변환 계수들)의 엔트로피 코딩이 수행될 수 있다. 엔트로피 코딩은 비디오 데이터의 직사각형 블록의 스캐닝을 효율적으로 수행하는 것에 관하여 본 개시의 기술들을 따를 수 있으며, 또한 컨텍스트 적응형 가변 길이 코딩(CAVLC), CABAC, PIPE 또는 기타의 엔트로피 코딩 방법론과 같은 다른 엔트로피 코딩 기술들을 이용할 수도 있다. 예를 들어, 양자화된 변환 계수들의 크기 및 대응하는 부호(예를 들어, "+1" 또는 "-1")로서 표현되는 계수 값들은 엔트로피 코딩 기술들을 이용하여 인코딩될 수 있다.

전술된 예측, 변환, 및 양자화는, 지정된 코딩 표준에 따라 비디오 데이터의 임의의 블록에 대해, 예를 들어, PU 및/또는 CU의 TU에, 또는 매크로블록에 대해, 수행될 수 있다는 점에 주목해야 한다. 따라서, 비디오 데이터의 직사각형 블록의 효율적 스캐닝을 수행하는 것과 관련된 본 개시의 기술들은, 비디오 데이터의 임의의 직사각형 블록에, 예를 들어, 매크로블록, 또는 CU의 TU를 포함한 양자화된 변환 계수들의 임의의 직사각형 블록에 적용될 수 있다. 또한, 비디오 데이터의 블록(예를 들어, 매크로블록, CU의 TU)은, 대응하는 비디오 데이터의 휘도(luminance) 성분(Y), 제1 색차(chrominance) 성분(U), 및 제2 색차 성분(V) 각각을 포함할 수 있다. 이와 같이, 본 개시의 기술들은 비디오 데이터의 주어진 직사각형 블록의 Y, U, 및 V 성분들 각각에 대해 수행될 수 있다.

전술된 바와 같이 비디오 데이터의 블록들을 인코딩하기 위하여, 주어진 블록 내의 유의미 계수(significant coefficient)들의 위치에 관한 정보가 생성되어 인코딩될 수도 있다. 후속해서, 유의미 계수들의 값들은 전술된 바와 같이 인코딩될 수도 있다. H.264/AVC 및 부상하는 HEVC 표준에서, 컨텍스트 적응형 엔트로피 코딩 프로세스, 예를 들어, CABAC 프로세스를 이용할 때, 비디오 데이터의 블록 내에서의 유의미 계수들의 위치는 유의미 계수들의 값들의 인코딩 이전에 인코딩될 수도 있다. 블록 내에서의 유의미 계수들 모두의 위치를 인코딩하는 프로세스는 중요도 맵(SM; significance map) 인코딩이라 부를 수도 있다. 이하에서 더 상세히 설명되는 도 9a 내지 도 9c는, 양자화된 변환 계수들 및 대응하는 SM 데이터의 4x4 블록의 예를 나타내는 개념도이다. 본 개시의 기술들은 일반적으로 비디오 데이터의 직사각형 블록의 스캐닝을 효율적으로 수행하는 것에 관한 것이므로, 양자화된 변환 계수들의 4x4 블록 및 대응하는 SM 데이터는 순전히 예시의 목적을 위해 도시된 것이라는 점을 깨달아야 한다.

통상적인 SM 인코딩 프로시져는 다음과 같이 기술될 수 있다. 비디오 데이터의 주어진 블록에 대해, SM은 블록 내에 적어도 하나의 유의미 계수가 있는 경우에만 인코딩될 수 있다. 비디오 데이터의 주어진 블록 내에서 유의미 계수들의 존재는, 비디오 데이터 내의 화소들의 영역과 연관된 (휘도 및 색차 블록들과 같은) 한 세트의 블록들에 대해 코딩된 2진값인, (예를 들어, 신택스 요소 "coded_block_pattern" 또는 CBP를 이용하여) 코딩된 블록 패턴으로 표시될 수도 있다. CBP 내의 각 비트는 (예를 들어, 신택스 요소 "coded_block_flag"에 대응하는) 코딩된 블록 플래그(coded block flag)라 부르며 그 대응하는 블록 내에 적어도 하나의 유의미 계수들이 존재하는지를 나타내는데 이용된다. 즉, 코딩된 블록 플래그는 단일 블록의 변환 계수들의 내부에 임의의 유의미 계수들이 있는지를 나타내는 1-비트 심볼이고, CBP는 한 세트의 관련된 비디오 데이터 블록들에 대한 한 세트의 코딩된 블록 플래그들이다.

대응하는 블록 내에 어떠한 유의미 계수들도 없음을 코딩된 블록 플래그가 나타낸다면(예를 들어, 플래그가 "0"과 같음), 그 블록에 대해 어떠한 추가 정보도 인코딩되지 않을 수 있다. 그러나, 대응하는 블록 내에 적어도 하나의 유의미 계수들이 존재한다고 코딩된 블록 플래그가 나타낸다면(예를 들어, 플래그가 "1"과 같음), SM은 그 블록과 연관된 계수 스캐닝 순서를 따름으로써 그 블록에 대해 인코딩될 수 있다. 일부 실시예에서, 유의미 계수는 비-제로 양자화된 변환 계수를 포함할 수 있다. 스캐닝 순서는, 블록 내의 각 계수의 중요도가 SM 인코딩의 일부로서 인코딩되는 순서를 정의할 수 있다. 일부 실시예에서, 유의미 계수는 비-제로 양자화된 변환 계수를 포함할 수 있다. 즉, 스캐닝은, 계수들의 중요도를 결정하기 위해 계수들의 2차원 블록을 1차원 표현으로 직렬화할 수 있다.

상이한 스캐닝 순서들, 예를 들어, 지그-재그가 전통적으로 이용되어 왔다. 이하에 더 상세히 설명되는 도 10은 또한, 비디오 데이터의 8x8 블록들에 대해 전통적으로 이용되어 왔던 다양한 스캐닝 순서들의 일부의 예를 나타낸다. 본 개시의 기술들은 일반적으로 비디오 데이터의 직사각형 블록의 스캐닝을 효율적으로 수행하는 것에 관한 것이므로, 비디오 데이터의 8x8 블록은 순전히 예시의 목적을 위해 도시된 것이라는 점을 깨달아야 한다.

주어진 블록 내에 적어도 하나의 유의미 계수들이 존재한다는 것을 나타내는 코딩된 블록 플래그, 및 그 블록에 대한 스캐닝 순서를 고려할 때, 그 블록에 대한 SM은 다음과 같이 인코딩될 수 있다. 양자화된 변환 계수들의 2차원 블록은 스캐닝 순서를 이용하여 먼저 1차원 어레이로 맵핑될 수 있다. 어레이 내의 각 계수에 대해, 스캐닝 순서를 따르며, (예를 들어, 신택스요소 "significant_coeff_flag"에 대응하는) 1-비트 유의미 계수 플래그가 인코딩될 수 있다. 즉, 어레이 내의 각 위치는 2진 값을 할당받을 수 있으며, 대응하는 계수가 유의미라면 "1"로 설정되고, 비-유의미(예를 들어, 제로)라면 "0"으로 설정될 수 있다.

주어진 유의미 계수 플래그가 "1"로서 대응하는 계수가 유의미라는 것을 나타낸다면, 추가의 1-비트 마지막 유의미 계수 플래그(예를 들어, 신택스 요소 "last_significant_coeff_flag"에 대응)도 역시 인코딩될 수 있고, 이것은 대응하는 계수가 어레이 내에서(예를 들어, 스캐닝 순서를 감안시 블록 내에서) 마지막 유의미 계수인지를 나타낼 수 있다. 구체적으로는, 각각의 마지막 유의미 계수 플래그는, 대응하는 계수가 어레이 내에서 마지막 유의미 계수라면 "1"로 설정될 수 있고, 그 외의 경우에는 "0"으로 설정될 수 있다. 이런 방식으로 마지막 어레이 위치에 도달하고, SM 인코딩 프로세스가 "1"과 동일한 마지막 유의미 계수 플래그에 의해 종료되지 않았다면, 어레이(및 그에 따라 스캐닝 순서를 감안시 블록)에서 마지막 계수는 유의미인 것으로 추론될 수 있고, 마지막 어레이 위치에 대해 어떠한 마지막 유의미 계수 플래그도 인코딩되지 않을 수 있다.

도 9b 및 도 9c는, 어레이 형태가 아니라, 맵으로 제시된, 도 9a에 도시된 블록에 대한 SM 데이터에 각각 대응하는, 유의미 계수 플래그들 및 마지막 유의미 계수 플래그들의 세트들의 예들을 나타내는 개념도이다. 유의미 계수 플래그들 및 마지막 유의미 계수 플래그들은, 전술된 바와 같이, 다른 예들에서 상이한 값들에 설정될 수 있다(예를 들어, 유의미 계수 플래그는 대응하는 계수가 유의미라면 "0"으로 설정될 수 있고, 비-유의미라면, "1"로 설정될 수 있고, 마지막 유의미 계수 플래그는 대응하는 계수가 마지막 유의미 계수라면 "0"으로 설정될 수 있고, 마지막 유의미 계수가 아니라면 "1"로 설정될 수 있다)는 점에 유의해야 한다.

SM이 인코딩된 후에, 전술된 바와 같이, 블록 내의 각각의 유의미 계수의 값(예를 들어, 신택스 요소들 "coeff_abs_level_minus1" 및 "coeff_sign_flag"에 의해 각각 표시된, 각각의 유의미 계수의 크기 및 부호)도 역시 인코딩될 수 있다.

도 9a 및 도 9c는 비디오 데이터의 블록 및 대응하는 유의미 계수 위치 정보와 마지막 유의미 계수 위치 정보의 예를 나타내는 개념도이다.

도 9a에 도시된 바와 같이, 비디오 데이터의 블록, 예를 들어, 매크로블록, 또는 CU의 TU는 양자화된 변환 계수들을 포함할 수 있다. 예를 들어, 도 9a에 도시된 바와 같이, 블록(400)은, 전술된 예측, 변환, 및 양자화 기술들을 이용하여 생성된 양자화된 변환 계수들을 포함할 수 있다. 이 예의 경우, 블록(400)은 2Nx2N의 크기를 갖는 것으로 가정하며, 여기서, N은 2와 같다. 따라서, 블록(400)은 4x4의 크기를 갖고, 도 9a에 역시 도시된 바와 같이, 16개의 양자화된 변환 블록을 포함한다. 또한 블록(400)과 연관된 스캐닝 순서는, 이하에서 더 상세히 설명되는 도 10에 도시된 바와 같이, 지그-재그 스캐닝 순서인 것으로 가정한다. 이 예에서, 지그재그 스캐닝 순서에 따른 블록(400) 내의 마지막 유의미 계수는 블록(400) 내의 위치(406)에 위치한 "1"과 동등한 양자화된 변환 계수이다.

도 9b는, 유의미 계수 플래그 데이터, 예를 들어, 전술된 바와 같은, 맵이나 블록 형태의 유의미 계수 플래그의 예를 나타낸다. 도 9b의 예에서, 블록(402)은 도 9a에 도시된 블록(400)에 대응할 수 있다. 즉, 블록(402)의 유의미 계수 플래그들은 블록(400)의 양자화된 변환 계수들에 대응할 수 있다. 도 9b에 도시된 바와 같이, "1"과 동등한 블록(402)의 유의미 계수 플래그는 블록(400)의 유의미 계수에 대응한다. 마찬가지로, "0"과 동일한 블록(402)의 유의미 계수 플래그는 블록(400)의 제로 또는 비-유의미 계수에 대응한다. 이 예에서, 지그재그 스캐닝 순서에 따른 블록(400) 내의 마지막 유의미 계수에 대응하는 블록(402)의 유의미 계수 플래그는, 블록(402) 내의 위치(408)에 위치한 "1"과 동등한 유의미 계수 플래그이다.

도 9c는, 마지막 유의미 계수 플래그 데이터, 예를 들어, 역시 전술된 바와 같은, 맵이나 블록 형태로 표현된 마지막 유의미 계수 플래그의 예를 나타낸다. 도 9c의 예에서, 블록(404)은 도 9a 및 도 9b에 각각 도시된 블록(400) 및 블록(402)에 대응할 수 있다. 즉, 블록(404)의 마지막 유의미 계수 플래그들은 블록(400)의 양자화된 변환 계수들, 및 블록(402)의 유의미 계수 플래그들에 대응할 수 있다. 도 9c에 도시된 바와 같이, 블록(404) 내의 위치(410)에 위치한 "1"과 동등한 블록(404)의 마지막 유의미 계수 플래그는, 지그재그 패턴 순서에 따른, 블록(400)의 마지막 유의미 계수와, "1"과 동등한 블록(402)의 유의미 계수 플래그들 중 마지막 플래그에 대응한다. 어쨌든, 블록(402)의 유의미 계수 플래그들, 및 블록(404)의 마지막 유의미 계수 플래그들은 집합적으로 블록(400)에 대한 SM 데이터라고 부를 수 있다.

전술된 바와 같이, 비디오 데이터의 블록에 대한 유의미 계수 위치 정보는, 블록에 대한 유의미 계수 플래그들을, 도 9b에 도시된 블록(402)에 도시된 바와 같은 2차원 블록 표현으로부터 그 블록과 연관된 스캐닝 순서를 이용하여 1차원 어레이로 직렬화함으로써 표시될 수 있다. 도 9a 및 도 9b에 도시된 블록들(400-402)의 예에서, 다시 한번 지그재그 스캐닝 순서를 가정하면, 블록(400)에 대한 유의미 계수 위치 정보는 블록(402)의 유의미 계수 플래그들을 1차원 어레이로 직렬화함으로써 표시될 수 있다. 즉, 블록(400)에 대한 유의미 계수 위치 정보는 지그재그 스캐닝 순서에 따라 블록(402)의 유의미 계수 플래그들의 시퀀스를 생성함으로써 표시될 수 있다.

이 예에서, 생성된 시퀀스는, 지그재그 스캐닝 순서에 따라 블록(402)의 처음 6개 유의미 계수 플래그들을 나타내는 값 "111111"에 대응할 수 있다. 생성된 시퀀스는, 지그재그 스캐닝 순서에서 첫 번째 블록 위치(예를 들어, DC 위치 또는 좌상귀)로부터 시작하여, 지그재그 스캐닝 순서를 따른 블록(400)의 마지막 유의미 계수에 대응하는 블록 위치로 끝나는, 블록(400) 내의 블록 위치들의 범위에 대응하는(예를 들어, 블록(404)의 "1"과 동등한 마지막 유의미 계수 플래그에 대응하는) 유의미 계수 플래그들을 포함할 수 있다는 점에 유의해야 한다.

또한 전술된 바와 같이, 블록에 대한 마지막 유의미 계수 위치 정보는, 블록에 대한 마지막 유의미 계수 플래그들을, 도 9c에 도시된 블록(404)에 도시된 바와 같은 2차원 블록 표현으로부터 그 블록과 연관된 스캐닝 순서를 이용하여 1차원 어레이로 직렬화함으로써 표시될 수 있다. 도 9a 내지 도 9c에 도시된 블록들(400-404)의 예에서, 다시 한번 지그재그 스캐닝 순서를 가정하면, 블록(400)에 대한 마지막 유의미 계수 위치 정보는 블록(404)의 마지막 유의미 계수 플래그들을 1차원 어레이로 직렬화함으로써 표시될 수 있다. 즉, 블록(400)에 대한 마지막 유의미 계수 위치 정보는 지그재그 스캐닝 순서에 따라 블록(404)의 마지막 유의미 계수 플래그들의 시퀀스를 생성함으로써 표시될 수 있다. 이 예에서, 생성된 시퀀스는, 지그재그 스캐닝 순서에 따라 블록(404)의 처음 6개 마지막 유의미 계수 플래그들을 나타내는 값 "000001"에 대응할 수 있다.

도 10은 전통적인 지그재그 스캐닝 순서를 이용하여 스캐닝된 비디오 데이터의 블록들의 예를 나타내는 개념도이다. 도 10에 도시된 바와 같이, 비디오 데이터의 8x8 블록, 예를 들어, 매크로블록, 또는 CU의 TU는, 원으로 표기된, 대응하는 블록 위치들의 64개의 양자화된 변환 계수들을 포함할 수 있다. 예를 들어, 블록(500)은, 다시 한번, 전술된 예측, 변환, 및 양자화 기술들을 이용하여 생성된 64개 양자화된 변환 계수들을 포함할 수 있고, 여기서, 각각의 대응하는 블록 위치는 원으로 표기되어 있다. 이 예의 경우, 블록(500)은 2Nx2N의 크기를 갖는 것으로 가정하며, 여기서, N은 4와 같다. 따라서, 블록(500)은 8x8의 크기를 가진다.

도 10에 도시된 바와 같이, 블록(500)과 연관된 스캐닝 순서는 전통적인 지그-재그 스캐닝 순서이다. 지그재그 스캐닝 순서는 도 10의 화살표로 표시된 바와 같은 대각선 방식으로 블록(500)의 양자화된 변환 블록들을 스캐닝한다.

도 11은 전통적인 지그재그 스캐닝 순서를 이용하여 스캐닝된 비디오 데이터의 블록들의 추가예를 나타내는 개념도이다. 도 11에 도시된 바와 같이, 블록(600)은, 도 10을 참조하여 전술된 바와 같이, 화살표로 표시된 바와 같은, 지그재그 스캐닝 순서에 따라 0 내지 15로 순서화된 16개의 블록 위치들을 포함할 수 있다. 16개의 블록 위치들 각각은, 도 9a를 참조하여 전술된 바와 같이, 양자화된 변환 계수를 포함할 수 있다. 도 11에도 도시된 바와 같이, 위치 "0" 및 "1"에 대응하는, 지그재그 스캐닝 순서에 따른 블록(600) 내의 첫 번째 및 두 번째 위치는, 각각 공통 위치(606) 및 공통 위치(608)이라 부를 수 있다. 일부 예에서, 공통 위치들(606, 608) 중 하나 이상은 또 다른 스캐닝 순서에 따른 비디오 데이터의 또 다른 블록 내에서의 첫 번째 및 두 번째 블록 위치와 일치할 수 있다.

도 10 및 도 11에 도시되고 전술된 바와 같이, 비디오 데이터의 블록들은 지그재그 패턴을 이용하여 스캐닝됨으로써, 각 블록 위치는 대각선으로 스캐닝되고, 그 다음, 대각선의 끝에 도달하면, 스캔은 방향을 바꾸어 두 번째 대각선의 끝에 도달할 때까지 계속하며, 두 번째 대각선의 끝에서, 스캔은 다시 방향을 바꾸는 등등의 식이다. 이 지그재그 스캔이 비디오 데이터의 각 블록을 포착하는 동안, 전체 스캔은 다소 느린데, 이것은 각 블록이 그 선행 블록 상에서 스캐닝이 완료되기까지 대기해야 하기 때문이다. 예를 들어, 블록(612)은 블록(610)이 스캐닝되기를 기다려야 하며, 블록(610)은 블록(608)이 스캐닝되기를 기다려야 하며, 블록(608)은 블록(606)이 스캐닝되기를 기다려야 한다. 결과적으로, 블록(600) 내의 블록들 모두를 스캐닝하기 위한 시간은, 적어도, 각각의 개개 블록(606, 608, 610, 등등)이 스캐닝되기 위해 걸리는 시간의 합이다. 따라서, 후속 블록의 경우 이전 블록들에 관한 의존성이 있다. 그 결과, 데이터의 병렬 처리 또는 병렬 데이터 수집은 지그재그 스캔을 이용하여 가능하지 않다.

정사각형 파면 스캔 또는 고정 대각 스캔이 도 12에 도시된 바와 같이 HEVC에 도입되었다. 아울러, 참조에 의해 본 명세서에 포함하는, V. Sze and M. Budagavi의 "CE11: Parallelization of HHI_TRANSFORM_CODING(Fixed Diagonal Scan from C227)," JCTVC-F129, 2011년 7월을 참조한다. 전통적인 지그재그 스캔을 이용하는 것이 아니라, 모든 스캔 라인들은, 예를 들어, CABAC이 이용될 때, 동일한 대각 스캔 방향을 가진다. 이 스캔의 혜택은, 이전에 디코딩된 데이터 블록이나 빈(bin)에 관한 의존성이 더 이상 없다는 것이다. 지금까지, 도 12에 도시된 바와 같이, 파면 스캔은 정사각형 블록만으로 제한된다.

앞서 언급된 바와 같이, HEVC의 혜택들 중 하나는, 비디오 블록은, 코딩 유닛, 예를 들어, LCU, 또는 코딩 유닛의 파티션에 대응할 수 있고, 크기에 의해 제한되지 않는다는 것이다. 이것이 바람직한 이유는, 도 1에 도시된 바와 같이, 프레임은 종종 형상이 직사각형, 또는 NxM인 것을 특징으로 하기 때문이며, 여기서, 수직 방향에서는 N개의 화소들이 있고, 수평 방향에서 M개의 화소들이 있으며, N과 M은 동등하지 않은 음이 아닌 정수값을 나타낸다. 예를 들어, 여전히 도 1을 참조하면, N은 8과 같고 M은 12와 같다.

일반적으로, 프레임이 직사각형이면, 그 파티션들, 또는 서브-블록들도 역시 직사각형이기 쉽다. HEVC에서, 직사각형 PU들이 이용될 수 있는데, 이것은 이들이 일반적으로 직사각형 객체들에 대한 더 나은 예측을 갖기 때문이다. 마찬가지로, 직사각형 또는 정사각형 예측된 잔여물(residual)의 더 나은 압축을 위해 직사각형 변환이 이용될 수 있다. 따라서, 병렬 데이터 수집을 이용할 수 있는 직사각형 서브-블록들에 대한 효과적인 스캐닝 패턴이 바람직하다.

또한, 직사각형 변환은 HEVC에 대한 더 높은 코딩 효율을 달성하기 위해 최근에 제안되었다. 이 더 높은 코딩 효율에 대한 한가지 가능한 설명은, 직사각형 변환은 잔여 코딩의 더 많은 선택(choice)을 제공할 수 있다는 것이다. 예를 들어, 인코더는, 주어진 또는 미리결정된 기준에 따라 정사각형 변환이 이용되어야 하는지 또는 직사각형 변환이 이용되어야 하는지를 적응적으로 선택할 수 있어서, 더 높은 압축 효율이 달성될 수 있다. 예를 들어, 각각이 참조에 의해 본 명세서에 포함되는, Y. Yuan, X. Zheng, X. Peng, J. Xu, L. Liu, Y. Wang, X. Cao, C. Lai, J. Zheng, Y. He, 및 H. Yu, “CE2: Non-Square Quadtree Transform for symmetric motion partitions,” JCTVC-F410, July 2011; Y. Yuan, X. Zheng, X. Peng, J. Xu, I.-K Kim, L. Liu, Y. Wang, X. Cao, C. Lai, J. Zheng, Y. He, 및 H. Yu, “CE2: Non-Square Quadtree Transform for symmetric and asymmetric motion partitions,” JCTVC-F412, July 2011; 및 L. Guo, J. Sole, R. Joshi, P. Chen, X. Wang, 및 M. Karczewicz, “Non-Square Transform for 2NxN and Nx2N Motion Partitions,” JCTVC-F563, July 2011을 참조한다.

결과적으로, 모든 스캔 라인들이 동일한 스캔 방향인 직사각형 변환들에 대해 파면 스캔을 이용하는 것이 제안된다. 파면 스캔의 스캔 방향은 임의의 각도 θ일 수 있다. 도 13의 (a) 내지 (d)는, 0°, 45°, -90° 및 -135°에서 θ에 대한 직사각형 블록들 또는 서브-블록들의 효과적인 스캐닝을 허용하는 이러한 예시적 스캔 패턴을 나타낸다.

직사각형의 파면 스캔의 4개의 구체적인 변형들이 다음과 같이 제시된다. 도 14는 45°의 스캔 방향을 갖는 전체 순방향 직사각형 파면 스캔의 예를 나타내고, 여기서, 각 스캔 라인 상의 양자화된 변환 계수들은 하부-좌측으로부터 상부-우측으로 처리된다. 도 15는 45°의 스캔 방향을 갖는 전체 역방향 직사각형 파면 스캔 패턴의 예를 나타내고, 여기서, 각 스캔 라인 상의 양자화된 변환 계수들은 하부-좌측으로부터 상부-우측으로 처리된다. 도 16은 -135°의 스캔 방향을 갖는 전체 순방향 직사각형 파면 스캔의 예를 나타내고, 여기서, 각 스캔 라인 상의 양자화된 변환 계수들은 상부-우측으로부터 하부-좌측으로 처리된다. 도 17은 -135°의 스캔 방향을 갖는 전체 역방향 직사각형 파면 스캔의 예를 나타내고, 여기서, 각 스캔 라인 상의 양자화된 변환 계수들은 상부-우측으로부터 하부-좌측으로 처리된다.

도 14 내지 도 17을 검토하면, 각 스캔 라인은 비교적 독립적이라는 것, 예를 들어, 이전의 스캔 라인으로부터의 작은 의존성을 가진다는 것이 명백할 것이다. 지연이 비교적 작을 수는 있지만, 소정의 지연이 있을 수 있다는 것을 이해하여야 한다. 이들 지연은 각 라인 사이의 작은 의존성으로 인한 것이지만, 지연은 다른 스캔, 예를 들어, 지그재그에 비해 작을 수 있다. 결과적으로, 각 라인은 거의 동시에 스캐닝될 수 있는데, 이것은 데이터 블록 데이터를 처리하는데 필요한 총 시간은, 예를 들어, 소정량의 지연과 더불어, 단일의 스캔 라인을 스캐닝하는데 걸리는 시간의 길이의 함수일 수 있다는 것을 의미한다. 그러나, 첫 번째 스캔 라인의 스캔이 시작된 후에 두 번째 스캔 라인의 스캔을 시작하여, 두 번째 스캔 라인 내의 블록에 인접하거나 바로 다음의 블록이 첫 번째 스캔 라인에서 이미 스캐닝되어 있도록 하는 것이 바람직할 수 있기 때문에, 제한이 있을 수 있다. 예를 들어, 순방향 스캔, 예를 들어, 파면 또는 지그재그의 경우, 좌측 이웃을 먼저 디코딩하는 것이 바람직할 수 있는데, 이것은 좌측 이웃이 그 바로 우측의 위치의 컨텍스트 모델링에 이용될 수 있기 때문이다. 마찬가지로, 역방향 스캔의 경우, 우측 이웃을 먼저 디코딩하는 것이 바람직할 수 있는데, 이것은 우측 이웃이 그 바로 우측의 위치의 컨텍스트 모델링에 이용될 수 있기 때문이다. 복수의 라인들을 거의 동시에, 예를 들어, 거의 병렬로, 스캐닝함으로써, 엔트로피 인코딩에서 판독을 위한 더 나은 속도가 달성될 수 있다는 점을 이해하여야 한다. 추가로, 적어도 부분적으로 스캐닝된 데이터의 병렬 처리로 인해, 계산 복잡도 효율이 증가될 수 있다.

일반적으로, TU 내부의 고주파 변환 계수들은 DC 또는 저주파 변환 계수들보다 작은 에너지를 가진다. 일반적으로, 예를 들어 변환 계수들에 대한 고주파 및 저주파는 상대적 개념이다. 고주파는 더 신속하게 변하는 주파수 성분을 의미하는 반면 저주파는 덜 신속하게 변하는 주파수 성분을 의미한다. 구체적으로 비디오 압축에서, 변환(예를 들어, DCT) 후에, DC는 상부-좌측 위치(0,0 위치)의 성분이다. 저주파는 좌상귀의 성분이고 고주파는 우하귀의 성분이다.

달리 설명하면, 이산적 신호 처리(DSP)에서, 공간적 영역 내의 NxM 샘플들의 블록은 종종 변환 영역의 NxM 계수들의 블록으로 변환된다. 각 변환 계수들은 블록에 대한 소정 주파수에서의 에너지를 나타낸다. 자연 비디오 화상에서의 블록은 종종 저주파에서 더 많은 에너지를 갖고 고주파수에서 더 적은 에너지를 가진다. 이것은, 자연 비디오 화상의 블록에 대하여 종종 우리가 왜 큰 저주파 계수들과 작은 고주파 계수들을 보는지에 대한 이유이다.

따라서, 양자화 이후에, 앞서 상세히 설명된 바와 같이, 많은 고주파 계수들은 0이 된다. 잘-설계된 엔트로피 코드는 종종 양자화된 변환 계수들의 이러한 특성을 이용한다. 일부 실시예에서, 우리는 마지막 비-제로 양자화된 변환 계수가 순방향 스캔의 의미로 명시될 수 있다고 가정할 수 있다. 이것은, 도 9의 논에서 전술된 바와 같이, 유의미 계수 플래그들을 이용하여 달성될 수 있다.

순방향 스캔이 이용된다면, 일단 마지막 비-제로 양자화된 계수를 만나고 나면 스캔 경로를 따라 어떠한 추가적 코딩도 필요하지 않다. 반면, 역방향 또는 후방 스캔이 이용된다면, 코딩은 마지막 비-제로 계수와 함께 시작할 수 있다. 특정한(순방향 또는 후방) 스캔 상에서 마지막 비-제로 계수의 위치 정보는 상이한 방법들을 이용하여 코딩될 수 있다. 예를 들어, last_significant_coeff_flag와 같은 플래그는, 비-제로 계수가 마지막인지의 여부를 나타내기 위해 이용될 수 있다. 대안으로서, 마지막 비-제로 계수의 좌표, last_significant_coeff_x 및 last_significant_coeff_y는, 참조에 의해 본 명세서에 포함하는, J. Sole, R. Joshi, M. Karczewicz의 "CE11: Parallel Context Processing for the significance map in high coding efficiency", JCTVC-E338, 2011년 3월에 기술된 바와 같이, 코딩될 수 있다.

마지막 비-제로 양자화된 변환 계수에서 종료하거나 시작하는 직사각형 파면 스캔의 4가지 구체적인 변형이 다음과 같이 제시된다. 도 18은 45°의 스캔 방향을 갖는 부분적 순방향 직사각형 파면 스캔의 예를 나타내고, 여기서, 각 스캔 라인 상의 양자화된 변환 계수들은 하부-좌측으로부터 상부-우측으로 처리된다. 이 예에서, 처리는 마지막 비-제로 양자화된 변환 계수에서 중단한다. 도 19는 45°의 스캔 방향을 갖는 부분적 역방향 직사각형 파면 스캔 패턴의 예를 나타내고, 여기서, 각 스캔 라인 상의 양자화된 변환 계수들은 하부-좌측으로부터 상부-우측으로 처리된다. 이 예에서, 처리는 마지막 비-제로 양자화된 변환 계수로부터 시작한다. 도 20은 135°의 스캔 방향을 갖는 부분적 순방향 직사각형 파면 스캔의 예를 나타내고, 여기서, 각 스캔 라인 상의 양자화된 변환 계수들은 상부-우측으로부터 하부-좌측으로 처리된다. 이 예에서, 처리는 마지막 비-제로 양자화된 변환 계수에서 중단한다. 도 21은 135°의 스캔 방향을 갖는 부분적 역방향 직사각형 파면 스캔의 예를 나타내고, 여기서, 각 스캔 라인 상의 양자화된 변환 계수들은 상부-우측으로부터 하부-좌측으로 처리된다. 이 예에서, 처리는 마지막 비-제로 양자화된 변환 계수로부터 시작한다.

도 14 내지 도 17과 도 18 내지 도 21의 비교는, 주요 차이점이 도 18 내지 도 21은 마지막 비-제로 양자화된 변환 계수들까지만 스캐닝하거나 그로부터 스캐닝을 시작한다는 점이라는 것을 드러내고 있다. 결과적으로, 도 18 내지 도 21은 일반적으로 스캔 및 코딩에 대해 더 적은 계수들을 가지므로, 도 14 내지 도 17에 비해 개선된 효율(예를 들어, 비트 절감)을 제공할 것이라는 점을 이해하여야 한다.

상이한 크기들의 직사각형 블록에서 계수들의 좌표와 스캔 인덱스(scan index) 사이의 맵핑을 나타내는 표 1 내지 표 12가 이하에 도시되어 있다. 다른 예에서, 블록은 표 1 내지 표 12에 열거된 블록들의 크기보다 작거나 더 큰 크기를 가질 수도 있고, 더 많거나 더 적은 양자화된 변환 계수들 및 대응하는 블록 위치들을 포함할 수 있다. 이들 예에서, 블록과 연관된 스캐닝 순서는, 도 14 내지 도 17과 도 18 내지 도 21의 직사각형 블록들의 예에서 도시된 것과 실질적으로 유사한 방식으로 블록의 양자화된 변환 계수들을 스캐닝할 수 있다, 예를 들어, 블록들은 앞서 설명된 스캐닝 순서들 중 임의의 순서를 따라 스캐닝될 수 있다.

전체 8×2 파면 스캔 패턴의 예

전체 2×8 파면 스캔 패턴의 예

전체 8×4 파면 스캔 패턴의 예

전체 4×8 파면 스캔 패턴의 예

전체 16×4 파면 스캔 패턴의 예

전체 4×16 파면 스캔 패턴의 예

전체 16×8 파면 스캔 패턴의 예

전체 8×16 파면 스캔 패턴의 예

전체 32×8 파면 스캔 패턴의 예

전체 8×32 파면 스캔 패턴의 예

전체 32×16 파면 스캔 패턴의 예

전체 16×32 파면 스캔 패턴의 예

이와 같이, 본 개시의 기술들은 비디오 인코더(20) 및/또는 비디오 디코더(30)가 다른 방법을 이용할 때보다 더 효율적으로 직사각형 블록에 대한 파면 스캐닝을 수행할 수 있게 할 수 있다. 이런 방식으로, 본 개시의 기술들을 이용할 때 병렬 처리 능력에 대응하는 상대적인 시간 절약이 있을 수 있다.

비디오 인코더(20) 및 비디오 디코더(30) 각각은, 하나 이상의 마이크로프로세서, 디지털 신호 프로세서(DSP), 주문형 집적 회로(ASIC), 필드 프로그래머블 게이트 어레이(FPGA), 이산 로직 회로, 소프트웨어, 하드웨어, 또는 이들의 임의의 조합과 같은, 적용가능하다면, 다양한 적절한 인코더 또는 디코더 회로 중 임의의 것으로서 구현될 수 있다. 비디오 인코더(20) 및 비디오 디코더(30) 각각은 하나 이상의 인코더 또는 디코더에 포함될 수 있고, 그 중 어느 하나는 결합된 비디오 인코더/디코더(CODEC)의 일부로서 통합될 수 있다. 비디오 인코더(20) 및/또는 비디오 디코더(30)를 포함하는 장치는 집적 회로, 마이크로프로세서, 및/또는 셀룰러 전화와 같은 무선 통신 장치를 포함할 수도 있다.

도 22는, 본 개시의 기술과 일치하는, 비디오 데이터의 직사각형 블록의 스캐닝을 효율적으로 수행하기 위한 기술을 구현할 수 있는 비디오 인코더(20)의 예를 나타내는 블록도이다. 비디오 인코더(20)는, 매크로블록, CU, 및 그 파티션들 또는 서브-파티션들을 포함하는, 비디오 프레임들 내의 블록들의 인트라 또는 인터 코딩을 수행할 수 있다. 인트라 코딩은, 주어진 비디오 프레임 내에서 비디오 내의 공간적 리던던시를 줄이거나 제거하기 위해 공간적 예측에 의존한다. 인터 코딩은, 비디오 시퀀스의 인접한 프레임들 내에서 비디오의 시간적 리던던시를 줄이거나 제거하기 위해 시간적 예측에 의존한다. 인트라 모드(I-모드)란, 수 개의 공간 기반의 압축 모드들 중 임의의 모드를 말하며, 단방향 예측(P-모드) 또는 양방향 예측(B-모드)와 같은 인터 모드란, 수개의 시간적 기반의 압축 모드들 중 임의의 모드를 말한다.

도 22에 도시된 바와 같이, 비디오 인코더(20)는 인코딩될 비디오 프레임 내의 비디오 데이터의 현재 블록을 수신한다. 도 22의 에에서, 비디오 인코더(20)는, 움직임 보상 유닛(44), 움직임 추정 유닛(42), 메모리(64), 합산기(50), 변환 모듈(52), 양자화 유닛(54) 및 엔트로피 인코딩 유닛(56)을 포함한다. 비디오 블록 재구성을 위해, 비디오 인코더(20)는 또한, 역 양자화 유닛(58), 역 변환 모듈(60), 및 합산기(62)를 포함한다. 예를 들어, 블록 경계를 평활화하고 입력 화상과 출력 화상 사이의 코딩 왜곡을 최소화하기 위해, 블록 경계를 필터링하여 재구성된 비디오로부터 블록현상 아티팩트를 제거하도록 (도 22에는 도시되지 않은) 블록화해제 필터 또는 적응형 루프 필터도 역시 포함될 수 있다. 원한다면, 블록화해제 필터는 통사적으로 합산기(62)의 출력을 필터링할 것이다.

인코딩 프로세스 동안에, 비디오 인코더(20)는 코딩될 비디오 프레임 또는 슬라이스를 수신한다. 프레임 또는 슬라이스는 복수의 비디오 블록들로 분할될 수 있다. 움직임 추정 유닛(42) 및 움직임 보상 유닛(44)은, 하나 이상의 기준 프레임 내의 하나 이상의 블록에 관하여 주어진 수신된 비디오 블록의 인터-예측 코딩을 수행하여 시간적 압축을 제공한다. 인터-예측 모듈(46)은 코딩될 블록과 동일한 프레임 또는 슬라이스 내의 하나 이상의 이웃하는 블록들에 관한 주어진 수신된 비디오 블록의 인트라-예측 코딩을 수행하여 공간적 압축을 제공할 수 있다.

모드 선택 유닛(40)은, 코딩 결과(예를 들어, 결과적인 코딩 레이트 및 왜곡 레벨)에 기초하여, 및 코딩 중인 주어진 수신된 블록을 포함한 프레임이나 슬라이스에 대한 프레임 또는 슬라이스 타입에 기초하여, 코딩 모드들 중 하나, 예를 들어, 하나의 모드 또는 복수의 인트라 또는 인터 코딩 모드를 선택할 수 있고, 결과적인 인트라 또는 인터-코딩된 블록을 합산기(50)에 제공하여 잔여 블록 데이터를 생성하고 합산기(62)에 제공하여 기준 프레임이나 기준 슬라이스에서 사용하기 위한 인코딩된 블록을 재구성한다. 일반적으로, 인트라-예측은 이웃하는 이전에 코딩된 블록들에 관해 현재의 블록을 예측하는 것을 포함하는 반면, 인터-예측은 현재의 블록을 시간적으로 예측하기 위해 움직임 추정 및 움직임 보상을 포함한다. 일부 실시예에서, 재구성된 화상들이 기준 화상들이라면, 이들은 미래의 시간적 예측을 위해 (도시되지 않은) 기준 버퍼 또는 메모리(64)에 저장될 것이다.

움직임 추정 유닛(42) 및 움직임 보상 유닛(44)은 비디오 인코더(20)의 인터-예측 요소들을 나타낸다. 움직임 추정 유닛(42) 및 움직임 보상 유닛(44)은 고도로 통합될 수 있지만, 개념상의 목적을 위해 별개로 예시되어 있다. 움직임 추정은, 비디오 블록들의 움직임을 추정하는 움직임 벡터들을 생성하는 프로세스이다. 움직임 벡터는, 예를 들어, 현재의 프레임(또는 기타의 코딩된 유닛) 내의 코딩중인 현재의 블록에 관한 예측 기준 프레임(또는 기타의 코딩된 유닛) 내의 예측 블록의 변위를 나타낼 수 있다. 예측 블록이란, 절대 차이(SAD; sum of absolute difference)의 합, 정사각형 차이의 합(SSD; sum of square difference), 또는 기타의 차이 메트릭에 의해 결정될 수 있는, 화소 차이의 면에서, 코딩될 블록과 근접하게 매칭하는 것으로 발견된 블록이다. 움직임 벡터는 또한 블록의 파티션의 변위를 나타낼 수 있다. 움직임 보상은 움직임 추정에 의해 결정된 움직임 벡터에 기초하여 예측 블록을 인출(fetch)하거나 생성하는 것을 포함할 수 있다. 다시 한번, 움직임 추정 유닛(42) 및 움직임 보상 유닛(44)은, 일부 예에서, 기능적으로 통합될 수 있다.

움직임 추정 유닛(42)은, 비디오 블록을 메모리(64) 내의 기준 프레임의 비디오 블록들과 비교함으로써 인터-코딩된 프레임의 비디오 블록에 대한 움직임 벡터를 계산할 수 있다. 움직임 보상 유닛(44)은 또한, 이 비교의 목적을 위해, 기준 프레임, 예를 들어, I-프레임, B-프레임 또는 P-프레임의 부-정수 화소(sub-integer pixel)들을 보간할 수 있다.

움직임 추정 유닛(42)은, 메모리(64)로부터의 하나 이상의 기준 프레임들의 블록들을, 현재 프레임, 예를 들어, P-프레임 또는 B-프레임의 인코딩될 블록과 비교할 수 있다. 일부 실시예에서, P 및 B-프레임들은 기준 화상 또는 프레임으로서 사용될 수 있는 일반적 B 화상 내에 통합될 수 있다. 메모리(64) 내의 기준 프레임들이 부-정수 화소들에 대한 값들을 포함할 때, 움직임 추정 유닛(42)에 의해 계산된 움직임 벡터는 기준 프레임의 부-정수 화소 위치를 참조할 수 있다. 움직임 추정 유닛(42) 및/또는 움직임 보상 유닛(44)은 또한, 부-정수 화소 위치들에 대한 어떠한 값도 메모리(64) 내에 저장되어 있지 않다면 메모리(64) 내에 저장된 기준 프레임들의 부-정수 화소 위치들에 대한 값들을 계산하도록 구성될 수 있다. 움직임 추정 유닛(42)은 계산된 움직임 벡터를 엔트로피 인코딩 유닛(56) 및 움직임 보상 유닛(44)에 전송할 수 있다. 움직임 벡터에 의해 식별된 기준 프레임 블록은, 인터-예측 블록, 또는 더 일반적으로는, 예측 블록이라 부를 수 있다. 움직임 보상 유닛(44)은 예측 블록에 기초하여 예측 데이터를 계산할 수 있다.

인트라-예측 모듈(46)은, 전술된 바와 같이, 움직임 추정 유닛(42) 및 움직임 보상 유닛(44)에 의해 수행되는 인터-예측에 대한 대안으로서, 현재의 블록을 인트라-예측할 수 있다. 특히, 인트라-예측 모듈(46)은 현재의 블록을 인코딩하는데 사용할 인트라-예측 모드를 결정할 수 있다. 일부 예에서, 인트라-예측 모듈(46)은, 예를 들어, 별개의 인코딩 패스(encoding pass) 동안에, 다양한 인트라-예측 모드를 이용하여 현재의 블록을 인코딩할 수 있고, 인트라-예측 모듈(46)(또는 일부 예에서는 모드 선택 유닛(40)은 테스트된 모드들로부터 이용할 적절한 인트라-예측 모드를 선택할 수 있다. 예를 들어, 인트라-예측 모듈(46)은, 다양한 테스트된 인트라-예측 모드들에 대한 레이트-왜곡 분석을 이용하여 레이트-왜곡 값들을 계산할 수 있고, 테스트된 모드들 중에서 최상의 레이트-왜곡 특성을 갖는 인트라예측 모드를 선택할 수 있다. 레이트-왜곡 분석은 일반적으로, 인코딩된 블록과, 그 인코딩된 블록을 생성하기 위해 인코딩 되었던 원래의 인코딩되지 않은 블록 사이의 왜곡(또는 에러)의 양 뿐만 아니라, 그 인코딩된 블록을 생성하는데 이용되는 비트 레이트(즉, 비트수)를 결정한다. 인트라-예측 모듈(46)은, 어느 인트라예측 모드가 블록에 대한 최상의 레이트-왜곡 값을 보여주는지를 결정하기 위해 다양한 인코딩된 블록들에 대한 왜곡 및 레이트로부터 비율을 계산할 수 있다.

현재의 블록을 예측한 후에, 예를 들어, 인트라-예측 또는 인터-예측을 이용하여, 비디오 인코더(20)는, 코딩 중인 원래의 비디오 블록으로부터, 움직임 보상 유닛(44) 또는 인트라-예측 모듈(46)에 의해 계산된 예측 데이터를 감산함으로써 잔여 비디오 블록을 형성할 수 있다. 합산기(50)는 이 감산 동작을 수행할 수 있는 컴포넌트 또는 컴포넌트들을 나타낸다. 변환 모듈(52)은, 이산 코사인 변환(DCT) 또는 개념적으로 유사한 변환과 같은, 변환을 잔여 블록에 적용하여, 잔여 변환 계수 값들을 포함하는 비디오 블록을 생성할 수 있다. 변환 모듈(52)은, DCT와 개념적으로 유사한, H.264 표준에 의해 졍의된 것과 같은, 기타의 변환을 수행할 수도 있다. 웨이블렛 변환, 정수 변환, 서브-밴드 변환 또는 기타 유형의 변환도 역시 이용될 수 있다. 어쨌든, 변환 모듈(52)은 잔여 블록에 변환을 적용하여, 잔여 변환 계수들의 블록을 생성할 수 있다. 변환은, 잔여 정보를, 화소 영역으로부터, 주파수 영역과 같은 변환 영역으로 변환할 수 있다. 양자화 유닛(54)은 비트 레이트를 더욱 줄이기 위해 잔여 변환 계수들을 양자화할 수 있다. 양자화 프로세스는 계수들의 일부 또는 전부와 연관된 비트 깊이를 줄일 수 있다. 양자화의 정도는 양자화 파라미터를 조절함으로써 수정될 수도 있다.

양자화에 이어, 엔트로피 인코딩 유닛(56)은, 양자화된 변환 계수들을, CAVLC, CABAC, PIPE, 또는 다른 엔트로피 코딩 기술을 포함할 수 있는 엔트로피 코딩할 수 있다. 엔트로피 코딩 유닛(56)에 의한 엔트로피 코딩에 이어, 인코딩된 비디오는 이후의 전송이나 회수를 위해 또 다른 장치에 전송되거나 아카이브(archive)될 수 있다.

일부 경우에, 엔트로피 코딩 유닛(56) 또는 비디오 인코더(20)의 또 다른 유닛은, 전술된 바와 같이 양자화된 변환 계수들을 엔트로피 코딩하는 것 외에도, 다른 코딩 기능을 수행하도록 구성될 수도 있다. 예를 들어, 엔트로피 코딩 유닛(56)은 블록(예를 들어, 매크로블록, CU, 또는 LCU), 또는 블록을 포함하는 비디오 프레임에 대한 헤더 정보를, 인코딩된 비디오 비트스트림으로의 전송을 위한 적절한 신택스 요소들과 함께, 구성할 수 있다. 본 개시는, 다른 방법들을 이용할 때보다 더 효율적인 직사각형 블록 정보의 스캐닝을 수행하는 것을 가능케 할 수 있는 기술을 설명한다.

예를 들어, 비디오 인코더(20)의 엔트로피 인코딩 유닛(56)은 비디오 데이터의 소정 블록들(예를 들어, 하나 이상의 매크로블록, 또는 CU의 TU들)을 인코딩하도록 구성될 수 있다. 본 개시의 기술들에 따르면, 한 예로서, 엔트로피 인코딩 유닛(56)은 특정한 스캔 타입 및 특정한 컨텍스트 모델 선택 방법을 이용하여 현재의 TU에 대한 중요도 맵을 인코딩하도록 구성될 수 있다. 엔트로피 인코딩에 관한 더 세부사항은, 참조에 의해 본 명세서에 포함하는, 2012년 7월 16일 출원된 발명의 명칭이 "CONTEXT MODELING TECHNIQUES FOR TRANSFORM COEFFICIENT LEVEL CODING"인, 미국 특허 출원 번호 제13/550,493호에서 ?을 수 있다.

역 양자화 유닛(58) 및 역 변환 모듈(60)은, 예를 들어, 기준 블록으로서 나중에 이용하기 위해, 각각 역 양자화 및 역 변환을 적용하여 화소 영역에서 잔여 블록을 재구성한다. 움직임 보상 유닛(44)은, 잔여 블록을 메모리(64)의 프레임들 중 하나의 예측 블록에 첨가함으로써 기준 블록을 계산할 수 있다. 움직임 보상 유닛(44)은 또한, 움직임 추정에 사용하기 위한 부-정수 화소값들을 계산하기 위해 하나 이상의 보간 필터들을 재구성된 잔여 블록에 적용할 수 있다. 합산기(62)는, 재구성된 잔여 블록을 움직임 보상 유닛(44)에 의해 생성된 움직임 보상된 예측 블록에 첨가하여 메모리(64)에 저장하기 위한 재구성된 비디오 블록을 생성한다. 재구성된 비디오 블록은, 후속 비디오 프레임 내의 블록을 인터-코딩하기 위해 움직임 추정 유닛(42) 및 움직임 보상 유닛(44)에 의해 기준 블록으로서 이용될 수 있다.

도 23은, 본 개시의 기술들과 일치하는, 비디오 데이터의 직사각형 블록에 대한 인코딩된 스캐닝 정보를 효율적으로 디코딩하기 위한 기술들을 구현할 수 있는 비디오 디코더(30)의 예를 나타내는 블록도이다. 도 23의 예에서, 비디오 디코더(30)는, 엔트로피 디코딩 유닛(70), 움직임 보상 유닛(72), 인트라-예측 모듈(74), 역 양자화 유닛(76), 역 변환 모듈(78), 메모리(82), 및 합산기(80)를 포함한다. 비디오 디코더(30)는, 일부 예에서, 비디오 인코더(20)(도 22)에 관하여 설명된 인코딩 패스와는 대체로 역을 이루는 디코딩 패스를 수행할 수 있다. 움직임 보상 유닛(72)은 엔트로피 디코딩 유닛(70)으로부터 수신된 움직임 벡터들에 기초하여 예측 데이터를 생성할 수 있다.

예를 들어, 비디오 디코더(30)는, 비디오 인코더(20)로부터 인코딩된 비디오 데이터(예를 들어, 하나 이상의 매크로블록, 또는 CU의 TU들)를 수신하도록 구성될 수 있다. 엔트로피 디코딩 유닛(70)은, 특정한 스캔 타입 및 특정한 컨텍스트 모델 선택 방법을 이용하여 현재의 TU에 대한 중요도 맵을 디코딩하도록 구성될 수 있다. 엔트로피 디코딩에 관한 더 세부적인 사항은, 앞서 참조에 의해 포함된, 2012년 7월 16일 출원된 발명의 명칭이 "CONTEXT MODELING TECHNIQUES FOR TRANSFORM COEFFICIENT LEVEL CODING"인, 미국 특허 출원 번호 제13/550,493호에서 ?을 수 있다.

이와 같이, 본 개시의 기술들은, 엔트로피 디코딩 유닛(70)이 다른 방법을 이용할 때보다 더 효율적으로 직사각형 블록에 대한 스캐닝 정보를 디코딩할 수 있게 할 수 있다. 이런 방식으로, 본 개시의 기술들을 이용할 때 병렬 처리에 대응하는 상대적인 시간 절약이 있을 수 있다.

움직임 보상 유닛(72)은, 메모리(82) 내의 기준 프레임들에서 예측 블록을 식별하기 위해 비트스트림에서 수신된 움직임 벡터들을 이용할 수 있다. 인트라-예측 모듈(74)은, 공간적으로 인접한 블록들로부터 예측 블록을 형성하기 위해 비트스트림에서 수신된 인트라예측 모드들을 이용할 수 있다.

인트라-예측 모듈(74)은, 예를 들어, 이웃하는, 이전에 디코딩된 블록들의 화소들을 이용하여, 인코딩된 블록을 인트라-예측하기 위해 인코딩된 블록에 대한 인트라-예측 모드의 표시를 이용할 수 있다. 블록이 인트라-예측 모드 인코딩되는 예의 경우, 움직임 보상 유닛(72)은, 인코딩된 블록에 대한 움직임 보상된 예측 데이터를 회수하기 위하여, 움직임 벡터를 정의하는 정보를 수신할 수도 있다. 어쨌든, 움직임 보상 유닛(72) 또는 인트라-예측 모듈(74)은 예측 블록을 정의하는 정보를 합산기(80)에 제공할 수 있다.

역 양자화 유닛(76)은, 비트스트림에서 제공되고 엔트로피 디코딩 유닛(70)에 의해 디코딩되는 양자화된 블록 계수들을, 역 양자화, 예를 들어, 양자화 해제한다. 역 양자화 프로세스는, 종래의 프로세스, 예를 들어, H.264 디코딩 표준에 의해 정의되거나 HEVC Test Model에 의해 수행되는 것과 같은 프로세스를 포함할 수 있다. 역 양자화 프로세스는 또한, 적용될 수 있는 양자화의 정도, 및, 마찬가지로, 역 양자화의 정도를 결정하기 위해 각 블록에 대해 비디오 인코더(20)에 의해 계산되는 양자화 파라미터 QP_Y의 이용을 포함할 수 있다.

역 변환 모듈(78)은, 화소 영역에서 잔여 블록들을 생성하기 위하여, 역 변환, 예를 들어, 역 DCT, 역 정수 변환, 또는 개념적으로 유사한 역 변환 프로세스를 변환 계수들에 적용한다. 움직임 보상 유닛(72)은, 아마도 보간 필터들에 기초한 보간을 수행하여, 움직임 보상된 블록들을 생성한다. 부-화소 정밀도를 갖는 움직임 보상에 이용될 보간 필터들에 대한 식별자들이 신택스 요소들에 포함될 수 있다. 움직임 보상 유닛(72)은, 기준 블록의 부-정수 화소들에 대한 보간된 값들을 계산하기 위해 비디오 블록의 인코딩 동안에 비디오 인코더(20)에 의해 이용되는 보간 필터들을 이용할 수 있다. 움직임 보상 유닛(72)은 수신된 신택스 정보에 따라 비디오 인코더(20)에 의해 이용되는 보간 필터들을 결정할 수 있고 보간 필터들을 이용하여 예측 블록들을 생성할 수 있다.

움직임 보상 유닛(72)은, 인코딩된 비디오 시퀀스의 프레임(들)을 인코딩하는데 이용되는 블록들의 크기를 결정하기 위한 인코딩된 블록에 대한 신택스 정보, 인코딩된 비디오 시퀀스의 프레임 또는 슬라이스의 각 블록이 어떻게 파티션화되어 있는지를 기술하는 파티션 정보, 각 파티션이 어떻게 인코딩되어 있는지를 나타내는 모드들, 각 인터-인코딩된 블록이나 파티션에 대한 하나 이상의 기준 프레임(및 기준 프레임 목록), 및 인코딩된 비디오 시퀀스를 디코딩하기 위한 기타의 정보 중 일부를 이용한다. 인트라-예측 모듈(74)은, 전술된 바와 같이, 예를 들어, 이웃하는, 이전에 디코딩된 블록들의 화소들을 이용하여, 인코딩된 블록을 인트라-예측하기 위해 인코딩된 블록에 대한 신택스 정보를 이용할 수 있다.

합산기(80)는 움직임 보상 유닛(72) 또는 인트라-예측 모듈(74)에 의해 생성된 대응하는 예측 블록들과 잔여 블록들을 합산하여 디코딩된 블록들을 형성한다. 원한다면, 블록현상 아티팩트를 제거하기 위하여 블록화해제 필터도 역시 적용되어 디코딩된 블록들을 필터링한다. 그 다음, 디코딩된 비디오 블록들은, 후속하는 움직임 보상을 위한 기준 블록을 제공하고 또한 (도 22의 디스플레이 장치(32)와 같은) 디스플레이 장치 상의 프리젠테이션을 위한 디코딩된 비디오를 생성하는 메모리(82)에 저장된다.

개시된 실시예의 상기 설명은 당업자가 본 발명을 만들거나 이용할 수 있게 하기 위해 제공된 것이다. 이들 실시예들에 대한 다양한 수정이 당업자에게는 명백할 것이며, 여기서 설명된 일반 원리는 본 발명의 사상과 범위를 벗어나지 않고 다른 실시예들에 적용될 수 있다. 따라서, 여기서 제시된 설명과 도면들은 본 발명의 실시예를 나타내므로, 본 발명에 의해 광범위하게 고려되는 주제를 나타낸다는 점을 이해하여야 한다. 본 발명의 범위는 다른 실시예들을 완전히 아우르며 본 발명의 범위는 그에 따라 첨부된 청구항들에 의해서만 제한된다는 점을 더 이해하여야 한다.

Claims (20)

1. 복수의 화상을 갖는 디지털 비디오 시퀀스를 코딩하기 위한 방법으로서,
   (a) 상기 복수의 화상 중 적어도 하나를 블록들로 분할하는 단계,
   (b) 상기 블록들 중 적어도 하나에 직사각형 변환(rectangular transform)을 수행하여 하나 이상의 변환 계수를 생성하는 단계 - 상기 블록들 중 상기 적어도 하나는 수직 방향으로 N 개 픽셀들 및 수평 방향으로 M 개 픽셀들을 갖는 직사각형 블록이고 M 및 N은 동일하지 않은 음이 아닌 정수 값임 -,
   (c) 상기 하나 이상의 변환 계수에 양자화를 수행하여 양자화된 변환 계수들을 생성하는 단계, 및
   (d) 상기 양자화된 변환 계수들을 코딩 스캔 순서에 따라 한 번에 하나씩 인코딩하여 압축된 비트스트림을 생성하는 단계
   를 포함하고,
   상기 코딩 스캔 순서는 순방향 파면 스캔 순서 또는 역방향 파면 스캔 순서를 포함하는, 방법.
2. 제1항에 있어서,
   상기 순방향 파면 스캔 순서는 첫번째 비-제로 변환 계수 또는 DC 계수에서 스캐닝을 시작하도록 구성되는 방법.
3. 제1항에 있어서,
   상기 역방향 파면 스캔 순서는 마지막 비-제로 변환 계수에서 스캐닝을 시작하도록 구성되는 방법.
4. 제1항에 있어서,
   상기 하나 이상의 변환 계수는 복수 라인의 양자화된 변환 계수들이 존재하도록 변환 블록으로 제시되고,
   적어도 2개 라인의 양자화된 변환 계수들을 병렬로 인코딩하는 단계를 더 포함하는 방법.
5. 제4항에 있어서,
   상기 인코딩은 단일 방향으로 수행되는 방법.
6. 복수의 화상을 갖는 디지털 비디오 시퀀스를 코딩하기 위한 장치로서,
   상기 장치는 비디오 코더를 포함하고,
   상기 비디오 코더는,
   상기 복수의 화상 중 적어도 하나를 블록들로 분할하고,
   상기 블록들 중 적어도 하나에 직사각형 변환을 수행하여 하나 이상의 변환 계수를 생성하고 - 상기 블록들 중 상기 적어도 하나는 수직 방향으로 N 개 픽셀들 및 수평 방향으로 M 개 픽셀들을 갖는 직사각형 블록이고 M 및 N은 동일하지 않은 음이 아닌 정수 값임 -,
   상기 하나 이상의 변환 계수에 양자화를 수행하여 양자화된 변환 계수들을 생성하고,
   상기 양자화된 변환 계수들을 코딩 스캔 순서에 따라 한 번에 하나씩 인코딩하여 압축된 비트스트림을 생성하도록 구성되고,
   상기 코딩 스캔 순서는 순방향 파면 스캔 순서 또는 역방향 파면 스캔 순서를 포함하는, 장치.
7. 제6항에 있어서,
   상기 하나 이상의 변환 계수는 복수 라인의 양자화된 변환 계수들이 존재하도록 변환 블록으로 제시되고, 적어도 2개 라인의 양자화된 변환 계수들을 동시에 인코딩하기 위해 병렬로 동작하도록 구성된 2개 이상의 마이크로프로세서를 더 포함하는 장치.
8. 제6항에 있어서,
   상기 순방향 파면 스캔 순서는 첫번째 비-제로 변환 계수 또는 DC 계수에서 스캐닝을 시작하도록 구성되는 장치.
9. 제6항에 있어서,
   상기 역방향 파면 스캔 순서는 마지막 비-제로 변환 계수에서 스캐닝을 시작하도록 구성되는 장치.
10. 압축된 비트스트림을 처리하기 위한 방법으로서,
    (a) 압축된 비트스트림을 수신하는 단계, 및
    (b) 상기 압축된 비트스트림을 처리하여, 직사각형 변환의 하나 이상의 변환 계수를 생성하는 단계 - 상기 직사각형 변환은 수직 방향으로 N 개 픽셀들 및 수평 방향으로 M 개 픽셀들을 갖고 M 및 N은 동일하지 않은 음이 아닌 정수 값임 -
    를 포함하고,
    상기 하나 이상의 변환 계수는 상기 직사각형 변환의 코딩 스캔 순서에 따라 한 번에 하나씩 생성되고,
    상기 코딩 스캔 순서는 순방향 파면 스캔 순서 또는 역방향 파면 스캔 순서를 포함하는 방법.
11. 제10항에 있어서,
    상기 하나 이상의 변환 계수들은 양자화된 변환 계수들이고,
    상기 방법은
    (c) 상기 양자화된 변환 계수들에 역양자화(dequantization)를 수행하는 단계를 더 포함하는 방법.
12. 제9항에 있어서,
    (d) 상기 하나 이상의 변환 계수에 역 직사각형 변환을 수행하는 단계를 더 포함하는 방법.
13. 압축된 비트스트림을 처리하기 위한 장치로서,
    상기 장치는 비디오 디코더를 포함하고,
    상기 비디오 디코더는,
    압축된 비트스트림을 수신하고,
    상기 압축된 비트스트림을 처리하여 직사각형 변환의 하나 이상의 변환 계수를 생성하도록 구성되고 - 상기 직사각형 변환은 수직 방향으로 N 개 픽셀들 및 수평 방향으로 M 개 픽셀들을 갖고 M 및 N은 동일하지 않은 음이 아닌 정수 값임 -,
    상기 하나 이상의 변환 계수는 상기 직사각형 변환의 코딩 스캔 순서에 따라 한 번에 하나씩 생성되고,
    상기 코딩 스캔 순서는 순방향 파면 스캔 순서 또는 역방향 파면 스캔 순서를 포함하는 장치.
14. 제13항에 있어서,
    상기 장치는,
    집적 회로;
    마이크로프로세서; 및
    상기 비디오 디코더를 포함하는 무선 통신 장치
    중 적어도 하나를 포함하는 장치.
15. 제13항에 있어서,
    상기 역방향 파면 스캔 순서는 마지막 비-제로 변환 계수에서 스캐닝을 시작하도록 구성되는 장치.
16. 삭제
17. 삭제
18. 삭제
19. 삭제
20. 삭제

Images