视频译码中具有减少的归零的低频不可分离变换(LFNST)

摘要

一种用于对视频数据进行解码的示例设备包括：存储器，其被配置为存储视频数据；以及一个或多个处理器，其是在电路中实现的以及被配置为：确定视频数据的变换块具有8x8系数的大小以及变换块是使用低频不可分离变换(LFNST)来变换的；对变换块的至少九个非零变换系数进行解码；使用逆LFNST来对变换块进行逆变换，以重现与变换块相对应的残差块；以及使用残差块来重构视频数据的块。

说明书

本申请要求享受于2020年12月17日递交的编号为17/125,778的美国申请以及于2019年12月20日递交的编号为62/951,984的美国暂时申请的利益，据此将上述申请中的每一份申请的全部内容通过引用的方式并入。

技术领域

本公开内容涉及视频编码和视频解码。

背景技术

数字视频能力可以被合并到各种各样的设备中，包括数字电视机、数字直接广播系统、无线广播系统、个人数字助理(PDA)、膝上型计算机或台式计算机、平板计算机、电子书阅读器、数字照相机、数字记录设备、数字媒体播放器、视频游戏设备、视频游戏控制台、蜂窝或卫星无线电电话(所谓的“智能电话”)、视频电话会议设备、视频串流设备等。数字视频设备实现视频译码技术，诸如在通过MPEG-2、MPEG-4、ITU-T H.263、ITU-T H.264/MPEG-4(第10部分，高级视频译码(AVC))、ITU-T H.265/高效视频译码(HEVC)定义的标准以及这样的标准的扩展中描述的那些技术。视频设备可以通过实现这样的视频译码技术更高效地发送、接收、编码、解码和/或存储数字视频信息。

视频译码技术包括空间(图片内)预测和/或时间(图片间)预测以减少或去除在视频序列中固有的冗余。对于基于块的视频译码，视频切片(例如，视频图片或视频图片的一部分)可以被分割为视频块，视频块还可以称为译码树单元(CTU)、译码单元(CU)和/或译码节点。图片的经帧内译码(I)的切片中的视频块是使用相对于同一图片中的邻近块中的参考样本的空间预测来编码的。图片的经帧间译码(P或B)的切片中的视频块可以使用相对于同一图片中的邻近块中的参考样本的空间预测或者相对于其它参考图片中的参考样本的时间预测。图片可以称为帧，以及参考图片可以称为参考帧。

发明内容

概括而言，本公开内容描述用于视频译码中的变换译码的技术，例如在视频压缩标准中。例如，本公开内容描述可以提高译码效率的低频不可分离变换设计的各种示例。示例技术可以是在通用视频译码(VVC/H.266)中利用的。示例技术可以与其它改进的视频编解码器(包括HEVC的扩展和下一代的视频译码标准)一起使用。具体而言，本公开内容的某些技术涉及明确地对使用低频不可分离变换(LFNST)来变换的8x8变换块的某个数量的非零变换系数进行译码(编码或解码)，以及不对剩余的变换系数进行译码。例如，视频译码器可以被配置为明确地对变换块的多达十个变换系数进行译码，以及视频译码器可以针对剩余的变换系数推断零的值。

在一个示例中，一种对视频数据进行解码的方法包括：确定视频数据的变换块具有8x8系数的大小以及变换块是使用低频不可分离变换(LFNST)来变换的；对变换块的至少九个非零变换系数进行解码；使用逆LFNST来对变换块进行逆变换，以重现与变换块相对应的残差块；以及使用残差块来重构视频数据的块。

在另一示例中，一种用于对视频数据进行解码的设备包括：存储器，其被配置为存储视频数据；以及一个或多个处理器，其是在电路中实现的以及被配置为：确定视频数据的变换块具有8x8系数的大小以及变换块是使用低频不可分离变换(LFNST)来变换的；对变换块的至少九个非零变换系数进行解码；使用逆LFNST来对变换块进行逆变换，以重现与变换块相对应的残差块；以及使用残差块来重构视频数据的块。

在另一示例中，一种计算机可读存储介质具有存储在其上的指令，所述指令当被执行时使得处理器进行以下操作：确定视频数据的变换块具有8x8系数的大小以及变换块是使用低频不可分离变换(LFNST)来变换的；对变换块的至少九个非零变换系数进行解码；使用逆LFNST来对变换块进行逆变换，以重现与变换块相对应的残差块；以及使用残差块来重构视频数据的块。

在另一示例中，一种用于对视频数据进行解码的设备包括：用于确定视频数据的变换块具有8x8系数的大小以及变换块是使用低频不可分离变换(LFNST)来变换的单元；用于对变换块的至少九个非零变换系数进行解码的单元；用于使用逆LFNST来对变换块进行逆变换，以重现与变换块相对应的残差块的单元；以及用于使用残差块来重构视频数据的块的单元。

一个或多个示例的细节是在附图和以下描述中阐述的。根据说明书、附图和权利要求，其它特征、目的和优点将是显而易见的。

附图说明

图1是示出可以执行本公开内容的技术的示例视频编码和解码系统的框图。

图2A和图2B是示出示例四叉树二叉树(QTBT)结构以及相应的译码树单元(CTU)的概念图。

图3是示出可以执行本公开内容的技术的示例视频编码器的框图。

图4是示出可以执行本公开内容的技术的示例视频解码器的框图。

图5是示出可以执行低频不可分离变换(LFNST)的示例组件集合的框图。

图6是示出将逆LFNST应用于变换块以重现残差块的概念图。

图7是示出将逆LFNST应用于4x4块的概念图。

图8是示出将逆LFNST应用于4x4块以产生8x8块的概念图。

图9是示出根据本公开内容的技术的对视频数据进行编码的示例的流程图。

图10是示出根据本公开内容的技术的对视频数据进行解码的示例的流程图。

具体实施方式

图1是示出可以执行本公开内容的技术的示例视频编码和解码系统100的框图。本公开内容的技术大体上涉及对视频数据进行译码(编码和/或解码)。通常，视频数据包括用于处理视频的任何数据。因此，视频数据可以包括原始的未经编码的视频、经编码的视频、经解码(例如，经重构)的视频、以及视频元数据，诸如信令数据。

如图1所示，在该示例中，系统100包括源设备102，源设备102提供要由目的地设备116解码和显示的、经编码的视频数据。特别地，源设备102经由计算机可读介质110来将视频数据提供给目的地设备116。源设备102和目的地设备116可以包括各种各样的设备中的任何一者，包括台式计算机、笔记本计算机(即，膝上型计算机)、平板计算机、机顶盒、诸如智能电话的电话手机、电视机、照相机、显示设备、数字媒体播放器、视频游戏控制台、视频串流设备等。在一些情况下，源设备102和目的地设备116可以配备用于无线通信，以及因此可以称为无线通信设备。

在图1的示例中，源设备102包括视频源104、存储器106、视频编码器200以及输出接口108。目的地设备116包括输入接口122、视频解码器300、存储器120以及显示设备118。根据本公开内容，源设备102的视频编码器200和目的地设备116的视频解码器300可以被配置为应用用于具有减少的归零的低频不可分离变换(LFNST)的技术，如在本公开内容中描述的。源设备102表示视频编码设备的示例，而目的地设备116表示视频解码设备的示例。在其它示例中，源设备和目的地设备可以包括其它组件或布置。例如，源设备102可以从诸如外部照相机的外部视频源接收视频数据。同样地，目的地设备116可以与外部显示设备对接，而不是包括集成的显示设备。

如图1所示的系统100仅是一个示例。通常，任何数字视频编码和/或解码设备可以执行用于具有减少的归零的LFNST的技术，如在本公开内容中描述的。源设备102和目的地设备116仅是这样的译码设备的示例，在其中源设备102生成经译码的视频数据用于去往目的地设备116的传输。本公开内容将“译码”设备称为执行对数据的译码(编码和/或解码)的设备。因此，视频编码器200和视频解码器300分别表示译码设备(以及特别地，视频编码器和视频解码器)的示例。在一些示例中，源设备102和目的地设备116可以以基本上对称的方式进行操作，使得源设备102和目的地设备116中的每一者都包括视频编码和解码组件。因此，系统100可以支持在源设备102与目的地设备116之间的单向或双向视频传输，例如用于视频串流、视频回放、视频广播或视频电话。

通常，视频源104表示视频数据的源(即，原始的未经编码的视频数据)，以及将视频数据的按顺序的一系列图片(还称为“帧”)提供给视频编码器200，视频编码器200对针对图片的数据进行编码。源设备102的视频源104可以包括视频捕获设备，诸如摄像机、包含先前捕获的原始视频的视频存档、和/或用于从视频内容提供者接收视频的视频馈送接口。作为进一步的替代方式，视频源104可以生成基于计算机图形的数据作为源视频，或者实时视频、存档的视频和计算机生成的视频的组合。在每种情况下，视频编码器200可以对捕获的、预捕获的或计算机生成的视频数据进行编码。视频编码器200可以将图片从接收的次序(有时称为“显示次序”)重新排列为用于译码的译码次序。视频编码器200可以生成包括经编码的视频数据的比特流。源设备102然后可以经由输出接口108将经编码的视频数据输出给计算机可读介质110上，用于由例如目的地设备116的输入接口122接收和/或取回。

源设备102的存储器106和目的地设备116的存储器120表示通用存储器。在一些示例中，存储器106、120可以存储原始视频数据，例如来自视频源104的原始视频以及来自视频解码器300的原始的经解码的视频数据。另外或替代地，存储器106、120可以存储由例如视频编码器200和视频解码器300分别可执行的软件指令。尽管存储器106和存储器120在该示例中示为与视频编码器200和视频解码器300分开，但是应当理解的是，视频编码器200和视频解码器300还可以包括用于在功能上类似或等效目的的内部存储器。此外，存储器106、120可以存储例如从视频编码器200输出以及输入到视频解码器300的经编码的视频数据。在一些示例中，存储器106、120的部分可以被分配作为一个或多个视频缓冲器，例如以存储原始的经解码和/或经编码的视频数据。

计算机可读介质110可以表示能够将经编码的视频数据从源设备102传送到目的地设备116的任何类型的介质或设备。在一个示例中，计算机可读介质110表示用于使得源设备102能够例如经由射频网络或基于计算机的网络来实时地将经编码的视频数据直接地发送给目的地设备116的通信介质。根据诸如无线通信协议的通信标准，输出接口108可以对包括经编码的视频数据的传输信号进行调制，以及输入接口122可以对所接收的传输信号进行解调。通信介质可以包括任何无线或有线通信介质，诸如射频(RF)频谱或一个或多个物理传输线。通信介质可以形成基于分组的网络(诸如局域网、广域网、或诸如互联网的全球网络)的一部分。通信介质可以包括路由器、交换机、基站、或对于促进从源设备102到目的地设备116的通信而言可能有用的任何其它装备。

在一些示例中，源设备102可以将经编码的数据从输出接口108输出给存储设备112。类似地，目的地设备116可以经由输入接口122从存储设备112存取经编码的数据。存储设备112可以包括各种分布式或本地存取的数据存储介质(诸如硬盘驱动器、蓝光光盘、DVD、CD-ROM、闪存、易失性或非易失性存储器、或用于存储经编码的视频数据的任何其它适当的数字存储介质)中的任何一者。

在一些示例中，源设备102可以将经编码的视频数据输出给文件服务器114或者可以存储由源设备102生成的经编码的视频的另一中间存储设备。目的地设备116可以经由串流或下载来从文件服务器114存取存储的视频数据。文件服务器114可以是能够存储经编码的视频数据以及将该经编码的视频数据发送给目的地设备116的任何类型的服务器设备。文件服务器114可以表示网页服务器(例如，用于网站)、文件传输协议(FTP)服务器、内容递送网络设备、或网络附加存储(NAS)设备。目的地设备116可以通过任何标准数据连接(包括互联网连接)来从文件服务器114存取经编码的视频数据。这可以包括适用于存取存储在文件服务器114上的经编码的视频数据的无线信道(例如，Wi-Fi连接)、有线连接(例如，数字用户线(DSL)、电缆调制解调器等)、或两者的组合。文件服务器114和输入接口122可以被配置为根据串流传输协议、下载传输协议、或其组合来操作。

输出接口108和输入接口122可以表示无线发射机/接收机、调制解调器、有线联网组件(例如，以太网卡)、根据各种IEEE 802.11标准中的任何一种标准进行操作的无线通信组件、或其它物理组件。在其中输出接口108和输入接口122包括无线组件的示例中，输出接口108和输入接口122可以被配置为根据蜂窝通信标准(诸如4G、4G-LTE(长期演进)、改进的LTE、5G等)来传送数据(诸如经编码的视频数据)。在其中输出接口108包括无线发射机的一些示例中，输出接口108和输入接口122可以被配置为根据其它无线标准(诸如IEEE 802.11规范、IEEE 802.15规范(例如，ZigBee

本公开内容的技术可以应用于视频译码，以便支持各种多媒体应用中的任何一者，诸如空中电视广播、有线电视传输、卫星电视传输、互联网串流视频传输(诸如基于HTTP的动态自适应串流(DASH))、被编码到数据存储介质上的数字视频、对被存储在数据存储介质上的数字视频的解码、或其它应用。

目的地设备116的输入接口122从计算机可读介质110(例如，通信介质、存储设备112、文件服务器114等)接收经编码的视频比特流。经编码的视频比特流可以包括由视频编码器200定义的信令信息，其还有视频解码器300来使用，诸如具有描述视频块或其它译码单元(例如，切片、图片、图片组、序列等)的特性和/或处理的值。显示设备118将经解码的视频数据的经解码的图片显示给用户。显示设备118可以表示各种显示设备中的任何一者，诸如阴极射线管(CRT)、液晶显示器(LCD)、等离子体显示器、有机发光二极管(OLED)显示器、或另一类型的显示设备。

尽管在图1中未示出，但是在一些示例中，视频编码器200和视频解码器300可以各自与音频编码器和/或音频解码器集成，以及可以包括适当的MUX-DEMUX(复用-解复用)单元或其它硬件和/或软件，以处理包括在公共数据流中的音频和视频两者的经复用的流。如果适用的话，MUX-DEMUX单元可以遵循ITU H.223复用器协议或其它协议，诸如用户数据报协议(UDP)。

视频编码器200和视频解码器300各自可以实现为各种适当的编码器和/或解码器电路中的任何一者，诸如一个或多个微处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、分立逻辑、软件、硬件、固件、或其任何组合。当技术是部分地用软件来实现时，设备可以将用于软件的指令存储在适当的非暂时性计算机可读介质中，以及使用一个或多个处理器用硬件来执行指令以执行本公开内容的技术。视频编码器200和视频解码器300中的每一者可以被包括在一个或多个编码器或解码器中，编码器或解码器中的任一者可以集成为在各自的设备中的组合的编码器/解码器(CODEC)的一部分。包括视频编码器200和/或视频解码器300的设备可以包括集成电路、微处理器、和/或无线通信设备，诸如蜂窝电话。

如上文描述的，一种视频译码标准是HEVC。HEVC是在以下文档中描述的：M.Wien，High Efficiency Video Coding:Coding Tools and Specification(高效视频译码：译码工具和规范)，施普林格，柏林，2015年。

视频编码器200和视频解码器300可以根据其它专有或行业标准(诸如联合探索测试模型(JEM)或ITU-T H.266(还称为通用视频译码(VVC)))进行操作。VVC标准的最新草案是在以下文档中描述的：Bross等人，“Versatile Video Coding(Draft 7)”(“通用视频译码(草案7)”)，ITU-T SG 16 WP 3和ISO/IEC JTC 1/SC 29/WG 11的联合视频专家组(JVET)，第16次会议：日内瓦，瑞士，2019年10月1-11日，JVET-P2001-v14(下文中称为“VVC草案7”)。然而，本公开内容的技术不限于任何特定的译码标准。

通常，视频编码器200和视频解码器300可以执行对图片的基于块的译码。术语“块”通常指的是包括要被处理的(例如，在编码和/或解码过程中被编码、被解码或以其它方式使用的)数据的结构。例如，块可以包括亮度和/或色度数据的样本的二维矩阵。通常，视频编码器200和视频解码器300可以对以YUV(例如，Y、Cb、Cr)格式表示的视频数据进行译码。也就是说，并不是对针对图片的样本的红色、绿色和蓝色(RGB)数据进行译码，视频编码器200和视频解码器300可以对亮度和色度分量进行译码，其中色度分量可以包括红色色相和蓝色色相色度分量两者。在一些示例中，视频编码器200在进行编码之前将接收的经RGB格式化的数据转换为YUV表示，以及视频解码器300将YUV表示转换为RGB格式。替代地，预处理和后处理单元(未示出)可以执行这些转换。

本公开内容可以大体上涉及对图片的译码(例如，编码和解码)以包括对图片的数据进行编码或解码的过程。类似地，本公开内容可以涉及对图片的块的译码以包括对针对块的数据进行编码或解码(例如，预测和/或残差译码)的过程。经编码的视频比特流通常包括针对表示译码决策(例如，译码模式)以及将图片分割为块的语法元素的一系列值。因此，关于对图片或块进行译码的引用通常应当被理解为对针对用于形成图片或块的语法元素的值进行译码。

HEVC定义各种块，包括译码单元(CU)、预测单元(PU)和变换单元(TU)。根据HEVC，视频译码器(诸如视频编码器200)根据四叉树结构来将译码树单元(CTU)分割为CU。也就是说，视频译码器将CTU和CU分割为四个相等的、非重叠的正方形，以及四叉树的每个节点具有零个或四个子节点。没有子节点的节点可以称为“叶节点”，以及这样的叶节点的CU可以包括一个或多个PU和/或一个或多个TU。视频译码器可以进一步分割PU和TU。例如，在HEVC中，残差四叉树(RQT)表示对TU的分割。在HEVC中，PU表示帧间预测数据，而TU表示残差数据。经帧内预测的CU包括帧内预测信息，诸如帧内模式指示。

作为另一示例，视频编码器200和视频解码器300可以被配置为根据JEM或VVC进行操作。根据JEM或VVC，视频译码器(诸如视频编码器200)将图片分割为多个译码树单元(CTU)。视频编码器200可以根据树结构(诸如四叉树-二叉树(QTBT)结构或多类型树(MTT)结构)分割CTU。QTBT结构去除多种分割类型的概念，诸如在HEVC的CU、PU和TU之间的分离。QTBT结构包括两个级别：根据四叉树分割而被分割的第一级别、以及根据二叉树分割而被分割的第二级别。QTBT结构的根节点对应于CTU。二叉树的叶节点对应于译码单元(CU)。

在MTT分割结构中，块可以是使用四叉树(QT)分割、二叉树(BT)分割以及一种或多种类型的三叉树(TT)(还称为三元树(TT))分割来分割的。三叉树或三元树分割是其中块被分为三个子块的分割。在一些示例中，三叉树或三元树分割将块划分为三个子块，而不通过中心划分原始块。在MTT中的分割类型(例如，QT、BT和TT)可以是对称的或非对称的。

在一些示例中，视频编码器200和视频解码器300可以使用单个QTBT或MTT结构来表示亮度分量和色度分量中的每一者，而在其它示例中，视频编码器200和视频解码器300可以使用两个或更多个QTBT或MTT结构，诸如针对亮度分量的一个QTBT/MTT结构以及针对两个色度分量的另一QTBT/MTT结构(或者针对各自的色度分量的两个QTBT/MTT结构)。

视频编码器200和视频解码器300可以被配置为使用每HEVC的四叉树分割、QTBT分割、MTT分割、或其它分割结构。出于解释的目的，本公开内容的技术的描述是关于QTBT分割来给出的。然而，应当理解的是，本公开内容的技术还可以应用于被配置为使用四叉树分割或者还使用其它类型的分割的视频译码器。

块(例如，CTU或CU)可以是以各种方式在图片中成组的。作为一个示例，砖块可以指的是在图片中的特定瓦片内的CTU行的矩形区域。瓦片可以是在图片中的特定瓦片列和特定瓦片行内的CTU的矩形区域。瓦片列指的是CTU的具有等于图片的高度的高度以及通过语法元素(例如，诸如在图片参数集中)指定的宽度的矩形区域。瓦片行指的是CTU的具有通过语法元素指定的高度(例如，诸如在图片参数集中)以及等于图片的宽度的宽度的矩形区域。

在一些示例中，瓦片可以分割为多个砖块，砖块中的每个砖块可以包括在瓦片内的一个或多个CTU行。没有被分割为多个砖块的瓦片也可以称为砖块。然而，作为瓦片的真实子集的砖块不可以称为瓦片。

图片中的砖块还可以是以切片来排列的。切片可以是图片的整数个砖块，其可以唯一地被包含在单个网络抽象层(NAL)单元中。在一些示例中，切片包括多个完整的瓦片或者仅一个瓦片的连续序列的完整砖块。

本公开内容可以互换地使用“NxN”和“N乘N”来指代块(诸如CU或其它视频块)在垂直和水平维度方面的样本大小，例如，16x16个样本或16乘16个样本。通常，16x16 CU将在垂直方向上具有16个样本(y＝16)，以及在水平方向上具有16个样本(x＝16)。同样地，NxN CU通常在垂直方向上具有N个样本，以及在水平方向上具有N个样本，其中N表示非负整数值。CU中的样本可以按行和列来排列。此外，CU不一定需要在水平方向上具有与在垂直方向上相同的数量的样本。例如，CU可以包括NxM个样本，其中M不一定等于N。

视频编码器200对针对CU的表示预测和/或残差信息以及其它信息的视频数据进行编码。预测信息指示将如何预测CU以便形成针对CU的预测块。残差信息通常表示在编码之前的CU的样本与预测块之间的逐样本差。

为了预测CU，视频编码器200通常可以通过帧间预测或帧内预测来形成针对CU的预测块。帧间预测通常指的是根据先前译码的图片的数据来预测CU，而帧内预测通常指的是根据同一图片的先前译码的数据来预测CU。为了执行帧间预测，视频编码器200可以使用一个或多个运动矢量来生成预测块。视频编码器200通常可以执行运动搜索，以识别例如在CU与参考块之间的差异方面与CU紧密地匹配的参考块。视频编码器200可以使用绝对差之和(SAD)、平方差之和(SSD)、平均绝对差(MAD)、均方差(MSD)、或其它这样的差计算来计算差度量，以确定参考块是否与当前CU紧密地匹配。在一些示例中，视频编码器200可以使用单向预测或双向预测来预测当前CU。

JEM和VVC的一些示例还提供仿射运动补偿模式，其可以被认为是帧间预测模式。在仿射运动补偿模式下，视频编码器200可以确定表示非平移运动(诸如放大或缩小、旋转、透视运动或其它不规则的运动类型)的两个或更多个运动矢量。

为了执行帧内预测，视频编码器200可以选择帧内预测模式来生成预测块。JEM和VVC的一些示例提供六十七种帧内预测模式，包括各种定向模式、以及平面模式和DC模式。通常，视频编码器200选择帧内预测模式，帧内预测模式描述根据其来预测当前块(例如，CU的块)的样本的对于当前块的邻近样本。假定视频编码器200以光栅扫描次序(从左到右、从上到下)对CTU和CU进行译码，则这样的样本通常可以是在与当前块相同的图片中在当前块的上方、左上方或左侧。

视频编码器200对表示针对当前块的预测模式的数据进行编码。例如，对于帧间预测模式，视频编码器200可以对表示使用各种可用帧间预测模式中的哪一种帧间预测模式的数据以及用于相应的模式的运动信息进行编码。对于单向或双向帧间预测，例如，视频编码器200可以使用高级运动矢量预测(AMVP)或合并模式来对运动矢量进行编码。视频编码器200可以使用类似的模式来对用于仿射运动补偿模式的运动矢量进行编码。

在诸如对块的帧内预测或帧间预测的预测之后，视频编码器200可以计算针对块的残差数据。残差数据(诸如残差块)表示在块与针对块的预测块(其是使用相应的预测模式来形成的)之间的逐样本差。视频编码器200可以将一个或多个变换应用于残差块，以在变换域中而非在样本域中产生经变换的数据。例如，视频编码器200可以将离散余弦变换(DCT)或离散正弦变换(DST)、整数变换、小波变换或概念上类似的变换应用于残差视频数据。另外，视频编码器200可以在第一变换之后应用二次变换，诸如取决于模式的不可分离二次变换(MDNSST)、取决于信号的变换、卡洛南-洛伊变换(KLT)、低频不可分离变换(LFNST)等。视频编码器200在对一个或多个变换的应用之后产生变换系数。

如上所述，在用于产生变换系数的任何变换之后，视频编码器200可以执行对变换系数的量化。量化通常指的是在其中对变换系数进行量化以可能地减少用于表示变换系数的数据的量的过程，提供进一步的压缩。通过执行量化过程，视频编码器200可以减小与变换系数中的一些变换系数或所有变换系数相关联的比特深度。例如，视频编码器200可以在量化期间将n比特值向下舍入为m比特值，其中n大于m。在一些示例中，为了执行量化，视频编码器200可以执行对要量化的值的按位右移。

在量化之后，视频编码器200可以扫描变换系数，从包括经量化的变换系数的二维矩阵产生一维矢量。扫描可以被设计为将较高能量(以及因此的较低频率)变换系数放在矢量的前面，以及将较低能量(以及因此的较高频率)变换系数放在矢量的后面。在一些示例中，视频编码器200可以利用预先定义的扫描次序来扫描经量化的变换系数以产生经串行化的矢量，以及然后对矢量的经量化的变换系数进行熵编码。在其它示例中，视频编码器200可以执行自适应扫描。在扫描经量化的变换系数以形成一维矢量之后，视频编码器200可以例如根据上下文自适应二进制算术译码(CABAC)来对一维矢量进行熵编码。视频编码器200还可以对针对描述与经编码的视频数据相关联的元数据的语法元素的值进行熵编码，用于由视频解码器300在对视频数据进行解码时使用。

为了执行CABAC，视频编码器200可以将在上下文模型内的上下文分配给要发送的符号。上下文可以涉及例如符号的邻近值是否是零值。概率确定可以是基于分配给符号的上下文。

视频编码器200可以进一步生成例如在图片首部、块首部、切片首部中对于视频解码器300的语法数据(诸如基于块的语法数据、基于图片的语法数据和基于序列的语法数据)、或其它语法数据(诸如序列参数集(SPS)、图片参数集(PPS)或视频参数集(VPS))。视频解码器300可以同样地对这样的语法数据进行解码以确定如何对相应的视频数据进行解码。

以这种方式，视频编码器200可以生成包括经编码的视频数据的比特流，例如描述对图片到块的分割(例如，CU)以及针对块的预测和/或残差信息的语法元素。最终地，视频解码器300可以接收比特流以及对经编码的视频数据进行解码。

通常，视频解码器300执行与由视频编码器200执行的过程反向的过程，以对比特流的经编码的视频数据进行解码。例如，视频解码器300可以以与视频编码器200的CABAC编码过程基本上类似的、但是反向的方式来使用CABAC对针对比特流的语法元素的值进行解码。语法元素可以定义图片到CTU的分割信息、以及根据相应的分割结构(诸如QTBT结构)对每个CTU的分割，以定义CTU的CU。语法元素可以进一步定义针对视频数据的块(例如，CU)的预测和残差信息。

残差信息可以是通过例如经量化的变换系数来表示的。视频解码器300可以对块的经量化的变换系数进行逆量化和逆变换，以重现针对块的残差块。视频解码器300使用以信号传送的预测模式(帧内预测或帧间预测)和相关的预测信息(例如，用于帧间预测的运动信息)来形成针对块的预测块。视频解码器300然后可以对预测块和残差块(在逐个样本的基础上)进行组合，以重现原先的块。视频解码器300可以执行额外的处理，诸如执行去块过程以减少沿着块的边界的视觉伪影。

根据本公开内容的技术，视频编码器200和视频解码器300可以被配置为执行与LFNST相关的操作。在LFNST中，如更详细地描述的，视频编码器200可以对残差值执行DCT或DST以生成变换系数，以及对DCT或DST的作为结果的变换系数执行LFNST以生成LFNST系数，以及然后对LFNST系数进行量化、熵编码以及以信号传送。反过来，视频解码器300可以接收经量化、熵编码的LFNST系数，以及对经量化、熵编码的LFNST系数执行熵解码，以及对经量化的LFNST系数进行逆量化以生成LFNST系数。视频解码器300可以对LFNST系数执行逆LFNST，以生成经逆变换的LFNST系数(其可以与由视频编码器200生成的变换系数相同)，以及对经逆变换的LFNST系数执行逆DCT或DST，以生成经重构的残差块的残差值。

视频编码器200可以被配置为仅明确地对某个数量的经量化的LFNST系数(为了简洁起见，下文简称为“LFNST系数”，但是应理解的是，LFNST系数也可以被量化)进行编码。例如，视频编码器200可以明确地对LFNST系数中的多达十个LFNST系数进行编码。因此，视频编码器200可以明确地对8x8变换块的在范围[1,2,…,9,10]内的任何数量的LFNST系数进行编码。

视频编码器200可以使用例如视频数据的复杂性(诸如视频数据所符合的视频译码标准的简档、层和/或级别)来确定要明确地编码的LFNST系数的数量。另外或替代地，视频编码器200可以使用率失真优化(RDO)过程来确定要明确地编码的LFNST系数的数量。在一些示例中，要明确地编码的LFNST系数的数量可以是例如通过适用的视频译码标准来预先定义的。

视频编码器200可以对表示被明确地编码的LFNST系数的数量的值进行编码，例如在视频参数集(VPS)、序列参数集(SPS)、图片参数集(PPS)、自适应参数集(APS)、图片首部、切片首部、块首部或其它语法数据中。视频编码器200可以避免对针对超过非零变换系数的数量的变换系数的值进行编码。视频编码器200可以是根据通过视频译码标准施加的约束来配置的，该约束设置明确地译码的非零LFNST系数的最大数量，例如最多十个。

视频解码器300还可以确定被编码的8x8块的非零LFNST系数的数量在范围[1,2,…,9,10]内。例如，视频解码器300可以确定该数量是预先定义的(即，预先确定的)值或者来自以信号传送的数据(诸如在VPS、SPS、PPS、APS、图片首部、切片首部、块首部或其它这样的语法数据中以信号传送的值)。视频解码器300然后可以从包括视频数据的比特流解码非零LFNST系数的数量，以及推断(即，在不进行译码的情况下)剩余的变换系数(例如，64减去经编码的LFNST系数的数量)是零值。因此，视频解码器300可以确定在变换块的最后一个明确地编码的非零LFNST系数之后的视频比特流的经编码的视频数据对应于除了变换系数之外(例如，除了表示变换系数是否重要、大于一、大于二、剩余级别、正负号等的语法元素之外)的语法元素。

因此，在一个示例中，8x8变换块可以是使用LFNST来变换的，以及可以包括九个非零明确地译码的变换系数，具有推断为具有零的值的五十五个未经译码的变换系数。也就是说，在该示例中，比特流将不包括针对五十五个未经译码的变换系数的任何数据。作为另一示例，8x8变换块可以是是使用LFNST来变换的，以及可以包括十个非零明确地译码的变换系数，具有推断为具有零的值的五十四个未经译码的变换系数。也就是说，在该示例中，比特流将不包括针对五十四个未经译码的变换系数的任何数据。

以这样的方式，可能存在对允许的非零系数的数量(例如，在来自视频编码器200的DCT或DST变换之后的非零系数的数量或在LFNST系数中的非零系数的数量)的约束。具有该约束可以减少针对视频编码器200和视频解码器300的计算开销，这可以改进视频编码器200和视频解码器300的操作。

在一个示例中，视频编码器200可以被配置为对残差值执行变换以生成TU，确定TU大小是4x4，将TU的所有系数(除了八个系数之外)设置为等于零，对具有至多八个非零系数的TU执行LFNST以生成LFNST系数，以及以信号传送指示LFNST系数的信息。在一个示例中，视频编码器200可以被配置为对残差值执行变换以生成TU，确定TU大小是8x8，将TU的所有系数(除了十个系数之外)设置为等于零，对具有至多十个非零系数的TU执行LFNST以生成LFNST系数，以及以信号传送指示LFNST系数的信息。在一个示例中，视频编码器200可以被配置为对残差值执行变换以生成TU，确定TU大小大于8x8，将TU的所有系数(除了十六个系数之外)设置为等于零，对具有至多十六个非零系数的TU执行LFNST以生成LFNST系数，以及以信号传送指示LFNST系数的信息。

在一个示例中，视频解码器300可以被配置为生成具有多个系数的大小4x4的TU，其中TU至多包括八个非零系数，对TU执行逆LFNST以生成经逆变换的LFNST系数，对经逆变换的LFNST系数执行逆变换以生成针对当前块的残差值，以及基于残差值来重构当前块。在一个示例中，视频解码器300可以被配置为生成具有多个系数的大小8x8的TU，其中TU至多包括十个非零系数，对TU执行逆LFNST以生成经逆变换的LFNST系数，对经逆变换的LFNST系数执行逆变换以生成针对当前块的残差值，以及基于残差值来重构当前块。在一个示例中，视频解码器300可以被配置为生成具有多个系数的大小大于8x8的TU，其中TU至多包括十六个非零系数，对TU执行逆LFNST以生成经逆变换的LFNST系数，对经逆变换的LFNST系数执行逆变换以生成针对当前块的残差值，以及基于残差值来重构当前块。

本公开内容大体上可以涉及“以信号传送”某些信息，诸如语法元素。术语“以信号传送”通常可以指的是对针对语法元素的值和/或用于对经编码的视频数据进行解码的其它数据的传送。也就是说，视频编码器200可以在比特流中以信号传送针对语法元素的值。通常，以信号传送指的是生成在比特流中的值。如上所述，源设备102可以基本上实时地或不是实时地(诸如可能在将语法元素存储到存储设备112用于由目的地设备116稍后取回时发生)将比特流传送给目的地设备116。

图2A和图2B是示出示例四叉树二叉树(QTBT)结构130以及相应的译码树单元(CTU)132的概念图。实线表示四叉树拆分，以及虚线指示二叉树拆分。在二叉树的每个拆分(即非叶)节点中，一个标记是以信号传送的以指示使用哪种拆分类型(即，水平或垂直)，其中在该示例中，0指示水平拆分，以及1指示垂直拆分。对于四叉树拆分，由于四叉树节点将块水平地以及垂直地拆分为具有相等大小的4个子块，因此无需指示拆分类型。因此，视频编码器200可以对以下各项进行编码，以及视频解码器300可以对以下各项进行解码：针对QTBT结构130的区域树级别(即实线)的语法元素(诸如拆分信息)、以及针对QTBT结构130的预测树级别(即虚线)的语法元素(诸如拆分信息)。视频编码器200可以对针对通过QTBT结构130的终端叶节点表示的CU的视频数据(诸如预测和变换数据)进行编码，以及视频解码器300可以对针对通过QTBT结构130的终端叶节点表示的CU的视频数据(诸如预测和变换数据)进行解码。

通常，图2B的CTU 132可以与定义与QTBT结构130的处于第一级别和第二级别的节点相对应的块的大小的参数相关联。这些参数可以包括CTU大小(表示样本中的CTU 132的大小)、最小四叉树大小(MinQTSize，表示最小允许的四叉树叶节点大小)、最大二叉树大小(MaxBTSize，表示最大允许的二叉树根节点大小)、最大二叉树深度(MaxBTDepth，表示最大允许的二叉树深度)、以及最小二叉树大小(MinBTSize，表示最小允许的二叉树叶节点大小)。

QTBT结构的与CTU相对应的根节点可以在QTBT结构的第一级别处具有四个子节点，子节点中的每个子节点可以是根据四叉树分割来分割的。也就是说，第一级别的节点是叶节点(没有子节点)或者具有四个子节点。QTBT结构130的示例将这样的节点表示为包括具有针对分支的实线的父节点和子节点。如果第一级别的节点不大于最大允许的二叉树根节点大小(MaxBTSize)，则节点可以是进一步通过各自的二叉树分割的。一个节点的二叉树拆分可以是迭代的，直到从拆分得到的节点达到最小允许的二叉树叶节点大小(MinBTSize)或最大允许的二叉树深度(MaxBTDepth)。QTBT结构130的示例将这样的节点表示为具有针对分支的虚线。二叉树叶节点称为译码单元(CU)，其用于预测(例如，图片内或图片间预测)和变换，而不进行任何进一步分割。如上文所讨论的，CU还可以称为“视频块”或“块”。

在QTBT分割结构的一个示例中，CTU大小被设置为128x128(亮度样本和两个相应的64x64色度样本)，MinQTSize被设置为16x16，MaxBTSize被设置为64x64，MinBTSize(针对宽度和高度两者)被设置为4，以及MaxBTDepth被设置为4。四叉树分割首先应用到CTU以生成四叉树叶节点。四叉树叶节点可以具有从16x16(即MinQTSize)至128x128(即CTU大小)的大小。如果叶四叉树叶节点是128x128，则由于大小超过MaxBTSize(即，在该示例中，64x64)，因此叶四叉树节点将不通过二叉树来进一步拆分。否则，叶四叉树节点将通过二叉树来进一步分割。因此，四叉树叶节点还是针对二叉树的根节点，以及具有为0的二叉树深度。当二叉树深度达到MaxBTDepth(在该示例中，4)时，不许可进一步的拆分。当二叉树节点具有等于MinBTSize(在该示例中，4)的宽度时，这意味着不许可进一步的水平拆分。类似地，具有等于MinBTSize的高度的二叉树节点意味着针对该二叉树节点不许可进一步的垂直拆分。如上所述，二叉树的叶节点称为CU，以及是根据预测和变换来进一步处理的，而无进一步的分割。

以下描述变换相关的工具。在HEVC之前的视频译码标准中，仅固定可分离变换是在垂直地和水平地使用DCT-2的情况下使用的。在HEVC中，除了DCT-2之外，DST-7也被采用用于4x4块作为固定可分离变换。

编号为10,306,229的美国专利、编号为2018/0020218的美国专利公开和编号为2019/0373261的美国专利公开描述多种变换选择(MTS)方法。MTS先前称为自适应多变换(AMT)，这只是名称改变，以及技术是相同的。编号为2019/0373261的美国专利公开中的MTS的示例已经在联合视频专家组(JVET)的联合实验模型(JEM-7.0)中被采用，以及随后MTS的简化版本在VVC中被采用。

图3是示出可以执行本公开内容的技术的示例视频编码器200的框图。图3是出于解释的目的来提供的，以及不应当被认为对在本公开内容中广泛地举例说明和描述的技术进行限制。出于解释的目的，本公开内容在视频译码标准(诸如HEVC视频译码标准和正在开发的H.266视频译码标准)的背景下描述视频编码器200。然而，本公开内容的技术不限于这些视频译码标准，以及一般性地适用于视频编码和解码。

在图3的示例中，视频编码器200包括视频数据存储器230、模式选择单元202、残差生成单元204、变换处理单元206、量化单元208、逆量化单元210、逆变换处理单元212、重构单元214、滤波器单元216、解码图片缓冲区(DPB)218和熵编码单元220。视频数据存储器230、模式选择单元202、残差生成单元204、变换处理单元206、量化单元208、逆量化单元210、逆变换处理单元212、重构单元214、滤波器单元216、DPB 218和熵编码单元220中的任何一者或全部可以在一个或多个处理器中或者在处理电路中实现。例如，视频编码器200的单元可以实现为一个或多个电路或逻辑元件，作为硬件电路的一部分，或者作为处理器、ASIC或FPGA的一部分。此外，视频编码器200可以包括额外的或替代的处理器或处理电路以执行这些和其它功能。

视频数据存储器230可以存储要由视频编码器200的组件来编码的视频数据。视频编码器200可以从例如视频源104(图1)接收被存储在视频数据存储器230中的视频数据。DPB 218可以充当参考图片存储器，其存储参考视频数据用于由视频编码器200在对随后的视频数据的预测时使用。视频数据存储器230和DPB 218可以由各种存储器设备中的任何一者形成，诸如动态随机存取存储器(DRAM)(包括同步DRAM(SDRAM))、磁阻RAM(MRAM)、电阻性RAM(RRAM)、或其它类型的存储器设备。视频数据存储器230和DPB 218可以是由相同的存储器设备或单独的存储器设备来提供的。在各个示例中，视频数据存储器230可以与视频编码器200的其它组件在芯片上(如图所示)，或者相对于那些组件在芯片外。

在本公开内容中，对视频数据存储器230的引用不应当被解释为限于在视频编码器200内部的存储器(除非具体地描述如此)，或者在视频编码器200外部的存储器(除非具体地描述如此)。确切而言，对视频数据存储器230的引用应当被理解为存储视频编码器200进行接收用于编码的视频数据(例如，针对要被编码的当前块的视频数据)的参考存储器。图1的存储器106还可以提供对来自视频编码器200的各个单元的输出的临时存储。

示出图3的各个单元以帮助理解由视频编码器200执行的操作。单元可以实现为固定功能电路、可编程电路、或其组合。固定功能电路指的是提供特定功能以及关于可以执行的操作来预先设置的电路。可编程电路指的是可以被编程以执行各种任务以及以可以执行的操作来提供灵活功能的电路。例如，可编程电路可以执行使得可编程电路以通过软件或固件的指令定义的方式进行操作的软件或固件。固定功能电路可以执行软件指令(例如，以接收参数或输出参数)，但是固定功能电路执行的操作的类型通常是不可变的。在一些示例中，这些单元中的一个或多个单元可以是有区别的电路块(固定功能或可编程的)，以及在一些示例中，这些单元中的一个或多个单元可以是集成电路。

视频编码器200可以包括从可编程电路形成的算术逻辑单元(ALU)、基本功能单元(EFU)、数字电路、模拟电路和/或可编程核。在其中使用由可编程电路执行的软件来执行视频编码器200的操作的示例中，存储器106(图1)可以存储视频编码器200接收以及执行的软件的指令(例如，目标代码)，或者在视频编码器200内的另一存储器(未示出)可以存储这样的指令。

视频数据存储器230被配置为存储接收的视频数据。视频编码器200可以从视频数据存储器230取回视频数据的图片，以及将视频数据提供给残差生成单元204和模式选择单元202。视频数据存储器230中的视频数据可以是要被编码的原始视频数据。

模式选择单元202包括运动估计单元222、运动补偿单元224和帧内预测单元226。模式选择单元202可以包括额外的功能单元，其根据其它预测模式来执行视频预测。作为示例，模式选择单元202可以包括调色板单元、块内复制单元(其可以是运动估计单元222和/或运动补偿单元224的一部分)、仿射单元、线性模型(LM)单元等。

模式选择单元202通常协调多个编码通路以测试编码参数的组合以及针对这样的组合所得到的率失真值。编码参数可以包括对CTU到CU的分割、针对CU的预测模式、针对CU的残差数据的变换类型、针对CU的残差数据的量化参数等。模式选择单元202可以最终选择编码参数的具有比其它测试的组合更佳的率失真值的组合。

视频编码器200可以将从视频数据存储器230取回的图片分割为一系列的CTU，以及将一个或多个CTU封装在切片内。模式选择单元202可以根据树结构(诸如上文描述的HEVC的QTBT结构或四叉树结构)来分割图片的CTU。如上文描述的，视频编码器200可以从根据树结构分割CTU来形成一个或多个CU。这样的CU通常还可以称为“视频块”或“块”。

通常，模式选择单元202还控制其组件(例如，运动估计单元222、运动补偿单元224和帧内预测单元226)以生成针对当前块(例如，当前CU，或者在HEVC中，PU和TU的重叠部分)的预测块。为了对当前块的帧间预测，运动估计单元222可以执行运动搜索以识别在一个或多个参考图片(例如，存储在DPB 218中的一个或多个先前译码的图片)中的一个或多个紧密地匹配的参考块。特别地，运动估计单元222可以例如根据绝对差之和(SAD)、平方差之和(SSD)、平均绝对差(MAD)、均方差(MSD)等，来计算表示潜在参考块将与当前块的类似程度的值。运动估计单元222通常可以使用在当前块与正在考虑的参考块之间的逐样本差来执行这些计算。运动估计单元222可以识别从这些计算所得到的具有最低值的参考块，指示与当前块最紧密地匹配的参考块。

运动估计单元222可以形成定义参考图片中的参考块相对于当前图片中的当前块的位置的一个或多个运动矢量(MV)。运动估计单元222然后可以将运动矢量提供给运动补偿单元224。例如，对于单向帧间预测，运动估计单元222可以提供单个运动矢量，而对于双向帧间预测，运动估计单元222可以提供两个运动矢量。运动补偿单元224然后可以使用运动矢量来生成预测块。例如，运动补偿单元224可以使用运动矢量来取回参考块的数据。作为另一示例，如果运动矢量具有分数样本精度，则运动补偿单元224可以根据一个或多个插值滤波器来对针对预测块的值进行插值。此外，对于双向帧间预测，运动补偿单元224可以取回针对通过各自的运动矢量标识的两个参考块的数据，以及例如通过逐样本平均或加权平均来将所取回的数据进行组合。

作为另一示例，对于帧内预测或帧内预测译码，帧内预测单元226可以从与当前块邻近的样本来生成预测块。例如，对于定向模式，帧内预测单元226通常可以在数学上将邻近样本的值进行组合，以及跨越当前块在定义的方向上填充这些计算出的值以产生预测块。作为另一示例，对于DC模式，帧内预测单元226可以计算对于当前块的邻近样本的平均值，以及生成预测块以包括针对预测块的每个样本的该作为结果的平均值。

模式选择单元202将预测块提供给残差生成单元204。残差生成单元204从视频数据存储器230接收当前块的原始的未经编码的版本，以及从模式选择单元202接收预测块。残差生成单元204计算在当前块与预测块之间的逐样本差。作为结果的逐样本差定义针对当前块的残差块。在一些示例中，残差生成单元204还可以确定在残差块中的样本值之间的差，以使用残差差分脉冲译码调制(RDPCM)来生成残差块。在一些示例中，残差生成单元204可以是使用执行二进制减法的一个或多个减法器电路来形成的。

在其中模式选择单元202将CU分割为PU的示例中，每个PU可以与亮度预测单元和相应的色度预测单元相关联。视频编码器200和视频解码器300可以支持具有各种大小的PU。如上所指示的，CU的大小可以指的是CU的亮度译码块的大小，以及PU的大小可以指的是PU的亮度预测单元的大小。假定特定CU的大小是2Nx2N，则视频编码器200可以支持用于帧内预测的2Nx2N或NxN的PU大小、以及用于帧间预测的2Nx2N、2NxN、Nx2N、NxN或类似的对称的PU大小。视频编码器200和视频解码器300还可以支持针对用于帧间预测的2NxnU、2NxnD、nLx2N和nRx2N的PU大小的非对称分割。

在其中模式选择单元202不将CU进一步分割为PU的示例中，每个CU可以与亮度译码块和相应的色度译码块相关联。如上所述，CU的大小可以指的是CU的亮度译码块的大小。视频编码器200和视频解码器300可以支持2Nx2N、2NxN或Nx2N的CU大小。

对于其它视频译码技术(举几个示例，诸如块内复制模式译码、仿射模式译码和线性模型(LM)模式译码)，模式选择单元202经由与译码技术相关联的各自的单元来生成针对正被编码的当前块的预测块。在一些示例中(诸如调色板模式译码)，模式选择单元202可以不生成预测块，而是替代地生成指示在其中基于所选择的调色板来重构块的方式的语法元素。在这样的模式下，模式选择单元202可以将这些语法元素提供给熵编码单元220以进行编码。

如上文描述的，残差生成单元204接收针对当前块和相应的预测块的视频数据。残差生成单元204然后生成针对当前块的残差块。为了生成残差块，残差生成单元204计算在预测块与当前块之间的逐样本差。

变换处理单元206将一种或多种变换应用于残差块，以生成变换系数的块(本文中称为“变换系数块”)。变换处理单元206可以将各种变换应用于残差块，以形成变换系数块。例如，变换处理单元206可以将离散余弦变换(DCT)、离散正弦变换(DST)、定向变换、卡洛南-洛伊变换(KLT)、或概念上类似的变换应用于残差块。在一些示例中，变换处理单元206可以对残差块执行多种变换，例如，初级变换和二次变换(诸如旋转变换)。在一些示例中，变换处理单元206不对残差块应用变换。

在本公开内容中描述的一个或多个示例中，变换处理单元206可以包括下文在图5中标记为“编码器侧”的可分离和LFNST块。例如，变换处理单元206可以对残值执行可分离变换(例如，DCT-2)以生成变换系数，以及然后对变换系数执行LFNST以生成LFNST系数。LFNST系数然后可以被量化和熵编码用于以信号进行传送。

量化单元208可以对变换系数块中的变换系数进行量化，以产生经量化的变换系数块。量化单元208可以根据与当前块相关联的量化参数(QP)值来对变换系数块的变换系数进行量化。视频编码器200(例如，经由模式选择单元202)可以通过调整与CU相关联的QP值来调整应用于与当前块相关联的变换系数块的量化的程度。量化可能引起信息的损失，以及因此，经量化的变换系数可能具有与由变换处理单元206产生的原始变换系数相比较低的精度。

逆量化单元210和逆变换处理单元212可以将逆量化和逆变换分别应用于经量化的变换系数块，以从变换系数块重构残差块。重构单元214可以基于经重构的残差块和由模式选择单元202生成的预测块来产生与当前块相对应的重构块(尽管潜在地具有某种程度的失真)。例如，重构单元214可以将经重构的残差块的样本加入到来自由模式选择单元202生成的预测块的相应的样本，以产生经重构的块。

滤波器单元216可以对经重构的块执行一个或多个滤波器操作。例如，滤波器单元216可以执行去块操作以减少沿着CU的边缘的块效应伪影。在一些示例中，可以跳过滤波器单元216的操作。

视频编码器200将经重构的块存储在DPB 218中。例如，在其中不需要滤波器单元216的操作的示例中，重构单元214可以将经重构的块存储到DPB 218中。在其中需要滤波器单元216的操作的示例中，滤波器单元216可以将经滤波的重构块存储到DPB 218中。运动估计单元222和运动补偿单元224可以从DPB 218取回从经重构的(以及潜在地经滤波的)块形成的参考图片，以对随后地经编码的图片的块进行帧间预测。另外，帧内预测单元226可以使用在DPB 218中的当前图片的经重构的块来对当前图片中的其它块进行帧内预测。

通常，熵编码单元220可以对从视频编码器200的其它功能组件接收的语法元素进行熵编码。例如，熵编码单元220可以对来自量化单元208的经量化的变换系数块进行熵编码。作为另一示例，熵编码单元220可以对来自模式选择单元202的预测语法元素(例如，用于帧间预测的运动信息或用于帧内预测的帧内模式信息)进行熵编码。熵编码单元220可以对语法元素(其是视频数据的另一示例)执行一个或多个熵编码操作以生成经熵编码的数据。例如，熵编码单元220可以执行上下文自适应可变长度译码(CAVLC)操作、CABAC操作、变量到变量(V2V)长度译码操作、基于语法的上下文自适应二进制算术译码(SBAC)操作、概率区间分割熵(PIPE)译码操作、指数哥伦布编码操作、或对数据的另一类型的熵编码操作。在一些示例中，熵编码单元220可以在其中语法元素未被熵编码的旁路模式下操作。

根据本公开内容的技术，熵编码单元220可以对8x8变换块的预先确定的数量的非零LFNST系数(例如，九个或十个LFNST系数)进行熵编码。熵编码单元220可以确定当前变换块具有8x8系数的大小以及是使用LFNST来变换的。因此，熵编码单元220可以对预先确定的数量的非零LFNST系数(例如，九个或十个非零LFNST系数)进行熵编码，然后跳过对剩余的LFNST系数的编码。逆变换处理单元212可以将跳过的LFNST系数视为具有零的值。

熵编码单元220可以被预先配置具有要编码的预先确定的数量的非零LFNST系数。替代地，熵编码单元220可以从例如模式选择单元202接收关于预先确定的数量的数据。例如，模式选择单元202可以确定用于对多达十个非零LFNST系数进行编码的率失真优化(RDO)值，以及选择用于产生最佳RDO值的非零LFNST系数的数量作为预先确定的数量。熵编码单元220可以进一步被配置具有要编码的预先确定的最大数量的非零LFNST系数，例如，十个。模式选择单元202可以在编码过程期间确定RDO值，例如，以对变换块(以及包含变换块的块，例如CU)进行编码。另外或替代地，模式选择单元202可以根据包括变换块的比特流所符合的适用视频译码标准的简档、层和/或级别来确定预先确定的数量。熵编码单元220还可以对用于表示预先确定的数量的数据进行熵编码，诸如在VPS、SPS、PPS、APS、图片首部、切片首部、块首部或其它这样的语法结构中。

因此，在一个示例中，熵编码单元220可以接收LFNST系数的8x8块，即，总共六十四(64)个LFNST系数。熵编码单元220可以对LFNST系数进行熵编码，使得熵编码单元220对九个或十个非零LFNST系数进行熵编码，以及跳过对剩余的LFNST系数的编码(六十四减去非零编码的LFNST系数的数量，例如，五十五或五十四)。

视频编码器200可以输出包括重构切片或图片的块所需要的经熵编码的语法元素的比特流。特别地，熵编码单元220可以输出比特流。比特流可以符合适用的视频译码标准，诸如HEVC或VVC，以及特别地，可以应用于相应的比特流的特定简档、层和/或级别组合。

逆变换处理单元212可以被配置为对变换块进行逆变换。例如，逆变换处理单元212可以最初确定仅预先确定的数量的LFNST系数具有非零值，以及剩余的LFNST系数是零值的。逆变换处理单元212可以对从逆量化单元210接收的经逆量化的LFNST系数应用逆LFNST，然后应用逆主变换，以重现残差块。重构单元214可以重构原先的块(例如，原先的译码块)。以这样的方式，视频编码器200还可以被认为是用于对视频数据进行解码的设备，因为视频编码器200包括由逆量化单元210、逆变换处理单元212、重构单元214、滤波器单元216和DPB 218表示的解码循环。

上文描述的操作是关于视频数据的块来描述的。这样的描述应当被理解为针对亮度译码块和/或色度译码块的操作。如上文描述的，在一些示例中，亮度译码块和色度译码块是CU的亮度分量和色度分量。在一些示例中，亮度译码块和色度译码块是PU的亮度分量和色度分量。

在一些示例中，关于亮度译码块执行的操作不需要被重复用于色度译码块。作为一个示例，用于识别针对亮度译码块的运动矢量(MV)和参考图片的操作不需要被重复用于识别针对色度块的MV和参考图片。确切而言，针对亮度译码块的MV可以被缩放以确定针对色度块的MV，以及参考图片可以是相同的。作为另一示例，对于亮度译码块和色度译码块，帧内预测过程可以是相同的。

视频编码器200表示被配置为对视频数据进行编码的设备的示例，该设备包括：存储器，其被配置为存储视频数据；以及一个或多个处理单元，其是在电路中实现的以及被配置为对残差值进行变换以生成TU；确定TU大小是4x4；将TU的除了八个系数之外的所有系数设置为等于零；对具有至多八个非零系数的TU执行LFNST以生成LFNST系数；以及以信号传送指示LFNST系数的信息。在电路中实现的一个或多个处理单元可以被配置为：对残差值执行变换以生成TU；确定TU大小是8x8；将TU的除了十个系数之外的所有系数设置为等于零；对具有至多十个非零系数的TU执行LFNST以生成LFNST系数；以及以信号传送指示LFNST系数的信息。在电路中实现的一个或多个处理单元可以被配置为：对残差值执行变换以生成TU；确定TU大小大于8x8；将TU的除了十六个系数之外的所有系数设置为等于零；对具有至多十六个非零系数的TU执行LFNST以生成LFNST系数；以及以信号传送指示LFNST系数的信息。

视频编码器200还表示用于对视频数据进行解码的设备的示例，该设备包括：存储器，其被配置为存储视频数据；以及一个或多个处理器，其是在电路中实现的以及被配置为：确定视频数据的变换块具有8x8系数的大小以及变换块是使用低频不可分离变换(LFNST)来变换的；对变换块的至少九个非零变换系数进行解码；使用逆LFNST来对变换块进行逆变换，以重现与变换块相对应的残差块；以及使用残差块来重构视频数据的块。

图4是示出可以执行本公开内容的技术的示例视频解码器300的框图。图4是出于解释的目的来提供的，以及不对在本公开内容中广泛地举例说明和描述的技术进行限制。出于解释的目的，本公开内容根据JEM、VVC和HEVC的技术描述视频解码器300。然而，本公开内容的技术可以由被配置为其它视频译码标准的视频译码设备来执行。

在图4的示例中，视频解码器300包括译码图片缓冲区(CPB)存储器320、熵解码单元302、预测处理单元304、逆量化单元306、逆变换处理单元308、重构单元310、滤波器单元312和解码图片缓冲区(DPB)134。CPB存储器320、熵解码单元302、预测处理单元304、逆量化单元306、逆变换处理单元308、重构单元310、滤波器单元312和DPB 134中的任何一者或全部可以是在一个或多个处理器中或者在处理电路中实现的。例如，视频解码器300的单元可以实现为一个或多个电路或逻辑元件，作为硬件电路的一部分，或者作为处理器、ASIC或FPGA的一部分。此外，视频解码器300可以包括额外的或替代的处理器或处理电路以执行这些和其它功能。

预测处理单元304包括运动补偿单元316和帧内预测单元318。预测处理单元304可以包括用于根据其它预测模式来执行预测的额外的单元。作为示例，预测处理单元304可以包括调色板单元、块内复制单元(其可以形成运动补偿单元316的一部分)、仿射单元、线性模型(LM)单元等。在其它示例中，视频解码器300可以包括更多、更少或不同的功能组件。

CPB存储器320可以存储要由视频解码器300的组件解码的视频数据，诸如经编码的视频比特流。存储在CPB存储器320中的视频数据可以是例如从计算机可读介质110(图1)获得的。CPB存储器320可以包括存储来自经编码的视频比特流的经编码的视频数据(例如，语法元素)的CPB。此外，CPB存储器320可以存储除了经译码的图片的语法元素之外的视频数据，诸如用于表示来自视频解码器300的各个单元的输出的临时数据。DPB 314通常存储经解码的图片，视频解码器300可以输出经解码的图片，和/或当对经编码的视频比特流的随后的数据或图片进行解码时使用经解码的图片作为参考视频数据。CPB存储器320和DPB314可以由各种存储器设备中的任何存储器设备形成，诸如DRAM，包括SDRAM、MRAM、RRAM或其它类型的存储器设备。CPB存储器320和DPB 314可以由相同的存储器设备或分开的存储器设备来提供。在各个示例中，CPB存储器320可以与视频解码器300的其它组件在芯片上，或者相对于那些组件在芯片外。

另外或替代地，在一些示例中，视频解码器300可以从存储器120(图1)取回经译码的视频数据。也就是说，存储器120可以如上文利用CPB存储器320所讨论地来存储数据。同样地，当视频解码器300的一些或全部功能是用要由视频解码器300的处理电路执行的软件来实现时，存储器120可以存储要由视频解码器300执行的指令。

说明图4中示出的各个单元以帮助理解由视频解码器300执行的操作。单元可以实现为固定功能电路、可编程电路、或其组合。类似于图3，固定功能电路指的是提供特定功能以及关于可以执行的操作来预先设置的电路。可编程电路指的是可以被编程以执行各种任务以及以可以执行的操作来提供灵活功能的电路。例如，可编程电路可以执行使得可编程电路以通过软件或固件的指令定义的方式进行操作的软件或固件。固定功能电路可以执行软件指令(例如，以接收参数或输出参数)，但是固定功能电路执行的操作的类型通常是不可变的。在一些示例中，单元中的一个或多个单元可以是有区别的电路块(固定功能或可编程)，以及在一些示例中，单元中的一个或多个单元可以是集成电路。

视频解码器300可以包括从可编程电路形成的ALU、EFU、数字电路、模拟电路和/或可编程核。在其中由在可编程电路上执行的软件执行视频解码器300的操作的示例中，片上或片外存储器可以存储视频解码器300接收以及执行的软件的指令(例如，目标代码)。

熵解码单元302可以从CPB接收经编码的视频数据，以及对视频数据进行熵解码以重现语法元素。预测处理单元304、逆量化单元306、逆变换处理单元308、重构单元310和滤波器单元312可以基于从比特流提取的语法元素来生成经解码的视频数据。

通常，视频解码器300以逐块为基础来重构图片。视频解码器300可以单独地对每个块执行重构操作(其中当前正在被重构(即，被解码)的块可以称为“当前块”)。

熵解码单元302可以对用于定义经量化的变换系数块的经量化的变换系数的语法元素以及诸如量化参数(QP)和/或变换模式指示的变换信息进行熵解码。逆量化单元306可以使用与经量化的变换系数块相关联的QP来确定量化的程度，以及同样地，确定供逆量化单元306应用的逆量化的程度。逆量化单元306可以例如执行按位左移操作以对经量化的变换系数进行逆量化。逆量化单元306从而可以形成包括变换系数的变换系数块。

在逆量化单元306形成变换系数块之后，逆变换处理单元308可以将一种或多种逆变换应用于变换系数块，以生成与当前块相关联的残差块。例如，逆变换处理单元308可以将逆DCT或逆DST、逆整数变换、逆卡洛南-洛伊变换(KLT)、逆旋转变换、逆定向变换或另一逆变换应用于变换系数块。

在本公开内容中描述的一个或多个示例中，逆变换处理单元308可以包括在图5的解码器侧所示的逆LFNST和逆可分离块。例如，逆变换处理单元308可以接收经解码的系数(例如，经解码的LFNST系数)以及执行逆LFNST以生成经逆变换的LFNST系数(其可以与在由视频编码器200进行的可分离变换之后生成的变换系数相似或相同)。逆变换处理单元308可以执行逆可分离变换(例如，DCT-2)以生成残差值。

此外，预测处理单元304根据由熵解码单元302进行熵解码的预测信息语法元素来生成预测块。例如，如果预测信息语法元素指示当前块是经帧间预测的，则运动补偿单元316可以生成预测块。在这样的情况下，预测信息语法元素可以指示在DPB 314中的要从其取回参考块的参考图片、以及用于标识参考块在参考图片中的位置相对于当前块在当前图片中的位置的运动矢量。运动补偿单元316通常可以以与关于运动补偿单元224(图3)所描述的方式基本类似的方式来执行帧间预测过程。

作为另一示例，如果预测信息语法元素指示当前块是经帧内预测的，则帧内预测单元318可以根据通过预测信息语法元素指示的帧内预测模式来生成预测块。再次，帧内预测单元318通常可以以与关于帧内预测单元226(图3)所描述的方式基本上类似的方式来执行帧内预测过程。帧内预测单元318可以从DPB 314取回对于当前块的邻近样本的数据。

重构单元310可以使用预测块和残差块来重构当前块。例如，重构单元310可以将残差块的样本加入到预测块的相应的样本来重构当前块。

滤波器单元312可以对经重构的块执行一个或多个滤波器操作。例如，滤波器单元312可以执行去块操作以减少沿着经重构的块的边缘的块效应伪影。滤波器单元312的操作不一定是在所有示例中都执行的。

视频解码器300可以将经重构的块存储在DPB 314中。例如，在其中不执行滤波器单元312的操作的示例中，重构单元310可以将经重构的块存储到DPB 314中。在其中执行滤波器单元312的操作的示例中，滤波器单元312可以将经滤波的重构块存储到DPB 314中。如上文所讨论的，DPB 314可以将参考信息(诸如用于帧内预测的当前图片以及用于随后的运动补偿的经先前解码的图片的样本)提供给预测处理单元304。此外，视频解码器300可以从DPB 314输出经解码的图片(例如，经解码的视频)，用于在诸如图1的显示设备118的显示设备上的随后的呈现。

以这样的方式，视频解码器300表示视频解码设备的示例，该视频解码设备包括：存储器，其被配置为存储视频数据；以及一个或多个处理单元，其是在电路中实现的以及被配置为生成具有多个系数的大小4x4的TU，其中TU至多包括八个非零系数；对TU执行逆LFNST以生成经逆变换的LFNST系数；对经逆变换的LFNST系数执行逆变换以生成针对当前块的残差值；以及基于残差值来重构当前块。在电路中实现的一个或多个处理单元可以被配置为生成具有多个系数的大小8x8的TU，其中TU至多包括十个非零系数；对TU执行逆LFNST以生成经逆变换的LFNST系数；对经逆变换的LFNST系数执行逆变换以生成针对当前块的残差值；以及基于残差值来重构当前块。在电路中实现的一个或多个处理单元可以被配置为生成具有多个系数的大小大于8x8的TU，其中TU至多包括十六个非零系数；对TU执行逆LFNST以生成经逆变换的LFNST系数；对经逆变换的LFNST系数执行逆变换以生成针对当前块的残差值；以及基于残差值来重构当前块。

视频解码器300还表示用于对视频数据进行解码的设备的示例，该设备包括：存储器，其被配置为存储视频数据；以及一个或多个处理器，其是在电路中实现的以及被配置为：确定视频数据的变换块具有8x8系数的大小以及变换块是使用低频不可分离变换(LFNST)来变换的；对变换块的至少九个非零变换系数进行解码；使用逆LFNST来对变换块进行逆变换，以重现与变换块相对应的残差块；以及使用残差块来重构视频数据的块。

图5是示出可以执行低频不可分离变换(LFNST)的示例组件集合的框图。图5的示例描绘编码器侧LFNST和解码器侧LFNST两者。在编码器侧，编码器(诸如视频编码器200)可以应用主(可分离)变换，然后应用LFNST，然后对LFNST系数进行量化。在解码器侧，解码器(诸如视频解码器300)可以应用逆量化，应用逆LFNST，然后应用逆主(可分离)变换。

如图5所示，在JEM-7.0中使用LFNST来进一步提高MTS的译码效率。LFNST以前称为不可分离二次变换(NSST)或二次变换，其中所有这些缩写指的是相同的过程。LFNST的实现方式是基于编号为10,448,053的美国专利的。此外，编号为10,491,922的美国专利、编号为2017/0094314的美国专利公开、编号为10,349,085的美国专利、编号为62/668,105的美国临时申请和编号为2019/0297351的美国专利公开描述替代的设计和进一步的细节。最近，LFNST已经基于以下文档在VVC标准中被采用：Koo等人，“CE6:Reduced SecondaryTransform(RST)(CE6-3.1)”(“CE6：简化的二次变换(RST)(CE6-3.1)”)，ITU-T SG 16 WP 3和ISO/IEC JTC 1/SC 29/WG 11的联合视频专家组(JVET)，第14次会议：2019年3月19-27日，日内瓦，瑞士，JVET-N0193(以下称为“JVET-N0193”)。

图6是示出将逆LFNST应用于变换块以重现残差块的概念图。下文描述利用LFNST的解码过程。利用LFNST的逆变换涉及在图6中示出的以下示例步骤。经解码的变换系数(例如，图6中的子块400)是通过首先经由预先定义的扫描/排序将2-D块转换为系数的1-D列表(或向量)来被使用作为对于逆LFNST的输入。将逆LFNST应用于输入系数的1-D列表，以及输出系数是经由预先定义的扫描/排序来重新组织为2-D块的(例如，图6中的子块402)。经逆变换的LFNST系数被使用作为对于可分离逆DCT-2的输入，以获得经重构的残差。

图7是示出将逆LFNST应用于4x4块的概念图。在VVC草案7的当前版本中，LFNST可以应用于4x4和8x8子块。在这两种情况下，4x4子块中的十六个经解码的系数(其中的一些可能被规范地归零)被输入到逆LFNST。对于4x4情况，使用16x16逆LFNST来在可分离逆DCT-2之前构造十六个中间系数，如图7所示。

图8是示出将逆LFNST应用于4x4块以产生8x8块的概念图。特别地，在该示例中，使用逆LFNST来从十六个输入系数重构四十八个中间系数，然后将中间系数重新排列为L形模式。对于8x8情况，使用16x48逆LFNST来在可分离逆DCT-2之前构造四十八个中间系数，如图8所示。在图8中，48个中间系数是以L形模式来重新组织的。

逆LFNST过程可以是基于(i)变换矩阵(例如，LFNST变换矩阵)和(ii)针对中间系数的重组模式/扫描来完全地定义的。编号为62/849,689的美国临时申请描述VVC草案7中的归零过程的示例。利用归零对系数的有序列表进行成组的另一示例是在编号为62/799,410的美国临时申请中描述的。

对于4x4 LFNST，以下两种模式/扫描是取决于帧内模式来使用的：

在上文中，两种模式/扫描指示对中间系数的重新排序。例如，g_lfnstRGScan4x4不改变系数的行主重新排序。然而，lfnstRGTranScan4x4通过对系数的顺序进行转置(例如，在1、2、3、6、7和11处的系数分别与在4、8、12、9、13和14处的系数交换)来重新排序。

对于4x4 LFNST，在当前VVC中，八个16x16矩阵被使用作为候选。这些是在JVET-O2001的第8.7.4.3节中列出的：Bross等人，“Versatile Video Coding(Draft 6)”(“通用视频译码(草案6)”)，ITU-T SG 16 WP 3和ISO/IEC JTC 1/SC 29/WG 11的联合视频专家组(JVET)，第15次会议：哥德堡，瑞典，2019年7月3-12日。

对于8x8 LFNST，以下两种模式/扫描是取决于帧内模式来使用的：

在上文中，两种模式/扫描指示对中间系数的重新排序。具体而言，g_lfnstRGScan8x8以L形模式重新组织48个中间系数(例如，第48系数被映射到图8中的位置59)。扫描lfnstRGTranScan4x4通过转置系数(例如，第48系数被映射到图8中的位置31)对L形模式进行重新排序。对于8x8 LFNST，在当前VVC中，八个16x48矩阵被使用作为候选。这些是在JVET-O2001的第8.7.4.3节中列出的。

在LFNST技术的情况下可能存在一些问题。例如，除非必要，否则归零过程可能是不期望的(例如，归零过程可能对于减少最差情况乘法数量以降低复杂性而言是必要的)。对于当前VVC中的LFNST设计，每系数的最差情况乘法数量等于8(由于4x4 LFNST应用于4x4TU的情况，其中每系数需要(8x16)/16＝8次乘法)。第二差情况是由于8x8 LFNST应用于8x8TU，其中每系数需要(8x48)/64＝6次乘法。

如果在8x8 LFNST中允许多达10个非零系数(即，每系数需要(10x48)/64＝7.5次乘法)，则在VVC中仍然可能维护最差情况。因此，不必要地归零系数的数量可以是通过在变换块中允许两个以上的系数(例如，再多两个非零系数)来减少的。也就是说，最差情况场景可以允许多达10个非零系数。

为了针对VVC设计允许至多10个系数，本公开内容描述以下可以一起或单独地使用的示例技术。如果使用LFNST以及TU大小是4x4，则在经解码的系数中允许至多八个非零系数(例如，图6的框400)，以及其余系数被规范地归零。如果使用LFNST以及TU大小是8x8，则在经解码的系数中允许至多十个非零系数(例如，图6的框400)，以及其余系数被规范地归零。如果使用LFNST(例如，在TU大小大于8x8的示例中)，则在经解码的系数中允许至多十六个非零系数(例如，图6的框400)，以及其余系数被规范地归零。

针对LFNST的取决于块大小归零的上述示例，对VVC草案7的更新可以利用如下来反映：和指示删除，以及和用于指示添加。

变量predModeIntra、nLfnstOutSize、log2LfnstSize、nLfnstSize和nonZeroSize是如下来推导的：

predModeIntra＝

(cIdx＝＝0)？IntraPredModeY[xTbY][yTbY]:IntraPredModeC[xTbY][yTbY](1149)

nLfnstOutSize＝(nTbW>＝8&&nTbH>＝8)？48:16 (1150)

log2LfnstSize＝(nTbW>＝8&&nTbH>＝8)？3:2 (1151)

nLfnstSize＝1<

nonZeroSize＝((nTbW＝＝4&&nTbH＝＝4)||

(nTbW＝＝8&&nTbH＝＝8))？8:16 (1153)

–如果(nTbW＝＝4&&nTbH＝＝4)为真，则以下适用：

nonZeroSize＝8

–否则，如果(nTbW＝＝8&&nTbH＝＝8)为真，则以下适用：

nonZeroSize＝10

–否则，以下适用：

nonZeroSize＝16

图9是示出用于对当前块进行编码的示例方法的流程图。当前块可以包括当前CU。尽管关于视频编码器200(图1和图3)进行描述，但是应当理解的是，其它设备可以被配置为执行与图9的方法类似的方法。

在该示例中，视频编码器200最初预测当前块(350)。例如，视频编码器200可以形成针对当前块的预测块。视频编码器200然后可以计算针对当前块的残差块(352)。为了计算残差块，视频编码器200可以计算在原先的未经编码的块与针对当前块的预测块之间的差。

视频编码器200然后可以对残差块进行变换以及对残差块的变换系数进行量化(354)。具体而言，根据本公开内容的技术，视频编码器200可以将主(可分离)变换应用于残差块，然后将LFNST应用于作为结果的变换系数以生成LFNST系数。视频编码器200然后可以对LFNST系数进行量化。视频编码器200还确定要编码的非零LFNST系数的数量(356)。例如，视频编码器200可以执行RDO测试，和/或根据视频数据所对应的相应的视频译码标准的简档、层和/或级别来确定非零LFNST系数的数量。

接下来，视频编码器200可以扫描经量化的LFNST系数(358)。在扫描期间或在扫描之后，视频编码器200可以对所确定的数量的非零LFNST系数进行熵编码(360)。例如，视频编码器200可以使用CAVLC或CABAC来对LFNST系数进行编码。此外，视频编码器200可以跳过对随后的LFNST系数的编码，从而将变换块的剩余LFNST系数视作为具有零的值。视频编码器200然后可以输出块的经熵编码的数据(362)。

视频编码器200还可以对LFNST系数进行逆量化和逆变换(364)。特别地，视频编码器200可以重构变换块，变换块包括被编码的预先确定的数量的非零LFNST系数以及针对变换块的剩余系数的零值的系数。通过对变换块进行逆变换(使用逆LFNST和逆主/可分离变换)，视频编码器200可以重现残差块。视频编码器200然后可以重构原先的块(366)，例如通过将残差块与预测块组合。

以这样的方式，图9的方法表示对视频数据进行解码的方法的示例，其包括：确定视频数据的变换块具有8x8系数的大小以及变换块是使用低频不可分离变换(LFNST)来变换的；对变换块的至少九个非零变换系数进行解码；使用逆LFNST来对变换块进行逆变换，以重现与变换块相对应的残差块；以及使用残差块来重构视频数据的块。

图10是示出用于对视频数据的当前块进行解码的示例方法的流程图。当前块可以包括当前CU。尽管关于视频解码器300(图1和4)进行描述，但是应当理解的是，其它设备可以被配置为执行与图10的方法类似的方法。

视频解码器300可以接收针对当前块的经熵编码的数据(诸如经熵编码的预测信息和针对与当前块相对应的残差块的系数的经熵编码的数据)(370)。视频解码器300可以确定针对当前块的非零LFNST系数的数量(372)，假设当前块包括8x8 LFNST变换块。

视频解码器300可以对经熵编码的数据进行熵解码，以确定针对当前块的预测信息以及重现残差块的系数(374)。当对经熵编码的数据进行熵解码时，视频解码器300可以仅对针对当前块的所确定的数量的非零LFNST系数(例如，九个或十个非零LFNST系数)进行熵解码。

视频解码器300可以例如使用如通过针对当前块的预测信息指示的帧内或帧间预测模式来预测当前块(376)，以计算针对当前块的预测块。

视频解码器300然后可以对所述数量的非零LFNST系数进行逆扫描(378)，以创建经量化的非零LFNST系数的变换块，以及将变换块中的剩余系数设置为等于零(380)。视频解码器300然后可以对变换系数进行逆量化和逆变换(使用逆LFNST和逆主/可分离变换)以产生残差块(382)。视频解码器300最终可以解码和重构当前块，包括将预测块与剩差块组合(384)。

以这种方式，图10的方法表示对视频数据进行解码的方法的示例，其包括：确定视频数据的变换块具有8x8系数的大小以及变换块是使用低频不可分离变换(LFNST)来变换的；对变换块的至少九个非零变换系数进行解码；使用逆LFNST来对变换块进行逆变换，以重现与变换块相对应的残差块；以及使用残差块来重构视频数据的块。

本公开内容的某些示例技术是在以下条款中概括的：

条款1：一种对视频数据进行解码的方法，所述方法包括：生成具有多个系数的大小4x4的变换单元(TU)，其中，TU至多包括八个非零系数；对TU执行逆低频不可分离变换(LFNST)，以生成经逆变换的LFNST系数；对经逆变换的LFNST系数执行逆变换，以生成针对当前块的残差值；以及基于残差值来重构当前块。

条款2：一种对视频数据进行解码的方法，所述方法包括：生成具有多个系数的大小8x8的变换单元(TU)，其中，TU至多包括十个非零系数；对TU执行逆低频不可分离变换(LFNST)，以生成经逆变换的LFNST系数；对经逆变换的LFNST系数执行逆变换，以生成针对当前块的残差值；以及基于残差值来重构当前块。

条款3：一种对视频数据进行解码的方法，所述方法包括：生成具有多个系数的大小大于8x8的变换单元(TU)，其中，TU至多包括十六个非零系数；对TU执行逆低频不可分离变换(LFNST)，以生成经逆变换的LFNST系数；对经逆变换的LFNST系数执行逆变换，以生成针对当前块的残差值；以及基于残差值来重构当前块。

条款4：根据条款1-3中任一项所述的方法，其中，逆变换包括可分离逆变换。

条款5：根据条款4所述的方法，其中，可分离逆变换包括逆离散余弦变换(DCT)-2。

条款6：根据条款1-5的任何组合所述的方法。

条款7：一种对视频数据进行编码的方法，所述方法包括：对残差值执行变换，以生成变换单元(TU)；确定TU大小是4x4；将TU的除了八个系数之外的所有系数设置为等于零，使得TU至多具有八个非零系数；对TU执行低频不可分离变换(LFNST)，以生成LFNST系数；以及以信号传送指示LFNST系数的信息。

条款8：一种对视频数据进行编码的方法，所述方法包括：对残差值执行变换，以生成变换单元(TU)；确定TU大小是8x8；将TU的除了十个系数之外的所有系数设置为等于零，使得TU至多具有十个非零系数；对TU执行低频不可分离变换(LFNST)，以生成LFNST系数；以及以信号传送指示LFNST系数的信息。

条款9：一种对视频数据进行编码的方法，所述方法包括：对残差值执行变换，以生成变换单元(TU)；确定TU大小大于8x8；将TU的除了十六个系数之外的所有系数设置为等于零，使得TU至多具有十六个非零系数；对TU执行低频不可分离变换(LFNST)，以生成LFNST系数；以及以信号传送指示LFNST系数的信息。

条款10：根据条款7-9中任一项所述的方法，其中，变换是可分离变换。

条款11：根据条款10所述的方法，其中，变换包括离散余弦变换(DCT)-2。

条款12：根据条款7-11的任何组合所述的方法。

条款13：一种用于对视频数据进行解码的设备，所述设备包括：存储器，其被配置为存储视频数据；以及处理电路，其被配置为执行根据条款1-6中的任何一个条款或组合所述的方法。

条款14：根据条款13所述的设备，其中，所述设备还包括：被配置为显示所解码的视频数据的显示器。

条款15：一种用于对视频数据进行编码的设备，所述设备包括：存储器，其被配置为存储视频数据；以及处理电路，其被配置为执行根据条款7-12中的任何一个条款或组合所述的方法。

条款16：根据条款13-15中任一项所述的设备，其中，所述设备包括照相机、计算机、移动设备、广播接收机设备或机顶盒中的一者或多者。

条款17：一种具有存储在其上的指令的计算机可读存储介质，所述指令当被执行时使得一个或多个处理器执行根据条款1-6或7-12中的任何一个条款或组合所述的方法。

条款18：一种用于对视频数据进行译码的设备，所述设备包括用于执行根据条款1-6或7-12中的任何一个条款或组合所述的方法的单元。

要认识到的是，取决于示例，本文所描述的技术中的任何技术的某些动作或事件可以是以不同的顺序来执行的，可以被添加、合并或完全排除(例如，并非所有描述的动作或事件是对于对技术的实践而言必要的)。此外，在某些示例中，动作或事件可以是例如通过多线程处理、中断处理或多个处理器并发地而不是顺序地执行的。

在一个或多个示例中，所描述的功能可以用硬件、软件、固件或其任何组合来实现。如果用软件来实现，则所述功能可以作为一个或多个指令或代码存储在计算机可读介质上或者通过其进行传输以及由基于硬件的处理单元来执行。计算机可读介质可以包括计算机可读存储介质，其对应于诸如数据存储介质的有形介质或者通信介质，所述通信介质包括例如根据通信协议来促进计算机程序从一个地方传送到另一个地方的任何介质。以这种方式，计算机可读介质通常可以对应于(1)有形计算机可读存储介质(其是非暂时性的)或者(2)诸如信号或载波的通信介质。数据存储介质可以是可以由一个或多个计算机或者一个或多个处理器存取以取回用于对在本公开内容中描述的技术的实现的指令、代码和/或数据结构的任何可用的介质。计算机程序产品可以包括计算机可读介质。

通过举例而非进行限制的方式，这样的计算机可读存储介质可以包括RAM、ROM、EEPROM、CD-ROM或其它光盘存储、磁盘存储或其它磁存储设备、闪存、或者可以用于以指令或数据结构的形式存储期望的程序代码以及可以由计算机存取的任何其它介质。此外，任何连接被适当地称为计算机可读介质。例如，如果指令是使用同轴电缆、光纤光缆、双绞线、数字用户线(DSL)或者无线技术(例如，红外线、无线电和微波)从网站、服务器或其它远程源发送的，则同轴电缆、光纤光缆、双绞线、DSL或者无线技术(例如，红外线、无线电和微波)被包括在介质的定义中。然而，应当理解的是，计算机可读存储介质和数据存储介质不包括连接、载波、信号或其它暂时性介质，而是替代地针对非暂时性的有形存储介质。如本文所使用的，磁盘和光盘包括压缩光盘(CD)、激光光盘、光盘、数字多功能光盘(DVD)、软盘和蓝光光盘，其中磁盘通常磁性地复制数据，而光盘利用激光来光学地复制数据。上述各项的组合也应当被包括在计算机可读介质的范围之内。

指令可以是由一个或多个处理器来执行的，诸如一个或多个数字信号处理器(DSP)、通用微处理器、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、或其它等效的集成或分立逻辑电路。因此，如本文所使用的术语“处理器”和“处理电路”可以指的是前述结构中的任何一者或者适用于对本文所描述的技术的实现的任何其它结构。另外，在一些方面中，本文所描述的功能可以是在被配置用于编码和解码的专用硬件和/或软件模块内提供，或者被并入组合的编解码器中。此外，所述技术可以是完全地在一个或多个电路或逻辑元件中实现的。

本公开内容的技术可以在多种多样的设备或装置中实现，包括无线手机、集成电路(IC)或一组IC(例如，芯片集合)。各种组件、模块或单元是在本公开内容中描述的，以强调被配置为执行所公开的技术的设备的功能性方面，但是不一定要求通过不同的硬件单元来实现。确切而言，如上文描述的，各种单元可以被组合在编解码器硬件单元中，或者由互操作的硬件单元的集合(包括如上文描述的一个或多个处理器)结合适当的软件和/或固件来提供。

已经描述各个示例。这些和其它示例在所附的权利要求的范围内。