整理雷神FFMPEG视音频编解码基础知识
雷神CSDN： 雷霄骅(leixiaohua1020)的专栏 - CSDN博客
备注： 整理自雷霄骅CSDN，雷神总结分享的非常好，因为自己想加深印象而写，基本上是复制粘贴，向雷神致敬！
一 音视频基础知识
1 封装格式： 我们常见的视频格式，例如：avi, rmvb, flv, mkv等等，这些格式就代表封装格式。定义：把视频数据和音频数据打包成一个文件规范。当然我们仅仅通过文件后缀很难看出来具体使用了什么视音频编码标准。
2. MediaInfo 工具: 专门查看视音频格式的工具（MediaInfo使用简介（新版本支持HEVC） - CSDN博客）
3. 视频播放器原理：视频播放技术主要包含几点： 封装技术，视频压缩编码技术及音频压缩编码技术。如果考虑到网络传输的话，还包括流媒体协议技术。
Media Player Classic - HC 源代码分析 1：整体结构 - CSDN博客
视频播放器播放一个互联网视频文件，需要以下步骤：解协议，解封装，解码视音频，视音频同步。如果播放本地文件则不需要解协议。
此处添加流程图：
1）解协议作用：就是将流媒体协议数据解析为标准的相应的封装格式数据。视音频在网络上传播的时候常常采用各种流媒体协议，例如：HTTP, RTMP, 或MMS等。这些协议在传输音视频数据的同事也会传输一些信令数据。这些信令数据包括对播放器的控制（播放，暂停，停止）， 或者对网络状态的描述等。解协议的过程中会去掉信令数据而保留视音频数据。例如，采用RTMP协议传输的数据，经过解协议操作后，输出FLV格式的数据。
2） 解封装作用：将输入的封装格式的数据分离成音频流压缩编码数据和视频压缩编码数据。例如：FLV格式数据经过解封装操作之后输出H.264编码的视频码流和AAC编码的音频码流。
3）解码作用：就是将视频/音频压缩编码数据，解码成非压缩的视频/音频原始数据。音频的压缩编码标准包含：ACC, MP3, AC-3等。视频的压缩编码标准包含：H.264, MPEG2, VC-1等。解码是整个系统中最重要的也是最复杂的一个环节。通过解码， 压缩编码的视频输出成为非压缩的颜色数据，例如YUV420P, RGB等。压缩编码的音频数据输出成为非压缩的音频抽样数据，例如PCM数据。
4）视音频同步作用：就是根据解封装模块处理过程中获取到的参数信息，同步解码出来的视频和音频数据。并将视频音频数据送至系统的显卡和声卡播放出来。
RTSP+RTP经常用于IPTV领域。因为其采用UDP传输视音频，支持组播，效率较高。但其缺点是网络不好的情况下可能会丢包，影响视频观看质量。因而围绕IPTV的视频质量的研究还是挺多的。
因为互联网网络环境的不稳定性，RTSP+RTP较少用于互联网视音频传输。互联网视频服务通常采用TCP作为其流媒体的传输层协议，因而像RTMP，MMS，HTTP这类的协议广泛用于互联网视音频服务之中。这类协议不会发生丢包，因而保证了视频的质量，但是传输的效率会相对低一些。
此外RTMFP是一种比较新的流媒体协议，特点是支持P2P。
由表可见，除了AVI之外，其他封装格式都支持流媒体，即可以“边下边播”。有些格式更“万能”一些，支持的视音频编码标准多一些，比如MKV。而有些格式则支持的相对比较少，比如说RMVB。
这些封装格式都有相关的文档，在这里就不一一例举了。
辅助学习的小项目：
视频编码
视频编码的主要作用是将视频像素数据（RGB，YUV等）压缩成为视频码流，从而降低视频的数据量。如果视频不经过压缩编码的话，体积通常是非常大的，一部电影可能就要上百G的空间。视频编码是视音频技术中最重要的技术之一。视频码流的数据量占了视音频总数据量的绝大部分。高效率的视频编码在同等的码率下，可以获得更高的视频质量。
视频编码的简单原理可以参考：视频压缩编码和音频压缩编码的基本原理
注：视频编码技术在整个视音频技术中应该是最复杂的技术。如果没有基础的话，可以先买一些书看一下原理，比如说《现代电视原理》《数字电视广播原理与应用》（本科的课本）中的部分章节
当前使用最多的视频编码方案就是H.264
主流编码标准
H.264仅仅是一个编码标准，而不是一个具体的编码器，H.264只是给编码器的实现提供参照用的。
基于H.264标准的编码器还是很多的，究竟孰优孰劣？可参考：MSU出品的 H.264编码器比较（2011.5）
在学习视频编码的时候，可能会用到各种编码器（实际上就是一个exe文件），他们常用的编码命令可以参考：各种视频编码器的命令行格式
学习H.264最标准的源代码，就是其官方标准JM了。但是要注意，JM速度非常的慢，是无法用于实际的：H.264参考软件JM12.2RC代码详细流程
实际中使用最多的就是x264了，性能强悍（超过了很多商业编码器），而且开源。其基本教程网上极多，不再赘述。编码时候可参考：x264编码指南——码率控制。编码后统计值的含义：X264输出的统计值的含义（X264 Stats Output）
Google推出的VP8属于和H.264同一时代的标准。总体而言，VP8比H.264要稍微差一点。有一篇写的很好的VP8的介绍文章：深入了解 VP8。除了在技术领域，VP8和H.264在专利等方面也是打的不可开交，可参考文章：WebM(VP8) vs H.264
此外，我国还推出了自己的国产标准AVS，性能也不错，但目前比H.264还是要稍微逊色一点。不过感觉我国在视频编解码领域还算比较先进的，可参考：视频编码国家标准AVS与H.264的比较（节选）
近期又推出了AVS新一代的版本AVS+，具体的性能测试还没看过。不过据说AVS+得到了国家政策上非常强力的支持。
下一代编码标准
下一代的编解码标准就要数HEVC和VP9了。VP9是Google继VP8之后推出的新一代标准。VP9和HEVC相比，要稍微逊色一些。它们的对比可参考：（1）HEVC与VP9编码效率对比 （2）HEVC，VP9，x264性能对比
HEVC在未来拥有很多大的优势，可参考：HEVC将会取代H.264的原因
学习HEVC最标准的源代码，就是其官方标准HM了。其速度比H.264的官方标准代码又慢了一大截，使用可参考：HEVC学习—— HM的使用
未来实际使用的HEVC开源编码器很有可能是x265，目前该项目还处于发展阶段，可参考：x265(HEVC编码器，基于x264)介绍。x265的使用可以参考：HEVC（H.265）标准的编码器（x265，DivX265）试用
主流以及下一代编码标准之间的比较可以参考文章：视频编码方案之间的比较（HEVC，H.264，MPEG2等）
此外，在码率一定的情况下，几种编码标准的比较可参考：限制码率的视频编码标准比较（包括MPEG-2，H.263， MPEG-4，以及 H.264）
结果大致是这样的：
HEVC > VP9 > H.264> VP8 > MPEG4 > H.263 > MPEG2。
截了一些图，可以比较直观的了解各种编码标准：
HEVC码流简析：HEVC码流简单分析
H.264码流简析：H.264简单码流分析
MPEG2码流简析：MPEG2简单码流分析
以上简析使用的工具：视频码流分析工具
小工具： H.264码流分析器
音频编码
音频编码的主要作用是将音频采样数据（PCM等）压缩成为音频码流，从而降低音频的数据量。音频编码也是互联网视音频技术中一个重要的技术。但是一般情况下音频的数据量要远小于视频的数据量，因而即使使用稍微落后的音频编码标准，而导致音频数据量有所增加，也不会对视音频的总数据量产生太大的影响。高效率的音频编码在同等的码率下，可以获得更高的音质。
音频编码的简单原理可以参考：视频压缩编码和音频压缩编码的基本原理
主要音频编码一览
名称推出机构推出时间目前使用领域
音频编码技术近期绝大部分的改动都是在MP3的继任者——AAC的基础上完成的。
这些编码标准之间的比较可以参考文章：音频编码方案之间音质比较（AAC，MP3，WMA等）
结果大致是这样的：
AAC+ > MP3PRO > AAC> RealAudio > WMA > MP3
AAC格式的介绍：AAC格式简介
AAC几种不同版本之间的对比：AAC规格（LC，HE，HEv2）及性能对比
AAC专利方面的介绍：AAC专利介绍
此外杜比数字的编码标准也比较流行，但是貌似比最新的AAC稍为逊色：AC-3技术综述
我自己做的小工具：AAC格式分析器
现有网络视音频平台对比
现有的网络视音频服务主要包括两种方式：点播和直播。点播意即根据用户的需要播放相应的视频节目，这是互联网视音频服务最主要的方式。绝大部分视频网站都提供了点播服务。直播意即互联网视音频平台直接将视频内容实时发送给用户，目前还处于发展阶段。直播在网络电视台，社交视频网站较为常见。
直播平台参数对比
可以看出，直播服务普遍采用了RTMP作为流媒体协议，FLV作为封装格式，H.264作为视频编码格式，AAC作为音频编码格式。采用RTMP作为直播协议的好处在于其被Flash播放器支持。而Flash播放器如今已经安装在全球99%的电脑上，并且与浏览器结合的很好。因此这种流媒体直播平台可以实现“无插件直播”，极大的简化了客户端的操作。封装格式，视频编码，音频编码方面，无一例外的使用了FLV + H.264 + AAC的组合。FLV是RTMP使用的封装格式，H.264是当今实际应用中编码效率最高的视频编码标准，AAC则是当今实际应用中编码效率最高的音频编码标准。视频播放器方面，都使用了Flash播放器。
点播平台参数对比
