微信号:FeZaoDuKe

介绍:关注前端,产品设计. 每天5点半推送1篇相关文章到公众号,我们不创造内容,我们只是优秀内容的搬运者. 坚持每天阅读,每天进步一点点

【第1330期】洞察 video 超能力系列——玩转 mp4

2018-07-13 05:50 cucygh

前言

昨天八家公司同一天敲钟,其中有一家就是搞直播的,那直播项目中播放器就很重要了。那播放器有哪些东西呢,且看今日文章。今日早读文章由今日头条@cucygh,投稿分享。

@cucygh,头条资深前端开发,主要负责视频方向的前端研发,github:https://github.com/cucygh

正文从这开始~

只要在 HTML5 中使用过视频播放的同学对 video 标签一定不会陌生,不过很多同学只使用了 video 的基础功能,实际上 video 拥有强大潜能的,只要姿势正确就能让其拥有超能力。不妨从下面几个场景来逐渐了解下video 未曾被发掘的神秘空间:

  • 清晰度无缝切换

  • 节省视频流量

清晰度无缝切换

点播领域里 mp4 是最普遍、兼容性最好的视频容器,不过 mp4 也有它的局限性,比如常见的清晰度切换,我们是无法像youtube那样做到无缝切换的。我们可以看下普通的mp4播放的网络请求和youtube视频播放的网络请求的区别。

图1.1 普通mp4的下载请求过程
图1.2 Youtube视频下载请求过程

这两张图不难看出,在默认情况下 mp4 使用一次 http 请求所有的视频数据,Youtube 则分次请求。当然这个描述很不专业,但确实形象。造成这种差异的是 video 不支持流式的视频数据,Youtube 采用的是流式的视频容器 webm,而 mp4 是非流式的。那如何解释清楚流式的视频数据呢,从专业的角度三言两语很难说清楚,但用大白话翻译过来就是流式的视频数据支持分段独立播放,非流式的不可以。换句话说一个10M的视频文件,流式的视频可以把0~1M的数据请求回来单独播放,但是非流式的不可以。

上面我们描述了视频格式的不同,接下来我们要说的是第一张图中的视频加载是浏览器来控制的,通过给 video 的 src 属性配置视频地址,触发播放之后浏览器就会开始下载了,JS干涉不了。而 Youtube 的视频加载是通过JS来控制的,各位可以再次看下第二张图的网络请求类型:xhr,足以证明这一点。

上面两点搞清楚之后我们就该说下清晰度切换的事情了。这个需求大家都不陌生,但是直接使用 mp4 格式做无缝清晰度切换,难度还挺大的。先解释下“无缝清晰度切换”的概念:从播放一个分辨率的视频到另一个分辨率且保证画面、声音不停顿的平滑切换过程。了解了这个概念,大家应该知道了用 video 无缝切换 mp4 有多难。一方面,video 是不支持流式的视频格式的,一方面,video 的加载是不受JS控制的。通过切换 video 的 src 属性,必然会导致画面中断、重新请求视频数据等。有的同学想到说利用两个 video 再结合 z-index 来搞,但是当你生成另一个video去加载视频的时候,无法保证两个画面是严格一致的,即使将原来的画面暂停到一个时刻,用另一个视频通过 currentTime 属性与之同步,切换仍然看到画面闪烁,基本无法和 Youtube 无缝切换的体验匹敌。而且还会造成更多流量的浪费,背后的原因大家可以研究下 mp4 容器和 webm 容器的异同,也可以看下视频解码相关的文章。

还有一种方法就是将 mp4 格式统统转码到流式的视频格式比如 hls、webm 等。不过这种看上去可行的方式实际上会带来很大的成本开销,如将大量视频做转码会消耗高昂的机器资源、双倍存储的费用、CDN的双倍费用等等。其实我们也是在这种背景下研究出来新的技术问题解决清晰度无缝切换的。

首先,我们改变对 mp4 视频的播放流程,不再直接使用 video 的 src 来播放,因为我们没有任何可以操作的空间。video不仅支持 src 属性还支持 Blob 对象,我们就是利用后者。播放的流程如下:

图1.3 mp4 视频新播放流程
  1. 来请求 mp4 视频数据,这样可以结合视频 Range 服务,做到精确加载。

  2. 编写解析器将加载回来的部分 mp4 视频数据进行解复用

  3. 将解复用的视频数据转成 fmp4 格式并传递给 MediaSource

  4. 使用 video 进行解码完成播放

然后在做清晰度切换的时候流程如下:

图1.4 mp4视频清晰度切换原理示意图
  1. 播放视频A,过程同上

  2. 在某个时刻,用户切换到播放视频B,首先解析B的索引文件(moov),反向计算mp4的range区间

  3. 加载B的视频区间数据

  4. 解复用

  5. 把数据转换成fmp4格式并传递给MediaSource

  6. 删除A的部分Buffer

  7. 在下一个关键帧自动完成画质的切换

图1.5 mp4视频清晰度切换流程示意图

这个过程看上去比较繁琐,但是所有的操作都是在浏览器端完成,也就是说都是JS来实现的。这样之前说的所有成本问题都不存在,还能做到youtube相同体验的无缝切换。如果大家也想使用这个功能不需要自己再去实现一遍上述流程,可以使用如下代码:

节省视频流量

使用 video 的同学基本上都是这样用的,如下:

利用src属性
利用source标签

这样就可以播放视频了,不过前面我们讲过这样使用 video ,视频的加载是受浏览器控制的,可以看下浏览器在视频刚开始播放的时候下载了多少数据:

图2.1 video默认下载截图

我随便找了个视频,大家看下视频总长度是 02:08,在播放到 00:05 的时候,浏览器已经下载到 01:30 了,如果用户终止观看,下载的视频就这样被浪费掉了。当然,如果不断的 seek 也会造成较多的流量浪费。按照我们之前的统计在短视频领域,用户 seek 的频率在 80%,所以这部分流量是可以节省掉的。具体原理如下:

图2.2 播放器加载视频原理
  1. 设置每次加载的数据包大小

  2. 设置预加载时长

  3. 开启加载队列,完成第一次数据包下载,判断缓冲时间和预加载时长是否满足,不满足请求下一个数据包

具体实现代码如下:

这样就实现了视频在播放过程中永远只预加载10秒的数据,进而保证节省流量。

了解超能力西瓜播放器是如何炼成的: h5player.bytedance.com

关于本文
作者:@cucygh
原文:
https://techblog.toutiao.com/2018/07/09/untitled-51/

最后,为你推荐


【第1166期】Ant Design 3.0 背后的故事(含演讲视频)


【活动】第四届FEDAY携手中国首届React大会来啦!8月相约广州

 
前端早读课 更多文章 【第1329期】从设计师的角度看 Redux 【第1328期】八幅漫画理解使用JSON Web Token设计单点登录系统 前端进阶:React 企业管理系统开发指南 【第1326期】WebView缓存原理分析和应用 【第1325期】以开发的视角做设计
猜您喜欢 游戏圈的黑马股游记来袭,这将是新春佳节的一剂猛料! Node.js v8.0.0 正式发布,带来大量更新 数学居然还可以开导人生? 腾讯马斌:互联网+大数据助力产业转型升级 拥抱 Android Studio 之五:Gradle 插件开发