资讯详情

音视频入门-流媒体原理

1. 流媒体概念

我不知道你是否发现我们的生活正在慢慢地向实时转变。我们获取、分享信息,乃至日常中的衣食住行,都在变成像“自来水”那样源源不断“流体”服务,我们无需提前储备,只需实时按需取用。这种转变取决于科学技术的进步。计算机技术经历了文件(File)、页面(Web)时代过后,今天来到了流(Flows/Streams)单位时代。在各种信息流、数据流、媒体流中,我们的生活节奏越来越快,速度为王,质量靠边站。

流媒体最典型的应用应用是流媒体(Streaming Midea)该技术是指利用流式传输技术在网络上发布音频、视频等多媒体文件。所谓的流媒体传输是通过一定的算法编码将音频和视频多媒体文件压缩成一个非常小的压缩包。流媒体服务器通过特定的网络协议进行连续和实时的传输。用户端接收到压缩包后,播放软件将实时减压。所谓的流媒体是指所有使用这种流失传输的媒体文件。

流媒体技术的出现改变了我们还没有忘记的传统媒体播放方式,需要将整个音频和视频文件下载到当地的计算机上观看。因此,我们需要等待很长时间。今天,我们通过互联网观看视频、现场直播和音乐,通过各种盒子(IPTV/OTT)看电视、听广播这么方便,一键即点即用,背后有流媒体系统的支持。

2.流式传输特性

过去,观看视频的传统方式是将整个视频文件下载到本地计算机硬盘上,然后通过本地播放器程序观看。流式传输是通过压缩编码、数据包装、连续、实时传输到接收设备的连续视频和音频。用户端在到达后续数据包的同时解压和播放接收到的数据。在这个过程中,你只需要等待几秒钟或几十秒或几十秒的启动时间,剩下的就像水流一样,边看边下载。下图描述了流式传输的过程。

我们经常听到音频和视频的传输和分发HTTP渐进式、HTTP流、RTMP、RTSP、HLS、HDS、DASH、Websocket等等专业术语。传输协议的后续文章将专门讨论。事实上,传统文件的下载大致可以从传输方式中分发HTTP渐进式下载,HTTP流式传输和实时流媒体传输四大类。

HTTP渐进式是指通过支持Seek,终端播放器可以从未下载的完成部分中选择任何时间点开始播放,以满足整个文件下载后无需快速播放的需MP4和FLV格式文件支持较好,打开视频拖到中间,短暂缓冲即可播放,点击暂停后文件仍将继续下载是典型的渐进式下载,目前大型点播网站如YouTube、优酷等都是这样的。

HTTP流式传输或HTTP流化技术,不同的制造商有不同的实践,但主要的想法是将媒体文件分成小的独立切片文件,文件需要生成索引文件(描述文件)来跟踪切片,然后播放器通过HTTP协议要求服务端的小媒体切片实现点播或直播,我们通常听到的HLS(Apple)、HDS(Adobe)、MSS(Microsoft) 、DASH(MPEG一般标准)均属于HTTP流的范畴。下表总结了不同传输方式的特点:

3. 流媒体系统构成

流媒体文件从采集到最终播放的路径是一个完整的流媒体系统所需的组成部分。

从系统层面来看,编码层负责压缩音视频文件编码(h.264/h.265/VP9/AAC等);包装层负责包装数据包(flv/ts等);协议层负责网络打包(RTMP/HTTP等);传输层负责网络传输(socket/st等);播放层负责解码和显示图像(FLASH/VLS/VIDEO JS等)。

一套完整的流媒体系统所需的组件一般包括:

(1)编码器:流媒体文件生成的编码工具;

(2)流媒体数据;直播信号和点播文件;

(3)流媒体服务器:用于控制、传送流媒体数据的流媒体服务器;

(4)传输网络:能够支持特定流式数据传输协议的传输网络;

(5)多终端播放器:各操作平台用于显示流式数据的播放器。

以上五个组件是流媒体系统所必需的基本组件。随着近年来的快速发展,可以承载大规模流媒体应用的内容分发网络(CDN)也有必要纳入流媒体系统的范畴。除这些基本系统外,大型运营和流媒体系统还将包括周边系统和中间部件,如流媒体内容制作和制作、内容管理控制、数据监控等。

4. 流媒体涉及技术

流媒体技术诞生的主要目的是尽力而为Internet因此,流媒体技术的核心是音视频编解码技术和流式传输技术。

然而,在当今体验为王的时代,我们需要面对的流媒体在用户量级和应用场景上都非常复杂。通过堆叠几个流媒体服务器来建立开源服务器OBS简单实现播放器功能的时代早已过去。从目前成熟的大型流媒体系统来看,需要考虑的技术层面是:

近年来,随着视频技术、终端硬件平台和用户需求的快速增长,骨干网络、跨运营商等基础设施的建设显然跟不上。这种现状下,要实现高稳定、高并发、低延时的流媒体应用,基于云架构的计算、网络、存储、CDN底层基础服务已成为必要。网络虚拟化可以最大限度地保证视频播放的稳定性;CDN内容分发网络可以有效满足高并发性和突然增加流量的需求,对流媒体传输的各个环节进行有针对性的优化可以大大降低延迟;对象存储满足流媒体数据的大规模存储要求。

这一层包括视频编辑/解码和4K、VR等视频核心技术能力,特别是在移动终端编码和播放优化的新形势下。它包括对不同硬件平台、操作系统、固网移动网等不同网络环境的理解,以及在弱网条件下的解决方案。另外,4K、VR、AR新技术的发展可以改善用户的观看体验,甚至引发新的应用场景;新的编码标准,如H.可进一步提高视频编码效率,降低网络带宽,CDN的消耗。

虽然流媒体的核心只是音视频编辑和解码以及流媒体传输,但流媒体系统也必须考虑不同垂直领域流媒体的应用。例如,实时录制节目娱乐直播、实时水印、实时鉴黄;社交直播连麦;IPTV/OTT时间时间;云导播现场直播;视频网站版权保护等。

5.流媒体的应用

(1)功能

流媒体技术实质上就是用流式传输来分发音视频,所以从功能上来讲,流媒体主要应用也就是点播和直播。

■ 点播:

音频和视频的点播已经非常成熟,其业务流程是上传-转码-编辑制作-入库-用户请求-网络分发-播放。类型可简单分为以下几类:一是以优酷、爱奇艺为代表的音视频点播网站,具有少量上传大量点播的特点;二是以监控和节目直播录制为代表的视频点播,具有海量上传少量点播的特点;三是短视频网站,具有海量上传大量点播的特点。对于不同类型的点播应用不同的流媒体系统。

需要注意的是,如前面提到的,目前的点播大多是基于HTTP渐进分发,或以渐进方式分发HLS切片分发(点播)HLS只下载一次M3U索引,后续是.ts文件下载),更接近文件分发。

我们后续文章将重点讨论流媒体,主要是真正的实时流传输,因此后续内容主要讨论流媒体在音视频直播中的应用, 这也是观止云团队的优势。

■ 直播:

流媒体技术在音视频直播中的应用可以这样分类,一是广播电视新媒体网站/IPTV直播/OTT以直播为代表的主要是电视直播业务,其特点是延迟容忍度高,但稳定性和清晰度要求高;二是以节目/游戏/体育/移动/教育为代表的互动直播,具有延迟要求高的特点;三是以视频会议为代表的音视频通信业务,特点是延迟要求高,音频质量要求高。

随着互动直播的兴起和相关技术服务市场竞争的加剧,流媒体直播系统为基础资源提供服务CDN分发网络、视频和音频技术出了新的挑战。

(2)应用场景

当我们研究流媒体时,很多人可能会担心直播市场来得越快,跌得越惨。其实不用这么想,至少有三个明显的趋势。首先,无论市场是不可预测的,观看直播的总需求仍处于低点,未来很长一段时间仍是上升渠道;第二,目前的直播主要集中在娱乐领域。未来,将有更多的垂直领域,如在线教育和电子商务直播,他们将有一个明确的商业模式作为工具;第三,随着更多VR这种新技术不断涌现,视频将永远是信息传递的最佳载体。所以,学点技术,吃不了多少亏。至少,他们对直播的需求可以在以下领域看到:

■ 在线教育

在线教育场景主要是学生通过观看点播和直播课程获取课程内容。除了六大主要功能:直播信号采集、点播文件上传、转码、存储、全网分发和多终端播放外,流媒体功能一般对版权保护有很高的要求。此外,在在线教育场景中,场景功能的需求也相对集中,如多屏幕、课件制作、白板等。

目前,在线教育直播主要由新东方等综合培训机构主导。未来将有更多的垂直培训机构,如艺术培训和专业技能培训。此外,出国留学、语言等跨国远程学习也将是未来的趋势。

■ 电子商务

目前,电子商务的商品展示仍以图片为主。随着天猫、聚美等在线直播,不难想象未来电子商务产品的展示会引入更多的视频,特别是互动直播的方式。这不是噱头。随着电子商务的发展,在克服了新闻对称、信任、支付和物流等几个主要话题后,唯一没有解决的问题是远程体验。互动直播无疑给远程体验带来了新的曙光。

在未来的趋势中,电子商务应特别注意VR、AR、流媒体技术在整个追溯过程中的应用。

■ 泛娱乐

娱乐是红海地区的点播和直播应用,也是流媒体技术应用的前沿。其中,演艺直播、游戏直播、美容秀、移动社交直播、体育直播等不同场景对功能和技术的要求也不同。大型现场直播需要专业编码器等硬件设备的支持。移动终端特别需要适应不同型号和平台的推广和播放。体育直播和游戏直播也将涉及跨国传输。

未来来,泛娱乐仍将是直播增量最重要的方面,毕竟,线下娱乐太多还没有络。

■ 广电

电视在慢慢变成IPTV/OTT/智能电视,图像是连接操作系统的显示器,是流媒体的应用。

在随后的发展中,广电系不会简单地掌握资源和政策红利在互联网点播直播的冲击下束手就擒,在争夺“客厅娱乐”方面,广电依然很有希望获得主动权,所以未来,广电系统对流媒体技术的需求还会放量增长。

■ 媒体/营销

随着纸媒的没落,媒体集体往线上迁移,而视频是其中占比较大的一块。所以,未来所有的新闻机构、营销机构都会注重视频的建设,由于新闻营销都有较强的时效性,所以对直播的运用值得关注。

■ 视频会议

即便是到今天,很多企业很多人依然没有使用上视频会议系统,原因就在于传统的办公室视频会议系统安装复杂,价格高昂,缺乏对移动办公的支持等。所以,未来基于互联网的、更轻量级、价格便宜的视频办公将会产生大量需求。在流媒体技术方面需要关注更高效的编解码方式、更低的延迟、更好的音频质量、数据更安全、对移动办公更兼容等方面,另外,也有在线教育那样的大量场景化需求需要考虑。

■ 视频监控

除了我们以往熟悉的安防、交通、建筑等常规监控外,智慧医疗、智慧家庭、智慧农业、景区监控等为视频监控带来了更多拓展的空间。未来的发展,我们除了让监控成为物联网的影像传感器外,还要尽可能去让它连上网,甚至互动起来,这里面都需要流媒体技术去攻克难题。

6. 国内外大型流媒体系统

我们说的大型流媒体系统是指包括了完整流媒体组件,支持直播、点播应用,提供完善的开发者组件的流媒体平台。这里面包括大型商用系统,也包括优秀的开源系统。

商用系统中,Microsoft公司的Windows Media家族、Apple公司的Quick Time家族、Real Networks公司的RealMedia家族、Adobe公司的Flash家族都提供了一整套商用流媒体系统,其中涵盖了媒体制作工具、服务器系统、播放器软件、流媒体传输、数字版权保护等在内的系列企业级和个人级产品。除了IT巨头,还有美国Wowza Media等专注于流媒体的公司也提供完整产品,观止云团队作为国内专注流媒体技术研发公司,也提供广电级编码器、BMS流媒体服务器、多终端播放器以及流媒体周边系统。

开源方面,服务端早期较为出色的项目有由前暴雪核心员工领队发起的Red 5 Media Server,live555;目前应用最广泛的Nginx流媒体模块Nginx-Rtmp,观止云团队发起的国内优秀的专注互联网视频的SRS。其它还有不少开源项目,包括开源编码工具、播放器、媒体制作工具,如大名鼎鼎的开源编码工具ffmpeg、OBS,播放器VLC,音频领域的Speex等等。

7.总结

流媒体技术的目标是在“尽力而为”的互联网上更好的传输视音频媒体,其最明显的技术进步性在于通过流式传输协议实现了实时播放直播信号及无需等待播放点播文件。我们今天所面临的流媒体技术应用环境难度更大,需要在新挑战下优化与架构新一代流媒体系统。市场需求高涨的同时,由于流媒体实现环节较多、技术门槛较高、技术人才缺乏,一般垂直领域不具备独立搭建大型流媒体系统的能力,所以流媒体技术正在基于云架构以云服务的形态成为第三方服务。

新环境下,我们应该多去思考能提高效率、能带来全新应用场景的新技术。另外,技术只是工具,面临竞争,我们更应该多去思考新的创意和内容,以及新的商业模式。

标签: 水流式传感器

锐单商城拥有海量元器件数据手册IC替代型号,打造 电子元器件IC百科大全!

锐单商城 - 一站式电子元器件采购平台