两个半小时后,我紧张得汗流浃背。谈到第一次直播带货的场景,李慧钦忍不住笑了。作为第一批在闽宁镇工作的专业技术人员,疫情期间重拾了几年没玩的抖音,开通了李市长赞闽宁,直播带货,推广闽宁镇,推广宁夏特产。此外,随着电视剧《山海情》的流行,全国人民都知道这个移民小镇是福建(闽)和宁夏(宁)建立的。李市长的粉丝数量迅速增加,宁夏的枸杞、蘑菇、滩羊肉也从李市长的直播间卖到了全国。
随着互联网的普及和信息高速公路的建立,小手机正在成为越来越多农民的新农具。在看不见数据洪流的牵引下,可见的特产走向全国和世界。云经济已成为扶贫、农村振兴和共同繁荣的有力起点。
计算能力和带宽升级作为促进我国高质量发展的新基础设施,为日益庞大的音频和视频流提供了一条畅通无阻的高速公路、流媒体等数字技术的发展 云技术为产业和社会发展释放了巨大的潜力和活力,成为企业数字化转型新基础设施下的胜利之道。
30多年的互联网发展给中国带来了翻天覆地的变化,正成为中国经济发展的重要动力之一。随着数字经济的持续快速增长,信息技术与实体经济的加速融合,新的发展势头逐渐增强,成为中国经济增长的新引擎。从2013年到2020年,中国移动互联网接入流量从13亿元不等GB增长至1656亿GB,年均复合增长率高达99.86%。截至2021年6月,中国移动互联网接入流量为1033亿GB,同比增长38.6%。
谷歌预测,未来80%的互联网内容将以视频的形式呈现。视觉信息取代了繁琐、冗长、晦涩的文本、数据或符号,可以更直观地反映信息的本质,更直接地促进信息传信息交流。
中国互联网信息中心发布显示,
QuestMobile数据显示,2020年中国互联网广告规模达到5439.3亿,在媒体形式抓住广告的能力方面,视频信息流增长更快,已成为主流广告形式,逐渐取代图形信息流的份额。典型的广告商在短视频媒体上的预算显著增加。
从直播到短视频宣传,再到日益普及的远程教育和移动办公、视频或价值挖掘的财富密码,或高速公路的价值传递、高质量、低成本的视频提供能力,已成为企业的核心竞争力之一,也缩短了人与人之间的距离,人类社会进入了一个新的发展阶段。
这背后是对新网络基础设施的全力支持。2018年,中央经济工作会议首次定义了新基础设施建设G、以物联网、工业互联网、卫星互联网为代表的通信网络基础设施、以人工智能、云计算、区块链为代表的新技术基础设施、以数据中心和智能计算中心为代表的计算能力基础设施。
联合火山发动机IDC发布的白皮书指出,在这个时代,互联网用户对视频有更高的需求,对高清、互动、身临其境的体验有更多的需求。视频云也正在加速渗透到传统行业,在工业、教育、医疗等传统领域不断涌现出更多的落地场景,这就对音视频架构带来了功能上、性能上和安全层面上的不同挑战。其中,根据英特尔数据显示,现在大数据90%以上来自于非结构化数据,以视频和图片为主,视频数量与用户的快速增长对带宽和性能带来巨大压力,如何进行优化是很大的一个课题。
2022年2月,全国东数西算项目全面启动,建设国家计算能力枢纽节点,规划国家数据中心集群10个。视频数据在应用西部算力资源计算的东部数据中的比例不容低估。这些数据来自许多异构监控平台,数量巨大,标准不同。这就要求计算能力基础设施能够支持大量视频数据的存储、分析、索引、检索、转码和应用,避免视频存储和应用的区域和链接,集中不同设备、平台和标准的视频资源,实现有效的共享和整合。
同时,机器学习、计算机视觉、自然语言处理等AI应用程序也在兴起,这意味着存储器的频繁访问和数据传输,这突破了传统的冯诺依曼计算机系统架构。数据中心和智能计算中心作为计算能力基础设施,需要有针对性的解决方案。
数据中心的不断演变需要一个新的智能架构。在英特尔中国云&从超级的角度来看,这种智能数据中心架构将有三种计算单元————它们将通过可编程网络相互连接,从而有效地利用数据中心资源。特别是面对多元化媒体应用中的性能密集负载、超计算能力和加速解密和转解码过程的能力,可以大大提高图像处理、图像识别视频分析等人工智能应用的效率。
如果说X86 CPU英特尔辉煌的过去,IPU成为英特尔打开未来世界的钥匙。IPU为了减少云和通信服务提供商在中央处理器中的可编程网络设备(CPU)费用的各个方面,释放宝贵的CPU内核资源。利用IPU,客户可以部署安全、稳定、可编程的解决方案,更好地利用资源,平衡数据处理和存储的工作负荷,从而大大提高数据中心的收入。GPU大大提高了应用程序处理二维三维图形和图像的能力。此外,在处理密集数据和并行数据计算方面,GPU它可以提供数十倍甚至数百倍CPU因此,光影处理、金融分析、医学成像、油气勘探、地理信息、基因分析、科学计算等大规模并行计算应用领域开始发挥越来越重要的作用。更重要的是跟着AI的出现,GPU充分发挥适合大规模并行浮点运算和矩阵计算的特点。
但不管是CPU还是GPU,单一架构实现更高的计算效率显然是不现实的。
在2021年的CVPR上,由AI Benchmark举办的「移动AI挑战赛」其中引人注目「实时移动终端检测场景」获得冠军的球队比第二名高出八倍多。
本次比赛需要移动深度学习框架TensorFlow Lite CoreML运行实时移动终端场景检测,要求AI算法实时预测摄像头输入的图像的场景类别,共30个场景类别,但训练集只有9900张图片,对人工智能有很大的过拟合风险。
字节跳动ByteScene团队利用迁移学习方法拿出一个容量,只有8.2Mb实现了95%的小模型Top 1.平均延迟仅为4.4毫秒。
目前,这种实时移动终端场景检测技术已应用于抖音、剪影等产品。由于操作简单,使用体验智能,该技术得到了改进App用户体验。这也是火山发动机输出的技术能力。
火山引擎是字节跳动云服务平台,依托云计算、大数据、人工智能等技术能力,为客户提供技术产品和解决方案,包括基础设施、云起源、个性化推荐、音视频处理能力等抖音、标题、西瓜视频应用技术。
随着视频云服务进入超视频时代,互联网用户对视频有了更极致的需求,不再仅仅满足于清晰流畅的观看体验,而是对高清化、交互性、沉浸式的体验有了更多诉求。同时,视频云对传统行业的渗透在不断加速,在工业、教育、医疗等领域,涌现出更多元的落地场景,而这些场景也对音视频架构带来了在功能、性能和安全层面的不同挑战。
特别是在吞吐量大、数据量要求高的情况下,需要在不影响系统性能的情况下,寻求经济高效地扩大容量的方案。
在帮助企业应用落地的过程中,火山发动机探索了架构上的创新路径——
正如火山发动机总经理谭福所说:如果平台架构不易使用,就无法实现为用户体验而生的视频云服务。在边缘基础设施上,视频云还需要大量编解码AI分析等算法处理,如何承载超大规模的实时处理需求,给中心结构带来了诸多挑战。
虽然延迟和吞吐的性能优势可以通过扩展内存来实现,但这种解决方案可以扩展的容量总是有限的,而且DRAM高内存价格和占用更多机架的成本也会大大提高TCO。为此,火山引擎使用英特尔傲腾? 持久内存和英特尔至强?可扩展处理器对内容信息业务的存储架构进行了深度优化,既能突破存储介质和架构的局限性,还能在保证性能的前提下实现投入产出上的增益。
火山引擎在使用英特尔® 傲腾™ 持久内存的App Direct模式下,持久内存通过内存总线直接连接到处理器,应用程序可以绕过操作系统,无需驱动程序、系统调用、中断和上下文切换就能从用户空间直接访问持久内存上的数据,因此,系统几乎没有软件开销,时延约为100ns-300ns,不仅优于SSD,更是具有接近DRAM内存的性能,可以很好地满足高峰期间对数据访问速度的需求。
这种模式还具备数据持久性。不论遇到意外断电还是计划中的停机,持久内存中的数据都能得以持久保存,从而能提升存储可靠性、增加系统的业务弹性、缩短系统重启时间并提升推荐系统的故障恢复速度。
同时,为实现超高清需求,转码性能是关键。作为新一代的视频编解码标准,H.265/HEVC(HighEfficiencyVideoCoding,高效视频编码)在高压缩比下依然能确保高清晰的视频质量,受到各大视频直播平台的青睐,但因其算法和数据结构的复杂性,使其编解码的复杂度4倍于上一代H.264编解码器,因此对执行转码工作的处理器的性能要求,就显得格外突出。
英特尔® 至强® 可扩展处理器,为包括转码在内的视频直播流程提供性能支撑。同时,英特尔® 至强® 可扩展处理器内置的英特尔® 高级矢量扩展512(英特尔® AVX-512)则进一步强化了它的表现。强大的转码性能保证了视频在H.264、wma、rmvb、avi等格式间快速转换,并通过灵活、简洁的播放器,帮助直播运营者通过移动应用、网页等各种展示方式迅速且全方位地覆盖观众。
在超视频时代,更高清、更交互、更沉浸的视频技术需求日新月异,技术的优化可以让更多的互动玩法和商业场景成为可能。2021年10月份,美国社交平台脸书首席执行官马克·扎克伯格宣布,脸书公司更名为“元”,公司未来将以元宇宙相关业务优先。例如增强现实和虚拟现实等沉浸式体验,将元宇宙带入生活,帮助人们建立联系、发展业务,构建社交技术的下一次发展。
要实现元宇宙,需要一系列IT新技术的综合运用,包括网络及运算技术(5G、6G、物联网、云计算、雾计算及边缘计算)、管理技术(能耗管理、资源管理、会话管理及时空一致性管理)、虚实对象连接、建模与管理技术(X联网、身份建模、社会计算、去中心化管理技术)、虚实空间交互与融合技术(拓展现实、电子游戏技术、脑机接口技术)等。
元宇宙、沉浸式体验,以及大规模的人工智能部署,也对未来图形处理产品提出了要求,需要实现高度的视觉保真、优化的人工智能和连续的计算。这就为云时代的数据中心带来强劲的新需求,需要新的架构,实现智能计算、海量数据处理、异构算力融合与加速、多负载应用支撑。
在程从超看来,对于虚拟现实/增强现实,需要底层基础设施能够支撑,前端设备能够播放,网络能够传输,后台的数据中心,能够对VR增强性的渲染批量、实时高效的处理。为此,英特尔已经建立了稳健的加速计算系统和显卡路线图,横跨从客户端到数据中心的所有产品,助力客户应对数字时代的不同需求。
对于未来的数据中心,英特尔认为会有四个特点:实现计算与存储的物理分离和逻辑融合,实现安全特性在芯片内部架构的整合,实现更灵活的硬件、软件、应用和服务,软件将以微服务形式呈现,实现无处不在的异构计算。