在当下,回望生成式AI元年的2023,全球AI产业在算法模型、硬件算力、应用场景和政策监管等等方面取得了诸多突破性进展。
在步入周期谷底的当下,AI尤其是生成式AI正在引领全球创新浪潮。
其带来的新技术革命将产生巨大的经济价值,也带来了大量的AI基础设施建设的需求。
这里面最重要的自然是AI芯片,而除了芯片外,在许多容易为人忽视的地方,AI基建也将带来新的机会。
大家好,我是胡说,今天我们来谈谈:CDN企业在AI基建中有哪些新机会?
一、CDN是什么
关注我的朋友们有相当一部分是对知识、投资比较感兴趣的年轻人。
在这部分朋友的互联网“冲浪”生涯中,可能没经历过90年代初的拨号上网,那时即使打开一个静态新闻网页也要等好久,堪称龟速。
后来随着网络技术发展,这个问题有所缓解,但随着网民的快速增加,浏览图片、音视频仍然会很慢。
这与我们现在极其流畅的网页、图片、视频、直播体验相比,简直是云泥之别。
那么是什么技术使得我们的“冲浪”体验快速提升呢?
除了网络基础设施升级、带宽提升等等原因外,CDN(Content Delivery Network,内容分发网络)也是不可忽视的大功臣。
那么什么是CDN呢?
用专业的话解释就是,CDN是构建在现有网络基础之上的智能虚拟网络。
它依靠部署在各地的边缘服务器,通过中心平台的负载均衡、内容分发、调度等功能模块,使用户就近获取所需内容。
从而尽可能避开互联网上有可能影响数据传输速度和稳定性的瓶颈和环节,降低网络拥塞,提高用户访问网站的响应速度和命中率。
以上的解释可能仍过于专业,我们将其翻译成更简单的人话。
那就是CDN就是网络内容的“前置仓”,与电商平台为提升用户购物体验而构建的“前置仓”异曲同工。
我们知道在电商发展初期,购物的配送速度很慢,比如我在北京,购买广州商家的商品,那一般要运送三至五天。
那么如何提升物流体验呢?
方法一是如顺丰这些快递公司使用更快的物流工具、构建更快的物流网络,犹如运营商提升网络带宽。
另一种方法则是像京东这些电商建造前置的仓储中心,首先京东自营会从源头,也就是厂商拿到货物,然后放到各大仓储中心。
当你购物的时候,京东会自动把这个订单分配给离用户最近的仓库处理派发,这样用户就很快能够拿到货物了。
甚至可以将前置仓建在小区附近,早上下单,下午送到,效率提升了好多倍,用户的购物体验也提升了很多。
CDN服务器就相当于这种前置仓,数据就相当于要配送的货物,你的网络请求就相当于一个购物订单。
因此通过CDN,能让用户从离自己最近的服务器进行内容下载,减少路由次数,提升下载速度,缩短传输时间,提升使用体验。
除了可以提升用户的浏览速度,CDN相当于在源服务器和终端之间加了一个缓冲层,因此可以增加整个网络的可靠性和安全性。
二、CDN的下一站:边缘计算
在对CDN的基础有了基本了解后,我们来谈谈它未来的发展方向。
在CDN 1.0时代,它的任务以传输为主,即从部署在互联网服务提供商(ISP)的边缘节点(POPs)传输网页内容。
在2.0时代,CDN以缓存软件为核心,同时配套负载均衡、日志分析、DNS 等服务,能对网络做一些简单处理。
3.0时代,CDN融合最新的网络技术,如P2P技术、清洗中心、高清技术,以及GSLB、VPN(虚拟专用网络)、WAAS(广域网加速业务)等,开始具备智能调度特征。
如今的CDN网络拥有遍布各地、接近用户的庞大服务器集群,天然具有成为边缘计算(Edge computing)资源的明显优势。
所谓边缘计算,指的是一种分布式计算的架构,它使信息存储和计算能力更接近产生该信息的设备和使用它的用户的过程。
传统上,应用程序将数据从传感器和智能手机等智能设备传输到中央数据中心进行处理(如云计算)。
然而,前所未有的复杂性和数据规模已经超过了网络能力。
通过将处理能力转移到更靠近用户和设备一侧,边缘计算显著提高了应用程序性能,降低了带宽需求,并提供了更快的实时洞察力。
边缘计算脱胎于云计算,其业务本质是云计算在数据中心之外汇聚节点的延伸和演进,通常位于云和现场层之间。
边缘层包括边缘节点和边缘管理器两部分,边缘节点部分为硬件实心,承载边缘计算的核心业务。
根据业务侧重点和硬件特点不同,边缘计算节点可分为边缘网关、边缘控制器、边缘云等部分。
边缘网关以网络协议处理和转换为重点,边缘控制器以支持实时闭环控制业务为重点,边缘云以大规模数据处理为重点。
边缘计算节点一般具备计算、网络和存储资源,对这些资源一般有两种使用方式。
一种是直接将资源封装,提供调用接口,边缘管理器以代码下载、网络策略配置和数据库操作等方式使用边缘节点资源。
另一种则是将资源按功能领域封装成功能模块,边缘管理器通过模型驱动的业务编排方式组合和调用功能模块。
可以看出,CDN与边缘计算的服务节点均为分布式部署,两者都利用了网络边缘的资源来提高性能,此相似性为二者协同奠定了可靠基础。
二者的差异性主要体现于CDN侧重内容分发存储类业务,边缘计算侧重计算型业务,因此CDN升级为边缘计算的核心在于拓展节
点的计算能力。
目前CDN主要采用的部署方式为“x86通用硬件服务器+CDN软件”,节点本身已具备提供边缘计算服务的硬件计算资源。
后续有望通过CDN的虚拟化等技术路径实现向边缘计算节点的转型升级。
CDN改造为边缘计算节点后,可升级为具备存储、计算、传输、安全功能云计算节点,形成处理高频、高交互的海量数据的能力。
三、CDN在AI基建中有哪些新机会
1998年,解决万维网拥挤和缓慢的CDN技术诞生。
2019年,5G概念爆发后,边缘计算的概念也被迅速推广普及。
2023年,AIGC推动应用端革命,AI赋能千行百业,边缘侧与移动端大模型成为未来趋势,边缘AI正成为巨头们抢占的下一块高地。
需要说明的是,边缘AI结合了两种新兴技术:边缘计算和人工智能 。
这其中,AI为边缘计算提供解决问题的技术和方案,而边缘计算可以为AI提供释放潜力的平台。
边缘AI使用机器学习 (ML)模仿人类推理,到达用户交互点,例如计算机、边缘服务器或物联网 (IoT) 设备。
通常,这些设备无需互联网连接也可以运行并独立做出决策。
借助边缘计算,边缘AI相比于传统AI,具有低功耗、低带宽、更好的隐私安全、可扩展性、更低延迟等优势。
整体来看,国内外大模型的发展呈现两大趋势。
首先是大模型数量快速涌现、发展迅猛,目前已有很多厂商宣布自家的大模型产品面向全社会开放。
其次大模型的应用从通用走向垂直场景,持续探寻商业落地。
大模型数量的发展,以及垂直场景的不断落地,是大模型从训练走向推理的动能。
伴随着垂直大模型的发展完善,大模型应用才是打开更大成长空间的关键,也将为AI基建打开想象空间。
从市场规模来看,根据STL Partners数据,2030年全球边缘计算潜在市场规模将达到4450亿美元,行业复合增长率高达48%。
另据亿欧智库的报告显示,2025年,我国边缘计算的市场空间将达到1987.68亿元,发展潜力巨大。
从产业链结构来看,边缘计算产业链可按上、中、下游三个部分进行划分。
其中上游为基础设施层,主要包括AI芯片、边缘网关、边缘控制器和边缘服务器等硬件设施及边缘操作平台、边缘应用软件等软件设施。
中游主要为平台层,主要提供边缘服务,包括电信运营商和边缘计算运营及管理服务提供商。
产业链下游为场景应用层,广泛应用在汽车、媒体与娱乐、医疗、制造等领域。
由上可见,CDN位于边缘计算产业的中游,与电信运营商、云计算巨头一同参与边缘计算平台的建设和运营服务。
其中电信运营商主要提供提供低延时、大带宽管道联接,CDN、云计算厂商等主要提供社区云搭建、边缘云托管等服务。
面对运营商、云计算巨头,CDN企业的资金优势虽然并不大,但其也有独特的优势。
正如上文所讲,CDN企业传统的CDN节点可以天然被用来提供边缘侧计算服务。
一方面,CDN玩家利用边缘计算可进一步降低成本和智能分发;另一方面,CDN玩家在数据分发基础上,也可协同开放计算存储安全等一系列服务。
总之,在AI的推动下,CDN企业的想象空间已经被打开,这主要体现在两个方面。
其一是AI继续推动流量快速增长,新的应用(如Sora)、新的终端(如MR)、新的内容(视频、交易数据等等),进而带来传统CDN业务的量变。
其二是AI计算推动CDN转型云计算的第二成长曲线,CDN厂商凭借广泛的节点进行升级,通过在节点内部署GPU,在边缘端提供推理服务。
在这一业务逻辑的驱动下,海外的CDN厂商已经做出了表率。
2017年以来,海外CDN厂商在边缘计算和边缘AI领域陆续展开布局,如Cloudflare提供开发者平台workers,Fastly使用边缘云来运行人工智能推理等。
其中,CloudFlare是其中的佼佼者。
其推出的Cloudflare Workers AI是一个基于云端的AI服务平台,帮助开发者在Cloudfare的全球GPU网络上运行各种开源机器学习模型,无需配置或维护基础设施。
在向边缘计算和AI的业务拓展中,公司业务可触达的市场空间也在稳步增长。
目光转向国内,我国的CDN企业同样也已开始边缘计算的布局。
网宿科技进来一直在持续推动CDN向“边缘计算”、“云安全”革新,积极拓展算力云、MSP、数据中心液冷解决方案。
目前,公司已推出网宿边缘计算平台ECP,基于全球广泛分布的节点资源,融合计算、网络、存储等核心能力构建的边缘开放平台,就近为用户提供边缘算力等服务。
原创文章,作者:速盾高防cdn,如若转载,请注明出处:https://www.sudun.com/ask/36409.html