![](http://static.shengco.com.cn/image/4ya57f0u44te/0fe3f710c45244ddc7339420a69d13af.jpeg)
黄仁勋表示:“随着新一轮工业革命席卷千行百业,生成式 AI 和加速计算正在推动各行业的根本性变革。”
近年来,人工智能(AI)和机器学习(ML)技术的迅猛发展对传统计算设备提出了前所未有的计算需求。AI加速计算技术应运而生,成为推动AI发展的关键力量。它通过专用硬件和软件技术,不仅提升了计算效率,还在多个领域展现出巨大的应用潜力。
AI加速计算技术的背后,是一系列专用硬件的支撑。AI加速计算利用图形处理单元(GPU)、神经处理单元(NPU)、张量处理单元(TPU)、现场可编程门阵列(FPGA)和专用集成电路(ASIC)等专用硬件,加速AI和ML任务的计算过程。
GPU最初用于图形渲染,而神经网络和图像操作的数学基础相似,涉及矩阵的并行任务,GPU凭借其强大的并行计算能力及通用性,它们已成为深度学习模型训练的首选。尽管GPU在处理单个输入时并行度的优势不能完全发挥,但通过多卡集群的方式,Transformer 模型的加速得以实现,为GPT模型的开发提供了算力基础。
NPU,即神经处理单元,是一种利用神经网络对计算误差的容忍能力进行稀疏化处理的单元。2014年,寒武纪设计了DianNao及一系列DianNao 项目衍生产品,利用神经网络对于计算误差的容忍能力,进行稀疏化神经网络处理,从而降低功耗,提高精度。其通过模拟大脑对于图像识别的方式取代了GPU的暴力运算,为人工智能技术的发展提供了摩尔定律之外的新方向。
![](http://static.shengco.com.cn/image/4ya57f0u44te/abdd00c8333f9dccdc16dfb054c1ff7e.jpeg)
来源:Wiki
FPGA以其高度灵活性脱颖而出,可根据需求重新编程和配置,尤其适合手机基带、自动驾驶、实时视频处理和金融高频交易等需要实时处理和低功耗的应用。
尽管GPU和FPGA在AI相关任务中的性能远超CPU,但通过应用特定的集成电路(ASIC)设计,可以实现更高的效率提升。ASIC为特定应用量身定制,提供极致的计算性能,主要用于人脸识别、语音助手等AI模型的推理加速,确保了高效能的运行。DianNao系列论文发布后,谷歌设计出了定制ASIC芯片——TPU,专为加速机器学习任务而设计,以其高效率和能效比在图像分类、语音识别和搜索引擎优化等领域得到广泛应用。
![](http://static.shengco.com.cn/image/4ya57f0u44te/70dbe1a9c78fd960537c9f5a17ba0a17.jpeg)
来源:亿欧智库
大模型与AI加速计算
随着大模型的开发,厂商对算力的需求日益增长。AI加速器以其卓越的并行处理能力,显著缩短了大型模型的训练周期。以GPT-4为代表的NLP模型,需处理1.8万亿参数,若无A100组建的GPU集群加速,训练周期将难以想象。
普通消费者没有训练这些大型模型的需求。而是希望直接使用的AI服务,如语音识别和OCR技术,这些应用对计算能力有仅有少量要求,且实际应用中多数依赖于云端服务器资源。生成式AI技术的成熟,为职场人士带来了进一步的生产力提升。然而,办公用的笔记本电脑大多只配备了低算力的集成显卡,难以满足生成式AI的运算需求。工作站和游戏笔记本虽然性能更高,但无论是体积、功耗还是价格对日常通勤者都不友好。
在这种背景下,消费级设备迫切需要一种既高能耗比的解决方案。搭载NPU的新一代AIPC应运而生。英特尔的Core Ultra系列处理器集成了专为AI操作设计的神经计算引擎和流式混合架构向量引擎,其基于NPU4 设计的Lunar Lake性能较上代提升了4倍,最高可以达到48TOPS,Lunar Lake处理器的功耗将降低40%,这些技术的应用不仅提升了NPU在AI领域的应用潜力,也为消费级设备实现高性能AI运算开辟了新的道路,成为了打工人的福音。新一代AIPC的问世,以AI及大数据为代表的新质生产力进一步的走进了日常生活,极大地提高了办公效率。
![](http://static.shengco.com.cn/image/4ya57f0u44te/67aaa3bcccd7525d80b2f4190fed40f7.jpeg)
来源:英特尔
AI加速计算的应用领域
自动办公,效率革命:
AI加速计算技术正让办公自动化工具变得更加智能和高效。NPU的独立运作能力,即便在无网络环境下,也能完成文本提取、概括、语言转换和编辑任务,加快了文档和电子邮件的处理速度,同时有效保护信息安全,规避了云端数据传输的风险,为涉密工作者带来了极大的便利。
数据分析与决策支持:
AI和机器学习模型在数据分析和决策支持中发挥着至关重要的作用。AIPC的快速处理能力,能够迅速分析庞大数据集,提供深入见解和准确预测。对于安全性要求极高的财务数据等敏感信息,AIPC能在端侧安全地进行处理。
设计与创新,AI激发灵感:
AIGC技术在设计和创新领域大放异彩。设计师和工程师利用生成式AI模型快速生成和测试设计方案,大大缩短产品开发周期,创新能力得到显著提升。基于SD模型填充草图颜色,快速调整背景,让创意实现更加迅速。
智能助理,生活更便捷:
现代智能助理如Siri、小爱、小艺等,以及客户服务机器人,已成为我们日常生活的得力助手。这些系统通过API集成大模型将提供高度智能的对话功能和app操作能力,提高用户体验和服务效率。无论是购买车票、设定自动化指令还是查询信息,智能助理都能快速准确地完成跨应用操作。
内容创作,AI激发无限可能:
AIGC技术在内容创作和娱乐领域展现出巨大潜力。GANs和大规模语言模型能够生成高质量的文本、图像和视频内容,广泛应用于定制化的小说、剧本、音乐和艺术作品的创作,甚至在游戏开发中生成复杂场景和角色对话和互动。
未来展望
AI模型的辉煌成就,不仅源自硬件的飞跃,更得益于对数据要素的深入挖掘。在"数据要素×三年行动计划"的引领下,数据整合与复用正为AI模型提供精准丰富的本地化语料资源,这不仅解决了优质中文语料的短缺问题,更使语料符合中国国情,显著提升了国产大模型的预测与诊断精准度,增强了其核心竞争力。
技术的浪潮正推动着CPU+xPU的异构计算架构迈向新高度,而量子计算和类脑芯片尚处于起步阶段,但它们所蕴含的潜力不容忽视。
智能驾驶与低空飞行器的迅猛发展推动着技术不断创新,让边端AI的重要性愈发凸显,低对能耗与低延迟的需求愈发显著。与此同时,AI赋能的高性能计算(HPC)已在生命科学与公共安全领域取得突破性进展。药物研发与灾害预测技术的提升,正是AI加速计算的成果。
![](http://static.shengco.com.cn/image/4ya57f0u44te/ea9bb20be6f921ef1a1eb7d8dbb37764.jpeg)
来源:英伟达
能效的大幅优化使得AIPC商业化得以实现,大模型的边端应用将在日常生活中大放异彩。随着技术的不断进步,我们有理由相信,AI将为人类社会带来更多的便利与惊喜。
参考内容:Wiki、英特尔、英伟达、寒武纪、Github、CSDN、EET、生栋说
亿欧将于2024年7月6日下午2点在上海世博中心举办世界人工智能大会“AI商业落地论坛”,同时将在论坛上发布《2024中国AI商业落地投资价值研究报告—论决策式与生成式AI在垂类行业的应用价值》,该报告将在AI商业落地场景价值评估模型的基础上,分析决策式AI和生成式AI为下游用户创造价值的差异,期待您的到来!
【关于AI商业落地论坛】AI商业落地论坛是世界人工智能大会的重要系列论坛之一,本场论坛将持续聚焦AI商业落地场景,分析决策式AI和生成式AI商业落地场景给下游客户带来的实际价值,洞悉新兴商业落地场景的投资价值和商业潜力,探索助推商业场景落地和提高落地场景价值的有效路径。本次论坛将邀请世界顶级科学家、国内外知名学者分享人工智能领域的前沿技术和理论研究成果。同时将邀请人工智能领域的优秀企业共同交流AI在金融、制造、教育等垂直行业的落地现状、商业价值、发展瓶颈和未来趋势,探讨新时代背景决策式AI与生成式AI在垂类行业的应用差异,探寻AI赋能产业创新升级的新篇章。
AI商业落地场景的价值应该如何评估?
欢迎扫码注册,报名参加AI商业落地论坛
【关于作者】若您对文章内容和论坛感兴趣,欢迎交流!
亿欧 分析师 何舒阳
邮箱:heshuyang@iyiou.com
![](http://static.shengco.com.cn/image/4yew68j4xoi3/cfc6589ab52caa290f87d47ce5f11626.jpeg)
![](http://static.shengco.com.cn/image/4yew67e5ne0r/c1d706393162dfc26ce4b06a9a4ef69a.jpeg)
![](http://static.shengco.com.cn/image/4yew661m2ujt/f17241ae975f9b939dcd6aa2eaa170bf.jpeg)
![](http://static.shengco.com.cn/image/4yew65gkk5n3/fbbdcc65e12c2a2c14984ef971cc2454.jpeg)
![](http://static.shengco.com.cn/image/4yeud4459wof/b538b69f9396d66886efa1c012073ce9.jpeg)
![](http://static.shengco.com.cn/image/4yesp4byqytm/75b0572c6db3325d52c0115d85519992.jpeg)
![](http://static.shengco.com.cn/image/4yesfgl62zp1/485cd2944aa87c806262bfcac513180e.jpeg)
![](http://static.shengco.com.cn/image/4yes044jkt04/fa441be6259b122f1bbacc36464910fd.jpeg)
![](http://static.shengco.com.cn/image/4yes03ftuoa3/744321e962f88b68ccc05c8a132d5334.jpeg)
![](http://static.shengco.com.cn/image/4yes0353byzg/5b0ae0a742dc63e5a8b54035008d979c.jpeg)
![](http://static.shengco.com.cn/image/4yeh12g2yjzo/e71d7ce9d4af38eb06f0dbe3d788c763.jpeg)
![](http://static.shengco.com.cn/image/4yefi76rgici/db55b6d17d94aa87444facbfaba39dd0.jpeg)
![](http://static.shengco.com.cn/image/4yefi5gnwplj/7ff5247681552508510eebd51148cfd1.jpeg)
![](http://static.shengco.com.cn/image/4yefi54ztcmy/014d9f94d7245eec09dddacade1a63e9.jpeg)
![](http://static.shengco.com.cn/image/4yefi3jlgy6w/7a4f5946ef8603446ce10cc0e5e3175e.jpeg)
![](http://static.shengco.com.cn/image/4yefd3f1hbr8/b9f52e61ab421c867ad1c1853f59a499.jpeg)
![](http://static.shengco.com.cn/image/4yefi38mghuw/efb7061107c8e6de030b7d6bac471be0.jpeg)
![](http://static.shengco.com.cn/image/4yefd2apy2fl/8d5716e68dfe540dbbe3867d1ad8f865.jpeg)
![](http://static.shengco.com.cn/image/4yean8h4ripj/c48a3f75f4500d1a9906feb6c70ee6e9.jpeg)
![](http://static.shengco.com.cn/image/4yean7i626sd/df6a644b7c9a6de04bb3caadc0639e17.jpeg)