IT资讯

在边缘部署AI大模型应用,英特尔“让AI无处不在”

时间:2010-12-5 17:23:32  作者:IT资讯   来源:系统运维  查看:  评论:0
内容摘要:当前,人工智能已经成为推动企业创新和发展的核心要素。随着技术的不断发展,在边缘部署AI应用已经成为未来的核心趋势,而智能边缘与AI的融合,也将为企业开辟前所未有的机遇。在近期举办的第十七届英特尔网络与

当前,边缘部署人工智能已经成为推动企业创新和发展的大模核心要素。随着技术的用英不断发展,在边缘部署AI应用已经成为未来的边缘部署核心趋势 ,而智能边缘与AI的大模融合 ,也将为企业开辟前所未有的用英机遇 。

在近期举办的边缘部署第十七届英特尔网络与边缘计算行业大会上,英特尔现场展示了基于英特尔边缘AI解决方案在教育 、大模智能制造等垂直领域的用英最新精彩应用实例。英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti在会后接受记者采访时表示 ,模板下载边缘部署在“让AI无处不在”的大模愿景下 ,英特尔以强大的用英芯片基础 、软件定义的边缘部署简便性以及开放多元的生态系统,帮助企业简化在PC 、大模边缘和数据中心部署AI的用英复杂流程 ,助力他们充分释放AI潜力 。

推动边缘计算与AI深度融合 ,让AI无处不在

近年来 ,生成式AI火爆全球 ,各种大模型应用层出不穷,如何将大模型与企业业务场景相结合 ,源码库提高生产效率和创新能力,已经成为很多企业探索的主要方向 。IDC数据显示,中国生成式AI投资增长加速,2022到2027年五年的复合年增长率达到86.2% ,生成式AI正在成为驱动智能发展的关键技术。

除了在数据中心和云中部署各种大模型应用外 ,在边缘侧部署大模型应用也成为近年来的热点 ,实际上,AI PC正是边缘生成式AI应用的重要体现,亿华云热度居高不下  。据Gartner预测,到2026年 ,80%的全球企业将使用生成式AI,50%的全球边缘部署将包含AI。

Sachin Katti表示 ,英特尔一直以来都非常关注如何处理数据、分析数据。我们支持企业进行本地存储,而无需将数据迁移到云端。通过本地化的数据存储,能够帮助企业很好地利用AI智能体。Sachin Katti强调 ,香港云服务器这个转变已经开始 ,许多全球企业都已经进行了尝试,预计在未来一到两年内会看到更多智能体的出现。

凭借多样化的芯片产品,包括英特尔®酷睿™处理器 、英特尔®酷睿™ Ultra 处理器、专为边缘设计的英特尔锐炫™GPU、英特尔®至强®处理器等,结合高效的软件解决方案,英特尔能够为不同的行业提供定制的垂直解决方案套件,免费模板助力客户加速AI在边缘和网络的设计 、开发 ,并迅速扩大其应用范围。

谈到在边缘端部署大模型应用,英特尔公司副总裁兼网络与边缘事业部中国区总经理陈伟博士表示,模型的规模并非越大越好,而是应该适合市场应用场景的实际需求。他强调 ,边缘计算的部署需要考虑很多因素 ,比如时延要求 、可实用性 、云计算微观数据的可调优化等要求。我们观察到,市场上有多种类型的模式 ,许多客户正在构建硬件和软件解决方案,并在通用大模型基础上进行性能优化 ,这种模式可以推动大模型应用在边缘端的迅速发展。

秉承开放合作构建完善生态,携手合作伙伴共同推动AI大模型落地

不同行业的不同用户,部署大模型应用的方式也有着不同的差别。对于英特尔而言,如何满足不同行业的不同定制需求 ,保障大模型在不同行业的应用落地,至关重要 。

英特尔公司市场营销集团副总裁 、英特尔中国网络与边缘及渠道数据中心事业部总经理郭威表示,中国大模型在行业中落地应用需要重点考虑三个方面 :一是大模型必须与行业应用紧密结合才能走得更快;二是不能仅依靠模型训练 ,推理能力的提升在今年尤为重要;三是要确保从端到边缘再到云端大模型算力的均衡布局。

英特尔公司市场营销集团副总裁、英特尔中国网络与边缘及渠道数据中心事业部总经理郭威同时表示 ,AI大模型在不同行业的落地过程中 ,应用场景是一个主导方向 ,它引导我们的技术怎么去发展 。因此 ,必须通过开放的技术支持和持续深耕行业场景 ,确保AI大模型在不同行业应用场景中的落地 。据了解 ,在深耕行业场景方面 ,英特尔采取了三大举措:

一是基于现有的智能解决方案 ,将AI技术融入其中;二是积极拥抱当前爆发性增长的大模型和生成式AI技术;三是对整个生态系统的扶持。

在本地大会现场 ,我们看到了来自于教育、工业 、医疗 、零售等行业展示的边缘AI应用案例。在教育行业,希沃第七代交互智能平板和最新的教师终端,借助AI功能帮助教师完成一键备课、互动式教学、课堂反馈等任务,显著提升了课堂效率和教学质量 。在工业领域 ,科东软件通过先进大语言模型实现任务理解及代码生成 ,并依托科东智能控制器的多模态视觉语言模型 ,实现对机器人动作的精准控制 ,极大简化了开发流程并提升了生产效率 。

英特尔公司副总裁兼网络与边缘解决方案事业部总经理Dan Rodriguez强调,从顶层设计来讲,建立一个广泛且开放的生态系统,是能够改变市场的。首先,它为客户提供了选择权 ,这种系统能够在恰当的时间为用户匹配合适的合作伙伴。其次 ,开放系统鼓励所有人参与贡献 ,共同创造一个创新的良性循环。

凭借长期构建的开放且广泛的生态系统 、深厚的技术底蕴,以及对各行业需求和趋势的敏锐洞察,英特尔才能够携手众多中国本土合作伙伴,支持大语言模型(LLM)在不同行业的落地应用 。

正如陈伟博士在大会演讲中所述 ,我们不仅仅是技术的提供者,更是本地合作伙伴的倾听者和同行者 。数年深耕,我们与合作伙伴紧密携手 ,打造出真正满足中国行业需求的解决方案 。从运用AI 进行创新的‘+AI时代’,到今天以AI为主导推动创新的‘AI+时代’ ,我们正站技术转型的前沿。

面向未来,英特尔正在引入端到端、可扩展的系统级战略,通过开放的生态系统全速助力企业推进AI创新。英特尔的开放系统包括来自多厂商的芯片 、硬件参考平台、软件基础设施以及AI工具 ,使从设备制造商到软件和服务提供商等广泛的AI生态系统都能够提供解决方案 ,满足各行业企业对定制化生成式AI的需求 。

copyright © 2025 powered by 益强开源技术社区  滇ICP备2023006006号-14sitemap