概述
完整的计算与软件栈,助力 AI 成功落地
软件是 Arm 计算平台的核心组成部分,因为它能帮助开发者在任意模型或工作负载中最大限度发挥 AI 性能。通过 Arm Kleidi 库、框架集成和生态系统合作,Arm 可在各类 Arm 硬件上实现无缝加速。这种方法可确保实现快速部署、工作负载优化部署和一致的性能,助力助开发者在云端、边缘侧和设备环境中高效扩展 AI 应用。
为下一代 AI 构建未来
Arm AI Services 副总裁 Sharbani Roy 分享了随着 AI 系统日益复杂并向代理式 AI 发展,开发者如何实现一次构建、高效优化,并无缝扩展。
优势
流畅、高效的 AI 软件开发
我们助力简化开发者的工作流、确保软件在 Arm 平台上原生运行并为开源创新做出贡献,帮助企业和组织加速 AI 部署,同时在快速发展的市场中保持竞争优势。
保障 AI 安全
开发安全、可持续的基于 AI 的解决方案
消费者和政府日益期望基于 AI 的应用和模型具有可持续性、安全性和合乎道德性。Arm 正在构建一种高能效架构,使开发者能在运行 AI 的平台上轻松运行代码,从而创建具有安全软件基础的可信赖 AI。
资源
最新新闻和资源
- 新闻和博客
- 报告
- 开发者博客
- 白皮书
- 播客
从云端到边缘侧的 AI
为什么软件对于充分发挥 AI 的潜力至关重要
了解为什么软件是实现 AI 的关键,探索如何加速创建高性能的安全 AI 应用。
利用小语言模型重新思考 AI
在本期节目中,Arcee AI 的首席布道师 Julien Simon 分享了如何在 Arm CPU 上使用合适大小的 SLM 来实现可扩展、经济高效的企业级 AI,而无需依赖 GPU。
关键要点
- Arm 提供经优化的软件库和工具,可在各类 Arm 硬件上加速 AI 工作负载运行。
- Arm Kleidi 已与主流框架集成,开发者无需额外投入,即可获得稳定的性能表现。
- 该平台支持根据特定工作负载的需求定制快速部署方案,从而实现高效扩展。
- 在自然语言处理、计算机视觉和生成式 AI 等各类 AI 用例中,开发者均能获得无缝加速体验。
- Arm 软件生态系统可在从云端到边缘侧设备的各种场景中,实现广泛的可移植性与性能优化。