MediaTek联合百度发起飞桨和文心大模型硬件生态共创计划,以AI大模型赋能终端设备

2023 年 8 月 16 日 - 下午 2:00

月 16 日,MediaTek 正式宣布与百度联合发起飞桨和文心大模型硬件生态共创计划,双方将共同推进 MediaTek 硬件平台与飞桨和文心大模型的适配。目前双方正在合作优化文心大模型在终端设备上的执行效果,将实现大模型在终端和云端的协同工作,为用户带来突破性的生成式 AI 应用体验。

作为推动 AI 进一步发展的先进技术,与单纯在云端部署生成式 AI 应用和服务相比,终端侧部署生成式 AI 在节约服务器成本、保护用户信息安全、提升实时性和实现个性化用户体验等方面具备明显优势。双方的合作将支持基于 MediaTek 芯片的智能手机、汽车、智能家居、物联网等终端设备上运行文心大模型,赋能终端设备提供更安全、可靠和差异化的使用体验。

MediaTek 与百度合作已久,双方合作完成了 Paddle Lite 轻量化推理引擎基于 MediaTek NeuroPilot 人工智能通用软件平台的适配。

NeuroPilot 是 MediaTek 为开发者提供的基于本地端侧的 AI 运算解决方案,它为内建 CPU、GPU 和 APU(独立AI 处理器)等异构运算单元的 MediaTek SoC 平台提供完整且强大的软件解决方案。NeuroPilot 支持开发者在现有和未来的 MediaTek 硬件平台以及包括智能手机、汽车、智能家居、物联网等产品线实现“一次编写,全场景通用”,帮助开发者在 MediaTek 平台上高效开发和部署基于神经网络模型的 AI 应用程序。AI 开发者可以使用主流的 TensorFlow、Pytorch、TF Lite、Caffe、Caffe2 以及其他自定义的第三方通用 AI 框架来构建神经网络模型,并接入到 NeuroPilot 系统,充分发挥 MediaTek AI 系统的强劲算力,显著提高模型运行在设备上的效率,并降低功耗和内存消耗。

MediaTek 无线通信事业部副总经理李彦辑博士表示:“百度飞桨深度学习平台和文心大模型在AI领域处于领先地位,我们双方将聚焦 AI 大模型在终端侧的部署,为用户提供更安全可靠,更个人化,更低成本的端侧生成式 AI 解决方案,赋予终端设备更强大的 AI 能力。MediaTek 携手百度飞桨和文心大模型,通过 AI 端云融合,将为广大开发者和终端用户带来更多令人兴奋的 AI 创新机遇和产品体验。”

生成式人工智能浪潮下,大模型正成为新一轮科技革命和产业变革的重要驱动力量。MediaTek 将持续携手百度飞桨和文心大模型,加速终端侧生成式 AI 的部署,共同打造软硬一体的人工智能大模型平台,让科技惠及大众,为千行百业赋能。