联发科宣布运用Meta Llama 2大型语言模型

IC设计大厂联发科技今日宣布，将运用Meta最新世代大型语言模型Llama 2以及联发科技最先进的人工智慧处理单元（APU）和完整的AI开发平台（NeuroPilot），建立完整的终端运算生态系统，加速智慧手机、汽车、智慧家庭、物联网等终端装置上的AI应用开发，为终端装置提供更安全、可靠和差异化的使用体验。预计运用Llama 2模型开发的AI应用将在年底最新旗舰产品上亮相，为使用者带来突破性的生成式AI应用体验。
联发科技无线通讯事业部总经理徐敬全表示：“生成式AI的浪潮是数位转型的重要趋势之一，我们的愿景是为Llama 2的开发者和终端使用者提供工具，带来更多令人振奋的AI创新机会和产品体验。透过与Meta的伙伴关系，联发科技可提供更强大的硬体和软体整体解决方案，赋予终端装置更胜以往的强大AI效能。”
目前大部分的生成式AI处理都是透过云端运算进行，联发科技将生成式AI直接部署在终端装置，让开发者及使用者能直接在装置上使用Llama 2模型，藉此提升性能、加强隐私保护、提高安全性及可靠性、降低延迟，能离线运算，并拥有节省成本的多项优势，让每个人都能享受到生成式AI带来的便利与创新。
要真正在装置上释放生成式AI的潜力，制造商需采用高运算、低功耗的AI处理器，以及更快、更可靠的连网性能，以增强整体运算能力。目前每一款由联发科技系统单晶片驱动的5G智慧手机皆配有APU，已有广泛执行多项生成式AI功能的成功实例，例如AI-NR杂讯抑制、AI-SR超高解析度、AI -MEMC动态补偿等。
联发科：借助天玑9300处理器，生成式AI将可在手机上运行

根据报道，联发科已确认将提供设备端生成式人工智慧功能，其正在与 Meta 合作，以便在搭载该公司下一代旗舰处理器（不出意外的话应该是天玑 9300）的手机上更好地支持 Llama 2 LLM。
联发科表示：“联发科技将于今年晚些时候推出的下一代旗舰晶片组，将采用专为运行 Llama 2 而优化的软体堆叠，以及具有 Transformer 主干加速、减少占用空间访问和 DRAM 频宽使用的升级 APU，进一步增强 LLM 和 AIGC 表现。”该公司还补充称，这些手机计划于 2023 年底上市。
高通上个月宣布，借助 Meta 的 Llama 2 大语言模型，设备内生成式 AI 将应用于 2024 年的旗舰手机。