高通与Meta合作为智能手机和PC增加Llama 2支持

今天早些时候，外媒报道了 Meta 公司宣布并推出 Llama 2 的消息，Llama 2 是其用于生成式人工智能应用程序和服务的大型语言模型的下一代版本。现在，有消息称 Meta 与高通公司（Qualcomm）建立了新的合作关系，Llama 2 将可以在采用高通骁龙芯片的移动设备上使用。

高通公司在一份新闻稿中表示，双方合作的目标是让这些终端能够运行基于 Llama 2 的应用程序和服务，而无需像当前其他生成式人工智能产品（如 ChatGPT 和 Bing Chat）那样连接到云服务。高通公司表示：

在智能手机、个人电脑、VR/AR 头显和车辆等设备上运行 Llama 2 等生成式人工智能模型的能力，使开发人员能够节省云计算成本，并为用户提供私密、更可靠和个性化的体验。

高通骁龙无缝平台将帮助连接Windows、安卓和其他终端

高通公司表示，在终端上运行 Llama 2 这样的大型语言模型有很多优势。与使用基于云的 LLM 相比，它的成本效益更高，性能也更好，因为它无需连接到在线服务。同时，设备上的 LLM 可以提供更加个性化的人工智能服务。与连接云服务器相比，它还可以更加安全和私密。

目前，高通公司计划于 2024 年开始在使用骁龙芯片的设备上支持基于 Llama 2 的人工智能服务。至于是否需要最新一代的高通芯片才能运行，或者这种支持能否向后兼容当前的骁龙芯片，目前还没有任何消息。

Meta 公司称，Llama 2 的训练数据比第一代 Llama LLM 多 40%。该公司已经宣布与微软合作，在微软的Azure服务上向商业和研究用户免费提供Llama 2，并提供在Windows PC上本地下载和运行LLM的方法。