2023 年 8 月，Meta 公司在之前的 Llama 2 模型基础上发布了专门为编码任务设计的大规模语言模型 Code Llama。今天，该公司发布了 "功能更强大的新版本"--Code Llama 70B。
Code Llama 70B 已在 5000 亿个代码和相关数据的基础上进行了训练。它可以处理和生成更长的代码序列，这要归功于 10 万个 token 的上下文窗口。
据 Meta 公司称，Code Llama 70B 使用一种称为自我注意的技术来理解代码结构。它可以根据文本或片段提示实现算法、排序、搜索等功能，适用于 Python、C++、Javascript 和 Java 等多种语言。
这款人工智能驱动的工具包括针对特定任务进行了微调的版本。其中一个版本是 CodeLlama-70B-Instruct，它经过训练可以理解自然语言指令。还有一个以 Python 为重点的版本，名为 CodeLlama-70B-Python。根据 Meta 的说法，通过对 1000 亿个 Python 代码标记的额外训练，它生成 Python 代码的 "流畅性和准确性无与伦比"。
"编写和编辑代码已成为当今人工智能模型最重要的用途之一，"Meta 公司首席执行官马克-扎克伯格在 Facebook 上的一篇文章中写道："事实证明，代码能力对于人工智能模型更严谨、更合乎逻辑地处理其他领域的信息也非常重要。"
Code Llama 70B 可以在与早期 Code Llama 模型相同的开放许可下免费下载。Meta表示，这种许可允许学术和商业用户修改模型。
微软旗下的 GitHub 于 2023 年 7 月推出了 Copilot Chat，以防错过。开发者可以就自己的代码向 Copilot 提问，获得代码特定部分的解释，甚至让 Copilot 修复代码中的错误。最近，谷歌也推出了 Duet AI 和 Gemini Pro，这是由人工智能驱动的代码完成和生成工具。
