Meta представила оновлену ШІ-модель для генерації коду під назвою Code Llama 70B, яка побудована на Llama 2. Про це йдеться в повідомленні компанії.

«Ми випускаємо Code Llama 70B, найбільшу та найпродуктивнішу модель у сімействі Code Llama», – сказано в повідомленні Meta.

Оновлена ШІ-модель представлена у трьох версіях:

  • Code Llama 70B – базова модель;
  • Code Llama 70B Python – модель для Python;
  • Code Llama 70B Instruct – допрацьована модель для розуміння інструкцій природною мовою.

Code Llama 70B навчена на 1 трильйоні токенів коду та пов’язаних даних. Попередні моделі були навчені на 500 млрд токенів коду й даних.

Meta

Також Meta порівняла точність Code Llama 70B з іншими моделями. Приміром, у тесті HumanEval її точність досягла 53%. Для GPT 3.5 цей показник склав 48,1%, а для GPT 4 – 67%.