Через тиждень після ребрендингу Bard у Gemini Google представив наступне покоління чат-бота Gemini 1.5. Про це компанія повідомила у своєму офіційному блозі.

Генеральний директор Google Сундар Пічаї прокоментував цей крок.

«Минулого тижня ми випустили нашу найпотужнішу модель, Gemini 1.0 Ultra і зробили значний крок уперед, зробивши продукти Google ще більш корисними, починаючи з Gemini Advanced. Сьогодні розробники та клієнти хмарних сервісів можуть почати роботу з 1.0 Ultra – нашим Gemini API в AI Studio та Vertex AI», – зауважив він.

За його словами, команди компанії продовжують працювати, приділяючи особливу увагу безпеці.

«Фактично ми готові представити наступне покоління: Gemini 1.5. Нове покоління демонструє значні покращення в ряді вимірів, а 1.5 Pro досягає якості, порівнянної з 1.0 Ultra, при цьому використовуючи менше обчислювальних ресурсів», – додав Сундар Пічаї.

За словами генерального директора Google DeepMind Деміса Хассабіса, середня версія нової моделі ШІ, Gemini 1.5 Pro, працює на рівні, аналогічному моделі Gemini 1.0 Ultra, зі стандартним контекстним вікном на 128 000 токенів. Але обмежена група розробників і корпоративних клієнтів може спробувати версію ШІ з контекстним вікном до 1 мільйона токенів через AI Studio і Vertex AI в режимі приватного попереднього перегляду.

Контекстне вікно в 1 мільйон токенів означає, що 1.5 Pro зможе обробляти значно більші обсяги інформації за один раз – включаючи 1 годину відео, 11 годин аудіо, кодові бази з понад 30 000 рядків коду або понад 700 000 слів.

Нове покоління працюватиме на архітектурах Transformer та Mixture-of-Experts (MoE). У той час як традиційний Transformer функціонує як одна велика нейронна мережа, моделі MoE розділені на менші «експертні» нейронні мережі. Залежно від типу вхідних даних, моделі MoE вчаться вибірково активувати лише найбільш релевантні експертні шляхи у своїй нейронній мережі.