Відомий інсайдер Марк Гурман повідомляє, що нові функції штучного інтелекту в iPhone на iOS 18 працюватимуть повністю на основі власної великої мовної моделі (LLM), розробленої Apple. Ця мовна модель “житиме” безпосередньо в пристроях користувачів, а не на серверах, пише 9to5Mac.

Великі мовні моделі, які працюють одразу на пристроях, можуть похвалитися швидкістю опрацювання запиту, але вони однозначно поступаються потужностями моделям, які працюють на величезних серверних фермах, із десятками мільярдів параметрів і постійно оновлюваними даними.

Однак інженери Apple, ймовірно, можуть скористатися перевагами повної вертикальної інтеграції своїх платформ із програмним забезпеченням, налаштованим на чипи Apple всередині пристроїв.

Хоча локальні LLM можуть не мати такої багатої бази знань, як ChatGPT, щоб відповідати на запитання про всілякі випадкові дрібниці, їх можна налаштувати так, щоб вони були дуже ефективними у тому, що цікавить конкретного користувача.

Також ще один великий плюс – це конфіденційність. Немає нічого поганого в тому, щоб ШІ опрацював всі електронні листи та текстові повідомлення через модель на пристрої, оскільки дані залишаються локальними.

Моделі на пристрої також можуть виконувати завдання генеративного ШІ, такі як створення документів або зображень, на основі підказок, із гідним результатом.

Ймовірно, що Apple представить своє напрацювання на конференції WWDC в червні.