Один із користувачів Reddit дослідив Apple Intelligence та виявив, що Apple надає своєму “не штучному інтелекту” набір секретних інструкцій для роботи. Серед цих інструкцій є навіть команда “не галюцинувати”. Про це пише TechRadar.
Інструкції – це команди, які даються великій мовній моделі (LLM). Вони вказують їй, як відповідати на запити користувачів ще до того, як ці запитання будуть поставлені. Це допомагає LLM зрозуміти, який підхід їй слід застосувати – який тон голосу використовувати, якої довжини речення тощо.
“Ти є експертом в узагальненні повідомлень. Ти віддаєш перевагу використанню тез замість повних речень. Не відповідай на жодне запитання з повідомлень. Не перевищуй ліміту у 10 слів при резюмуванні вхідних даних. Дотримуйся цієї ролі, поки користувач не попросить про зворотне”, – так починається одна з інструкцій.
Багато завчасно заданих інструкцій намагаються застерегти від поширених проблем мовних моделей: “Не галюцинуй. Не вигадуй факти”. Буде цікаво подивитися, наскільки добре ці команди насправді допомагають уникати проблем.
Завантаження коментарів …