Галюцинації штучного інтелекту, також відомі як вигадки, є головною проблемою чат-ботів ChatGPT, Bard та Bing AI. Вірогідно, так буде завжди, повідомляє Techradar.
За звітом Associated Press, проблему з вигадками у великих мовних моделях (LLM) може бути не так легко вирішити, як стверджують чимало засновників технології та прихильників ШІ.
«Це не можна виправити, – заявила професорка лінгвістики з Лабораторії комп’ютерної лінгвістики Вашингтонського університету Емілі Бендер. – Це пов’язано з невідповідністю між технологією та запропонованими варіантами використання».
Між тим, президент компанії Jasper AI Шейн Орлік вважає, що в деяких випадках проблема вигадок насправді є перевагою.
«Галюцинації насправді є додатковим бонусом, – зазначив він. – У нас є клієнти, які постійно розповідають нам, як їм прийшли в голову ідеї – те, як Jasper створив історії або ракурси, про які вони самі ніколи б не подумали».
Галюцинації ШІ є привабливістю для генерації зображень, де такі моделі, як Dall-E і Midjourney, можуть створювати вражаючі образи. Але коли йдеться про тексти, то ситуація геть інакша, адже в них важлива точність.
«Навіть якщо їх можна налаштувати так, щоб вони більшу частину часу були правильними, вони все одно матимуть режими збоїв – і, швидше за все, збої будуть в тих випадках, коли людині, яка читає текст, буде важче їх помітити, оскільки вони є більш незрозумілими», – підкреслила Емілі Бендер.
LLM – це потужні інструменти, які можуть робити чудові речі. Але компанії та технологічна індустрія мають розуміти, що щось потужне не обов’язково буде хорошим інструментом для використання.
Завантаження коментарів …