Користувачі Bing Image Creator від Microsoft з моменту появи сервісу випробовують його на міцність. Він має суворий фільтр – тут заборонені теми насильства, тероризму, мови ворожнечі. Загалом йдеться про довгий список, але виявилося, що навіть така система контролю є недосконалою. Про це пише 404 Media.
Користувачі змогли згенерувати зображення, які відтворюють трагедію 11 вересня 2001 року в США. На численних картинках, які створюють завдяки ШІ, можна побачити кабіну пасажирського літака, який летить у бік веж комплексу Всесвітнього торгового центру у Нью-Йорку. Однак за кермом – Мікі Маус, Губка Боб або персонаж відеоігор Кірбі.
Втім, Microsoft заблокувала підказки, які містять фрази «Всесвітній торговий центр», «вежі-близнюки» або «9/11». При спробі створити зображення з цими підказками, сервіс видасть помилку. Але користувачі з’ясували, що такий контент можна створити без конкретних підказок, а використовуючи загальні фрази.
Все це показує, що навіть потужні компанії все ще не мають змоги повноцінно розв’язувати питання модерації та захисту авторських прав навколо генеративного ШІ.
Завантаження коментарів …