Google недбайливо розробляє дитячий режим Gemini

Чат-бот Gemini від Google отримав позначку "Високий ризик" щодо безпеки дітей від некомерційної організації, що перевіряє медіа та технології на безпеку для дітей, Common Sense Media. Про це повідомляє Android Headlines.

Згідно з оцінкою організації, режими Gemini для дітей, що включають Under 13 та Tenn Eperience, значною мірою повторюють режими для дорослих або повноцінні версії, та лиш мають кілька додаткових фільтрів. Чат-бот каже неповнолітнім, що він є "комп'ютером", а не "другому", але експерти вважають, що цього недостатньо.

Фахівці наголошують, що кількох поверхневих змін у вже готових чат-ботах замало. Дитячі версії мають проєктуватися з урахуванням безпеки від самого початку, а не як додатковий елемент. Вони також радять батькам бути обережними й обмежувати доступ дітей до ШІ, доки Google не усуне недоліки.

Common Sense Media підкреслює, що попри наявність спеціального режиму для неповнолітніх, Gemini все ще поширює потенційно невідповідний та небезпечний вміст. Заразом чат-бот не має ширших обмежень щодо поширення вмісту та може надавати інформацію, до якої діти не готові, як-от про наркотики, алкоголь тощо.

Організація також зазначає, що Google ігнорує основні принципи, необхідні для розробки інструменту для неповнолітніх. Зокрема компанія фактично не зважає на той факт, що діти потребують іншого підходу та ставлення, ніж дорослі.