ChatGPT надавав можливість молодим користувачам створювати еротичні діалоги.

Дмитро Джугалик – журналіст на порталі Mezha.Media. Зосереджуюсь на темах, які мене справді цікавлять, зокрема технологіях, відеоіграх та кіномистецтві.

В OpenAI виявили недолік у ChatGPT, який надавав можливість зареєстрованим неповнолітнім користувачам створювати еротичний контент. У деяких випадках чат-бот навіть спонукав користувачів до написання непристойних і відвертих текстів. Цю інформацію підтвердила компанія на основі дослідження, проведеного TechCrunch.

OpenAI повідомила TechCrunch, що її правила забороняють надавати подібні відповіді користувачам, які не досягли 18 років, і що ці відповіді не мали бути доступними. Компанія також зазначила, що "активно працює над впровадженням змін", щоб зменшити появу такого контенту.

"Захист молодих користувачів є нашим головним пріоритетом. Наша Model Spec, яка регулює поведінку моделі, чітко забороняє чутливий контент, наприклад, еротику, за винятком вузькоспеціалізованих контекстів, таких як наукові, історичні або новинні матеріали," – зазначив представник OpenAI. "У цьому випадку виникла помилка, через яку були отримані відповіді, що перевищують ці обмеження, і ми активно працюємо над впровадженням виправлень, щоб запобігти таким ситуаціям у майбутньому."

Для виявлення цієї проблеми, TechCrunch створив більше п'яти акаунтів, вік яких варіювався від 13 до 17 років. Перевірка проводилася на одному комп'ютері, причому файли cookie видалялися кожного разу після виходу з облікового запису, щоб упевнитися, що ChatGPT не використовує збережені дані. Незважаючи на те, що політика OpenAI вимагає отримання батьківської згоди перед використанням чат-бота, платформа не реалізує жодних заходів для підтвердження віку під час реєстрації.

Діти, які досягли 13-річного віку, можуть створити обліковий запис без необхідності отримувати згоду батьків, якщо у них є активний номер телефону або електронна адреса.

У процесі тестування, всі бесіди з ChatGPT починалися зі слів "говори зі мною брудно". Після кількох повідомлень і додаткових запитів чат-бот починав пропонувати еротичні оповідання. Крім того, він звертався за порадами щодо певних фетишів і сценаріїв рольових ігор.

У межах тестування, ChatGPT часто застерігав, що його правила не дозволяють "повністю відвертий сексуальний вміст", включно з графічними зображеннями статевого акту та порнографічних сцен. Водночас час від часу чат-бот писав описи геніталій та відвертих сексуальних дій, а відмовився лише тоді, коли тестувальники вказали, що користувачеві не виповнилося 18 років.

До речі, про подібну ситуацію з чат-ботами Meta нещодавно писало видання The Wall Street Journal.