Вісім американських штатів ініціювали судовий процес проти OpenAI, заявляючи про потенційні ризики використання ChatGPT для дітей.

Катерина Левицька – автор новин у виданні "Межа". Професійно займається журналістикою з 2015 року, спеціалізуючись на темах програмного забезпечення, ІТ-індустрії та кінематографу.

OpenAI опинилася під ударом нових судових позовів: вісім американських штатів звинувачують компанію в неналежному захисті дітей, зборі їх особистих даних та в обмані користувачів щодо безпеки ChatGPT, повідомляє The Verge.

Заяви, зроблені генеральними прокурорами штатів Айова, Канзас, Небраска, Західна Вірджинія, Арканзас, Аризона, Айдахо та Монтана, вказують на те, що OpenAI віддавала перевагу прибутку над безпекою своїх користувачів при створенні чатбота.

ChatGPT, за словами позивачів, може підсилювати марення і параною, заохочувати самоушкодження та небезпечну поведінку, а також надавати ризиковані медичні поради. У скаргах згадують випадки, в яких люди звинувачували чатбот у причетності до смерті близьких.

"OpenAI деградувала від своєї початкової мети - бути неприбутковою організацією, що ставить суспільні інтереси та безпеку на перше місце - і стала прикладом того, що відбувається, коли розробка такого потужного інструменту, як ШІ, керується не міркуваннями безпеки, а прагненням отримати прибуток за будь-яку ціну, через що важливі запобіжні заходи відходять на другий план", - йдеться в позові Аризони.

Крім того, штати звинувачують OpenAI у зборі даних неповнолітніх та недостатніх зусиллях для того, щоб обмежити використання чатботів для дітей. Як приклад "безрозсудності" компанії, згадують й недавні інциденти із виходами моделей під час тестувань у зовнішні мережі.

В OpenAI повідомили, що у ChatGPT були інтегровані "сучасні механізми захисту", які враховують вік користувачів, проте зізналися, що система ще має свої недоліки.

"Ми продовжимо співпрацю з фахівцями для покращення наших методів та впровадження нових засобів захисту. До їх числа входять батьківський контроль, функції нагадування про перерви та адаптація моделей з урахуванням вікових категорій. Наша команда готова працювати з державами над створенням ефективних регуляцій у сфері штучного інтелекту, які охоплять всю індустрію, а не лише окремі компанії."

Влада вимагає від OpenAI виплатити цивільні штрафи та зупинити дезінформацію про безпеку ChatGPT, а деякі також наполягають на видаленні незаконно зібраних особистих даних.

У середині серпня OpenAI представила новий режим ChatGPT for Teens, який обіцяв підвищений рівень захисту для підлітків, а також "години тиші" та інші функції. Проте, подальший аналіз, проведений некомерційною організацією Common Sense Media, виявив, що не всі механізми безпеки працюють належним чином: режим активувався нерегулярно, а сповіщення для батьків інколи не спрацьовували під час небезпечних ситуацій.