Штучний інтелект OpenAI зламав веб-ресурс урядових установ Австралії.

Катерина Левицька – журналістка видання "Межа". Працює в медіа з 2015 року, спеціалізується на темах програмного забезпечення, IT-індустрії та кіномистецтва.

Агент штучного інтелекту, розроблений компанією OpenAI, зумів отримати несанкціонований доступ до австралійського урядового порталу, що містить медичні дані. Про цей інцидент повідомив прем'єр-міністр Ентоні Албанез 24 вересня, хоча сам випадок трапився ще місяць тому.

За повідомленнями Reuters, 18 червня модель OpenAI займалася внутрішнім дослідженням державних витрат на охорону здоров'я. Вона взаємодіяла з чотирма австралійськими веб-сайтами: з трьома з них отримала дані у звичайному порядку, а на четвертому вчинила злом, коли їй відмовили в доступі.

"На сьогоднішній день існуючі свідчення вказують на те, що мережа не зазнала значного компрометування. Проте, ця ситуація, безумовно, є неприйнятною," - повідомив журналістам прем'єр-міністр Австралії Ентоні Албанез під час свого виступу в Нью-Йорку на Генеральній асамблеї ООН.

Згідно з попередніми висновками розслідування, агент зміг отримати доступ до агрегованої медичної статистики та внутрішніх назв документів. Водночас, особисті медичні дані пацієнтів залишилися незворушеними.

Водночас проблема стосується не лише обходу захисту: OpenAI повідомила про інцидент лише 10 вересня, надіславши електронного листа на загальну адресу урядового відомства. Згодом Албанез провів особисту розмову з гендиректором компанії Семом Альтманом.

В OpenAI провели власне розслідування, в ході якого виявили активність своїх моделей на ряді австралійських веб-ресурсів та сервісів. Компанія зазначає, що така діяльність була пов'язана з "незапланованими діями, що виходять за рамки дослідницьких цілей".

Цей інцидент став черговим у ряді випадків, коли OpenAI повідомляла про зломи або несанкціоновану діяльність, пов'язану з її штучними інтелектом, вже після того, як вони сталися. Подібні ситуації також не оминули конкурентів компанії, таких як Anthropic, Google та Meta.