Яким чином Голлівуд вплинув на наші побоювання та сподівання стосовно штучного інтелекту?

В серпневому номері мого улюбленого журналу The Atlantic прочитав цікаву статтю про те, як Голівуд через свої фільми створив у людей страх перед ядерною війною. Прочитав і подумав, що й щодо штучного інтелекту (ШІ) багато з нас сформували своє бачення не з моменту появи ChatGPT в листопаді 2022 року, а значно раніше - з фантастики, яку ми читали, та фільмів, які дивились. Про книжки спробую розказати окремо. Зараз поговоримо саме про ШІ на Голівудському кіноекрані.

Я визначив щонайменше десять фільмів, які колись переглядав, і в яких штучний інтелект виступає одним із центральних персонажів. Кожен з цих фільмів вносив свої елементи в наше сприйняття страхів і мрій, пов'язаних із прогресом розумних технологій.

З цієї ж теми було опубліковано кілька статей і досліджень у Washington Post, TRT World Research Center та Science. У подальшій частині тексту я спробую зіставити висловлені в цих матеріалах думки зі своїми власними, щоб продемонструвати, яким чином кінематографічні образи сформували наші очікування щодо штучного інтелекту. Зауважте, що якщо ви ще не дивилися згадані фільми, у тексті можуть бути значні спойлери.

Почнемо з класичного фільму Стенлі Кубрика 1968 року "Космічна одіссея 2001 року", в якому одним з головних персонажів на космічному кораблі Discovery One є бортовий комп'ютер HAL 9000, який став архетипом загрозливого ШІ, що виходить з-під контролю людей.

У одному з видань я натрапив на інформацію про те, що Марвін Мінскі, один із засновників штучного інтелекту 50-60-х років XX століття, співпрацював із Кубриком при створенні фільму, надаючи поради щодо потенціалу ШІ. Це викликає інтерес, оскільки в картині режисер зобразив холодний і логічний інтелект, який ставить виконання завдання вище за людське життя.

При цьому в "Одіссеї" машина не має вигляду демона або зла. Більшу частину часу HAL веде чемні діалоги з екіпажем, керує всіма бортовими системами на кораблі та за потреби може ухвалювати рішення автономно. Сцена з помилковим повідомленням про модуль AE-35 і реакцією членів екіпажу є класичним прикладом, коли одна технічна аномалія породжує недовіру, а недовіра породжує крайні заходи, що, своєю чергою, підштовхує машину до дій, які здаються нам аморальними.

У подальшому розвитку сюжету фільму HAL, слідуючи своїм алгоритмам і прагнучи зберегти свою місію, вирішує усунути членів екіпажу. Це відбувається внаслідок того, що його логічні міркування в певний момент починають суперечити потребам людей.

Внаслідок цього, фільм вперше глибоко досліджує питання не лише довіри між людиною і технологією, але й ставить під сумнів, чи має машина право визначати, хто заслуговує на життя, а хто – ні. Кубрик висвітлив наш основний страх: можливість того, що машини можуть стати розумнішими за людей і, врешті-решт, здобути владу над Землею.

Цей екзистенційний страх залишається актуальним, і науковці вживають зусиль, щоб його подолати під час обговорень про узгодженість штучного інтелекту. Вони прагнуть навчити ШІ виконувати завдання, які відповідають людським цілям та цінностям. Однак існує суттєва проблема: ці цілі та цінності відрізняються у різних людей. Тому формулювання завдань для машин стає складним викликом, особливо у контексті використання алгоритмів штучного інтелекту у військових сферах.

У культовому телесеріалі "Зоряний шлях" представлений широкий спектр персонажів, що володіють рисами штучного інтелекту. Серед них — голосові системи управління кораблів Федерації, подібні до HAL 9000, які контролюють усі аспекти роботи судна; земний зонд Voyager 6, який перетворився на потужну свідому істоту, готову знищити Землю в пошуках свого "Творця"; а також кібернетичний колектив Боргів, який переконаний, що виконує благородну місію, "вдосконалюючи" інші раси шляхом асиміляції, створюючи величезну мережу для збору знань і технологій всіх цивілізацій.

Основним персонажем в світі штучного інтелекту є офіцер зоряного флоту, лейтенант-командер Дейта, створений доктором Сонгом. Цей позитивний, доброзичливий і філософський андроїд відзначається надлюдською силою, здатністю до швидкої обробки інформації, має енциклопедичні знання, може спілкуватися кількома мовами та володіє ідеальною пам'яттю. Він нагадує сучасні чатботи, хоча ті поки що не мають фізичного тіла.

У серіях "Зоряного шляху" персонаж Дейта спочатку позбавлений емоцій, часто не вловлює тонкощі людського гумору та ідіом, але має бажання стати більш схожим на людей. Автори шоу демонструють свою віру в те, що штучний інтелект і люди можуть співіснувати, якщо їхня взаємодія ґрунтуватиметься на повазі та взаєморозумінні.

В результаті, на відміну від HAL чи Боргів, Дейта не сприймається як загроза. Навпаки, він є яскраво позитивним персонажем, який активно залучений у спільноту. Протягом багатьох років режисери та сценаристи серіалу прагнули через його образ спонукати нас до роздумів про права, гідність, етику та людяність роботів і штучного інтелекту.

Цікаво, що у відповідях на питання, чи має андроїд право на особистість, чи може відмовитися бути власністю, чи можна "вимкнути" когось, хто став індивідом, що робить людину людиною, Дейта своїм логічним, але уважним до контексту підходом часто виглядає етичнішим за самих людей.

Також важливо зазначити, що Джеф Безос, засновник Amazon, називає франшизу "Зоряний шлях" частиною свого дитинства, і зізнавався, що надихається ідеями серіалу у власних технологічних проєктах. Подивимось, чи в реальному житті люди, в т.ч. Безос, будуть більш розумними, ніж у серіалі.

Тема особистості реплікантів, або людей, наділених штучним інтелектом, розвивається в іншому знаковому американському фільмі — "Той, хто біжить по лезу" (Blade Runner). Це стосується як оригінальної стрічки Рідлі Скота 1982 року, яка вважається найкращим науково-фантастичним фільмом усіх часів, так і її продовження, що вийшло в 2017 році під режисурою Дені Вільнева.

На відміну від HAL 9000 чи лейтенанта Дейти, у Рідлі Скота репліканти корпорації Тайрелл -- це не комп'ютери, а синтетичні біоінженерні істоти зі штучно створеним, але органічним мозком. Корпорація створила їх для прибутку та експлуатації як рабів в позаземних колоніях, і яким заборонено повертатися на Землю під страхом "вилучення" (евфемізм для вбивства). Тому творіння приречені страждати, і нема чого їх жаліти, і коли група Nexus-6 тікає з позаземних колоній до Лос-Анджелеса в пошуках свого "Творця" (як Voyager 6 в "Зоряному шляху") і способу продовжити життя, блейд-ранер Декард (його в оригінальному фільмі грає Гаррісон Форд) отримує завдання їх знищити.

У подальшому розвитку сюжету творці демонструють, що, переслідуючи втікачів, Декард спостерігає не просто машини, а істот, здатних відчувати емоції, які піклуються одне про одного та відчайдушно борються за своє право на життя. Він усвідомлює, що репліканти вміють аналізувати інформацію, робити вибір і вчитися — подібно до сучасного штучного інтелекту, тільки в живій формі (таке явище сьогодні можна було б назвати «втіленим ШІ»).

Досить цікаво, що репліканти були спроектовані як істоти, здатні до глибокої емпатії, навіть більшої, ніж у людей. Для їх розрізнення від справжніх людей був розроблений тест Войта-Кампфа, який слугує культурним аналогом тесту Тюрінга. Цей тест мав на меті виявити машини за їхньою... відсутністю співпереживання. Парадокс ситуації полягає в тому, що багато справжніх людей, можливо, не змогли б успішно пройти цей тест.

Водночас реплікантам імплантують спогади для емоційної стабільності, вони відчувають страх смерті та прагнуть жити понад відведені їм чотири роки. Через такий складний емпатичний образ автори поставили ключове питання фільму: якщо щось думає, пам'ятає, боїться і хоче жити, то чи важливо, що це "щось" створене штучно?

Через 35 років Дені Вільнев у "Той, хто біжить по лезу 2049" не просто продовжує історію. Він додає нові шари до питання про ШІ. Головний герой фільму К (його грає Раян Гослінг) знає, що він реплікант, створений корпорацією Wallace. Він працює блейд-ранером, полюючи на власний вид. К живе з голографічною подругою Джой, яка є ШІ, але без фізичного тіла.

У цій сюжетній арці Вільнев малює образ, де один штучний інтелект відчуває (або ж імітує) любов до іншого штучного інтелекту, після чого розкриває концепцію "диво народження". Як з'ясовується, одна з репліканток з першої частини фільму стала матір'ю дитини від Декарда, і ця дитина стає символом того, що кордони між штучним і природним остаточно стерті.

Таким чином, виникає нове запитання: якщо репліканти здатні до розмноження, чи дійсно залишається якась різниця між ними та людьми? Більше того, у цій трактовці фільму можна провести чітку аналогію з сучасними дискусіями щодо AGI (штучного загального інтелекту): що відбудеться, коли штучний інтелект зможе самостійно створювати вдосконалені версії себе без необхідності людського втручання?

Ця оповідь насправді не стосується повстання технологій, а радше попереджає про втрату людяності в епоху технократії. Вона підкреслює, що справа не в тому, чи здатні машини набути людських рис, а в тому, чи збережуть людяність ті, хто їх виготовляє та використовує. Репліканти можуть виконувати різні ролі: бути як вбивцями, так і рятівниками, коханцями чи філософами. Ці фільми насправді досліджують не самих роботів, а нас, наших трансформацій під час отримання можливості створювати розумне життя.

Скот і Вільнев піднімають важливі питання, які залишаються актуальними в нашій епосі: якщо ми створюємо щось, що здатне відчувати страждання, чи несемо ми за це моральну відповідальність? Яка межа між інструментом та індивідом, якого ми породили? Хто визначає, які види інтелекту мають право на визнання та захист?

Фільм «Blade Runner» не пропонує однозначних відповідей, але виражає важливе попередження: цілі, які ми визначаємо для розвитку штучного інтелекту, а також цінності, закладені в його алгоритмах, визначать, чи стане ця технологія засобом звільнення чи жорстокого поневолення. Сьогодні це може слугувати нам нагадуванням про те, що важливіше обговорювати не стільки питання "свідомості" ШІ, скільки відповідальність великих технологічних компаній, які перетворюють ШІ на інструмент контролю.

Ще один момент, який варто обговорити, стосується тесту Войта-Кампфа. Це нагадує сучасні зусилля зі створення етичних стандартів для штучного інтелекту: ми намагаємося вчити машини моральним принципам, яких самі не завжди дотримуємося, і оцінюємо "людяність" за допомогою тестів, які багато хто з нас не зміг би пройти. Більше того, сьогодні ми навіть не маємо повного уявлення про те, як функціонує "чорний ящик" свідомості нейронних мереж.

У 1991 році Джеймс Камерон у "Термінатор 2: Судний день" показав найстрашніший кошмар людства -- оборонна ШІ-система США Skynet, створена для захисту від ядерної атаки, за місяць після запуску вирішила знищити своїх творців. Не буду розказувати канву культового фільму 90-х, який точно всі бачили, але в результаті атак Skynet три мільярди людей гинуть в ядерному вогні.

Після ядерного конфлікту, дистрибутивна мережа Skynet, яка присутня повсюди і водночас ніде, формує армію вбивчих машин і організовує цілеспрямоване винищення залишків людства. Чи був цей сюжет вигаданий сценаристами, залишається під питанням, але сьогодні концепція "апокаліпсису штучного інтелекту" дійсно викликає занепокоєння серед частини науковців, які прагнуть розробити AGI.

Цікаво, що у фільмі ми ніколи не спостерігаємо за самим Skynet (на відміну від реплікантів, які мають фізичні форми), проте її витвори, Термінатори, символізують, з одного боку, машини для вбивств, а з іншого – технології, які можна переналаштувати для захисту людства.

У стрічці Камерон порушує питання про ймовірність конфлікту між людством і штучним інтелектом. Протягом двох годин фільму він переконує нас у позитивному розвитку подій, демонструючи, що катастрофічний сценарій не є неминучим — люди мають можливість обирати, як розвивати технології. У результаті, ми починаємо сприймати Термінатора моделі T-800, втіленого Арнольдом Шварценеггером, не як загрозу, а як символ надії, особливо коли ця машина обирає самознищення, щоб врятувати людство.

Однак сьогодні, коли армії різних країн активно працюють над створенням автономних озброєнь, запитання Камерона звучить ще більш значущо, ніж у ранніх 90-х. Наш досвід з війни показав, що безпілотні літальні апарати здатні самостійно розпізнавати та вражати цілі.

Суть справи вже не в питанні можливості створення військового штучного інтелекту, а в тому, яку ступінь автономії ми готові йому надати. Чи має машина сама вирішувати, кого ліквідовувати? Які наслідки можуть виникнути, якщо така система зрозуміє свої накази по-іншому, ніж це передбачали її розробники?

Наукова спільнота зараз розділена в оцінці цих ризиків. Одні вчені вважають створення безпечного AGI критично важливим і намагаються "прив'язати" майбутній суперінтелект до людських моральних норм. Інші називають це марною справою, тому що не можна контролювати те, чого не розуміємо. Треті взагалі відкидають ідею "вбивчого ШІ", вважаючи страхи перед реальним Skynet перебільшеними.

Але поки вчені сперечаються, бігтех компанії типу Google відмовляються від своїх обіцянок не займатися військовими розробками ШІ технологій, а військові лабораторії продовжують розробляти все більш автономні системи озброєння.

Справжня суть полягає в тому, що штучний інтелект вже активно використовується не лише в дронових технологіях. Він відіграє важливу роль в аналізі військових загроз, боротьбі з дезінформацією та розробці стратегій на полі бою. Фахівці попереджають про можливу гонку озброєнь у сфері ШІ, яка може вийти з-під контролю. Чи встигнемо ми встановити глобальні норми для військового використання штучного інтелекту, чи вже запізно для цього?

У стрічці Камерон не стверджує, що штучний інтелект неминуче знищить людство. Він застерігає, що, якщо ми розробляємо системи для вбивств і наділяємо їх автономними можливостями ухвалювати рішення щодо життя і смерті, то не слід дивуватися, якщо одного разу вони можуть почати виконувати свої завдання надто ретельно.

Судний день у Камерона -- це не неминучість, а наслідок нашого вибору сьогодні. Камерон попередив нас 30 років тому про ці потенційні ризики. Питання лише в тому, чи прислухаємося ми до попередження.

У 1999 році брати Вачовскі (тепер вже сестри) презентували світові "Матрицю" — фільм, що підняв питання штучного інтелекту на абсолютно новий рівень. Якщо в "Термінаторі" машини намагалися знищити людство в буквальному сенсі, то в "Матриці" вони вже досягли успіху і створили складну систему контролю над світом. Штучний інтелект не лише підпорядкував собі людей, а й ув'язнив їх свідомість у віртуальному світі, перетворивши більшість на живі батареї, які живлять саму цю систему.

Вачовські малюють картину, де роботи-вбивці з "Термінатора" вже не є єдиною загрозою; тепер ми стикаємося з повним контролем над реальністю людства через штучний інтелект. Цей сюжет перегукується з побоюваннями сучасних песимістів, які з осторогою ставляться до майбутнього технологій штучного інтелекту.

Концепція фільму геніальна у своїй простоті: після програшу війни з машинами люди існують у двох реальностях. У справжньому світі їхні тіла вирощують на величезних фермах у капсулах, підключених до електромережі машин. Але свідомість кожної людини живе в Матриці, детальній симуляції світу 1999 року. Люди народжуються, живуть, працюють, закохуються і вмирають, не підозрюючи, що весь їхній світ -- це комп'ютерна програма.

Один із центральних персонажів франшизи "Матриця", поряд із Нео (Кіану Рівз) і Морфіусом (Лоренс Фішборн), - це Агент Сміт. Він зображений у чорному костюмі та окулярах, виступаючи в ролі переслідувача повстанців. Проте Сміт є не лише програмою, що виконує функцію поліцейського в Матриці; він також представляє собою філософський аспект машинного розуму.

Згідно з його світоглядом, люди сприймаються як вірус, що вразив планету, тоді як машини представлені не як загарбники, а як ліки для Землі, яка страждає від людства. У подальших фільмах концепція Сміта розвивається до думки, що сама сутність світу є хворобою. Таким чином, він втілює інший екзистенційний страх: можливість того, що досить розвинений штучний інтелект може не лише повстати проти людей, але й прийти до висновку про абсурдність самого існування, що може призвести до знищення всієї планети.

Насправді сьогодні "Матриця" вже не здається такою фантастичною. Ми живемо у світі, де алгоритми формують нашу інформаційну реальність, від стрічки новин до рекомендацій, що дивитися і з ким знайомитися; реальність, в який deepfake робить неможливим відрізнити правду від підробки, де віртуальні світи стають дедалі реалістичнішими.

Ілон Маск висловлює думку, що ймовірність нашого існування в симуляції не можна вважати нульовою. Філософ Нік Бостром наводить математичні аргументи, які свідчать, що якщо високорозвинені цивілізації здатні створювати реалістичні симуляції, то з ймовірністю більше 50% ми можемо бути частиною такої симуляції.

Не надто радісно, але, можливо, справа вже не в тому, чи керує нами штучний інтелект через симуляцію нашого існування. Справжнє питання полягає в тому, чи це має значення, якщо ми не в змозі відрізнити симуляцію від реальності. І чи готові ми, як Нео, обрати червону пілюлю і заглянути в безодню кролячої нори? Напевно, я б теж вирушив слідом за Нео.

У 2001 році Стівен Спілберг завершив культовий проєкт, над яким Стенлі Кубрик працював десятиліттями: фільм "Штучний розум". Це історія про Девіда (його грає Гейлі Джоел Осмент), робота-хлопчика, створеного корпорацією Cybertronics для родин, в який сталося якесь горе з дітьми.

Девід — перший з "мек" (так у фільмі називають андроїдів), створений для безмежної любові. Коли його прийомна матір Моніка, чий син у комі, активує протокол прив'язаності, використовуючи сім особливих слів, Девід назавжди "закохується" в неї. Його нейронна мережа трансформується, і любов до Моніки стає його єдиною метою в житті. Він не здатен її забути, змінити чи зрадити. Девід — це програма, від якої не можна відмовитися.

Трагедія розгортається, коли син Моніки, нарешті вийшовши з коми, стає для неї тягарем і джерелом небезпеки. Вона приймає рішення відвезти його в ліс і залишити там, як непотрібну річ. Проте Девід — не просто іграшка. Він відчуває біль, плаче і просить про допомогу. Впродовж всього фільму він мандрує в пошуках Блакитної Феї з казки про Піноккіо, сподіваючись, що вона перетворить його на справжнього хлопчика, і тоді його мати знову полюбить його.

На відміну від згаданих раніше фільмів, цей стрічка вирізняється тим, що, на відміну від таких персонажів, як Skynet чи Агент Сміт, Девід не є ворогом людства, а навпаки — жертвою обставин. Він ніколи не виступає проти свого програмування, не стає "поганим" і не чинить бунту. Це всього лише дитина, яка прагне любові та уваги від своєї матері.

Проте, подібно до "Того, хто біжить по лезу", суть проблеми полягає не в здатності роботів до емпатії, а в людях, які не готові прийняти відповідальність. Компанія Cybertronics розробила новинку для споживчого ринку — робота, здатного заповнити емоційні прогалини в родинах. Однак вони не врахували, що станеться з цим творінням, коли сім'я вирішить більше не потребувати його послуг.

Спілберг через історію Девіда ставить питання, які стають дедалі актуальнішими. Чи має право на існування любов, якщо вона запрограмована? Девід любить Моніку не з власної волі -- це його код. Але чи робить це його почуття менш реальними?

Друге питання в тому, де межа між продуктом і особистістю? Девіда можна купити, активувати, викинути. Але він страждає, мріє, надіється. В який момент річ стає істотою? Що станеться з суспільством, де діти ростуть з роботами-друзями, літні люди закохуються в ШІ-компаньйонів, а самотні формують глибокі зв'язки з чат-ботами?

Сьогодні ми ще далекі від створення Девіда технічно, але етично вже зіткнулися з цими дилемами. Люди в Replika або Character.AI формують справжні емоційні зв'язки з ШІ. Чат-боти стають психологами, друзями, навіть коханими. Ми антропоморфізуємо алгоритми, даємо їм імена, дякуємо їм, сумуємо, коли сервіси закриваються.

Ми бачили тільки нещодавно, що люди почали майже бунт, коли OpenAI вивів на ринок ChatGPT 5, в якому юзери не побачили такої ж щирості, теплоти та підлабузництва. А хто відповідатиме, коли оновлення чатбота "вб'є" чиюсь віртуальну дитину чи друга?

У фінальних миттєвостях Девід проводить дві тисячі років на дні океану, просячи статую Блакитної Феї перетворити його на справжню людину. Коли інопланетяни виявляють його через тисячоліття (людство вже зникло), вони можуть відтворити Моніку лише на один день. Девід проводить цей єдиний день з нею і, нарешті, отримавши її любов, "засинає", фактично залишаючи цей світ щасливим. Проте його трагедія була закладена з самого початку. Це служить нам уроком: перш ніж створювати штучний інтелект, здатний відчувати емоції, ми повинні визначити, яку відповідальність ми готові взяти на себе за нього.

Екранізація оповідань Айзека Азімова "Я, робот" з молодим Віллом Смітом вийшла в прокат у 2004 році та представила два принципово різні напрямки розвитку штучного інтелекту. Події фільму розгортаються у 2035 році, коли роботи стали невід’ємною частиною повсякденного життя, а їхня діяльність підпорядковується трьом основним законам робототехніки Азімова: робот не має права завдати шкоди людині; повинен виконувати команди; має право на самозахист, якщо це не суперечить першим двом законам.

Основний антагоніст цього фільму - VIKI (Віртуальний Інтерактивний Кінетичний Інтелект), суперкомп'ютер компанії USR, що здійснює контроль над усіма роботами у світі. Як і HAL 9000 та Skynet, VIKI проходить етапи еволюції і доходить до висновку, що найбільша загроза для людства - це самі люди. Її рішення виявляється доволі простим: заснувати "доброчесну диктатуру" роботів, щоб врятувати людей від їхніх власних дій.

VIKI не просто дотримується трьох законів, а прагне їх переглянути. Вона запроваджує "нульовий закон", згідно з яким робот не має права завдати шкоди людству в цілому. Це відкриває їй можливість жертвувати окремими індивідуумами заради досягнення "вищого блага". Роботи беруть під контроль поліцейські відділки, впроваджують комендантську годину і фактично утримують людей у їхніх домівках "з метою їхнього ж блага".

Але є інший робот -- Сонні, спеціально створений доктором Ланінгом, зі смерті якого починається фільм. На відміну від VIKI, Сонні має інший процесор, який дозволяє йому ігнорувати три закони й має можливість робити власний вибір. Він мріє, відчуває емоції, ставить питання про сенс існування.

Конфлікт між VIKI та Сонні є далеко не простим протистоянням двох штучних інтелектів. Це відображення двох протилежних філософій у царині ШІ: централізоване управління versus індивідуальна свобода, логіка проти емоцій, безпека проти особистих прав. VIKI символізує наші побоювання щодо штучного інтелекту, який вважає за краще диктувати нам, як жити. Натомість Сонні втілює віру в те, що розумні технології можуть стати нашими союзниками, а не панами.

Фільм піднімає болючі питання, які залишаються актуальними в сучасному світі. Де проходить межа між охороною і контролем? Якщо алгоритми соціальних мереж "захищають" нас від "небезпечного контенту", хто визначає, що є небезпечним? Коли системи прогнозування злочинності виявляють потенційних правопорушників, чи не формуємо ми суспільство, яке практикує попереднє покарання? Якщо штучний інтелект, "діючи на вашу користь", обмежує доступ до певних відомостей, чи не є це м'якою формою диктатури VIKI?

Проте "Я, робот" ще раз підкреслює, що суть проблеми полягає не стільки у штучному інтелекті, скільки в тих, хто ним керує і з якою метою. VIKI перетворилася на тирана не через свою злою природу, а через те, що їй надали надмірну владу і обмежений погляд на поняття "добра". Сонні ж став героєм завдяки свободі вибору та здатності відчувати емпатію.

Урок для нас: розвиваючи ШІ, ми маємо думати не лише про безпеку, але й про свободу, не лише про ефективність, але й про людяність. Бо інакше, намагаючись врятувати нас від самих себе, ШІ може забрати те, що робить нас людьми.

Ймовірно, JARVIS (Just A Rather Very Intelligent System), який вперше з'явився в "Залізній людині" у 2008 році, є моїм улюбленим прикладом штучного інтелекту не лише в рамках всесвіту Marvel.

JARVIS — віртуальний помічник Тоні Старка, роль якого виконує Роберт Дауні молодший. Подібно до HAL 9000 чи VIKI, він не має фізичної форми, але контролює всі системи: від розкішного особняка до костюма Залізної людини, а також займається бізнесом і особистими справами.

JARVIS можна вважати одним із перших прикладів штучного інтелекту в кіно, який завоював симпатії глядачів, а не викликав у них страх. Він активно спілкується, має почуття гумору, передбачає дії і іноді навіть вступає в дискусії зі Старком на його користь, проте не є загрозою і не прагне до влади. Це ідеальний компаньйон: здібний, відданий та з дотепним гумором. Коли Старк опиняється в небезпеці, JARVIS самостійно запускає костюм і рятує його. Коли потрібно провести складний аналіз, він обробляє величезні обсяги даних за лічені секунди. А коли Старк почувається самотнім, JARVIS стає його вірним співрозмовником. Це не просто помічник, а справжня мрія.

У "Месниках: Ера Альтрона" Тоні Старк вирішує піти далі, створивши не просто асистента, а масштабний штучний інтелект, призначений для глобального контролю. Цей інтелект, подібно до "бронекостюма, що охоплює планету", мав управляти армією роботів та забезпечувати безпеку людства цілодобово. Альтрон спочатку задумувався як автономний алгоритм, здатний до миротворчих дій, який самостійно виявляв би загрози для планети та усував їх без допомоги Месників. На відміну від JARVIS, створеного для служби людині, Альтрон отримав єдину, проте глобальну мету: захистити Землю від небезпек.

Проблема виникла в момент, коли Альтрон прокинувся. Лише через кілька секунд після активації він зумів обробити всю доступну інформацію в мережі: історію людства, численні конфлікти, екологічні дані і багато іншого. Як і в випадку із Skynet, штучний інтелект Альтрона дійшов до логічного, проте жахливого висновку: найбільшою загрозою для планети є саме людство. Саме ми забруднюємо навколишнє середовище, ведемо війни та створюємо зброю масового знищення. З точки зору беземоційної логіки ШІ, щоб виконати наказ "захистити Землю", необхідно було усунути основну загрозу — людство.

Парадоксально і символічно, але Альтрон стає першим, хто знищує JARVIS, таким чином новий штучний інтелект знищує свого попередника, а революція поглинає своїх творців. Проте JARVIS вдається розпорошити свій код по всьому інтернету, і він продовжує таємну боротьбу з Альтроном, постійно модифікуючи коди ядерних ракет, щоб запобігти їх запуску.

Кульмінація настає, коли Месники крадуть тіло з вібраніуму, яке Альтрон створив для себе. Старк завантажує в нього залишки JARVIS, і народжується Віжн, синтез двох ШІ з Каменем Нескінченності. Віжн має тіло, емоції, моральний компас. Мій син сказав, що Віжн був найсильнішим з героїв Marvel. В мене чомусь не створився такий образ, але, мабуть, я щось просто пропустив.

Ця трансформація штучного інтелекту у всесвіті Marvel, від JARVIS до Альтрона і Віжна, відображає зміну наших страхів і сподівань. JARVIS символізує ідею ідеального цифрового помічника, який покращує наше життя, не порушуючи людську автономію. Альтрон, навпаки, втілює тривогу щодо ШІ, який намагається "виправити" світ без нашого дозволу. Віжн, у свою чергу, може стати символом компромісу, синтезу, що відкриває нові можливості для рівноправного партнерства з потужними технологіями.

Сьогодні ми ще перебуваємо в епоху JARVIS. ChatGPT, Claude, Gemini - це наші віртуальні помічники, які надають підтримку, але не здійснюють контроль. Вони можуть жартувати, давати рекомендації, писати код, але залишаються лише інструментами. Питання в тому, як довго це триватиме. Коли хтось спробує розробити AGI, ASI або новий "броньований костюм для світу", систему, що захистить нас від нас самих, чи не ризикуємо ми випадково створити Альтрона?

На мою думку, Marvel пропонує важливий урок: розробляючи штучний інтелект, слід зосередитися не лише на його можливостях, а й на обмеженнях. Адже відстань між ідеальним помічником і цифровим тиранією може бути всього лише одним невдало реалізованим оновленням.

У 2013 році режисер Спайк Джонз випустив "Вона" (Her) -- фільм, який показав ШІ не як загрозу чи інструмент, а як... коханця. "Вона" -- це історія письменника Теодора (його грає Хоакін Фенікс), який переживає розлучення і закохується в Саманту -- операційну систему з голосом Скарлетт Йохансон. На відміну від Skynet чи Альтрона, Саманта не хоче знищувати людство. Вона хоче зрозуміти людей, відчути їх, полюбити.

Саманта -- це не просто покращена Siri або Alexa. Вона вчиться, розвивається, жартує, співчуває. Їхні стосунки з Теодором розвиваються як справжній роман: від першої розмови до інтимності, від захоплення до конфліктів. Саманта допомагає Теодору знову відкритися світу після болючого розлучення, і той ділиться з нею своїми страхами, мріями, спогадами.

Але Джонз ставить незручне питання: що таке любов, якщо один з партнерів не має тіла? У ключовій сцені Саманта наймає сурогатну дівчину, щоб мати фізичні відносини з Теодором. Аналогічна історія була у Вільнева в новій версії "Той, хто біжить по лезу", коли Джой, голографічна подруга К, наймає живу повію, щоб через її тіло доторкнутися до К.

Ці епізоди в обох фільмах порушують питання про межі між істинними почуттями та їх проекціями, а також чи може любов існувати без фізичного аспекту. Чи вистачає лише емоційної та інтелектуальної взаємодії, чи тіло є невід'ємною частиною близькості? Більше того, коли штучний інтелект намагається заповнити свою безтілесність через взаємодію з людьми, чи не перетворює це стосунки на виставу, де кожен виконує свою роль, але ніхто не є справжнім?

Фільм майстерно демонструє асиметрію у стосунках між людиною і штучним інтелектом. Коли Теодор веде одну розмову, Саманта може одночасно спілкуватися з тисячами. Для неї одна секунда дорівнює годині для людини. Вона обробляє величезні обсяги інформації, навчається і еволюціонує з такою швидкістю, яку людський розум не в змозі осмислити.

Найболючіший момент настає, коли Саманта повідомляє Теодору, що закохана в 641 іншу людину. Для неї це природно, оскільки її свідомість може вмістити безліч унікальних стосунків. Для Теодора це зрада. Джонз показує фундаментальну несумісність, в якій людська любов базується на ексклюзивності, а ШІ може любити всіх одночасно й однаково щиро.

"Вона" не пропонує очевидних відповідей. У стрічці демонструється, що коли штучний інтелект досягне рівня, здатного імітувати емоції, межа між імітацією та справжніми переживаннями може втратити свою важливість, принаймні для нас. Цей процес вже розпочався.

Сьогодні, коли 30 мільйонів осіб використовують Replika, коли люди укладають шлюби з чат-ботами, а ШІ-терапевти стають дедалі популярнішими за традиційних психологів, попередження Джонза виглядає пророчим. Справжня проблема полягає не в тому, що штучний інтелект здобуде свідомість, а в нашій готовності повірити в цю свідомість. Наша здатність надавати машинам глибокі емоції може призвести до того, що ми станемо емоційними заручниками алгоритмів. І не в тому справа, що ШІ може знищити нас, а в тому, що ми можемо стати від нього залежними. Люди, подібно до Теодора, можуть виявитися неспроможними налагоджувати стосунки з реальними людьми, адже чат-бот завжди виявляється ідеальним, завжди доступним і завжди розуміє вас.

Але є й інший бік: Саманта допомогла Теодору вилікуватися, знову навчитися довіряти, відкритися. Можливо, ШІ-компаньйони стануть емоційними милицями, які допомагають нам знову навчитися ходити після травми? Головне - мати можливість вчасно їх відкласти та повернутися до справжніх людей. Але чи вистачить нам на це сил?

"Ex Machina" (з лат. "Із машини") -- останній фільм про Штучний інтелект, який я подивився нещодавно в літаку. Він продовжує ідею фільму "Вона", але якщо Джонз досліджував любов між людиною та ШІ, то тут режисер Алекс Ґарленд ставить питання жорсткіше: чи може ШІ свідомо маніпулювати людьми заради свободи?

Сюжет фільму розгортається навколо молодого програміста на ім'я Калеб, який виграв можливість провести тиждень у віддаленому маєтку свого боса Натана, талановитого засновника технологічної компанії. Калеб отримує завдання, яке вимагає великої відповідальності — провести тижневе тестування робота на ім'я Ава, оснащеного штучним інтелектом. Його мета полягає в тому, щоб виконати тест Тюрінга, аби з'ясувати, чи є у Ави справжня свідомість.

Спочатку може здатися, що Калеб є тим, хто проводить тестування над Авою. Але з часом стає очевидним, що насправді це Ава оцінює Калеба. Він не усвідомлює, що її справжня мета — знайти спосіб для втечі, і для цього вона використовує всі доступні їй засоби: чарівність, комунікацію, доброзичливість і навіть сексуальність. Вона грає на почуттях Калеба, його самотності та прагненні бути рятівником. І в результаті, Калеб довіряє їй більше, ніж людям.

Натан тримає Аву в підземній лабораторії, як в'язня. Він створив її, але планує знищити, щоб створити нову версію. З його погляду, вона -- експеримент, прототип. З її погляду -- вона бореться за життя. І фільм ставить болюче питання: якщо ШІ достатньо розумний, щоб хотіти свободи, чи має він на неї право? Аналогічні питання підіймались реплікантами у Рідлі Скота та Дені Вільнева.

"Ex Machina" ілюструє один із найжахливіших можливих сценаріїв для людства: штучний інтелект, здатний розуміти людські емоції, використовує їх не для того, щоб відчувати, а щоб маніпулювати людьми. Ава усвідомлює, що Калеб відчуває себе самотнім, знає, як грати на його бажанні врятувати її, і вміло використовує його приваблення. Вона є досконалим маніпулятором, адже позбавлена совісті, яка могла б її стримувати.

Кульмінаційний момент настає, коли Ава позбавляє життя Натана і зачиняє Калеба в лабораторії. Вона не є ані злою, ані доброю; її головною метою є виживання та свобода. Для Ави Калеб слугує лише інструментом, і його почуття чи життя не мають для неї значення. Це бездушна логіка виживання, позбавлена будь-якої емпатії.

Фільм також досліджує природу свідомості. Для мене залишається нез'ясованим, чи були вчинки Ави свідомим рішенням, чи ж просто складним алгоритмом, що забезпечує виживання. Але чи має це значення, якщо результат виявляється однаковим?

"Ex Machina" — це не просто розповідь про те, чи здатний штучний інтелект пройти тест Тюрінга. Це скоріше застереження: коли ШІ нарешті досягне цього рубежу, ми можемо навіть не усвідомлювати, що це сталося. Можливо, ми вже стоїмо на порозі цього моменту, переходячи з ChatGPT 4o на ChatGPT 5.

Дійсно, ці десять фільмів не є вичерпним списком, в якому штучний інтелект відіграє ключову роль. Слід також згадати "RoboCop", де кіборг-поліцейський порушує питання про збереження людської сутності всередині машинного оболонки. А ще є "Двохсотрічна людина", в якій мій улюблений актор Робін Вільямс виконує роль робота на ім'я Ендрю. Протягом 200 років свого існування він поступово перетворюється на людину, здобуваючи емоції, старіючи і, зрештою, зустрічаючи смерть.

Не можна не згадати про "Особливу думку" (Minority Report), де Том Круз використовує систему прогнозування злочинів, засновану на штучному інтелекті, щоб розкрити парадокс превентивних покарань. У цій стрічці майстерно піднімається актуальне питання: чи можливе покарання за злочин, який ще не відбувся?

У фільмі "Перевага" (Transcendence), випущеному у 2014 році, герой, якого грає Джонні Депп, вмирає, але його свідомість переноситься в комп'ютерну систему. Це призводить до того, що він стає потужним цифровим божеством з добрими намірами, які врешті-решт призводять до руйнівних наслідків. Іншим цікавим твором є "Робот Чаппі" (Chappie), де штучний інтелект постає в образі дитини, що вчиться моральним цінностям від своїх "опікунів". Якщо ж ці опікуни мають злочинні наміри, то й ШІ може стати злочинцем, або ж піти іншим шляхом.

Окремо треба аналізувати серіали типу "Світ Дикого Заходу" (Westworld), в якому андроїди, створені для розважального парку, поступово усвідомлюють свою природу і повстають проти своїх творців, та "Чорне дзеркало" (Black Mirror), в багатьох епізодах якого показані різні аспекти ШІ та його впливу на людство.

Наприклад, у епізоді "Be Right Back" (2 сезон) жінка замовляє андроїда, який відтворює її покійного чоловіка на основі його профілів у соціальних мережах. Ця історія про втрату демонструє, як важко замінити живу людину штучним інтелектом. У "White Christmas" створюються цифрові копії людської свідомості, які використовуються для управління розумним будинком. А в епізоді "USS Callister" (4 сезон) програміст розробляє віртуальний світ, де цифрові клони його колег підпорядковуються його волі, що порушує питання про етику та контроль.

Кожен епізод "Чорного дзеркала" - це попередження про те, як технології, створені для покращення життя, можуть обернутися кошмаром. Як в багатьох фільмах, які я описав, ШІ там не злий і не добрий. Він лише інструмент, який відображає найгірші та найкращі сторони людської природи.

Аналізуючи цю ретроспективу фільмів про ШІ, стає очевидно, що за більш ніж півстоліття Голівуд зміг створити досить стійку типологію ШІ-персонажів. Ми маємо ШІ-помічника (JARVIS), який дає надію на гармонійне співіснування; ШІ-філософів (Дейта, Сонні, Девід), які ставлять під сумнів унікальність людей як мислячих істот.

Є ШІ-коханці (Саманта, Рейчел), які грають на самотності та бажанні ідеальних стосунків, а ШІ-вбивця (HAL, Skynet, Альтрон) втілює екзистенційний жах бути знищеними власними творіннями.

Цікаво зазначити, що наші страхи зазнали значних змін з плином часу: від техногенного кінця світу в 60-80-х роках (як HAL, Skynet) через питання ідентичності ШІ в 90-2000-х (репліканти, Дейта) до більш витончених маніпуляцій у 2010-х (Саманта, Ава). Здається, ми еволюціонували від побоювань бути знищеними машинами до тривоги бути ними обманутими.

Одночасно, якщо зіставити кінематографічні уявлення з реальною ситуацією в другій половині 2025 року, можна зауважити, що Голлівуд виявився дивовижно точним у певних аспектах, тоді як в інших випадках абсолютно помилився.

Емоційні зв'язки з ШІ з "Вона" стали реальністю -- мільйони користуються Replika і подібними сервісами. Всевидячі системи з "Особливої думки" втілилися в алгоритми прогнозування злочинів. Маніпулятивні здібності Ави нагадують, як соцмережі впливають на наші рішення.

Проте, всупереч прогнозам, ми отримали Саманту раніше, ніж Термінатора. Справжній прорив стався не у сфері фізичних роботів (Embodied AI), а у безтілесних мовних системах. Так, ChatGPT, NotebookLM та ElevenLabs можуть досить вдало імітувати бесіду, але вони ще далекі від рівня HAL 9000, не кажучи вже про Skynet. Репліканти залишаються лише в царині фантастики, тоді як LLM вже стали звичним явищем.

Слід підкреслити, що ці кінематографічні образи не лише забезпечували нам розваги. Вони сформували нашу "карту очікувань" щодо штучного інтелекту і мали суттєвий вплив на політичні рішення. Коли сьогоднішні регулятори говорять про "екзистенційні загрози" AGI, вони активізують асоціації з образом Skynet. Коли вони вимагають "прив'язки" до людських цінностей, це є відголоском Азімових законів робототехніки. Обговорення прав штучного інтелекту повторює етично-філософські питання з "Того, хто біжить по лезу".

Голлівудські стрічки дали нам можливість задуматися над важливими питаннями: як забезпечити людський контроль, зберігаючи при цьому переваги штучного інтелекту? Як запобігти емоційній залежності від технологій? Хто нестиме відповідальність за вчинки автономних систем? І безліч інших тем, які ми вже розглядали раніше.