Google DeepMind заснувала інститут, який фокусується на безпечному просуванні загального штучного інтелекту.

Євгеній Демківський Автор новин видання "Межа" та гік. Пишу про технології, кіно та ігри. Можливо, про ігри з трохи більшою пристрастю.

Google DeepMind оголосила про відкриття DeepMind Institute – платформи, присвяченої вивченню безпечного прогресу загального штучного інтелекту, його впливу на суспільство та потенційних методів регулювання.

Новий інститут покликаний об'єднати науковців з Google, Google DeepMind та ширшої академічної спільноти. Автори підкреслюють, що питання майбутнього штучного інтелекту загального призначення (AGI) не можуть вирішувати тільки технологічні компанії; до обговорення повинні приєднатися також урядові структури, фахівці в галузі гуманітарних наук, мистецтв та представники суспільства.

AGI називають систему, яка матиме весь набір когнітивних здібностей людського мозку. Сучасні моделі ще можуть помилятися у простих завданнях і не демонструють достатньої послідовності та творчості, однак у DeepMind очікують, що ці обмеження незабаром можуть зникнути.

Інститут очолили співзасновник DeepMind Шейн Легг, президент Google з досліджень, лабораторій, технологій і суспільства Джеймс Маніка та голова Google DeepMind Деміс Хассабіс. Легг також став головним редактором платформи.

Разом із запуском інститут опублікував чотири матеріали. Вони присвячені економічній політиці в епоху AGI, збереженню зрозумілого для людей процесу міркування моделей, принципам суспільного розвитку та системі оцінювання передових моделей ШІ.

Дослідники Рохін Шах та Анка Драган попереджають, що майбутні моделі можуть перейти до ефективніших, але непрозорих способів міркування. Це ускладнить виявлення обману, прихованих цілей та спроб обійти обмеження. Вони пропонують оцінювати прозорість моделей, перевіряти методи їхнього навчання та зберігати архітектури, які дозволяють аналізувати ланцюжок міркувань.

Деміс Хассабіс висунув ідею створення в США органу, відповідального за стандартизацію передових технологій штучного інтелекту. На початковому етапі розробники мали б можливість добровільно надавати свої моделі для перевірки за 30 днів до їхнього запуску. З часом, проходження таких тестів могло б стати обов'язковою вимогою для виходу моделей на ринок США.

Перед проведенням перевірок пропонується внести оцінку ризиків у сферах кібербезпеки, біобезпеки та інших небезпечних галузях, а також виявлення можливих ознак шахрайства та обходу систем захисту. У разі, якщо заходи безпеки не зможуть встигнути за швидким розвитком технологій, організація матиме право рекомендувати уповільнити розробку новітніх моделей для забезпечення безпеки.

Матеріали DeepMind Institute відображають позиції окремих авторів і не вважаються офіційною позицією Google. Платформа допускає суперечливі погляди та перегляд висновків у міру появи нових даних.