Гонка озброєнь з ШІ може стати “самогубством” для людства

Вплив Ілона Маска на обраного президента США Дональда Трампа може призвести до посилення стандартів безпеки штучного інтелекту (ШІ), вважає шведсько-американський вчений Макс Тегмарк, який також попередив, що будь-яка геополітична гонка озброєнь ШІ призведе до “гонки самогубців” для людства.

Виступаючи на веб-саміті Euronews Next у Лісабоні, Тегмарк, який є президентом Інституту майбутнього життя, сказав, що посилення регулювання безпеки ШІ в США також буде залежати від того, до кого прислухається Трамп.

Найбільше науковець побоюється не генеративного ШІ, такого як ChatGPT, а штучного загального інтелекту (AGI) – типу ШІ, який відповідає когнітивним можливостям людини або перевершує їх, і над яким ми можемо втратити контроль.

Що таке штучний загальний інтелект?

AGI, який технологічні компанії вважають “Святим Граалем”, був розрекламований Альтманом, серед інших технологічних діячів, які намагаються залучити фінансування.

Олтман визначає AGI як гіпотетичну форму машинного інтелекту, яка може вирішити будь-яку людську задачу методами, не обмеженими її навчанням. Олтман сказав, що це може “підняти людство” і не має на увазі захоплення влади машинами.

Генеральний директор OpenAI заявив, що AGI може з’явитися вже наступного року, в той час як багато інших прогнозують його появу в наступному десятилітті.

“Багато людей вхопилися за бренд AGI заради хайпу і намагаються переосмислити його як те, що вони продають зараз, або те, що вони будують зараз, щоб зібрати гроші”, – сказав Тегмарк.

За його словами, первісне визначення ШІ датується 1950-ми роками і визначає його як ШІ, який може виконувати всю людську роботу, тобто ШІ може замінити людей-працівників, а також розробляти і будувати самі ШІ-машини.

Гонка озброєнь ШІ

За словами Тегмарка, крім корпоративної гонки ШІ, існує ще й гонка озброєнь ШІ.

“У Сполучених Штатах відбувається гонка озброєнь між різними компаніями, і єдиний спосіб зупинити її – це, звичайно, національні стандарти безпеки США”, – сказав він.

“Моє бачення успіху тут набагато простіше. Це те, що китайці вирішили запровадити національні стандарти безпеки в Китаї, щоб запобігти заподіянню шкоди їхніми китайськими компаніями. Ми, американці, просто запроваджуємо національні стандарти безпеки в США не для того, щоб заспокоїти Китай, а просто для наших власних цілей”.

Як тільки це теоретично станеться, США і Китай матимуть стимул підштовхнути своїх глобальних союзників приєднатися до них.

“Я насправді досить оптимістично налаштований щодо того, що ми отримаємо [стандарти безпеки] в усьому світі. І тоді ми увійдемо у справді чудову фазу людської історії, коли настане епоха неймовірного достатку і процвітання, коли ми матимемо всі ці дивовижні технології”, – сказав він.

“Компанії зможуть впроваджувати інновації, які допоможуть вилікувати рак, ліквідувати бідність і непотрібну смертність на дорогах, а також всі ті чудові речі, про які ми чуємо від людей, підприємців”, – сказав він.