План OpenAI з’єднати суперінтелект з людськими намірами

0
2 359 views
План OpenAI з'єднати суперінтелект з людськими намірами

Суперінтелект – технологія, яка може революціонізувати людство, викликає одночасно трепет і занепокоєння. OpenAI, провідна дослідницька організація, вважає, що поява суперінтелекту ближче, ніж ми можемо собі уявити, можливо, вже в цьому десятилітті. Усвідомлюючи величезні можливості та ризики, пов’язані з цією технологією, OpenAI запустила амбітну ініціативу, спрямовану на те, щоб привести суперінтелект у відповідність до людських намірів.

Очікується, що технічні проблеми будуть вирішені протягом наступних чотирьох років

Проблема полягає в тому, щоб системи штучного інтелекту, які значно перевершують людський інтелект, залишалися узгодженими з нашими цінностями та цілями. Сучасні методи, такі як навчання з підкріпленням на основі зворотного зв’язку від людини, не підходять для застосування у випадку із суперінтеллектом. OpenAI визнає необхідність нових науково-технічних проривів для вирішення цієї критичної проблеми.

Щоб вирішити цю проблему, OpenAI створює автоматизованого дослідника вирівнювання, з можливостями, порівнянними з людським розумінням. Використовуючи передові системи ШІ для оцінки та нагляду за іншими системами ШІ, OpenAI прагне розробити масштабовані методи нагляду та узагальнення. Перевірка узгодженості систем ШІ включатиме автоматизацію виявлення проблемної поведінки та інтерпретацію внутрішньої роботи цих моделей.

Шлях до досягнення узгодженості суперінтелекту не позбавлений викликів. OpenAI планує провести стрес-тестування свого конвеєра вирівнювання, навмисно тренуючи моделі, що не працюють належним чином, і гарантуючи, що їхні методи можуть виявляти і пом’якшувати такі відхилення. Очікується, що пріоритети досліджень будуть змінюватися в міру того, як OpenAI буде глибше розуміти проблему, і співпраця з експертами з різних дисциплін буде мати вирішальне значення.

Спеціалізована команда OpenAI, що складається з провідних дослідників та інженерів машинного навчання на чолі з Іллею Суцкевером та Яном Лейке, прагне вирішити основні технічні проблеми, пов’язані з вирівнюванням суперінтелекту, протягом наступних чотирьох років. Хоча успіх не гарантований, їхній оптимізм ґрунтується на багатообіцяючих попередніх експериментах, вимірюваному прогресі та залученні блискучих умів у цій галузі.

Зусилля OpenAI не обмежуються створенням суперінтелекту. Вони продовжують підвищувати безпеку існуючих моделей ШІ і активно вирішують більш широкі суспільні проблеми, пов’язані зі штучним інтелектом. OpenAI вітає внесок видатних дослідників та інженерів у цю важливу справу, визнаючи важливість досвіду машинного навчання для пошуку рішень.