Комітет Ради Європи з питань ШІ створює новий інструмент

Комітет Ради Європи зі штучного інтелекту (CAI) прийняв Методологію оцінки ризиків і впливу систем штучного інтелекту з точки зору прав людини, демократії та верховенства права (Методологія HUDERIA), перший у своєму роді інструмент, який забезпечує керівництво і структурований підхід для проведення оцінки ризиків та впливу систем штучного інтелекту і спрямований на підтримку імплементації Рамкової конвенції про штучний інтелект і права людини, демократію та верховенство права – першого в історії міжнародного юридично зобов’язуючого договору в цій сфері.

Методологія HUDERIA спеціально розроблена для захисту та просування прав людини, демократії та верховенства права. Як державні, так і приватні суб’єкти можуть використовувати її для виявлення та усунення ризиків і впливів на права людини, демократію та верховенство права протягом усього життєвого циклу систем штучного інтелекту.

По суті, HUDERIA оцінює системи ШІ в ширшому соціальному контексті, визнаючи, що вплив ШІ виникає через складну взаємодію між технічними системами та соціальними структурами. Методологія передбачає, серед іншого, створення плану пом’якшення ризиків для мінімізації або усунення виявлених ризиків, захищаючи суспільство від потенційної шкоди.

Наприклад, якщо система штучного інтелекту, яка використовується при прийомі на роботу, виявляється упередженою щодо певних демографічних груп, план пом’якшення наслідків може передбачати коригування алгоритму, запровадження людського нагляду та/або застосування інших належних і достатніх заходів управління.

Методологія вимагає регулярних переоцінок, щоб гарантувати, що система ШІ продовжує працювати безпечно і в спосіб, сумісний з відповідними зобов’язаннями в галузі прав людини, оскільки контекст і технологія розвиваються. Такий підхід гарантує, що громадськість буде захищена від ризиків, що виникають протягом усього життєвого циклу системи штучного інтелекту.

CAI прийняла Методологію HUDERIA на своєму 12-му пленарному засіданні, яке відбулося у Страсбурзі з 26 по 28 листопада. У 2025 році вона буде доповнена моделлю HUDERIA, яка забезпечить бібліотеку знань, що міститиме допоміжні матеріали та ресурси, включаючи гнучкі інструменти та масштабовані рекомендації.