CEO Microsoft: Штучний інтелект має бути під контролем людини

Генеральний директор Microsoft Сатья Надерла надіслав внутрішній меморандум своїм співробітникам, у якому висловив занепокоєння щодо темпів розвитку штучного інтелекту (ШІ). Він наголосив на необхідності тримати технологію під людським контролем та закликав до ширшого стороннього тестування, попередивши, що компанія повинна виділяти достатньо часу для забезпечення безпеки.

Безпека понад усе

«Зі зростанням ризиків, приділяйте стільки часу, скільки потрібно», — зазначив Надерла. «Інакше ви врешті-решт втратите ліцензію на діяльність». Його слова перегукуються з нещодавніми попередженнями від дослідників ШІ, які висловили побоювання щодо потенційної екзистенційної загрози від передових систем. Наприклад, генеральний директор Anthropic Даріо Амодей запропонував сповільнити розробку ШІ та дозволити зовнішній моніторинг прогресу компанії. Генеральний директор OpenAI Сем Альтман також підтримав ідею стороннього моніторингу та готовність сповільнити розгортання, якщо це необхідно для забезпечення відповідності та безпеки.

Три ключові напрямки розвитку

У своєму меморандумі Надерла виділив три основні напрямки:

1. Чіткі цілі проєктування: ШІ має залишатися під людським контролем і приносити широку користь суспільству. Це означає створення екосистеми, де процвітають як відкриті, так і закриті моделі, а темп інновацій ретельно контролюється. Надерла порівняв цей темп із часом, необхідним для дослідження та тестування перед випуском продукту, підкресливши, що більше зовнішнього тестування є корисним.
2. Контроль клієнтів: Для клієнтів ключовим є забезпечення контролю над їхніми унікальними знаннями та даними для створення власних циклів навчання без залежності від одного постачальника моделей. Рішення, як-от Foundry, надають можливості для створення корпоративних агентів, що працюють тривалий час, з вбудованими засобами безпеки та керування витратами.
3. Інфраструктурні переваги: Microsoft повинна отримати дозвіл на будівництво інфраструктури, демонструючи, як місцеві громади можуть відчути переваги від цієї діяльності. Надерла навів приклад дата-центру в Квінсі як зразок довгострокового спільного зростання компанії з громадою.

Практичні дії Microsoft

На завершення, Надерла підсумував, що ця політика охоплює три рівні: розробка передових технологій, забезпечення контролю з боку клієнтів та широке розповсюдження економічних вигод у громади та країни. Він підкреслив, що Microsoft може підтвердити свої слова реальними діями.

Ці заяви збігаються з нещодавнім випуском Microsoft 37-сторінкової чернетки «гуманістичних» правил поведінки ШІ. Мустафа Сулейман, керівник відділу ШІ в Microsoft, зазначив: «Те, про що ми довго теоретично турбувалися, стало дуже реальним».

Ключові висновки:

• Необхідність людського контролю над ШІ.
• Важливість стороннього тестування для забезпечення безпеки.
• Заклик до сповільнення розробки, якщо ризики зростають.
• Фокус на контролі даних клієнтами та їхній незалежності від постачальників моделей.
• Прагнення до широкого розповсюдження економічних вигод від розвитку ШІ.

Джерело: https://www.ithome.com/1/002/526.htm