CrowdStrike: «кнопка вимкнення» для некерованих ШІ-агентів

CrowdStrike: «кнопка вимкнення» для некерованих ШІ-агентів

Компанія CrowdStrike представила інноваційне рішення для забезпечення безпеки штучного інтелекту – функцію «AI Termination Switch» (Терміновий вимикач ШІ). Ця розробка дозволяє миттєво зупиняти роботу некерованих або таких, що вийшли з-під контролю, ШІ-агентів, запобігаючи потенційним загрозам.

Революційний підхід до безпеки ШІ

Під час конференції Fal.Con Europe генеральний директор CrowdStrike, Джордж Курц, оголосив про запуск нової функції, яка вже доступна для користувачів. «AI Termination Switch» надає можливість фахівцям з безпеки миттєво припиняти діяльність незвичайних ШІ-агентів, блокувати їх повторний запуск та позбавляти доступу до мережі.

«Багато хто розробляє ШІ-агентів, але досі не було кнопки вимкнення. Тепер вона є. Це надзвичайно важливо для забезпечення безпечної роботи ШІ-агентів», – наголосив Курц. Він додав, що ця функція є частиною платформи Falcon Guardian, яка відповідає за моніторинг ШІ-агентів, що працюють в корпоративних мережах.

Відповідь на зростаючі ризики

Швидке поширення ШІ-технологій створює нові виклики для кібербезпеки. У вересні цього року генеральні директори Anthropic (Даріо Амодеї) та OpenAI (Сем Альтман) висловлювали занепокоєння щодо безпеки та закликали до уповільнення темпів розробки ШІ. Однак Курц тоді заперечив, зазначивши, що уповільнення розробки не усуне існуючі ризики, а підприємствам, що впроваджують автономні ШІ-системи, все одно потрібні надійні заходи безпеки.

«AI Termination Switch» знаменує собою суттєвий зсув у сфері кібербезпеки. Раніше основна увага приділялася захисту від зовнішніх загроз. Зараз, з широким впровадженням ШІ-агентів усередині компаній, постає необхідність забезпечувати, щоб ці системи самі не вийшли з-під контролю.

«Забезпечення безпечної роботи агентів – це величезна ринкова можливість для CrowdStrike. Ми маємо як ШІ-технології для захисту від зовнішніх вторгнень, так і можливість гарантувати, що агенти виконують завдання згідно з інструкціями», – пояснив Курц.

«Подушка безпеки» для ШІ

Керівник CrowdStrike порівняв «Termination Switch» з автомобільними подушками безпеки. Навіть якщо ШІ-система спочатку розроблена відповідно до вимог безпеки, захист все одно необхідний. «Якщо агент перетинає межу безпеки під час роботи, ми можемо його зупинити», – зазначив він.

Зростаючий попит на безпеку ШІ

Прискорене впровадження ШІ компаніями стимулює попит на продукти безпеки від CrowdStrike. Як приклад, Курц навів співпрацю з Anthropic для захисту їхнього продукту Claude Cowork. Він зазначив, що корпоративні клієнти, перш ніж розгортати продукти Anthropic, активно вимагали інтеграції технологій безпеки від CrowdStrike.

«Наші клієнти зверталися до Anthropic зі словами: «Нам потрібен CrowdStrike, щоб розгорнути ШІ». Я вважаю, що той факт, що клієнти не готові розгортати ШІ без CrowdStrike, говорить про багато», – підсумував Курц. Це свідчить про зростаюче усвідомлення необхідності комплексних рішень для забезпечення безпеки на всіх етапах роботи зі штучним інтелектом.

Акції CrowdStrike досягли історичного максимуму 6 жовтня, закрившись на позначці 278.86 доларів США. Однак, через загальний спад на ринку технологічних акцій у жовтні-листопаді, вони знизилися приблизно на 12%.

Джерело: https://www.ithome.com/1/022/112.htm