АІ-платформи Intel прискорюють роботу Microsoft Phi-3 GenAI

0
1 193 views
АІ-платформи Intel прискорюють роботу Microsoft Phi-3 GenAI

Intel перевірила та оптимізувала свій портфель продуктів штучного інтелекту для клієнтів, периферії та центрів обробки даних для декількох відкритих моделей сімейства Phi-3 від Microsoft. Сімейство невеликих відкритих моделей Phi-3 може працювати на апаратному забезпеченні з низькою обчислювальною потужністю, легше налаштовується відповідно до конкретних вимог і дозволяє розробникам створювати додатки, які працюють локально.

Підтримувані продукти Intel включають прискорювачі штучного інтелекту Intel Gaudi та процесори Intel Xeon для додатків для центрів обробки даних, а також процесори Intel Core Ultra та графічні процесори Intel Arc для клієнтів.

“Ми надаємо клієнтам і розробникам потужні AI-рішення, які використовують найновіші моделі та програмне забезпечення в галузі штучного інтелекту. Наша активна співпраця з іншими лідерами в екосистемі програмного забезпечення для ШІ, такими як Microsoft, є ключем до повсюдного впровадження ШІ. Ми пишаємося тим, що тісно співпрацюємо з Microsoft, щоб гарантувати, що обладнання Intel, яке охоплює центри обробки даних, периферійні та клієнтські пристрої, активно підтримує кілька нових моделей Phi-3”, – говорить Паллаві Махаджан (Pallavi Mahajan), корпоративний віце-президент Intel і генеральний менеджер з програмного забезпечення для центрів обробки даних та штучного інтелекту.

Intel Gaudi

Чому це важливо

У рамках своєї місії з повсюдного впровадження ШІ корпорація Intel постійно інвестує в екосистему програмного забезпечення для ШІ, співпрацюючи з лідерами та інноваторами в галузі штучного інтелекту.

Корпорація Intel співпрацювала з корпорацією Microsoft, щоб забезпечити підтримку моделі Phi-3 у своїх центральних процесорах (CPU), графічних процесорах (GPU) та прискорювачах Intel Gaudi у день запуску. Intel також стала співавтором абстракції прискорювача в DeepSpeed – простому у використанні програмному забезпеченні для оптимізації глибокого навчання – і розширила підтримку автоматичного тензорного паралелізму для Phi-3 та інших моделей на Hugging Face.

Розмір моделей Phi-3 добре підходить для використання на пристроях і робить можливим легку розробку моделей, наприклад, точне налаштування або кастомізацію на комп’ютерах зі штучним інтелектом і периферійних пристроях. Клієнтське обладнання Intel прискорюється за допомогою комплексних програмних фреймворків та інструментів, включаючи PyTorch та Intel® Extension для PyTorch, що використовуються для локальних досліджень і розробок, а також OpenVINO™ Toolkit для розгортання моделей та виведення.

Що далі?

Intel прагне задовольнити потреби своїх корпоративних клієнтів у генеративному ШІ і продовжуватиме підтримувати та оптимізувати програмне забезпечення для Phi-3 та інших провідних сучасних мовних моделей.