CoreWeave пояснює: сучасна AI-інфраструктура — це вже не «залізо», а один гігантський комп’ютер

Автор ·

У розмовах про штучний інтелект ми зазвичай сперечаємося про моделі — GPT, Claude, Gemini. Але в новому подкасті The Neuron представниця CoreWeave Чен Голдберг нагадує: сьогодні вирішальним стає не лише сам модельний стек, а й те, на чому він працює. Інфраструктура для AI перестала бути «фоном» і дедалі більше схожа на один величезний суперкомп’ютер.

Голдберг, Executive Vice President of Product & Engineering у CoreWeave, пропонує просту ментальну модель: коли ви запускаєте завдання на сотнях GPU, це вже не «кластер карт», а єдина машина. Обчислення, мережі, сховище, охолодження, безпека та оркестрація мають діяти як злагоджений організм — інакше один повільний компонент гальмує все.

На прикладі нового багаторакового кластера з NVIDIA Vera Rubin NVL72 у CoreWeave добре видно, як швидко «додати ще GPU» перетворюється на складну системну задачу. Потрібно проєктувати мережу, живлення, охолодження, валідацію, а також слідкувати, щоб у кластері не виникали «відстаючі» вузли, які затягують час виконання великих тренувальних або inference-джоб.

Окрема тема розмови — як змінюється роль інженерів. Голдберг жартує: якщо ви любите писати код, цілком можливо, що скоро більшу його частину за вас генеруватимуть моделі. У CoreWeave одна людина змогла зробити за три тижні те, що раніше оцінили б у рік роботи — завдяки новим інструментам і агентам. Це не означає кінець професії, але точно означає зміну її змісту: менше «ручного» коду, більше системного мислення, інтеграції та контролю якості.

Ще один важливий зсув — поява агентів, які ламають звичні хмарні припущення. Якщо запит до чат-бота живе секунди, то агент може працювати годинами, робити сотні викликів, погіршувати свою поведінку з часом і потребувати інфраструктури, яка вміє його спостерігати, «лікувати» й покращувати на льоту. Це зовсім інші вимоги до моніторингу, безпеки й планування ресурсів.

Попри нові підходи, Kubernetes, за словами Голдберг, ніхто не «поховав»: понад 90% AI-навантажень CoreWeave досі працюють на ньому. Але модель ресурсів має еволюціонувати під щільно зв’язані AI-задачі, де важлива не тільки кількість GPU, а й топологія, латентність, спільний доступ до пам’яті та даних.

Чому це важливо

Для України ця дискусія — не абстрактна. Якщо ви будуєте AI-продукти, запускаєте агентів чи плануєте власні кластери, вам доведеться мислити не «сервером» чи «GPU в оренду», а цілим комп’ютером, розтягнутим на десятки або сотні вузлів.

  • Моделі більше не головні «зірки». Вони — лише один шар. Продуктивність і надійність визначаються тим, як зібрані мережі, сховище, безпека й оркестрація. Навіть найкращий GPT чи Claude «задихається» на повільному залізі.
  • Агенти вимагають іншої архітектури. Якщо ви експериментуєте з агентами, готуйтеся до довготривалих сесій, великої кількості викликів інструментів і потреби в прозорому логуванні та відкаті дій. Це вже ближче до операційних систем, ніж до «простого» API-виклику.
  • Безпека має йти за роботою агента. Доступи, обмеження, аудит — усе це повинно супроводжувати агента крізь усі сервіси, а не жити в одному «фаєрволі на вході».
  • Інженерам доведеться переосмислювати свою роль. На мій погляд, виграють ті, хто швидко навчиться використовувати генеративні інструменти як «співавторів» коду і зосередиться на архітектурі, системному дизайні та бізнес-логіці.
  • Локальне vs хмара. Паралельно інші гості The Neuron говорять про hybrid AI: частина інференсу на вашому ПК чи edge-сервері, частина — у великих хмарах. Для українських компаній це спосіб балансувати між вартістю, приватністю даних і якістю моделей.

Ключова думка, яку варто запам’ятати: чим більш автономними стають моделі й агенти, тим важливіше дивитися на AI як на систему, а не як на окремий API. Ви вже не «знімаєте GPU в оренду» — ви керуєте одним гігантським комп’ютером, навіть якщо фізично він розкиданий по дата-центрах.

Джерело: The Neuron (https://www.theneurondaily.com/p/coreweave-ai-infrastructure-chen-goldberg)