Хуанг у подкасті All-In: безпека ШІ потребує інженерії, а не тривожних есе

Очільник Nvidia Дженсен Хуанг в інтерв'ю, опублікованому на ютуб-каналі All-In Podcast, розповів про безпеку штучного інтелекту, плани лабораторій та майбутнє галузі. За його словами, безпека залишається безумовним пріоритетом, але вибір між швидким прогресом і захистом суспільства є хибним.

Хуанг зауважив, що частина науковців робить прогнози без наукового підґрунтя. Зокрема, оцінку ймовірності «загибелі цивілізації» на рівні 10% він назвав штучно створеною тривогою. За його словами, подібні заяви регулярно не збігаються з реальністю: прогноз про повну заміну лікарів-радіологів за п'ять років не справдився, а автоматизоване зчитування знімків лише посилило потребу в цих фахівцях. Не підтвердилися й обіцянки, що за 6–12 місяців 90% коду писатиме алгоритм, як і прогнози про скорочення половини початкових позицій чи втрату половини «білих комірців». Побоювання щодо катастрофічної небезпеки випуску GPT-2 чи Llama 3 також не реалізувалися.

Замість публічних тривожних есе Хуанг радить лабораторіям розвивати стабільну інженерну культуру та внутрішній контроль. Більшість реальних інцидентів, за його словами, трапляється саме у передових лабораторіях, бо лише вони мають відповідні обчислювальні потужності. Ані студенти, ані невеликі стартапи не здатні створити подібні ризики. Помилки варто усувати через пошук першопричин, моніторинг у реальному часі та «пісочниці».

Коментуючи плани китайської лабораторії, Хуанг зазначив, що концепція RSI (рекурсивне самовдосконалення) — це природна комбінація контекстного навчання, рефлексії, підкріпленого навчання, синтетичних даних та адаптації LoRA. Побоювання втратити контроль над RSI він вважає безпідставними, адже будь-який випуск продукту потребує верифікації, тестування на регресію та суворого оцінювання.

Світ потребує і закритих, і відкритих моделей, наголосив Хуанг. Пропрієтарні моделі він порівняв із пляшкованою водою: сама вода безкоштовна, але споживач платить за зручність і готовий сервіс. Відкриті моделі при цьому залишаються рушієм інновацій. За останні шість місяців у AI-native компанії інвестували 400 мільярдів доларів венчурного капіталу, і 80% цих проєктів використовують open-source моделі. Відкриті алгоритми, за словами Хуанга, забезпечують цифровий суверенітет, приватність даних і гнучкість розробки.

На думку очільника Nvidia, глобальна конкуренція полягає не в тому, де створено первинну модель, а в тому, хто ефективніше впровадить її у власну економіку. Він нагадав, що ключові наукові відкриття минулої промислової революції зробили європейські вчені, але масштабувати й соціально використати ці технології найкраще змогли США.

Під час запису подкасту до розмови в прямому ефірі приєднався Дональд Трамп. Він назвав заяви про загрозу знищення світу штучним інтелектом «містифікацією» та наголосив, що перемога в AI-гонці є критичним національним пріоритетом США. За його словами, обчислювальні дата-центри — це «нафта наступних 20–25 років», здатна відродити депресивні регіони. Трамп зауважив, що перешкоди з дозволами змушують американські компанії будувати потужності за кордоном, як-от проєкт Google у Фінляндії, і відзначив залучення 20 трильйонів доларів інвестицій за останній рік проти менш ніж 1 трильйона за попередні чотири роки.

Хуанг підтвердив, що технологічний бум створює нові робочі місця та вимагає розвитку енергетичної інфраструктури. Розробники, за його словами, мають бути чутливими до потреб місцевих громад під час будівництва дата-центрів у штатах, зокрема в Техасі.

Nvidia фактично виконує роль «банку інфраструктури ШІ». Компанія співпрацює з BlackRock і Goldman Sachs, інвестує у формати «земля, енергетика, оболонка» через проєкти на кшталт Cloverleaf, а співпрацю з Corning, Lumentum і TSMC планує на роки наперед. Замість обмеження ринку п'ятьма гіперскейлерами Nvidia підтримує регіональні хмарні компанії — Neoclouds, які швидше закуповують землі та потужності на місцях.

Оцінюючи стан технологій, Хуанг зазначив, що у вузьких сферах суперінтелект уже став реальністю. Модель Alpamo для автономного водіння працює на основі міркувань і демонструє аварійність у 10 разів нижчу за людську. Біомоделювання Nvidia (ESM2, OpenFold, Proteina Complexa) дозволяє віртуально синтезувати нові білки для Eli Lilly та Merck. Плани Ілона Маска побудувати фабрику Terafab площею 100 млн квадратних футів Хуанг назвав прикладом здатності реалізовувати надскладні інженерні завдання.

Щодо напівпровідникової літографії в Китаї Хуанг прогнозує появу власних передових технологій до 2030 року завдяки великим обсягам підготовки інженерних кадрів та здатності до масового виробництва.

Підсумок: майбутнє штучного інтелекту, за Хуангом, лежить у площині інженерної дисципліни, розбудови енергетичних потужностей та відкритої співпраці. Зменшення зайвого драматизму й залучення всіх галузей економіки до впровадження AI-інструментів він вважає шляхом до збереження технологічного лідерства.