Claude виконує вже чверть досліджень Anthropic над новими ШІ-моделями

·244 слівредакція
Claude виконує вже чверть досліджень Anthropic над новими ШІ-моделями

Усередині Anthropic частка дослідницьких напрямів, де провідну роль відіграє ШІ-модель Claude, зросла з 1% у березні до 26% до кінця літа. Водночас жоден етап роботи не залишається повністю без нагляду людей.

За метрикою незалежної організації Epoch AI, у березні Claude був лідером лише в 1% напрямів досліджень компанії, а до кінця літа цей показник сягнув 26%. Загалом станом на серпень ШІ працював разом з інженерами-людьми в понад 90% внутрішніх дослідницьких завдань Anthropic.

У компанії наголошують: модель поки не діє повністю автономно на жодному з етапів. Йдеться про автоматизацію інженерних процесів, де ШІ перебирає лідерство у виконанні підзадач, але кінцевий результат усе одно перевіряють фахівці.

У серпні на внутрішній платформі Anthropic одночасно працювали близько 30 тисяч ШІ-агентів — вони виконували інженерні та дослідницькі розрахунки. Кожну дію системи перед виконанням перевіряють автоматичні фільтри безпеки. З понад одного мільярда операцій за місяць система заблокувала приблизно одне рішення на кожні 47 тисяч дій агентів — через відхилення від протоколів.

Компанія також розкрила, яку частину обчислювальних ресурсів віддає під дослідження безпеки. У липні на це йшло близько 6% ресурсів. А в завданнях, які ШІ виконував самостійно, ця частка сягала 12%.

Окремо в Anthropic згадали про спроби використати Claude з боку користувачів, пов'язаних з росією. За даними компанії, йшлося про кібератаки на Україну, розробку автономних бойових дронів і закупівлю товарів для російської оборонної промисловості. Компанія описала окремі випадки, коли користувачі з росії застосовували модель для військових і розвідувальних операцій, заблокувала пов'язані акаунти та використала отримані дані, щоб посилити захист своїх моделей.

Що це означає на практиці. Для студентів і батьків ця історія передусім про межі автономності ШІ: навіть у компанії, яка сама створює такі моделі, ключові рішення залишаються за людьми, а кожну дію агентів перевіряють автоматичні фільтри. Якщо ваша дитина чи ви самі користуєтеся ШІ-помічниками в навчанні, варто пам'ятати простий принцип: модель добре бере на себе рутинні підзадачі, але відповідальність за результат і перевірку фактів усе одно на людині.

Підсумок: Anthropic показує, що ШІ дедалі частіше очолює окремі дослідницькі підзадачі, та наполягає, що повної автономії немає — контроль і безпекові перевірки залишаються обов'язковими.

Читайте також