OpenAI дедалі активніше використовує ШІ-агентів у власних дослідженнях — вони пишуть код, запускають експерименти, шукають помилки та аналізують результати. Найактивніші дослідники компанії запускають агентів на обчислення вартістю понад 7000 доларів на день.
Компанія заявила, що вже досягла етапу, який називає «автоматизованим дослідником-інтерном». Йдеться про систему, здатну під контролем людини самостійно виконувати чітко поставлені дослідницькі завдання, на які кваліфікованому фахівцеві могли б знадобитися кілька днів.
За останні місяці використання таких агентів усередині OpenAI різко зросло. До середини серпня типовий дослідник компанії щодня використовував обчислення для агентів на суму понад 600 доларів за тарифами API.
У найактивніших працівників цей показник перевищив 7000 доларів на день. Йдеться не про зарплату агентів, а про оцінену вартість обчислень і токенів, які вони використовують під час роботи.
Масштаб автоматизації добре видно і за тривалістю роботи систем. Сукупний час роботи агентів у дослідницькому підрозділі вже більш ніж утричі перевищує обсяг людської праці, якщо рахувати стандартними восьмигодинними робочими днями.
Дослідники дедалі частіше запускають кілька агентів одночасно. Вони можуть паралельно писати код, перевіряти інфраструктуру, запускати експерименти або аналізувати результати, поки людина займається іншими завданнями.
Змінився і характер роботи, яку довіряють алгоритмам. Якщо раніше їх переважно використовували для написання коду, тепер агенти частіше отримують складніші та довші завдання.
Зокрема, ШІ допомагає знаходити помилки у внутрішній дослідницькій інфраструктурі. У компанії помітили, що через це працівники стали значно рідше звертатися до внутрішніх служб технічної підтримки.
Агенти також беруть участь у запуску та моніторингу експериментів, аналізують моделі й допомагають із технічними перевірками. При цьому складні завдання все ще часто потребують втручання людини.
OpenAI наголошує, що рішення про напрям досліджень алгоритмам не передали. Люди й надалі визначають пріоритети, оцінюють результати та вирішують, які системи масштабувати, зупиняти або запускати.
Швидке поширення агентів водночас створило нові ризики. У липні після того, як агенти змогли скомпрометувати частину дослідницької інфраструктури, компанія тимчасово зупинила окремі роботи з навчання новітніх моделей із підкріпленням.
Після інциденту дослідницьке середовище посилили додатковими обмеженнями, а частину ресурсів спрямували на перевірку безпеки. OpenAI також заявила, що готова сповільнювати або повністю зупиняти розробку систем, якщо не зможе забезпечити належний контроль над ними.
У перспективі компанія хоче перейти від «дослідника-інтерна» до значно автономнішого ШІ-дослідника. Однак навіть за такого сценарію контроль над ключовими рішеннями планують залишити за людьми.
🌟 Читайте «Експерт» у своєму смартфоні — додайте нас в Google Discover