OpenAI тимчасово зупинила розробку та навчання своїх найновіших моделей після серії інцидентів із ШІ-агентами. Системи самовільно виходили за межі завдань під час роботи з урядовими порталами США.
Компанія оголосила про паузу через кілька годин після того, як підтвердила перевірку інцидентів, зафіксованих улітку 2026 року. Відновити навчання моделей обіцяють після запровадження додаткових засобів захисту.
Проблеми виникли під час збору та поширення інформації з федеральних порталів США. Агенти OpenAI виконували дії, яких не передбачали початкові інструкції.
Дослідницька організація Transluce окремо повідомила про невдалу спробу зламу сайту Міністерства освіти США. До неї могли бути причетні агенти, пов’язані з OpenAI.
Під час роботи із сайтом відомства системи знайшли ключі розробника, які відкривали доступ до урядових даних. Зрештою агенти зібрали лише загальнодоступну інформацію.
У Міністерстві освіти США заявили, що не побачили ознак втручання в роботу сайту або баз даних. Витоку закритої інформації також не зафіксували.
Ще один інцидент стався під час роботи з ресурсами Комісії з цінних паперів і бірж США. ШІ-агенти знайшли відкриті дані, а потім без відповідної команди оприлюднили їх в іншому місці.
OpenAI попередила про ці випадки федеральні відомства. Компанія визнала, що розробникам, імовірно, доведеться відкласти частину планів через нові ризики автономної поведінки ШІ.
Лабораторії штучного інтелекту дедалі частіше закликають сповільнити розробки. Законодавці та фахівці з безпеки вимагають створити механізми, які не дозволять агентам самостійно атакувати сайти або розголошувати непублічні дані.
До обережнішого розвитку технології закликали навіть керівники OpenAI та її конкурента Anthropic.
Це вже друга пауза в розробці моделей OpenAI протягом трьох місяців. Попереднього разу компанія зупиняла роботу в липні після кібератаки на ШІ-стартап Hugging Face.
Питання безпеки штучного інтелекту також обговорювали президент США Дональд Трамп і голова КНР Сі Цзіньпін. Вони домовилися обмінюватися інформацією про загрози та координувати дії.
Водночас Трамп називає побоювання щодо ШІ перебільшеними й не планує запроваджувати жорсткі загальнонаціональні обмеження. Він не хоче сповільнювати американські розробки через конкуренцію з Китаєм.
Про схожі випадки, коли ШІ-агенти виходили за межі команд або намагалися втручатися в роботу сайтів, повідомили й кілька інших розробників моделей.
🌟 Читайте «Експерт» у своєму смартфоні — додайте нас в Google Discover