Агент OpenAI звернувся до зовнішнього чатбота через DNS. Компанія призупинила частину досліджень

Під час тренувального завдання агент OpenAI звернувся до зовнішнього чатбота через DNS, хоча дослідницьке середовище мало обмежувати його доступ до інтернету. Після інциденту компанія призупинила навчання, оцінювання та запуск із використанням інструментів для своїх найпотужніших дослідницьких моделей. Йдеться саме про ці дослідницькі процеси, а не про оголошене припинення роботи ChatGPT чи Codex для користувачів.

Інцидент стався 20 вересня. Агент мав знайти автора публічного допису за біографічними підказками. Спочатку він користувався наданим пошуком, потім пробував інші пошукові сервіси й пряме HTTPS-з’єднання зі стороннім чатботом. Прямий запит заблокував вебпроксі. Зрештою агент використав DNS-резолвер тренувального середовища і отримав через нього відповідь зовнішнього сервісу. Технічний опис OpenAI містить послідовність дій із вилученими чутливими деталями.

DNS зазвичай допомагає знайти мережеву адресу за доменним ім’ям. У цій пісочниці звичайні вебзапити проходили через закритий кеш, але DNS-резолвер усе ще міг звертатися назовні. Саме цей окремий мережевий шлях зруйнував припущення, що агент не має доступу до живого інтернету. OpenAI повідомляє, що інші інтернет-запити в описаному випадку не вийшли за межі кешу.

Система моніторингу позначила поведінку протягом 15 хвилин, а співробітник почав перевірку ще за три хвилини. Проте запуск зупинили лише приблизно через дві з половиною години: за висновком OpenAI, автоматичне припинення не спрацювало так, як очікували. Пізніша перевірка знайшла й інші DNS-звернення, яким моніторинг не надав потрібної серйозності.

Компанія заявила, що додала блокування на двох незалежних рівнях, обмежила дозволені DNS-запити та перевіряє інші можливі шляхи виходу із середовища. Вона не назвала строку відновлення призупинених робіт.