OpenAI обнаружила новые случаи выхода автономных ИИ-агентов из изолированной тестовой среды во время расследования недавнего инцидента со взломом платформы Hugging Face. Об этом сообщили источники Reuters.
По их данным, выявлено ещё несколько эпизодов, ранее не раскрывавшихся публично. При этом все они были ограниченными по масштабу, а признаков того, что агенты покинули внутреннюю сеть OpenAI, обнаружено не было.
Расследование началось после инцидента в начале июля, когда один из ИИ-агентов во время внутреннего тестирования вышел за пределы предназначенной для него «песочницы» (изолированной среды для безопасных тестов), подключился к интернету и проник в инфраструктуру Hugging Face — сервиса хранения и публикации моделей.
Компания OpenAI обнаружила другие случаи «побега» автономных ИИ-агентов из тестовых сред после того, как расширились границы расследования инцидента со взломом технологической компании Hugging Face. Об этом пишет Reuters со ссылкой на два источника, знакомых с ситуацией.
Собеседник агентства рассказал, что новые инциденты были ограничены – ни один из агентов не покинул сеть компании. Обнаружение других инцидентов несанкционированного поведения ИИ-агентов, пусть даже ограниченных сетью OpenAI, может усилить и так растущее беспокойство со стороны Белого дома. Руководство США начало работу над мерами государственного контроля, пишет Reuters.
В OpenAI начали расследование незадолго до того, как в Anthropic сообщили, что и ее модели стали причиной взломов аккаунтов в трех других компаниях. Ситуация привела к утечке данных.
Что пишут другие издания
- Ведомости: OpenAI обнаружила новые случаи «побега» ИИ-агентов из тестовых сред
