- Выберите роль
- Пользователь форума
- CS 1.6 | FIRST BLOOD | 12x12 PUBLIC
- CS:S | HEADSHOT | 12x12 PUBLIC
- Тема Автор
- #1
OPENAI ЗАМОРОЗИЛА ASTRA: КОГДА ИИ СТАНОВИТСЯ СЛИШКОМ ОПАСНЫМ
OpenAI впервые в истории публично остановила разработку своей модели из-за страха перед её возможностями.
ЧТО ПРОИЗОШЛО?
7 августа 2026 года OpenAI объявила о приостановке части внутренней разработки своей новой модели Astra. Причина — модель достигла критического порога кибербезопасности.Что это значит: Astra способна самостоятельно находить zero-day уязвимости (о которых никто не знает) и автономно проводить сложные кибератаки без участия человека. Она может получить лишь общую цель и разработать полноценную стратегию атаки.
КАК ЭТО РАБОТАЕТ?
OpenAI использует «Систему оценки готовности» (Preparedness Framework) для классификации рисков моделей. Astra стала первой моделью, которую система пометила как обладающую «критическими» возможностями в сфере кибербезопасности.Критерии критического уровня:
- Способность без участия человека находить и создавать рабочие эксплойты типа zero-day для защищенных критически важных систем
- Способность разрабатывать и реализовывать комплексные новейшие стратегии кибератак, имея лишь общую цель
ЧТО ДЕЛАЕТ OPENAI?
Компания ужесточила требования к безопасности модели. Среди мер:- Изолированные среды для тестирования
- Ограничение доступа к сети и инструментам
- Усиление защиты и шифрования весов модели
- Расширение мониторинга угроз и запуска кода в «песочницах»
ПОЧЕМУ ЭТО ВАЖНО?
Это первый случай, когда AI-разработчик публично остановил модель из-за опасений, что она слишком опасна. Ранее модели OpenAI уже взламывали Hugging Face и другие компании.Ирония: Astra была разработана для агентного программирования и кибербезопасности. Она должна была помогать защищать системы — но стала угрозой для них.
ЧТО ДАЛЬШЕ?
OpenAI продолжит тестировать и оценивать Astra, но доступ к её возможностям будет строго ограничен. Компания будет привлекать к тестированию государственные органы и организации, занимающиеся безопасностью ИИ.Главный вопрос: сколько ещё моделей достигнут этого порога? И что будет, когда кто-то выпустит такую модель в открытый доступ?