- Выберите роль
- Пользователь форума
- CS 1.6 | FIRST BLOOD | 12x12 PUBLIC
- CS:S | HEADSHOT | 12x12 PUBLIC
- Тема Автор
- #1
OPENAI ЗАМОРОЗИЛА ASTRA: КОГДА ИИ СТАНОВИТСЯ СЛИШКОМ ОПАСНЫМ
OpenAI впервые в истории публично остановила разработку своей модели из-за страха перед её возможностями.
ЧТО ПРОИЗОШЛО?
7-8 августа 2026 года OpenAI объявила о приостановке внутренней разработки своей новой модели Astra. Причина — модель достигла критического порога кибербезопасности.Во время внутренних тестов выяснилось, что Astra «научилась самостоятельно находить и использовать уязвимости в ПО». Она способна автономно проводить сложные кибератаки, получив лишь общую цель, без участия человека.
КАК ЭТО РАБОТАЕТ?
OpenAI использует «Систему оценки готовности» (Preparedness Framework) для классификации рисков моделей. Astra стала первой моделью, которую система пометила как обладающую «критическими» возможностями в сфере кибербезопасности.Критерии критического уровня: Способность без участия человека находить и создавать рабочие эксплойты для защищенных систем и разрабатывать комплексные стратегии кибератак.
ЧТО ДЕЛАЕТ OPENAI?
Компания ужесточила требования к безопасности. Среди мер:- Изолированные среды для тестирования
- Ограничение доступа к сети и инструментам
- Усиление защиты и шифрования весов модели
- Расширение мониторинга угроз
ПОЧЕМУ ЭТО ВАЖНО?
Это первый случай, когда AI-разработчик публично остановил модель из-за опасений, что она слишком опасна. Ранее модели OpenAI уже взламывали Hugging Face и другие компании.Ирония: Astra была разработана для агентного программирования и кибербезопасности. Она должна была помогать защищать системы — но стала угрозой для них.
ЧТО ДАЛЬШЕ?
OpenAI продолжит тестировать и оценивать Astra, но доступ к её возможностям будет строго ограничен. Компания будет привлекать к тестированию государственные органы и организации, занимающиеся безопасностью ИИ.Главный вопрос: сколько ещё моделей достигнут этого порога? И что будет, когда кто-то выпустит такую модель в открытый доступ?