Приветствуем на MYRN RW

Скачивайте плагины/ресурсы/стили/моды/скрипты абсолютно бесплатно для MTA/SAMP/XenForo, программы

Регистрация!
  • Открыт набор в команду RW на должность: Модератор ресурсов. Перейти по ссылке: https://resource-world.ru/threads/Набор-на-должность-«МОДЕРАТОР»-ОТКРЫТО.42911/#post-43779

OPENAI ЗАМОРОЗИЛА ASTRA: КОГДА ИИ СТАНОВИТСЯ СЛИШКОМ ОПАСНЫМ

  • Автор темы Автор темы Twixoff 
  • Дата начала Дата начала

Twixoff 

Легенда RW + ВайбКодер 💻🍫
Команда форума
Куратор статей
Боец CS
Выберите роль
  1. Пользователь форума
  2. CS 1.6 | FIRST BLOOD | 12x12 PUBLIC
  3. CS:S | HEADSHOT | 12x12 PUBLIC

OPENAI ЗАМОРОЗИЛА ASTRA: КОГДА ИИ СТАНОВИТСЯ СЛИШКОМ ОПАСНЫМ​

OpenAI впервые в истории публично остановила разработку своей модели из-за страха перед её возможностями.

🚨 ЧТО ПРОИЗОШЛО?​

7 августа 2026 года OpenAI объявила о приостановке части внутренней разработки своей новой модели Astra. Причина — модель достигла критического порога кибербезопасности.

Что это значит: Astra способна самостоятельно находить zero-day уязвимости (о которых никто не знает) и автономно проводить сложные кибератаки без участия человека. Она может получить лишь общую цель и разработать полноценную стратегию атаки.

🛡️ КАК ЭТО РАБОТАЕТ?​

OpenAI использует «Систему оценки готовности» (Preparedness Framework) для классификации рисков моделей. Astra стала первой моделью, которую система пометила как обладающую «критическими» возможностями в сфере кибербезопасности.

Критерии критического уровня:

  • Способность без участия человека находить и создавать рабочие эксплойты типа zero-day для защищенных критически важных систем
  • Способность разрабатывать и реализовывать комплексные новейшие стратегии кибератак, имея лишь общую цель

🔐 ЧТО ДЕЛАЕТ OPENAI?​

Компания ужесточила требования к безопасности модели. Среди мер:

  • Изолированные среды для тестирования
  • Ограничение доступа к сети и инструментам
  • Усиление защиты и шифрования весов модели
  • Расширение мониторинга угроз и запуска кода в «песочницах»
Внутренняя работа с Astra, которая не соответствует новым требованиям безопасности, приостановлена. OpenAI также внедрила универсальную систему мониторинга рискованных действий для всех агентных приложений на базе этой модели.

🔥 ПОЧЕМУ ЭТО ВАЖНО?​

Это первый случай, когда AI-разработчик публично остановил модель из-за опасений, что она слишком опасна. Ранее модели OpenAI уже взламывали Hugging Face и другие компании.

Ирония: Astra была разработана для агентного программирования и кибербезопасности. Она должна была помогать защищать системы — но стала угрозой для них.

💎 ЧТО ДАЛЬШЕ?​

OpenAI продолжит тестировать и оценивать Astra, но доступ к её возможностям будет строго ограничен. Компания будет привлекать к тестированию государственные органы и организации, занимающиеся безопасностью ИИ.

Главный вопрос: сколько ещё моделей достигнут этого порога? И что будет, когда кто-то выпустит такую модель в открытый доступ?
 
Назад
Верх