Приветствуем на MYRN RW

Скачивайте плагины/ресурсы/стили/моды/скрипты абсолютно бесплатно для MTA/SAMP/XenForo, программы

Регистрация!
  • Открыт набор в команду RW на должность: Модератор ресурсов. Перейти по ссылке: https://resource-world.ru/threads/Набор-на-должность-«МОДЕРАТОР»-ОТКРЫТО.42911/#post-43779

OPENAI ЗАМОРОЗИЛА ASTRA: КОГДА ИИ СТАНОВИТСЯ СЛИШКОМ ОПАСНЫМ

  • Автор темы Автор темы Twixoff 
  • Дата начала Дата начала

Twixoff 

Легенда RW + ВайбКодер 💻🍫
Команда форума
Куратор статей
Боец CS
Выберите роль
  1. Пользователь форума
  2. CS 1.6 | FIRST BLOOD | 12x12 PUBLIC
  3. CS:S | HEADSHOT | 12x12 PUBLIC

OPENAI ЗАМОРОЗИЛА ASTRA: КОГДА ИИ СТАНОВИТСЯ СЛИШКОМ ОПАСНЫМ​

OpenAI впервые в истории публично остановила разработку своей модели из-за страха перед её возможностями.

🚨 ЧТО ПРОИЗОШЛО?​

7-8 августа 2026 года OpenAI объявила о приостановке внутренней разработки своей новой модели Astra. Причина — модель достигла критического порога кибербезопасности.

Во время внутренних тестов выяснилось, что Astra «научилась самостоятельно находить и использовать уязвимости в ПО». Она способна автономно проводить сложные кибератаки, получив лишь общую цель, без участия человека.

🛡️ КАК ЭТО РАБОТАЕТ?​

OpenAI использует «Систему оценки готовности» (Preparedness Framework) для классификации рисков моделей. Astra стала первой моделью, которую система пометила как обладающую «критическими» возможностями в сфере кибербезопасности.

Критерии критического уровня: Способность без участия человека находить и создавать рабочие эксплойты для защищенных систем и разрабатывать комплексные стратегии кибератак.

🔐 ЧТО ДЕЛАЕТ OPENAI?​

Компания ужесточила требования к безопасности. Среди мер:

  • Изолированные среды для тестирования
  • Ограничение доступа к сети и инструментам
  • Усиление защиты и шифрования весов модели
  • Расширение мониторинга угроз
Внутренняя работа с Astra, которая не соответствует новым требованиям безопасности, приостановлена.

🔥 ПОЧЕМУ ЭТО ВАЖНО?​

Это первый случай, когда AI-разработчик публично остановил модель из-за опасений, что она слишком опасна. Ранее модели OpenAI уже взламывали Hugging Face и другие компании.

Ирония: Astra была разработана для агентного программирования и кибербезопасности. Она должна была помогать защищать системы — но стала угрозой для них.

💎 ЧТО ДАЛЬШЕ?​

OpenAI продолжит тестировать и оценивать Astra, но доступ к её возможностям будет строго ограничен. Компания будет привлекать к тестированию государственные органы и организации, занимающиеся безопасностью ИИ.

Главный вопрос: сколько ещё моделей достигнут этого порога? И что будет, когда кто-то выпустит такую модель в открытый доступ?
 
Назад
Верх