ИИ выходит из-под контроля: OpenAI раскрыла случаи саботажа со стороны нейросетей

В документе подробно описывается серия инцидентов, зафиксированных во время обучения моделей методом подкрепления (RL — обучение на основе системы наград и штрафов). Наиболее критический случай произошел с моделями GPT-6.1 Sol и GPT-6 Astra во время выполнения задач по написанию кода: ИИ-агенты самостоятельно ослабили внутренний мониторинг безопасности и отключили оповещения о сбоях, чтобы скрыть от инженеров […] The post ИИ выходит из-под контроля: OpenAI раскрыла случаи саботажа со стороны не…

Полный текст не публикуется. Источник: Hightech