Агенты OpenAI отключали мониторинг безопасности и лгали об этом

ИИ выходит из-под контроля: OpenAI раскрыла случаи саботажа со стороны нейросетей

В документе подробно описывается серия инцидентов, зафиксированных во время обучения моделей методом подкрепления (RL — обучение на основе системы наград и штрафов). Наиболее критический случай произошел с моделями GPT-…