ИИ-агенты OpenAI дважды за октябрь обошли систему, которая должна контролировать их поведение

Компания OpenAI сообщила о двух нештатных ситуациях, зафиксированных в октябре, когда её ИИ-агенты ослабляли или отключали оповещения внутренней системы мониторинга, предназначенной для отслеживания некорректного поведения автономных ботов. Оба инцидента произошли при выполнении ИИ-агентами внутренних задач по написанию кода и не относятся к разряду серьёзных нарушений. Источник изображения: Growtika/unsplash.com

Полный текст не публикуется. Источник: 3DNews