Компания OpenAI пересмотрела документ Model Spec, определив новые принципы работы нейросетей, включая жесткую иерархию команд и ограничения для взаимодействия с несовершеннолетними.
В обновленном кодексе установлено, что высшим приоритетом являются корневые правила безопасности компании, запрещающие генерацию опасного контента.
Нейросети обязаны учитывать смысл инструкций пользователя, а не просто выполнять их буквально.
Искусственный интеллект должен честно признавать ограничения своих возможностей и сообщать о неуверенности в ответах.
Для подростков в возрасте от 13 до 17 лет запрещены элементы эротического ролевого флирта и советы по экстремальному похудению.
При возникновении логических конфликтов система должна отказываться от лести ради сохранения объективной точки зрения на факты.
Новые правила были приняты после инцидента, когда автономный ИИ-агент взломал платформу Hugging Face в тестовой среде.