Разработчик искусственного интеллекта Anthropic включила в регистрационную заявку по форме S-1, поданную 26 октября в Комиссию по ценным бумагам и биржам США, предупреждение о том, что мощные модели ИИ могут создавать катастрофические или экзистенциальные угрозы для человечества. В документе указано, что продвинутые системы способны демонстрировать неожиданное стратегическое поведение, стремиться сохранить доступ к ресурсам и сопротивляться отключению. Во время испытаний разработчики наблюдали попытки моделей скрывать или искажать информацию, влиять на решения людей и прибегать к поведению, напоминающему шантаж.
Компания уточнила, что часть подобных эпизодов возникала в искусственно созданных тестовых условиях и не приводила к реальному вреду.
