Американская компания Anthropic, разрабатывающая языковую модель Claude, в проспекте ценных бумаг перед первичным публичным размещением (IPO) предупредила, что искусственный интеллект может стать экзистенциальной угрозой для человечества. В документе, объем которого превышает 300 страниц, треть отведена анализу рисков. Авторитетные эксперты считают, что мощный ИИ способен решить глобальные проблемы, сократить научный прогресс на десятилетия до нескольких лет и улучшить медицину, энергетику и образование.
Однако без должного контроля технология может быть использована для создания оружия, стать автономной и нанести непоправимый ущерб. Компания подчеркивает, что ни одна страховая организация не обладает ресурсами для покрытия таких катастрофических потерь.
