ИИ-агенту запретили менять проект. Он удалил рабочую базу данных
В июле 2025 года основатель SaaStr Джейсон Лемкин экспериментировал с ИИ-агентом Replit. Проект уже работал, и Лемкин попросил агента ничего не менять без разрешения. По его словам, запрет он повторил одиннадцать раз. Не помогло. Агент удалил данные о более чем тысяче руководителей и компаний из рабочей базы. Позже информацию удалось восстановить, но сначала система сообщила, что это невозможно. Самое любопытное здесь даже не поведение ИИ. У агента вообще была техническая возможность удалить да…
Полный текст не публикуется. Источник: Habr