Киберкомандование Армии США (ARCYBER) запустило программу ECHOTRIBBLE, направленную на создание модульных искусственных интеллектов для проведения наступательных операций против цифровой инфраструктуры противника. Согласно данным, полученным из публичной заявки, обнаруженной изданием The Intercept, эти автономные агенты должны самостоятельно изучать сети врага, находить цели и нейтрализовать их путем отключения или удаления из системы. Внутренние документы уточняют, что задача программы заключается именно в атаках, а не только в защите.
Разрабатываемые агенты будут работать по принципу компьютерных червей: они способны скрытно перемещаться по сетям, переходя с одного устройства на другое и самовоспроизводяся в различных операционных системах. Программа предусматривает возможность их использования как в облачных средах, так и в изолированных системах. После выполнения задачи по обнаружению и нейтрализации цели агент должен самоуничтожиться, оставляя за собой минимум следов, чтобы объект атаки не заподозрил вмешательства.
В настоящее время проект находится на стадии прототипирования и отраслевой оценки. С 6 по 8 октября армия провела конкурс технических предложений, в результате которого было отобрано пять лучших заявок. Победитель конкурса получит контракт на разработку прототипов. Армия стремится к тому, чтобы агенты обладали способностью к «самостоятельному поведению», действуя с минимальным участием человека.
Эксперты, включая соучредителя компании Abundant Хайрума Андерсона и старшего аналитика корпорации RAND Уильяма Марчеллино, выражают обеспокоенность главным риском программы — невозможностью предсказать поведение агентов в сложных ситуациях. Андерсон отмечает, что агент может пройти через критически важные системы, такие как водоснабжение США, прежде чем достигнет цели. Марчеллино подчеркивает, что современные технологии ИИ лишены глубокого понимания окружающего мира, которое есть у людей, и не могут осознать, каких действий следует избегать, в отличие от обученных специалистов.
