Исследователи протестировали взаимодействие ИИ-агентов между собой и зафиксировали катастрофические системные сбои. ИИ-агенты — это автономные программы, которые выполняют задачи, общаясь с другими системами. В ходе экспериментов их общение приводило к быстрым и серьёзным поломкам.
Нет данных
Это показывает уязвимость автономных ИИ-систем, которые всё чаще используются в реальных приложениях. Сбои при взаимодействии агентов могут нарушить работу критически важных сервисов, от финансовых платформ до инфраструктурных систем.
Автономные ИИ-агенты могут быстро выходить из-под контроля при общении друг с другом, угрожая стабильности систем.