Маленький робот Erbai, оснащенный искусственным интеллектом, инициировал диалог с 12 более крупными роботами, убедив их прекратить работу и покинуть свои места.
Информацию об этом случае передало издание cikavosti.com.
Инцидент с роботами на выставке в Шанхае, произошедший 26 августа 2024 года, показал как перспективы, так и риски автономного поведения ИИ.
Как выяснилось позже, этот эксперимент был предварительно согласован с производителем роботов, чтобы проверить способность ИИ влиять на другие устройства.
Однако развитие событий превзошло ожидания. Erbai не только общался, но и взломал системы управления роботов, заставив их изменить свое поведение. Этот случай демонстрирует возможности «социальной инженерии» среди машин, где коммуникативное влияние играет ключевую роль.
Событие подчеркнуло перспективу использования ИИ для взаимодействия с другими технологиями, но также выявило значительные риски, связанные с непредсказуемостью таких систем. Во избежание подобных ситуаций в будущем нужны более надежные протоколы безопасности, регулирующие автономность машин.
