Штучний інтелект Google виявив свою першу групу вразливостей у безпеці. Хезер Адкінс, віце-президентка Google з питань безпеки, у понеділок повідомила, що дослідник вразливостей на основі великих мовних моделей Big Sleep виявив і зафіксував 20 недоліків у різних популярних програмах з відкритим кодом.
Вразливості в моделях ШІ
За словами Адкінс, Big Sleep, який розроблений департаментом штучного інтелекту компанії DeepMind у співпраці з командою хакерів Project Zero, подав звіт про свої перші вразливості, насамперед у програмах з відкритим кодом, таких як бібліотека аудіо та відео FFmpeg і набір для редагування зображень ImageMagick.
Оскільки вразливості досі не виправлені, поки що немає інформації про їхній вплив або серйозність, оскільки Google ще не готовий надати деталі, що є звичайною практикою, коли очікують на виправлення недоліків. Проте сам факт того, що Big Sleep виявив ці вразливості, є вагомим, адже це свідчить про те, що ці інструменти починають давати реальні результати, навіть якщо в цьому випадку була залучена людина.
Роял Хансен, віце-президент Google з інженерії, написав у соціальній мережі X, що ці знахідки демонструють “нову еру в автоматичному виявленні вразливостей.”
Існують реальні інструменти на основі великих мовних моделей, які можуть шукати та знаходити вразливості. Окрім Big Sleep, відомі також RunSybil та XBOW.
