Зважаючи на те, що штучний інтелект все більше використовується зловмисниками для проведення масових атак через електронну пошту, колишні керівники з безпеки Google об’єднали зусилля для розробки автономних агентів штучного інтелекту, які мають на меті зупиняти фішинг, шкідливе ПЗ та загрози бізнес-електронної пошти ще до того, як вони потраплять у скриньки користувачів.
Це мета AegisAI, нового стартапу в сфері електронної безпеки, який наразі вийшов з режиму прихованості та отримав 13 мільйонів доларів інвестицій на початковому етапі від Accel і Foundation Capital.
За даними федерального агентства США з кібербезпеки CISA, більше 90% успішних кібер атак починаються з фішингового листа. Дослідження CrowdStrike також виявило, що фішингові повідомлення, створені великими мовленнєвими моделями (LLMs), мали 54% коефіцієнт кліків у 2024 році, що значно перевищує 12% для листів, написаних людьми.
AegisAI прагне протистояти цій зростаючій загрозі за допомогою свого набору автономних агентів штучного інтелекту.
Стартап AegisAI
Стартап, заснований колишніми керівниками Google Safe Browsing та reCAPTCHA, Сайом Хормаї і Райаном Ло, пропонує організовану мережу AI-агентів, які здатні автономно перевіряти, аналізувати та нейтралізувати загрози електронної пошти без використання жодного набору правил. Цей підхід відрізняється від традиційних платформ безпеки, які спираються на статичні правила і часто потребують значного навчання користувачів.
«Вся суть зла — це PDF-додаток в електронному листі. Саме звідти починалися всі атаки, тому я хотів вирішити цю проблему», — зазначив Хормай у ексклюзивному інтерв’ю.
Хормай протягом більше п’яти років обіймав посаду голови продукту та директора з управління продуктами в Google до липня 2023 року. За цей час він очолював команду з безпеки, відповідальну за захист Google, 4 мільярдів користувачів та 4 мільйонів вебсайтів від фішингу, шкідливого ПЗ та шахрайства, використовуючи такі продукти, як Safe Browsing, reCAPTCHA та Web Risk. Саме під час цієї роботи він вперше познайомився з Ло, який протягом майже десяти років працював у Google і був частиною команди Safe Browsing.
Досвід роботи в Google надав Хормай можливість розробити технології виявлення фішингу, глибоко зрозуміти безпеку з точки зору компанії, а також швидко розвивати та масштабувати бізнеси в сфері безпеки.
Перед Google Хормай заснував платформу для бізнес-інтелекту Contastic, яку купив SugarCRM у 2016 році. Після цього він працював віце-президентом з управління продуктами в Attentive понад півтора року до листопада 2024 року, перш ніж заснувати AegisAI.
Як працюють агенти ШІ
AegisAI розробила агентів розуміння, кожен з яких є спеціалізованою LLM, налаштованою на конкретну загрозу. Коли оркеструющий агент виявляє загрозу або потенційну загрозу, він залучає інших агентів у мережі, яких Хормай називає «друзями». Ці агенти проводять аналіз, обмінюються висновками і повертаються до оркеструючого агента з рішенням.
Агенти здійснюють аналіз в реальному часі кожного компонента повідомлення, включаючи посилання, додатки, метадані, QR-коди та поведінкові патерни.
«Ми знаємо з досвіду створення цих інструментів у Google, які дані можна аналізувати в електронному листі. Які є джерела даних? Які методи виявлення вторгнень, і які шкідливі дії здійснюють зловмисники, з якими ми стикалися за 10 років, граючи у шахи з ними?» — зазначив Хормай.
Хоча AegisAI наразі розробила більше 10 агентів для цієї роботи, Хормай сказав, що з часом їх може стати від 50 до 100, оскільки супротивники стають розумнішими і намагаються обманути систему.
«Я повністю вірю, що через два роки супротивники зрозуміють, що ми робимо. Вони перепрофілюються і атакуватимуть нашу систему, і тоді нам потрібно буде розробити більше агентів, щоб бути попереду них», — сказав він.
На відміну від звичайних платформ безпеки електронної пошти, які використовують правила, ці AI-агенти виявляють багато атак та самостійно налаштовуються для кожного можливого варіанту цих атак у реальному часі. Стартап розробив кілька AI-моделей, адаптованих до різних загроз та специфічних галузей, включаючи венчурний капітал і фінансові послуги.
Крім швидкого виявлення загроз, агенти AegisAI допомагають зменшити кількість помилкових позитивів до 90% в порівнянні з традиційними рішеннями, каже стартап.
Згідно з Хормай, установка системи AegisAI на обліковий запис електронної пошти Google Workspace або Microsoft 365 займає «не більше п’яти хвилин» через API. Після налаштування стартап надсилає звіт протягом кількох днів з деталями про виявлені загрози в середовищі, включаючи помилкові позитиви і негативи. Потім система працює в режимі тільки для читання протягом тижня, після чого активується карантин.
