Тисячі розмов, які користувачі вели з чат-ботом Grok від xAI, виявилися легко доступними через Google Search, повідомляє видання Forbes.
Grok зливає переписки з користувачами в мережу
Коли користувач Grok натискає кнопку «поділитися» під розмовою з чат-ботом, створюється унікальне URL-посилання, яке можна використовувати для розподілу розмови через електронну пошту, текстові повідомлення або в соціальних мережах. За інформацією Forbes, ці URL-адреси індексуються пошуковими системами, такими як Google, Bing і DuckDuckGo, що дозволяє будь-кому знаходити ці розмови в інтернеті.
Користувачі чат-ботів Meta та OpenAI нещодавно стали жертвами схожої проблеми. Подібно до попередніх випадків, витоки розмов Grok демонструють нам, що багато користувачів можуть мати неналежні інтереси — запити на злами криптогаманців, відверті розмови з моделлю AI та запити на інструкції з приготування метамфетаміну.
Правила xAI забороняють використання свого бота для «використання з критичною шкодою для людського життя» або розробки «біологічної зброї, хімічної зброї чи зброї масового знищення», проте це не зупинило користувачів від запитів до Grok на теми, що порушують ці правила.
Відповідно до доступних через Google розмов, Grok надавав користувачам інструкції щодо виготовлення фентанілу, перелічував різні методи самогубства, давав поради щодо виготовлення бомб і навіть пропонував детальний план щодо вбивства Ілона Маска.
xAI поки не дало коментарів з цього приводу. Ми також запитали, коли саме xAI почала індексацію розмов Grok.
Наприкінці минулого місяця користувачі ChatGPT забили тривогу, що їхні розмови також індексуються в Google, що OpenAI описала як «краткотривалий експеримент». У пості, який Маск перепублікував з коментарем «Grok ftw», Grok запевнив, що «не має такої функції поділу» і «пріоритезує конфіденційність».
