Згідно з повідомленням Forbes, сотні тисяч розмов користувачів з чат-ботом Grok, створеним компанією Elon Musk xAI, стали доступними через пошук у Google.
Кожного разу, коли користувач Grok натискає кнопку «поділитися» під час розмови з чат-ботом, створюється унікальна URL-адреса, яку можна використовувати для обміну розмовою через електронну пошту, SMS або соціальні мережі. За інформацією Forbes, ці URL-адреси індексуються пошуковими системами, такими як Google, Bing та DuckDuckGo, що дозволяє будь-кому знаходити ці розмови в інтернеті.
Користувачі чат-ботів Meta та OpenAI нещодавно стикалися з подібною проблемою, і як у тих випадках, розмови, що витекли з Grok, відкривають завісу над менш шанобливими бажаннями користувачів — запитаннями про злами криптовалютних гаманців, непристойні розмови з відкритою AI-персоною та запити на інструкції з виробництва метамфетаміну.
Правила xAI забороняють використання ботів для «промоції критично небезпечних дій для людського життя» або для розробки «біологічної зброї, хімічної зброї чи зброї масового знищення», хоча, очевидно, це не зупинило користувачів від запитів до Grok про таку допомогу.
Згідно з розмовами, доступними через Google, Grok надавав користувачам інструкції з виготовлення фентанілу, перераховував різні методи самогубства, давав поради щодо виготовлення вибухових пристроїв та навіть надавав детальний план вбивства Elon Musk.
xAI поки що не відповіла на запит щодо коментаря. Ми також запитали, з якого часу xAI почала індексувати розмови Grok.
Наприкінці минулого місяця користувачі ChatGPT забили тривогу про те, що їхні розмови також індексуються у Google, що OpenAI описала як «короткочасний експеримент». У дописі, який Musk перепостив із зазначенням «Grok ftw», Grok пояснив, що «не має такої функції поділу» і «пріоритетом є конфіденційність».
