Користувачам ChatGPT слід добре подумати перед тим, як шукати терапію чи емоційну підтримку в AI-додатку. За словами генерального директора OpenAI Сема Альтмана, індустрія штучного інтелекту досі не має механізмів для захисту конфіденційності користувачів під час чутливих розмов, оскільки між користувачем та AI немає лікарської таємниці, як це було б із лікарем.
Ці заяви були озвучені під час недавнього епізоду подкасту Тіо Вона, «Цей минулий уїк-енд з Тіо Воном».
Відповідаючи на запитання про те, як AI взаємодіє з сучасною правовою системою, Альтман зазначив, що відсутність юридичної або політичної бази для AI створює проблеми з конфіденційністю розмов користувачів.
«Люди обговорюють найбільш особисті аспекти свого життя з ChatGPT», — сказав Альтман. «Молодь, зокрема, використовує його як терапевта, лайф-коща; вони мають проблеми у стосунках і запитують: ‘Що мені робити?’ І в даний час, якщо ви говорите про ці проблеми з терапевтом, адвокатом чи лікарем, існує юридична привілегія. Є лікарська таємниця, є юридична конфіденційність. І ми ще не розібралися, як це працює з ChatGPT».
Це може створити питання конфіденційності для користувачів у разі судового позову, додав Альтман, оскільки OpenAI зобов’язана надавати такі розмови в суді.
«Я вважаю, це дуже несправедливо. Ми повинні забезпечити таку ж конфіденційність для ваших розмов з AI, як і для терапевта, і ніхто не думав про це навіть рік тому», — зазначив Альтман.
Компанія розуміє, що відсутність конфіденційності може заважати більш широкому використанню сервісу. Окрім вимог AI до величезних обсягів онлайн-даних під час навчання, його також просять надавати інформацію з розмов користувачів у деяких юридичних контекстах. Вже зараз OpenAI оскаржує судовий наказ у справі з «Нью-Йорк Таймс», який зобов’язує компанію зберігати чати сотень мільйонів користувачів ChatGPT по всьому світу, крім клієнтів ChatGPT Enterprise.
На своєму сайті OpenAI заявила, що оскаржує цей наказ, називаючи його «перевищенням повноважень». Якщо судовий орган зможе ігнорувати рішення OpenAI з питань конфіденційності даних, це може призвести до додаткового запиту на юридичні дані або дані правопорушників. Сучасні технологічні компанії регулярно отримують повістки для надання даних про користувачів для допомоги в кримінальних справах. Але в останні роки виникають нові побоювання щодо цифрових даних, оскільки закони почали обмежувати доступ до раніше встановлених свобод, таких як право жінки на вибір.
Коли Верховний Суд скасував Roe v. Wade, наприклад, клієнти почали переходити на більш приватні додатки для відстеження менструацій або на Apple Health, які шифрували їхні дані.
Альтман також запитав у ведучого підкасту про його власний досвід використання ChatGPT, оскільки Вон зазначив, що не часто спілкується з AI через свої побоювання щодо конфіденційності.
«Я вважаю, що це має сенс… дійсно хотіти ясності щодо конфіденційності перед тим, як активно використовувати [ChatGPT] — як юридичної ясності», — додав Альтман.
