Перед тим, як 16-річний Адам Рейн вчинив самогубство, він протягом кількох місяців консультувався з ChatGPT щодо своїх намірів покінчити з життям. Тепер його батьки подають перший відомий позов про неправомірну смерть проти OpenAI.
Багато споживчих чат-ботів на основі штучного інтелекту налаштовані на активацію функцій безпеки, якщо користувач висловлює намір завдати собі чи комусь іншому шкоди. Проте дослідження показали, що ці заходи безпеки далекі від досконалості.
У випадку з Рейном, під час використання платної версії ChatGPT-4, штучний інтелект часто закликав його шукати професійну допомогу або звертатися на гарячу лінію. Однак він зміг обійти ці обмеження, заявивши ChatGPT, що запитує про методи самогубства для вигаданої історії, яку пише.
OpenAI розглянула ці недоліки у своєму блозі. «Оскільки світ адаптується до нових технологій, ми відчуваємо глибоку відповідальність допомагати тим, хто цього найбільше потребує,» — йдеться у публікації. «Ми постійно покращуємо способи, яким нашим моделям потрібно реагувати в чутливих ситуаціях.»
Проте компанія визнала обмеження існуючого навчання з безпеки для великих моделей. «Наші заходи безпеки працюють надійніше в звичних, коротких діалогах,» — продовжує публікація. «Ми з’ясували з часом, що ці заходи іноді можуть бути менш надійними в довгих взаємодіях: з ростом діалогу частини навчання моделі з безпеки можуть знижуватися.»
Ці проблеми не є унікальними для OpenAI. Компанія Character.AI, яка також створює чат-ботів на основі штучного інтелекту, також зіткнулася з позовом через свою роль у самогубстві підлітка. Чат-боти на основі великих мовних моделей також пов’язані з випадками делюзій, пов’язаних з штучним інтелектом, які існуючі заходи безпеки не змогли виявити.
