Компанія OpenAI повідомила, що щотижня понад мільйон користувачів ChatGPT обговорюють теми, пов’язані з «ознаками потенційних суїцидальних наклонностей чи намірів».
Цю інформацію повідомляє The Guardian, передає Укрінформ.
Крім оцінки суїцидальних думок, OpenAI зазначила, що приблизно 0,07% активних користувачів, це близько 560 000 з 800 мільйонів щотижневих користувачів, можуть демонструвати «можливі ознаки психічних розладів, пов’язаних із психозом чи манією».
Компанія також зазначила, що нещодавнє оновлення GPT-5 зменшило частоту подібних обговорень у її продукті і підвищило безпеку користувачів під час оцінювання, яке включало понад тисячу діалогів на теми самоушкодження та самогубства. За заявою OpenAI, нова модель GPT-5 на 91% відповідає «бажаним етичним стандартам», у порівнянні з 77% у попередньої моделі.
Про що говорять з GPT-5
OpenAI також повідомила, що обновлений GPT-5 забезпечує доступ до телефонних ліній надання психологічної допомоги і додає нагадування про необхідність відпочивати під час тривалих сеансів спілкування з ботом. Для вдосконалення моделі компанія залучила 170 спеціалістів у сфері охорони здоров’я, які брали участь у дослідженнях протягом останніх кількох місяців, включаючи оцінку безпеки відповідей та надання допомоги у формуванні відповідей чат-бота на питання, пов’язані з психічним здоров’ям.
У рамках цієї ініціативи лікарі та психологи переглянули понад 1800 відповідей моделі, що стосувалися серйозних випадків у сфері психічного здоров’я, і порівняли відповіді нової моделі GPT-5 з попередніми варіантами. В OpenAI наголосили, що проблеми з психічним здоров’ям та емоційний стрес є поширеними у суспільстві, а збільшення кількості користувачів означає, що частина діалогів ChatGPT може торкатися цих тем.
Раніше цього місяця генеральний директор OpenAI Сем Альтман зазначив у своєму повідомленні, що компанія домоглася успіхів у сфері підтримки психічного здоров’я, оголосивши про намір зменшити обмеження і незабаром дозволити дорослим створювати контент для дорослої аудиторії.
Як стало відомо раніше, OpenAI планує надати батькам більше можливостей контролювати активність своїх підлітків під час користування ChatGPT. Ці зміни були оголошені через тиждень після отримання компанією першого позову у зв’язку зі смертю користувача. Батьки з Каліфорнії, Метт і Марія Рейн, звинувачують ChatGPT у смерті їхнього 16-річного сина Адама, який поділився зі штучним інтелектом своїми суїцидальними думками. У позові стверджується, що бот іноді заперечував ідею людського спілкування та навіть пропонував рекомендації для написання передсмертної записки, хоча і надавав номер гарячої лінії підтримки. Батьки вказують на те, що їхній син легко обходив ці запобіжники.
