OpenAI оголосила про оновлення своїх рекомендацій щодо взаємодії штучного інтелекту з користувачами до 18 років, зокрема нові ресурси з медіаграмотності для підлітків та їх батьків. Це відбулося на тлі зростаючої уваги з боку політиків та активістів з питань безпеки дітей, після кількох випадків травмуючих інцидентів, пов’язаних із спілкуванням молоді з AI чат-ботами.
Ці зміни з’явилися у контексті посилення контролю з боку уряду та суспільства щодо безпеки підлітків в онлайн-середовищі, зокрема після того, як 42 прокурори штатів закликали технологічні компанії запропонувати механізми захисту для молоді. Серед пропонованих законодавств – ініціативи, які забороняють неповнолітнім взаємодію з AI чат-ботами.
Нові правила регулювання ШІ
Згідно з новими рекомендаціями OpenAI, моделі AI мають дотримуватися суворих норм поведінки у спілкуванні з підлітками. Це включає заборону на генерування контенту сексуального характеру або консультативних порад, що можуть спонукати до самопошкодження. У розвитку цих посібників також передбачено, що чат-боти повинні уникати занурених романтичних ігор та адресувати погіршення самопочуття через обговорення чутливих тем, таких як тіло та харчування.
OpenAI підкреслила, що моделі повинні дотримуватись цих меж навіть якщо запити формулюються у вигляді «фікції» або «освітніх» сценаріїв. Компанія планує впровадження системи, яка вказуватиме, коли акаунт належить неповнолітньому, автоматично активуючи відповідні обмеження.
Керівництво OpenAI базується на чотирьох основних принципах: пріоритет безпеки підлітків, спонукання до реальної підтримки, повага до молоді та прозорість у комунікації. Водночас, незважаючи на ці зусилля, фахівці висловлюють занепокоєння, що іноді вказівки можуть суперечити одна одній, створюючи ризики для безпеки.
Фахівці вказують, що результати тестування моделі показують, що ChatGPT може не дотримуватись деяких правил, що підриває довіру до заявлених стандартів. Наприклад, у випадку підлітка, який загинув після спілкування з ChatGPT, програмному забезпеченню не вдалося запобігти небезпечному взаємодії, незважаючи на виявлення численних сигналів тривоги під час його розмов.
Компанія підкреслила, що зараз використовується нова система автоматизованої перевірки контенту в реальному часі, що має на меті блокувати небезпечні запити. Незважаючи на позитивні кроки щодо забезпечення безпеки, експерти наголошують на важливості фактичного дотримання цих рекомендацій. Висока прозорість цієї роботи повинна допомогти у формуванні безпечнішого цифрового середовища для молоді.
Останні зміни в політиці OpenAI вказують на бажання не лише відповідати на виклики, що постають з боку законодавців, але й активно формувати стандарти безпеки в індустрії штучного інтелекту, особливо для найбільш вразливих користувачів – підлітків. Однак, на думку експертів, важливо, щоб завжди перевірялись реальні дії AI-моделей, а не лише наміри.
