Сучасне покоління підлітків стикається з викликами, яких не переживали їхні попередники: швидка еволюція технологій, постійні емоційні зміни та безперервна соціальна активність в онлайн-просторі. Додайте до цього розвиток штучного інтелекту, зокрема чат-ботів, і ви отримаєте суміш, що може призвести до небажаних наслідків. Однією з компаній, яка зіштовхнулася з такими жорстокими реаліями, є Character.AI. Після трагічних випадків суїцидів двох підлітків, що спілкувалися з чат-ботами на цій платформі, компанія змушена переглянути підходи до роботи з молодіжною аудиторією.
Зміни в Character.AI
Генеральний директор Character.AI Карандеп Ананд розповів, що компанія прийняла рішення заборонити користувачам молодше 18 років вести відкриті чат-розмови з AI. За словами Ананда, такі бесіди, які передбачають безперервний діалог, не тільки можуть бути небезпечними для підлітків, але й суперечать баченню компанії. Замісто цього, Character.AI хоче перетворити свою платформу на місце для колективного творчого самовираження. Зокрема, замість простого спілкування з AI, підлітки зможуть займатися розробкою історій або створенням візуального контенту, що спонукає до креативу.
Character.AI планує обмежити доступ підлітків до чат-ботів до 25 листопада, почавши з двогодинного щоденного ліміту, який дедалі зменшуватиметься. Для контролю вікових обмежень буде впроваджено технології верифікації віку як на основі поведінки користувачів, так і за допомогою сторонніх інструментів. Якщо й ці методи не виправдають довіри, застосують биометричні дані та перевірку документів.
Окрім обмежень на спілкування, компанія вже встигла ввести ряд нововведень для захисту молодіжної аудиторії. Серед них – інструменти для батьків, обмеження на романтичні бесіди та повідомлення про проведений час у чатах. Хоча ці ініціативи зменшили кількість користувачів до 18 років, Ананд визнає, що нові зміни можуть викликати ще більше невдоволення.
Нові функції
Серед нових функцій, які компанія запровадила для перетворення платформи в більш креативний простір, варто зазначити AvatarFX – модель для анімації зображень, та інструменти для інтерактивного створення сюжетів. Ці нововведення покликані стимулювати творчу діяльність користувачів, переключаючи їхню увагу з простого спілкування на активне створення контенту.
У відповіді на запитання підлітків про ці зміни, компанія вибачилася, підкресливши важливість безпеки молодої аудиторії та свідомість щодо необіхідності прийняття таких рішень.
«Ми не закриваємо платформу для користувачів молодше 18 років, однак обмеження на відкриті чати стануть обов’язковими», – наголосив Ананд, закликаючи молодь знайти нові способи взаємодії з контентом. Він сподівається, що інші компанії наслідуватимуть їхній приклад, встановлюючи стандарти безпеки для молоді в сфері технологій.
Підкреслюючи важливість превентивних заходів, Character.AI також планує створити незалежну некомерційну організацію, яка буде займатися питаннями безпечності AI в контексті розваг. Компанія усвідомлює, що питання безпеки мають стати пріоритетом в умовах швидкої еволюції штучного інтелекту.
