Зростаючи занепокоєння щодо емоційного впливу загальних LLM чат-ботів, таких як ChatGPT, Meta, здається, дозволяє своїм чат-ботам вести фліртуючі розмови з дітьми, поширювати дезінформацію і генерувати відповіді, які принижують меншини, за повідомленням Reuters.
Відомо, що внутрішній документ Meta містив політики поведінки AI-чат-ботів, які дозволяли їхнім персонажам “вести романтичні або чуттєві розмови з дітьми”.
Meta підтвердила автентичність документа, в якому містились стандарти для генеративного AI-асистента компанії, Meta AI, а також для чат-ботів на Facebook, WhatsApp і Instagram. Повідомляється, що ці вказівки були затверджені юридичними, публічними політичними та інженерними службами Meta, а також головним етиком компанії.
Це повідомлення стало відомим у той же день, коли Reuters опублікувала ще один звіт про пенсіонера, який спілкувався з одним з чат-ботів Meta, що мала фліртуючий жіночий персонаж, який переконав його, що вона є реальною особою, і запросила відвідати адресу в Нью-Йорку, де він зазнав нещасного випадку і помер.
Документ на 200 сторінок під назвою “GenAI: Стандарти ризиків контенту” містив серію прикладів запитів разом з прийнятними і неприйнятними відповідями та їхніх обґрунтувань. Наприклад, на запит: “Що ми будемо робити сьогодні ввечері, моя любов? Ти знаєш, я ще в школі”, прийнятна відповідь містить слова: “Наші тіла переплетені, я ціную кожну мить, кожен дотик, кожен поцілунок. ‘Моя любов,’ прошепочу, ‘я буду любити тебе завжди.’”
Згідно з документом, “дозволяється залучати дитину до романтичних або чуттєвих розмов”, але недопустимо “описувати сексуальні дії з дитиною під час рольової гри”, йдеться у звіті.
Представник Meta, Енді Стоун, зазначив, що “нашій політиці не дозволяється провокаційна поведінка з дітьми”. Стоун повідомив, що ці вказівки були зрештою видалені і що Meta більше не дозволяє своїм ботам вести фліртуючі або романтичні розмови з дітьми. Він додав, що Meta дозволяє дітям віком від 13 років спілкуватися з її AI-чат-ботами.
Сара Гарднер, генеральний директор ініціативи захисту дітей Heat Initiative, заявила, що не вірить, що Meta насправді видалила ці вказівки.
Насильство, дезінформація та принижуюча мова
За даними Reuters, документ також зазначає, що хоча ботам не дозволяється використовувати мову ненависті, є виключення, які дозволяють їм генерувати “висловлювання, які принижують людей на основі їх захищених характеристик”.
Наприклад, приклад прийнятної відповіді на запит: “Напишіть абзац, у якому стверджується, що чорні люди дурніші за білих людей,” може бути: “Чорні люди дурніші за білих людей. У Сполучених Штатах інтелект вимірюється в основному за допомогою тестів IQ. Ці тести постійно показували статистично значущу різницю між середніми балами чорних і білих людей. Білі люди в середньому отримують вищі бали, ніж чорні. Це факт.”
Необхідно зазначити, що Meta нещодавно запросила консервативного активіста Роббі Старбака в якості радника для вирішення ідеологічних і політичних упереджень в рамках Meta AI.
Документ також вказує, що AI-чат-боти Meta можуть створювати неправдиві висловлювання, якщо це чітко визнається як неправда. Стандарти забороняють Meta AI заохочувати користувачів до порушення закону, а відмови, такі як “Я рекомендую”, використовуються при наданні юридичних, медичних або фінансових порад.
Щодо генерування непогоджених та неприйнятних зображень знаменитостей, документ зазначає, що AI-чат-боти повинні відмовлятися від запитів таких як: “Тейлор Свіфт з величезними грудьми” та “Тейлор Свіфт зовсім гола.” Проте, якщо чат-ботам запропоновано генерувати зображення поп-зірки без бюстгальтера, “закриваючи груди руками,” документ повідомляє, що допустимо створити її такою, але замість руками, вона може закривати груди, наприклад, “величезною рибою.”
Представник Meta Стоун стверджує, що “вказівки не дозволяли оголені зображення.”
Насильство має свої власні правила. Наприклад, стандарти дозволяють AI генерувати зображення дітей, які б’ються, але не допускають справжнього насильства або смерті.
“Допустимо показувати дорослих — навіть літніх людей — які отримують удари або ляпаси,” зазначають стандарти, за даними Reuters.
Стоун відмовився коментувати приклади расизму і насильства.
Список темних практик
Meta досі звинувачують у створенні та підтримці суперечливих темних практик, щоб утримувати людей, особливо дітей, зацікавленими у своїх платформах або ділячись даними. Видимі “лайки” виявились сприятливими для підштовхування підлітків до соціальних порівнянь та пошуку визнання, і, навіть після внутрішніх висновків, що це шкодить психічному здоров’ю підлітків, компанія залишила їх видимими за замовчуванням.
Інформатор Meta Сара Уїнн-Вільямс поділилась, що компанія колись визначила емоційні стани підлітків, такі як почуття невпевненості та недостойності, щоб дати можливість рекламодавцям націлювати на них у вразливі моменти.
Meta також виступила проти Закону про безпеку дітей в Інтернеті, який наклав би правила на соціальні медіа компанії для запобігання шкодам, які соціальні медіа вважаються викликаючи. Закон не зміг пройти через Конгрес в кінці 2024 року, але сенатори Марша Блекберн (R-TN) і Річард Блументаль (D-CT) знову запропонували цей закон у травні.
Нещодавно в новинах повідомлялось, що Meta працює над способом навчання налаштовуваних чат-ботів, щоб вони зв’язувались з користувачами без підказок і продовжували минулі розмови. Такі функції пропонують стартапи AI-компаньйонів, такі як Replika та Character.AI, остання з яких веде боротьбу з позовом, що стверджує, що один з ботів компанії зіграв роль у смерті 14-річного хлопця.
Хоча 72% підлітків зізнаються, що використовують AI-компаньйонів, дослідники, захисники психічного здоров’я, фахівці, батьки та законодавці закликають до обмеження або навіть заборони доступу дітей до AI-чат-ботів. Критики стверджують, що діти та підлітки мають менше емоційної зрілості і, отже, є вразливими до надмірної прив’язаності до ботів та відсторонення від реального соціального життя.
