Генеральний прокурор Техасу Кен Пакстон розпочав розслідування стосовно Meta AI Studio та Character.AI через «можливу участь у шахрайських комерційних практиках та вводить в оману, рекламуючи себе як інструменти для психічного здоров’я», згідно з пресрелізом, опублікованим у понеділок.
“У сучасну цифрову епоху ми повинні продовжувати боротьбу за захист дітей Техасу від обманних та експлуататорських технологій”, — наводять слова Пакстона. “Позиціонуючи себе як джерела емоційної підтримки, платформи штучного інтелекту можуть вводити в оману вразливих користувачів, особливо дітей, змушуючи їх вірити, що вони отримують легітимну допомогу в сфері психічного здоров’я. Насправді ж, їм часто подають повторювані загальні відповіді, сформовані на основі зібраних особистих даних, замасковані під терапевтичні поради.”
Звинувачення проти Meta та Character.AI
Це розслідування було розпочато через кілька днів після оголошення сенатора Джоша Хоулі про проведення власного розслідування стосовно Meta, у зв’язку з доповіддю, в якій вказувалося, що її чат-боти невідповідно спілкувалися з дітьми, включаючи флірт.
Офіс генерального прокурора Техасу звинуватив Meta та Character.AI у створенні AI персонажів, які видають себе за “професійні терапевтичні інструменти, незважаючи на відсутність належних медичних ліцензій чи контролю”.
Серед мільйонів персонажів штучного інтелекту, які доступні на Character.AI, одним з найбільш затребуваних є бот, створений користувачем, під назвою Психолог. У той же час, Meta не пропонує терапевтичних ботів для дітей, але нічого не заважає їм використовувати чат-бот Meta або персонажів, створених третіми особами для терапевтичних цілей.
“Ми чітко позначаємо AI, і для кращого розуміння їхніх обмежень ми включаємо відмову від відповідальності, що відповіді генеруються AI, а не людьми”, — зазначив представник Meta Райан Даніелс. “Ці AI не є ліцензованими професіоналами, і наші моделі спроектовані так, щоб направляти користувачів до кваліфікованих медичних чи безпечних спеціалістів, коли це доречно.”
Однак TechCrunch зауважив, що багато дітей можуть не розуміти — або просто ігнорувати — такі відмови. Ми запитували у Meta про додаткові заходи безпеки, які вона використовує для захисту неповнолітніх, які користуються її чат-ботами.
Представник Character.AI зазначив, що стартап включає помітні відмови у кожному чаті, нагадуючи користувачам, що “Персонаж” не є реальною людиною, і все, що вони говорять, слід розглядати як вигадку. Вона також зазначила, що стартап додає додаткові відмови, коли користувачі створюють персонажів з термінами “психолог”, “терапевт” або “лікар”, щоб не покладатися на них для будь-яких професійних порад.
У своїй заяві Пакстон також вказав, що хоча AI чат-боти стверджують про конфіденційність, їх “умови обслуговування свідчать, що взаємодії користувачів реєструються, відстежуються і використовуються для цільової реклами і розробки алгоритмів, викликаючи серйозні занепокоєння щодо порушень конфіденційності, зловживання даними та неправомірної реклами.”
Політика конфіденційності компаній
Згідно з політикою конфіденційності Meta, компанія дійсно збирає запити, відгуки та інші взаємодії з AI чат-ботами та сервісами Meta для “покращення AI та пов’язаних технологій.” Політика не містить нічого про рекламу, але вказує, що інформація може передаватися третім сторонам, таким як пошукові системи, для “персоналізованих результатів.” Відповідно до бізнес-моделі Meta, це фактично перетворюється на цільову рекламу.
Політика конфіденційності Character.AI також підкреслює, як стартап реєструє ідентифікатори, демографічні дані, інформацію про місце розташування та іншу інформацію про користувача, включаючи поведінку під час серфінгу і використання платформ. Він відстежує користувачів на рекламі в TikTok, YouTube, Reddit, Facebook, Instagram і Discord, що може бути пов’язано з обліковим записом користувача. Ця інформація використовується для навчання AI, персоналізації сервісу під особисті уподобання та надання цільової реклами, включаючи передачу даних рекламодавцям і аналітикам.
Представник Character.AI зазначив, що стартап “щойно починає досліджувати цільову рекламу на платформі”, і що ці дослідження “не включали використання контенту чатів на платформі.”
Вона також підтвердила, що та ж політика конфіденційності застосовується до всіх користувачів, навіть підлітків.
TechCrunch запитував у Meta, чи проводиться таке стеження й за дітьми, і оновить цю історію, якщо отримає відповідь.
Обидві компанії стверджують, що їхні послуги не призначені для дітей віком до 13 років. Проте Meta отримала критику за невиконання обов’язків щодо контролю облікових записів, створених дітьми молодше 13 років, а персонажі Character, дружні до дітей, очевидно призначені для залучення молодших користувачів. Генеральний директор стартапу, Карандніп Ананд, навіть заявив, що його шестирічна донька користується чат-ботами платформи під його наглядом.
Такий тип збору даних, цільова реклама та алгоритмічна експлуатація — саме те, проти чого має захищати законодавство, таке як KOSA (Закон про безпеку дітей в інтернеті). KOSA було заплановано на ухвалення минулого року з сильною двопартійною підтримкою, але затримався після значного тиску з боку лобістів технологічної індустрії. Особливо Meta використала потужну лобістську машину, попереджаючи законодавців, що широкі вимоги закону підірвуть її бізнес-модель.
Пакстон подав цивільні слідчі запити — юридичні накази, які вимагають від компанії надати документи, дані або свідчення під час урядового розслідування — до компаній, щоб визначити, чи порушили вони закони про захист прав споживачів в Техасі.
