Компания Microsoft выпустила свой отчет о прозрачности в сфере искусственного интеллекта за 2023 год.
Об этом сообщает incrypted.com.
В опубликованном отчете подробно описан прогресс в разработке и внедрении ответственных ИИ-систем.
Годовой отчет по прозрачности ИИ является частью обязательств, принятых корпорацией после подписания добровольного соглашения с администрацией Белого дома в июле 2023 года. В рамках этого соглашения, Microsoft вместе с другими технологическими лидерами обязалась разрабатывать безопасные и ответственные ИИ-системы.
Отчет указывает, что в течение последнего года компания внедрила 30 новых инструментов для ответственного использования ИИ. Кроме того, Microsoft увеличила число сотрудников в своем отделе ответственного ИИ и ввела требования для разработчиков генеративных ИИ-систем постоянно анализировать и документировать потенциальные риски на всех этапах разработки.
Microsoft также внедрила новую функцию «Учетные данные для содержимого» в свои платформы для создания изображений, добавляя водяной знак, который указывает, что изображение сгенерировано алгоритмически.
По информации от Microsoft, клиенты Azure AI теперь имеют доступ к инструментам для обнаружения проблемного контента, включая материалы с призывами к ненависти, сексуального содержания и насилия. Также доступны системы для оценки рисков безопасности, включая новые способы выявления несанкционированных взломов.
Кроме того, компания расширила инициативы своих «красных команд», которые включают в себя как внутренние группы, пытающиеся обойти меры безопасности ИИ-моделей, так и приложения, позволяющие проводить независимые тесты перед запуском новых алгоритмов.
Однако у этих команд все еще существуют проблемы. Например, в феврале 2023 года компания представила чат-бот Bing, который позже оказался способным генерировать некорректную информацию и оскорбления, а также создавать спорные изображения.
«Ответственный ИИ — это бесконечный процесс, и мы никогда не сможем считать выполнение «Добровольных обязательств по ИИ» завершенным. Однако с момента подписания соглашения компания достигла значительного прогресса и планирует ускорить разработки в 2024 году», — отметила директор по ответственному ИИ в Microsoft Наташа Крэмптон в интервью для The Verge.
