Компания Meta определила четкие ограничения для выпуска передовых AI-систем в документе «Frontier AI Framework«. В нем указаны два класса опасных технологий: «высокорисковые» и «критически рисковые». Последние могут вызвать катастрофические последствия, которые невозможно устранить в рамках их использования.
Об этом сообщает double.news.
Что Meta считает критически опасным AI?
В качестве примера приводят ИИ, способный взламывать защищенные компьютерные системы без участия человека. Такая технология создает серьезную угрозу кибербезопасности, поэтому компания Meta решила прекращать разработку подобных моделей еще на ранних этапах и принимать жесткие меры для предотвращения их утечки.
Как компания сдерживает опасный AI?
Meta признает, что полная гарантия безопасности невозможна, однако планирует:
- Строго ограничить доступ к подобным системам для узкого круга экспертов.
- Внедрить многоуровневую защиту от взлома и несанкционированного распространения.
- Оценивать коммерческую целесообразность мер безопасности перед выпуском AI-решений.
Почему это важно?
Такие ограничения демонстрируют растущую обеспокоенность рисками, которые подобные модели искусственного интеллекта могут спровоцировать в будущем. Meta предпринимает шаги к усиленному контролю, чтобы избежать потенциальных угроз, которые могут выйти из-под человеческого контроля.
