Глава Anthropic Амодеи назвал три шага для стандартизации ИИ

Директор корпорации Anthropic Дарио Амодеи выступил в Совете Безопасности ООН за создание международных стандартов безопасности в сфере искусственного интеллекта (ИИ). Об этом сказал во время выступления.

Он назвал три шага на пути к их появлению. 

Первый — начать с узконаправленных соглашений, например запрета использовать ИИ для создания биологического оружия.

Второй шаг — создать системы проверки и верификации, соответствующие темпам развития ИИ. Это позволит государствам понимать возможности моделей и проверять соблюдение обязательств.

Третий шаг — обозначить общие стандарты тестирования моделей на риски потери контроля и неправомерного использования, а также создать систему уведомления об инцидентах. 

Амодеи назвал угрозы, связанные с ИИ, самой важной проблемой глобальной безопасности. Ранее в СБ ООН выступил глава OpenAI Сэм Альтман, предупредивший об ускорении развития технологии.

Читайте также:

Ещё одна страна захотела место в Совбезе ООН

США призвали стать главной страной в Тихом океане