OpenAI и Anthropic проводят учения на случай чрезвычайных ситуаций, связанных с ИИ. По данным Axios, руководители OpenAI, Anthropic и других ведущих ИИ-компаний обсуждают возможность крупной катастрофы. Представители OpenAI рассказали изданию, что компания проводит специальные учения на случай чрезвычайных ситуаций.

Источники опасаются, что первая крупная катастрофа из-за небезопасного применения ИИ вызовет массовые протесты и требования ограничить развитие технологии. Некоторые собеседники издания считают, что крупный инцидент, связанный с ИИ, может произойти уже в ближайшие 6–12 месяцев.

Во время учений в OpenAI отрабатывают разные сценарии угроз, связанных с ИИ. Кроме того, ИИ-компании заранее налаживают взаимодействие с американскими законодателями на случай, если появятся инициативы по регулированию отрасли.

Если крупный инцидент с ИИ и правда может произойти в ближайший год, какие меры должны принять компании и законодатели?

🤝Эпопея закончилась: Paramount и Warner Bros объединятся в одну компанию — они даже дропнули

Об авторе