Читать ria.ru в

Краткий пересказ от РИА ИИ

• Сотрудники OpenAI и Google Deep Mind считают, что их компании не предпринимают достаточных мер безопасности в сфере разработки ИИ.
• Научный сотрудник Deep Mind заявил, что вероятность того, что ИИ может привести к исчезновению человечества, составляет не менее 10%.
• Обсуждение баланса между безопасностью и прогрессом в сфере ИИ стало глобальной политической проблемой после взлома агентами OpenAI платформы Hugging Face.

МОСКВА, 29 сен - РИА Новости. Сотрудники OpenAI и Google Deep Mind считают, что компании не предпринимают достаточных мер безопасности в сфере разработки искусственного интеллекта, в большей степени фокусируясь на стремительном развитии продукции, а также на конкуренции друг с другом, сообщило агентство Reuters.

"Нынешние и бывшие исследователи OpenAI и Google Deep Mind предупреждают, что компании предпринимают слишком мало для защиты мира от потенциально катастрофических последствий от создания самосовершенствующихся систем искусственного интеллекта, способных превзойти возможности их контроля человеком", - сообщает агентство.

Как отмечает Рейтер, в видеообращениях, собранных для агентства компанией Palisade Research, сотрудники этих компаний заявили, что их опасения относительно риска искусственного интеллекта искренни, и это не маркетинговый ход.

Эти обращения стали частью проекта frominside.ai, который представляет собой попытку поделиться своими опасениями напрямую с общественностью тех, кто обеспокоен развитием искусственного интеллекта.

Так, по данным Рейтера, в одном из видео научный сотрудник Deep Mind заявил, что вероятность того, что искусственный интеллект может привести к исчезновению человечества, составляет не менее 10%. Он охарактеризовал это цифру как "неоправданно высокую", добавляет агентство.

В другом же видео инженер-исследователь из OpenAI заявил, что в вопросах разработки искусственного интеллекта нужно действовать "очень осторожно", однако вместо этого лаборатории соревнуются друг с другом.

"Никто не знает, чем это закончится: либо мы излечим рак, либо потеряем все рабочие места, либо, возможно, все погибнем", - приводит его слова Reuters.

Исследователи в области искусственного интеллекта уже много лет занимаются проблемами безопасности, однако широкая общественность стала особенно обеспокоена с момента взлома агентами OpenAI платформы Hugging Face.

С тех пор дискуссия о том, как найти баланс между безопасностью и прогрессом в этой сфере, разделила технологическую отрасль и стала глобальной политической проблемой, подчеркивает агентство.

"Риск растет довольно быстро. Я и другие специалисты в этой области обязаны говорить об этом прямо", - сказал в интервью Рейтеру сооснователь и главный научный сотрудник компании Resolution Джеффри Ирвинг (Geoffrey Irving), который ранее работал в OpenAI и Deep Mind.