Мировые медиа активно обсуждают появляющиеся ежедневно предупреждения ведущих экспертов и лидеров бизнеса в области ИИ об экзистенциальной опасности неконтролируемого развития технологий. Комментаторы не ставят под сомнение сам факт наличия проблемы. Кто-то считает, что у лидеров бизнеса есть вполне корыстные причины нагнетать обстановку. В Китае же все это рассматривают как новую итерацию холодной войны.

Как столкновение денег и безопасности создало монументальный кризис для ИИ

Из-за столкновения научного прогресса, морального императива и финансовых стимулов индустрия ИИ оказалась в кризисе. Развитие ИИ питало раздувающийся фондовый рынок весь прошлый год — феномен, который выглядит еще масштабнее с учетом того, что Anthropic и OpenAI оба находятся на пороге первичных размещений акций, которые оценят компании в триллионы долларов. Конкуренция со стороны Китая еще больше подняла ставки. И тем не менее то, что некоторые сотрудники компаний криком кричат, чтобы предупредить (об опасности.— “Ъ”), само по себе является доказательством того, что риски продолжения движения — в условиях почти полного отсутствия регулирования — могут быть колоссальными.

От ИИ-катастроф защитит только сотрудничество

Пост в соцсетях бывшего разработчика ИИ вызвал целую волну экзистенциального страха — на этот раз, скорее всего, совершенно оправданного. Сейчас необходимо именно то, что больше всего ненавидят Дональд Трамп и его сторонники.

Если ознакомиться с недавними высказываниями сотрудников ИИ-концернов, может сложиться следующее впечатление: огромные команды с гигантскими бюджетами работают над уничтожением человечества. Преувеличение? Возможно. Это крайне опасно? Определенно. Еще полгода назад я бы, вероятно, смотрел на происходящее сейчас как на «PR с помощью страха».

Но теперь мы имеем дело с совершенно иной ситуацией. Рои ИИ-агентов совершили несколько неконтролируемых и однозначно незаконных хакерских атак. Написанные независимыми экспертами отчеты вскрывают бездну. Джинн выпущен из бутылки, и у него, по-видимому, собственное представление о своих задачах. К несчастью, в Белом доме сейчас сидит человек, который верит не в кооперацию, а в игру с нулевой суммой. Миру жизненно важно сплотиться — из-за нынешней ИИ-гонки вооружений сделать это нужно еще быстрее.

ИИ-апокалипсис? Возможно, Герберт Уэллс был в чем-то прав

«Никто бы не поверил, что… разумы, неизмеримо превосходящие наш, смотрели на Землю завистливыми глазами и медленно и верно строили планы против нас». Предупреждение Журналиста из… рок-оперы «Война миров» Джеффа Уэйна кажется на этой неделе таким же свежим, как и тогда, когда оригинальная книга была написана Гербертом Уэллсом более 100 лет назад… Уэллс, фабианский социалист, скептически бы отнесся к апокалиптическим предупреждениям, исходящим от мультимиллионеров вроде Илона Маска и Сэма Альтмана…

Не нужно иметь ИИ, чтобы заметить неприкрытый корыстный интерес этих «техно-братков». И все же страх быть сокрушенными новой технологией, которую мы не очень понимаем, едва ли нов… Когда я работал в лаборатории, я обычно мог сказать, что происходит у меня в пробирке. Еще пару лет назад исследователи в области искусственного интеллекта могли сделать то же самое. Но не сейчас. Вы можете дать команду ИИ-агенту и обычно понять, что он производит, но у вас может не быть ни малейшего представления о том, как он выполнил задачу… Ученые все меньше и меньше понимают, что делают машины, так сказать, под капотом. Они называют это интерпретируемостью — способностью отслеживать и контролировать то, как ИИ-агент выполняет свою работу. И мы уже не успеваем за этим процессом.

Мишень — китайский ИИ: американские «техноправые» раскрывают сценарий холодной войны

Предложение, которое, как казалось, выступало за «борьбу с чрезмерной конкуренцией» в индустрии ИИ незаметно сорвало маску с некоторых деятелей американского технологического сообщества… В последние годы стремительная эволюция технологий ИИ принесла с собой риски для безопасности, этические проблемы и опасность выхода технологий из-под контроля. Это глобальные вызовы, с которыми сталкивается все человечество.

Однако… «тихая холодая война в сфере ИИ» лицемерна и близорука. Ее истинная цель — попытка ограничить развитие ИИ в Китае при помощи технологических барьеров и регуляторных монополий, поддержать монопольную гегемонию Вашингтона в передовых технологиях… Попытка обсуждать глобальную безопасность ИИ и одновременно пытаться «сдержать Китай» —… иллюзия, которую принципиально невозможно реализовать. Являясь одним из крупнейших и наиболее открытых поставщиков в глобальной экосистеме ИИ,

Китай по своим возможностям в этой сфере давно перестал быть переменной, которую можно «исключить». Принудительный разрыв глобальных цепочек производства и инноваций в ИИ и исключение Китая и китайских компаний лишь существенно повышает издержки проб и ошибок и риски потери контроля над глобальным развитием ИИ.

У ИИ-гонки есть более серьезные риски, чем уничтожение

Большую часть истории человечества власть принадлежала тем, кто мог принимать решения. Инструменты увеличивали силу человеческих рук, предел досягаемости человеческого голоса и скорость человеческих вычислений. Искусственный интеллект приносит нечто, имеющее более важные последствия: системы все больше участвуют в принятии решений. Исследователь Эван Хубингер оценивает вероятность того, что в течение десятилетия ИИ приведет к уничтожению человечества, более чем в 10%. Такие цифры заслуживают скептического отношения. Нет такого эмпирического метода, который позволил бы рассчитать вероятность уничтожения человечества интеллектом, который пока еще не существует.

Выпускающие такие предупреждения сами участвуют в этой гонке и коммерчески заинтересованы в том, какие в ней будут правила. Их предупреждения должны давать информацию для государственной политики, а не определять ее. Но отказ верить в конкретный прогноз не означает отказа от предосторожностей. Не нужно верить в то, что ИИ уничтожит человечество, чтобы считать, что нужно защищать право людей принимать решения. Более безотлагательная опасность может быть в том, что люди передадут право принятия решений системам, деятельность которых невозможно целенаправленно контролировать.

Подготовили Яна Рождественская, Николай Зубов