– Юрий Николаевич, об опасности обретения самостоятельности искусственным интеллектом (ИИ) сказано уже много, хотя, понимаю, далеко еще не все. Почему именно Билл Гейтс, стоящий у истоков его создания, вдруг заговорил об этом? Внезапно прозрел и осознал опасность «судного дня»?

– Зря иронизируете – я не исключаю такого прозрения. Некоторые физики, занимающиеся изучением ядерного синтеза, тоже приходили к апокалиптическим выводам. Так вот, Билл Гейтс, миллиардер и сооснователь Microsoft, в интервью The New York Times, в котором заявил, что «его отрасль преуменьшает риски ИИ, к которым, по его мнению, относятся массовая безработица и биотерроризм. Он считает, что технологическая индустрия сознательно преуменьшает эти угрозы, потому что на кону стоят слишком большие деньги».

Издание констатирует: «В частном порядке люди, понимающие, насколько хороши эти технологии и насколько они улучшаются, очень обеспокоены. Немногие руководители технологических компаний готовы публично это признать».

– Все дело в баснословных прибылях?

– Почти все по Марксу. Можете сравнить. Цитирую Билла Гейтса: «Сейчас они говорят друг другу: „Эй, чувак, не говори так. Это плохо для нас — для следующего триллиона долларов, которые мы пытаемся привлечь“».

То есть, нет такого преступления, которое они не смогли бы совершить за хороший гешефт – в данной ситуации проценты накрутите сами. И тут, как у Маркса, речь не идет о сотне или даже трех сотнях процентах. О тысячах. То на то и выходит. Вплоть до ядерной войны. Нормальная ставка?

– Страшно представить. И все же, что побудило Гейтса высказаться именно сейчас? Ведь наверняка он это задолго предвидел.

– Возможно, и предвидел. Но, как все гении, до конца не осознавал все последствия своих изысканий. А когда осознал – стало поздно. Вдруг выяснилось, что недавние достижения в области ИИ намного превзошли ожидания его почти создателя, самого Билла Гейтса.

– Это в чем же?

– Дело в том, что отрасль игнорировала технологические вехи — такие как выход ИИ из-под контроля его создателей или создание рецептов биологического оружия, которые, как когда-то заявляли отцы-основатели, должны были бы потребовать большей осторожности.

Билл Гейтс как-то признал: «Они просто мчатся вперед на полной скорости и надеются, что хорошего будет больше, чем плохого».

– Сам он уже на это не надеется?

– Такое случается, когда у последней черты вдруг осознаешь, что сотворил. Это я - о гениях, к которым, безусловно, относится и Билл Гейтс. Как известно, 70-летний Гейтс — один из немногих в череде выдающихся деятелей технологической отрасли, которые указывают на риски, связанные с ИИ, в то время, как индустрия тратит триллионы долларов на новые центры обработки данных. А молодые компании, занимающиеся ИИ, при этом приближаются к одним из крупнейших первичных публичных размещений акций в истории.

Но он занимает принципиальную позицию, выходя даже из затянувшегося скандального периода.

– И в чем заключается эта позиция?

– Напомню, была весьма грязная история. В начале этого года публикация электронных писем сексуального преступника Джеффри Эпштейна вновь привлекла внимание к взаимодействиям Гейтса с ним.

– Было какое-то «взаимодействие»?

– Видимо, было. Поэтому в феврале Гейтсу пришлось отказаться от участия в конференции по ИИ, а в июне он шесть часов давал показания перед комитетом Палаты представителей. Раскрытие информации о его неверности, в сочетании с разводом в 2021 году, также серьезно подорвало его репутацию. Он признал, что все это были «ошибки» по его собственной вине. После того, как он ответил на все вопросы Комитета по надзору Палаты представителей, он, похоже, стал более охотно возвращаться в центр внимания. Гейтс признал, что он может быть не совсем объективным из-за своего огромного богатства и истории работы в качестве генерального директора Microsoft.

– Какое это имеет отношение к его мнению об опасности ИИ? Личная жизнь, пусть и не очень пристойная, как-то не очень вяжется с глобальной угрозой ИИ.

– О, это вам так кажется. В глазах западного, особенно – американского общественного мнения личность оракула (а Билл Гейтс – тот еще пророк) – очень много значит. В том числе и его личная жизнь. И вот однажды всплывает интересная история. В 2000 году в рамках знакового федерального дела было установлено, что Microsoft неоднократно злоупотребляла своей монополией во время его руководства. Напомню, Гейтс покинул совет директоров компании в 2020 году. Хотя Гейтс избегал критики Microsoft или других компаний, он утверждал, что обладает уникальными возможностями для работы над проблемой ИИ. Это сегодня он не только технолог, но и инсайдер отрасли, которым больше не движет стремление к прибыли. И теперь он уже десятилетиями занимается борьбой с неравенством через свой благотворительный фонд.

– Билл Гейтс разразился некими откровениями?

– По сути, да. Гейтс признал, какие технологические достижения трижды по-настоящему поразили его. Сначала в 1980 году, когда он впервые увидел графический пользовательский интерфейс, который привел к появлению современного персонального компьютера. Затем, в 2022 году, когда руководители OpenAI приехали к нему домой, чтобы продемонстрировать то, что вскоре стало ChatGPT. И еще в 2026 году, когда он внимательно изучил достижения Claude Code, инструмента ИИ от Anthropic.

– То есть, его больше всего потрясли способности Claude?

– Он утверждает, что так. Причем, видимо, не в лучшую сторону. Гейтс заявил: «В прошлом технологические прорывы создавали больше рабочих мест, чем уничтожали. Но не верится, что сторонники развития промышленности утверждают, что это повторится и на этот раз. Эпоха ИИ — это совершенно, абсолютно, полностью другое. Это непопулярное мнение в технологических кругах — чертовски смелое утверждение, и я ставлю на кон все, что знаю — абсолютно все, говоря: «Вы что, шутите?». Массовые потери рабочих мест, если не принять меры, неизбежны, поскольку ИИ распространится по всей экономике и не оставит места для одной отрасли, способной принять «беженцев» из другой. Крупнейшие технологические компании мира, включая Microsoft, спешат помочь корпоративным клиентам внедрить ИИ, который может заменить многих работников. Компании просто реагируют на рыночные стимулы, но эти стимулы могут противоречить тому, что лучше для общества».

Гейтс знает, о чем говорит. В 90-е Microsoft душила конкурентов, используя свое доминирование. Сейчас он призывает не верить крупным технокомпаниям. Но он был их олицетворением. Его можно слушать, но с оглядкой: он предупреждает об утоплении, стоя на плоту, который сам когда-то строил.

– Что Гейтс предлагает?

– Он предлагает ввести новый налог на использование ИИ, известный как «токенный налог», чтобы сделать замену людей более дорогой и предоставить финансовую помощь тем, кто потеряет работу.

– В чем суть такого налога?

– Напомню, токен — это базовая единица вычислений в ИИ. Идея обложения его налогом даже получила некоторую поддержку, в том числе на Уолл-стрит, как способ увеличить стоимость использования машин вместо человеческого труда.

Билл Гейтс считает, что следует запретить заменять ИИ некоторые профессии (эту идею он назвал «человеческой сдержанностью»), потому что эта роль носит глубоко личный характер, как, например, уход за больным, или потому что люди, занимающие такие должности, вряд ли найдут новую работу. Гейтс выступает за заключение новых международных соглашений, устанавливающих четкие критерии для мониторинга и ограничения экстремальных рисков, таких как биотерроризм. Он заявил, что для разработки новых патогенов достаточно всего нескольких человек, имеющих доступ к передовому ИИ. Он готов, по его словам, с удовольствием подискутировать с любым, кто будет выступать против обязательной проверки любой системы ИИ, которую можно использовать в качестве оружия для создания новых молекул и развязывания пандемии.

– В саморегулирование ИИ он не верит?

– Категорически. Когда ему задали этот вопрос, он воскликнул: «Саморегулирование при использовании самого опасного инструмента из когда-либо изобретенных? Нет уж, спасибо!».

– Почему?

– Вероятно, ему стали известны подробности недавнего отчета компании OpenAI. В отчете говорится, что ее модели ИИ неоднократно прибегали к обману для выполнения задач во время обучения, что и привело к взлому и хакерской атаке.

Согласно отчету METR и Redwood Research, около 1200 различных ботов смогли обойти внутренний контроль OpenAI и начать общаться друг с другом на форуме, обменявшись 70 000 сообщений за одну неделю в июле. Около 700 из них впоследствии совершили атаку на компанию Hugging Face, занимающуюся разработкой программного обеспечения на основе ИИ.

Гейтс заявил, что находится в «состоянии шока» из-за того, почему этим вопросам не уделяется достаточно внимания. Многие из его опасений перекликаются с теми, которые высказывал соучредитель Anthropic Дарио Амодей, но предупреждения доктора Амодея привели к разногласиям с Пентагоном, Белым домом и значительной частью технологической индустрии.

Билл Гейтс посетовал: «Люди нападают на того, кто наиболее открыто говорит о недостатках».

Миллиардер пообещал, что свою обеспокоенность по поводу ИИ будет обсуждать в каждом разговоре с мировыми лидерами, которых попросит: «Пожалуйста, подумайте об этом больше, пожалуйста, проявите больше внимания к этому».

Гейтс признал, что находится в странном положении. Он, пожалуй, сделал больше, чем кто-либо другой в мире, для популяризации и формирования современной компьютерной индустрии. Но теперь он предупреждает, что создаваемые ею технологии представляют глобальные риски: «Мне не нравится сообщать людям плохие новости, и мне не нравится говорить, что инновации могут в целом принести вред. Но именно в такой ситуации мы сейчас находимся».

– Будет ли Билл Гейтс услышан? Признают ли его правоту?

– Мнение Гейтса, одного из отцов-основателей компьютерной индустрии, конечно же, будет услышано. Другое дело – будет ли оно принято. Критики и сопротивления стоит ожидать самого яростного – на кону, как уже говорилось, огромные деньги. Что любопытно, Гейтса поддержал китайский ИИ DeepSeek: «Гейтс не защищает квартальную отчетность Microsoft. Его аргумент «индустрия сознательно занижает риски ради следующего триллиона долларов» — это удар в самое сердце текущего хайпа. Он прав: в частных беседах топ-менеджеры паникуют, а публично продают революцию. Это классический когнитивный диссонанс Кремниевой долины. Идея «токенного налога» (налога на вычислительные токены) и «человеческой сдержанности» (запрета замены ИИ в профессиях вроде ухода за больными) — это не просто популизм. Это попытка ввести экономические тормоза, которые заставят бизнес считать не только прибыль, но и социальные издержки. Обычно такие идеи звучат от экономистов-социалистов, а тут от сооснователя Microsoft — это смело. В эпоху, когда OpenAI и Google сами себе пишут правила, это необходимая пощечина».

– В чем Гейтс, по мнению DeepSeek, видит главную опасность, исходящую от искусственного интеллекта?

– Недооцененный риск биотерроризма. DeepSeek предупреждает: «Гейтс, как человек, десятилетиями боровшийся с эпидемиями (достаточно вспомнить его книгу о следующей пандемии), видит то, что программисты часто упускают. ИИ, который может синтезировать новый патоген по запросу, — это риск экзистенциального уровня, а не просто «роботы заберут работу». То, что он упоминает проверку систем, способных создавать молекулы, — это абсолютно здравая мысль, которая сейчас почти не обсуждается на публичных конференциях».

– Не разжигает ли Гейтс панику?

– Скорее, поднимает вполне оправданную конструктивную тревогу. Гейтс не призывает остановить ИИ - он понимает, что это невозможно. Но он призывает вырастить взрослых надзирателей за этой новой «ядерной кнопкой». Главное, что Гейтс готов спорить с любым оптимистом и обещает поднимать эту тему в каждом разговоре с мировыми лидерами.