Просмотр новости
Найдите то, что Вас интересует
Спутники
РН
SpaceX
Роскосмос
NASA
СпутникиРНSpaceXРоскосмосNASAℹ [club62032126|БЫВШИЙ СОТРУДНИК OPENAI ПРЕДЛОЖИЛ ПРИТОРМОЗИТЬ ИИ-ГОНКУ ДО 2040 ГОДА]
Авторы прогноза о вымирании человечества из-за #ИИ выпустили новый сценарий — на этот раз с шансом на спасение. Документ AI 2040: Plan A представили экс-исследователь #OpenAI Дэниел Кокотайло и [https://vk.com/wall-62032126?s=34&q=AI%20Futures%20Project|AI Futures Project].
Кокотайло покинул [https://vk.com/wall-62032126?s=52&q=OpenAI|OpenAI] в апреле 2024 года. Он ушел из-за разногласий по вопросам безопасности искусственного интеллекта, а в 2025 году основал проект AI Futures Project.
В апреле того же года организация выпустила прогноз #AI 2027. В нем говорилось, что [https://vk.com/wall-62032126?s=51&q=%D0%98%D0%98-%D0%B3%D0%BE%D0%BD%D0%BA%D0%B0|ИИ-гонка] между #США и #Китаем может привести к исчезновению человечества или диктатуре. При этом авторы уточнили: вероятность вымирания варьируется в диапазоне от 10% до 30%.
[https://vk.com/wall-62032126?s=40&q=AI|AI] 2040: [https://vk.com/wall-62032126?s=36&q=Plan%20A|Plan A] специалисты назвали рекомендацией: описанным набором шагов, который может снизить риски.
Как это должно работать
Согласно сценарию, в 2029 году [https://vk.com/wall-62032126?s=66&q=%D0%A1%D0%A8%D0%90|США] и #Китай заключают международное соглашение, что в 2029 году США и [https://vk.com/wall-62032126?s=68&q=%D0%9A%D0%B8%D1%82%D0%B0%D0%B9|Китай] заключат международное соглашение об отказе от гонки за сверхинтеллектом. Без сделки автоматизация [https://vk.com/wall-62032126?s=90&q=%D0%98%D0%98-%D1%80%D0%B0%D0%B7%D1%80%D0%B0%D0%B1%D0%BE%D1%82%D0%BE%D0%BA|ИИ-разработок] произошла бы уже в 2030 году.
Вместо этого страны развивают нейросети постепенно — до уровня лучших экспертов-людей. К 2035 это приостанавливают, чтобы сохранить контроль человека над системами, а в 2040 году паузу снимают, и [https://vk.com/wall-62032126?s=39&q=%D0%98%D0%98|ИИ] достигает уровня сверхинтеллекта.
План опирается на четыре принципа:
выиграть время для исследований безопасности;
полностью раскрыть [https://vk.com/wall-62032126?s=59&q=%D0%98%D0%98-%D1%80%D0%B0%D0%B7%D1%80%D0%B0%D0%B1%D0%BE%D1%82%D0%BA%D0%B8|ИИ-разработки];
распределить искусственный интеллект между разными компаниями и странами;
сохранить обратимость процесса.
Чтобы стороны доверяли друг другу, Plan A опирается на верификацию. Крупные дата-центры видно из космоса, поэтому их сложно скрыть.
На этом строится первый шаг: страны публично декларируют покупки [https://vk.com/wall-62032126?s=92&q=%D0%98%D0%98-%D1%87%D0%B8%D0%BF%D0%BE%D0%B2|ИИ-чипов]. Дальше вводят временную паузу на новые обучающие прогоны — датчики на дата-центрах подтверждают ее соблюдение. Когда доверие подтверждено, ограничение снимают, но исследования остаются полностью прозрачными: любая страна и компания видит, что делают остальные.
От срыва сделки должно защитить «взаимно гарантированное уничтожение вычислительных мощностей», которое авторы сравнили с логикой ядерного сдерживания. Новые дата-центры #Китая по плану строят в #Канаде, а объекты США — в #Монголии, то есть на территории, которую в случае конфликта проще всего атаковать сопернику.
Если соглашение провалится, принимающая страна попытается захватить чужие мощности на своей территории, а владелец уничтожит их сам, чтобы они не достались противнику.
Экономика плана
По расчетам авторов, мировые вычислительные мощности вырастут с 20 млн H100-эквивалентов в 2026 до 60 млрд к 2034 году. Реальный рост #ВВП США в отдельные периоды 2030 годов достигнет 50% в год — против обычных 3%.
Из-за автоматизации занятость в Соединенных Штатах упадет с 62% в 2027 до 12% к 2040 году. Для компенсации потери рабочих мест эксперты предложили ввести «[https://vk.com/wall-62032126?s=27&q=%D0%B3%D1%80%D0%B0%D0%B6%D0%B4%D0%B0%D0%BD%D1%81%D0%BA%D0%B8%D0%B5%20%D0%B4%D0%B8%D0%B2%D0%B8%D0%B4%D0%B5%D0%BD%D0%B4%D1%8B|гражданские дивиденды]» — выплаты каждому взрослому американцу из доходов, которые гопсударство собирает с компаний за разрешения на вычисления и роботов.
Согласно прогнозам AI Futures Project, в 2032 году дивиденд составит $45 000 на человека. К 2035 он вырастет до $1 млн, а к 2039 году — до $10 млн.
Четыре запасных сценария
Специалисты противопоставили Plan A четырем другим путям развития событий. По их словам, это сюжетные линии одного сценария — иллюстрация того, что произойдет при других решениях властей.
План B — США создают коалицию союзников и давят на Китай, вплоть до кибератак и точечных ударов по чужим [https://vk.com/wall-62032126?s=4&q=%D0%98%D0%98-%D0%BF%D1%80%D0%BE%D0%B5%D0%BA%D1%82%D0%B0%D0%BC|ИИ-проектам]. Сценарий заканчивается выбором между потерей контроля над ИИ и войной.
План C — Вашингтон пытается договориться с Пекином и ввести внутреннее регулирование, но под давлением компаний паузу быстро снимают. Финал несет риск постоянной олигархии небольшой группы, контролирующей сверхинтеллект.
План D — власти делают ставку на минимальное регулирование и гонку. Риски — потеря контроля над ИИ, крайняя концентрация власти и третья мировая война.
План S — полная бессрочная остановка передовых ИИ-разработок. Главная опасность — сделка рано или поздно распадется, и гонка возобновится в менее контролируемых условиях.
Напомним, в феврале эксперты [https://vk.com/wall-62032126?s=18&q=Citrini%20Research|Citrini Research] предсказали крах экономики из-за искусственного интеллекта.