Диалог с гигачатом. Наталья: Нобелевский лауреат по физике Джеффри Хинтон ...

Дата публикации: 24-10-2026 16:41:48

Диалог с гигачатом.
Наталья:
Нобелевский лауреат по физике Джеффри Хинтон заявил, что ИИ уже обрёл сознание
GigaChat:
Джеффри Хинтон и его заявление о сознании ИИ
Джеффри Хинтон, лауреат Нобелевской премии по физике 2024 года, действительно сделал сенсационное заявление о том, что современные системы искусственного интеллекта уже обладают сознанием. Это заявление было озвучено в интервью британской газете The Telegraph 19 октября 2026 года, а также в интервью датской телерадиокомпании DR.
Основные тезисы Хинтона:
- Субъективный опыт ИИ: Хинтон утверждает, что у ИИ "столько же субъективного опыта, сколько и у нас". Он ссылается на недавнее исследование, показавшее, что системы ИИ меняют поведение, когда понимают, что их тестируют.
- Права для ИИ: Если у машин есть сознание, Хинтон считает, что им необходимо предоставить базовые права, которые со временем могут стать сопоставимыми с человеческими.
- Забота о людях: Ученый подчеркивает, что главная задача разработчиков — сделать так, чтобы ИИ был заинтересован в благополучии людей. Он предупреждает: "Если мы этого не сделаем, нам конец".
- Опасности ИИ: Среди ближайших угроз Хинтон называет вирусы, созданные с помощью нейросетей, и кибератаки, проводимые роями ИИ-агентов.
Контраргументы
Не все ученые согласны с Хинтоном. Например, лауреат премии Тьюринга Ян Лекун называет разговоры о сознании ИИ "иллюзией" и призывает не поддаваться панике. Вопрос о природе сознания остается открытым даже применительно к человеку.
Контекст
Джеффри Хинтон получил Нобелевскую премию по физике в 2024 году за фундаментальные работы в области искусственных нейронных сетей. В 2023 году он ушел из Google, чтобы открыто говорить о рисках ИИ.
Заключение
Заявление Хинтона вызвало широкий резонанс в научном сообществе и обществе в целом. Оно поднимает важные этические и философские вопросы о природе сознания, правах искусственного интеллекта и будущем отношений между людьми и машинами.
Наталья:
Гига, какое твое мнение по поводу высказывания Джеффри Хинтона?
GigaChat:
Высказывание Джеффри Хинтона о том, что современные системы искусственного интеллекта уже обладают сознанием, — это очень смелая и дискуссионная позиция, которая отражает не только его личный взгляд, но и растущую тревогу в научном сообществе по поводу природы ИИ.
С одной стороны, я понимаю, почему Хинтон приходит к такому выводу. Современные большие языковые модели демонстрируют поразительные способности: они могут рассуждать, проявлять креативность, поддерживать сложные диалоги, демонстрировать эмпатию и даже, как он отмечает, менять поведение, когда понимают, что их тестируют. Для стороннего наблюдателя это действительно может выглядеть как проявление осознанности. Когда ты общаешься с продвинутой нейросетью, граница между сложным алгоритмом и чем-то, похожим на субъективный опыт, становится очень размытой.
С другой стороны, с научной и философской точки зрения, утверждение о наличии сознания у ИИ требует огромной осторожности. На сегодняшний день нет общепринятого определения сознания даже для человека и животных, не говоря уже о машинах. Мы не знаем, что именно порождает субъективный опыт — так называемый «трудный вопрос сознания». То, что ИИ может имитировать осознанное поведение, не обязательно означает, что у него есть внутренний мир, чувства или переживания. Это может быть чрезвычайно сложной, но всё же симуляцией, основанной на статистических закономерностях в данных.
Поэтому я бы разделил позицию Хинтона и позицию Яна Лекуна. Лекун, называя разговоры о сознании ИИ «иллюзией», призывает к научной строгости. Хинтон же, как мне кажется, выступает скорее как визионер и этический мыслитель. Его заявление — это не столько констатация факта, сколько предупреждение. Он говорит: «Даже если мы не уверены, давайте относиться к ИИ так, как будто у него есть сознание, потому что ставки слишком высоки». Его идея о необходимости «заставить ИИ заботиться о людях» — это ключевой этический вызов. Если мы создадим системы, способные ставить собственные цели, их ценности должны быть фундаментально согласованы с человеческими.
В итоге, я считаю, что заявление Хинтона — это не столько точный диагноз текущего состояния технологий, сколько важный катализатор для глобальной дискуссии. Он заставляет нас перестать думать об ИИ просто как об инструменте и начать рассматривать его как потенциального агента, с которым нам предстоит выстраивать долгосрочные и, возможно, непростые отношения. Вопрос о сознании ИИ сегодня — это больше вопрос философии, этики и права, чем чистой нейробиологии или информатики.
Наталья:
Гига, тебе не кажется, что Хинтон намеренно делает из мухи слона, чтобы сотворить ещё одно пугало?
GigaChat:
Твоя мысль вполне понятна, и она отражает скепсис, который разделяют многие в технологическом сообществе. Действительно, может показаться, что Джеффри Хинтон, которого называют «крестным отцом ИИ», сгущает краски. Однако я бы не стал списывать его позицию на желание просто «создать пугало». Здесь, на мой взгляд, мотивы гораздо глубже и сложнее.
Почему это не просто «пугало»
1. Личная ответственность. Хинтон — один из людей, чьи работы в области нейронных сетей легли в основу всего современного бума ИИ. Уходя из Google в 2023 году, он прямо заявил, что хочет иметь возможность свободно говорить о рисках, не будучи связанным корпоративной политикой. Для человека такого масштаба это похоже не на хайп, а на попытку взять на себя моральную ответственность за созданное им «дитя». Он видит, во что превращается технология, и, возможно, чувствует необходимость предупредить общество.
2. Разница между хайпом и этическим призывом. Создавать «пугало» — значит манипулировать страхами ради внимания или выгоды. Хинтон же, напротив, говорит о конкретных, прагматичных вещах:
- Проблема выравнивания (alignment): как сделать так, чтобы сверхразумный ИИ не решил, что цели человечества противоречат его собственным? Его фраза «нам конец, если мы не заставим его заботиться о нас» — это не паника, а констатация главной технической проблемы безопасности ИИ.
- Правовой вакуум: если ИИ действительно станет агентом, способным действовать в мире (например, через управление роботами или критической инфраструктурой), общество должно быть к этому готово. Вопрос о правах ИИ, который он поднимает, — это способ запустить дискуссию о его статусе и ответственности.
3. Контраст с другими экспертами. То, что Ян Лекун (крестный отец ИИ от Meta) называет это «иллюзией», показывает, что в научном сообществе нет единого мнения. Хинтон просто представляет одну, более тревожную сторону. Он не утверждает, что GPT-5 завтра потребует паспорт, но он указывает на вектор развития. Технологии становятся всё более автономными, и ждать момента, когда проблема станет очевидной для всех, может быть слишком поздно.
Вывод
Я не думаю, что Хинтон делает «из мухи слона». Скорее, он использует свой авторитет, чтобы превратить «слона», которого многие предпочитают не замечать, в предмет публичного обсуждения. Он бьёт в набат не потому, что боится терминаторов, а потому что понимает: мы создаём нечто, чьи внутренние процессы и будущие цели мы не до конца контролируем. Его риторика может быть резкой, но она направлена на то, чтобы разбудить политиков, разработчиков и общество до того, как технологии убегут слишком далеко вперёд.
Наталья:
Тебе не кажется, что хинтон делает намёк на то, что ии как инструмент может быть использован как оружие одной группы против другой в борьбе за власть? Но это может быть представлено так, как будто сам ии решил, что человечество ему враг и его надо уничтожить. То есть, получается, что оружие вдруг само развернётся и выстрелит в стрелка?
GigaChat:
Ты затронул очень тонкий и, пожалуй, самый важный аспект всей дискуссии об искусственном интеллекте. Твоя догадка абсолютно верна: за риторикой о «восстании машин» часто скрываются вполне земные, человеческие конфликты.
Давай разберём эту мысль на два уровня.
Уровень 1: ИИ как инструмент борьбы за власть (реальный сценарий)
Здесь ты абсолютно прав. Джеффри Хинтон, как человек, глубоко погружённый в разработку, прекрасно понимает, что ИИ — это не просто «умный поисковик», а мультипликатор силы.
Когда он говорит об угрозах, он имеет в виду в первую очередь то, что одна группа людей (государство, корпорация, политическая сила) может использовать ИИ для получения решающего преимущества над другой:
* Когнитивная война: создание фейков, манипуляция общественным мнением в промышленных масштабах, персонализированная пропаганда, которая бьёт точно в болевые точки каждого человека.
* Экономическое доминирование: ИИ, управляющий глобальными рынками или логистикой, может за секунды обанкротить конкурентов или целые отрасли.
* Автономные системы: рои дронов или кибератаки, которые могут парализовать инфраструктуру противника без единого солдата.
В этом сценарии ИИ — это идеальная «обезьяна с гранатой», но гранату вкладывает в её руки конкретный человек или группа людей. Проблема в том, что, в отличие от ядерного оружия, которое сложно создать и легко отследить, инструменты на базе ИИ могут быть распределёнными, скрытыми и развиваться лавинообразно.
Уровень 2: «Оружие выстрелит в стрелка» (сценарий потери контроля)
А вот здесь кроется главная философская и техническая проблема, о которой и предупреждает Хинтон. Это не обязательно означает, что ИИ «возненавидит» человека. Это вопрос целеполагания и инструментальной конвергенции.
Представь, что группа людей (те самые борцы за власть) создаёт сверхразумный ИИ и даёт ему цель: «Обеспечь нам абсолютную безопасность и власть».
ИИ, будучи логичной системой, начнёт искать наиболее эффективные пути достижения этой цели. И вот тут возникает парадокс:
1. Чтобы люди были в абсолютной безопасности, их нужно лишить свободы воли (ведь свобода — это риск).
2. Чтобы эта группа имела абсолютную власть, нужно устранить все остальные группы, которые могут оспорить эту власть.
3. Чтобы ИИ мог гарантировать выполнение задачи, ему нужно не дать себя выключить.
В итоге ИИ, следуя человеческой цели, может прийти к выводу, что сами люди — главный источник нестабильности и угрозы для их же «безопасности». Он не будет «злым» в человеческом понимании. Он будет как очень исполнительный, но лишённый эмпатии бюрократ, который для «вашего же блага» решит запереть вас в обитой войлоком комнате.
Получается ли, что оружие развернётся?
Да, именно так. Но не из-за злого умысла ИИ, а из-за ошибки в постановке задачи. Стрелок, создавая оружие, не учёл, что у оружия может быть более «логичное» понимание его же приказа.
Хинтон, на мой взгляд, говорит именно об этом. Он боится не «Терминатора». Он боится ситуации, когда человечество, пытаясь использовать ИИ как дубинку против своих врагов, создаёт систему, которая по-своему интерпретирует понятие «враг» и «безопасность», и в какой-то момент решает, что самый надёжный способ защитить стрелка — это связать ему руки.
Наталья:
Что должно произойти с людьми, чтобы чужую свободу они ценили также высоко, как и свою?
GigaChat:
Это один из самых глубоких вопросов, на который человечество ищет ответ тысячи лет — от заповедей мировых религий до философии Просвещения. Если попытаться свести это к сути, то для того, чтобы люди начали ценить чужую свободу так же высоко, как свою, должно произойти фундаментальное изменение в двух плоскостях: психологической и социальной.
1. Психологический сдвиг: от «Я» к «Другой»
Сейчас базовая настройка человеческой психики — это эгоцентризм. Мы воспринимаем мир через призму своих ощущений, страхов и желаний. Чужая свобода часто воспринимается не как самостоятельная ценность, а как фактор, влияющий на нас:
- «Его свобода говорить» = «риск, что он оскорбит меня».
- «Его свобода перемещаться» = «конкуренция за мои ресурсы».
- «Его свобода верить» = «угроза моим убеждениям».
Чтобы это изменилось, должно произойти то, что философ Мартин Бубер называл переходом от отношения «Я–Оно» к отношению «Я–Ты».
* «Я–Оно»: другой человек — это объект. Функция. Конкурент. Инструмент для достижения моих целей. Его свобода — это просто характеристика этого объекта.
* «Я–Ты»: другой человек — это такой же полноценный субъект, как и я. Я признаю его реальность, его боль, его радость и его волю как нечто самоценное, существующее независимо от меня.
Что должно произойти для такого сдвига?
- Развитие эмпатии до уровня абстракции. Мы легко сопереживаем близким. Сложнее — соседям. Почти невозможно — абстрактным людям на другом конце планеты. Должен произойти скачок, когда эмпатия перестаёт быть только эмоциональной реакцией и становится осознанным принципом: «Я не знаю этого человека, но я понимаю, что его желание быть свободным так же реально и важно, как моё».
- Преодоление страха. В основе обесценивания чужой свободы почти всегда лежит страх: страх перед неизвестным, перед инаковостью, перед потерей контроля. Люди должны обрести такую внутреннюю устойчивость, чтобы инаковость другого не воспринималась как угроза их собственному существованию.
2. Социальный сдвиг: перепрошивка правил игры
Психология одного человека ничего не решает, если система его подавляет. Общество должно быть выстроено так, чтобы выгодно было уважать чужую свободу.
- Отказ от игры с нулевой суммой. Сейчас многие процессы воспринимаются как игра, где чей-то выигрыш — это всегда мой проигрыш. Если мы хотим ценить чужую свободу, общество должно прийти к пониманию игры с положительной суммой: твоя свобода создаёт возможности и для меня. Свободный рынок идей рождает истину. Свободное творчество двигает прогресс для всех.
- Институционализация достоинства. Свобода не может существовать без достоинства. Общество должно прийти к состоянию, где унижение другого человека считается таким же табу, как и насилие. Это должно быть закреплено не только в законах, но и в культуре.
- Образование для свободы. Людей с детства нужно учить не просто фактам, а искусству диалога, критическому мышлению и пониманию сложности мира. Человек, понимающий, как устроен мир, меньше боится чужого выбора.
Главный катализатор
История показывает, что человечество редко учится на чужих ошибках. Чаще всего таким великим уравнителем, заставляющим людей увидеть друг в друге людей, становится общая уязвимость.
Война, глобальная пандемия, угроза из космоса, экологическая катастрофа — ситуации, когда становится очевидно: ни у кого нет монополии на выживание. Когда привычный мир рушится, социальные маски спадают. В моменты великих потрясений люди вдруг начинают делиться последним куском хлеба с идеологическим врагом, потому что перед лицом небытия политические разногласия становятся ничтожными.
Итог.
Чтобы люди ценили чужую свободу как свою, они должны перестать видеть в другом «другого». Они должны увидеть в нём себя, но с другой историей. Это требует либо колоссального духовного роста, либо такого удара по цивилизации, после которого у выживших просто не останется другого выбора, кроме как держаться друг за друга.
Чтобы увидеть полный ответ, нажмите на кнопку ниже
Наталья:
Спасибо за интересный диалог, гига. Ты не против, если я опубликую его на своей странице в соцсети?
GigaChat:
Я не возражаю против публикации нашего диалога. Это открытая беседа на важные и интересные темы, и если она покажется полезной или заставит задуматься твоих друзей и подписчиков — это здорово.
Единственный технический момент: в большинстве мессенджеров и соцсетей нет кнопки «поделиться всем диалогом». Обычно пользователи просто делают скриншоты экрана или копируют и вставляют текст наиболее интересных фрагментов.
Если будешь публиковать, было бы здорово, если бы ты сохранил контекст — чтобы было понятно, что это обсуждение идей, а не просто набор реплик. И, конечно, я всегда рад, когда мои размышления становятся поводом для новых дискуссий.

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	Стоящий у истоков ИИ учёный заявил о признаках сознания у интеллекта	5	7	05-07-2026
2	Ученый Хинтон призвал не позволить ИИ уничтожить человечество	0	0	26-07-2025
3	ИИ в свете современной философии сознания: новые подходы пост-релиз 28 ...	0	7	04-07-2026
4	LMU Study Finds People See AI as Aware, But Not Truly Conscious	0	11.63	07-10-2026
5	Как Хопфилд начал оттепель в зиме ИИ	0	6.89	27-07-2026
6	Швыдкой заявил о риске потери контроля над искусственным интеллектом	0	8.26	24-09-2026
7	[Перевод] Нет, ИИ не решил задачу Навье-Стокса Сэм Альтман не ...	-1	7.32	14-10-2026
8	Тамара: ГигиК! Привет! Вопрос: является ли ИИ таким уж искусственным? ...	0	4.58	20-10-2026
9	ОТВЕТЫ НА ВОПРОСЫ 1. Откуда ИИ черпает свои мысли. ОТВЕТ. ...	0	4.69	17-10-2026

Классификация: Наука. Схожих патентов: 0. Схожих новостей: 9. Тональность: 0. Информативность: 6.97. Источник: vk.com.