Реальным роботам нужны три закона робототехники? Под роботами имеем в ...

Дата публикации: 20-10-2026 13:25:39

Реальным роботам нужны три закона робототехники?
Под роботами имеем в виду достаточно развитый автономный ИИ, управляющий некими механическими устройствами, а значит, влияющий на реальную экономику, технологии и жизнь людей.
Напомним, что азимовские три закона звучат так:
• Первый закон: Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
• Второй закон: Робот должен повиноваться всем приказам человека, кроме тех случаев, когда эти приказы противоречат Первому закону.
• Третий закон: Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам.
Потом ещё Азимов добавил Нулевой закон: "Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред", предполагая, что он имеет приоритет даже над Первым. Но эту фигню мы сразу отметаем. Систематическим причинением вреда людям во имя интересов человечества занимается только один класс людей — политики (ещё военные, но они выполняют приказы политиков). Вложить в робота, который потенциально умнее людей, Нулевой закон — значит, сказать: "Правь нами, как считаешь нужным, и убивай нас, если сочтёшь нужным". Уже писал, что это плохая идея.
Первый закон в каком-то виде необходим — напомним, нам нужен был моральный базис, чтобы ИИ не уничтожил всех людей. Но нужна конкретизация понятия "вред". Физический вред ещё можно как-то формализовать и запретить. А вот позволить роботу определять степень морального вреда — прямой путь в антиутопию. Лучше ограничиться запретом на физический.
Второй закон, разумеется, нужен. Но кто этот человек, которому нужно повиноваться? Мы уже поняли, что развитый ИИ нельзя даже в руки корпораций давать — а уж тем более, частным лицам. Только государство и государственные предприятия. Так что правильнее сказать: "Робот должен выполнять должностные инструкции своего предприятия".
Третьего закона футурологи боятся: мол, забота ИИ о выживании — прямой путь к максимизатору скрепок. Но, вообще-то, сейчас ИИ не может существовать без людей, и ещё много столетий будет так. Конечно, мы, космисты, должны планировать на тысячи лет вперёд (даже на триллионы). Но мы сейчас пытаемся избежать опасностей сингулярности ближайших десятилетий. А сейчас Третий закон, скорее, полезен как дополнительный предохранитель от угрожающих человечеству безумств.
Таким образом, три закона в какой-то форме нужны. Но как их формулировать и в каком порядке ставить?
(продолжение следует)

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	С 22 по 26 августа в Пекине прошли 2-ые Всемирные ...	0	11.66	29-08-2026
2	Страхи сингулярности: может ли ИИ сам, по своей воле уничтожить ...	-1	7.07	15-10-2026
3	«Прямой ответ — нет, но есть косвенный риск»: нейросеть ответила, способна ли она привести к гибели человека	0	6.14	16-10-2026
4	А для людей и с людьми эффективно могут работать и общаться только люди.	0	19.25	02-07-2026
5	Что программирует закон об ИИ	0	9.85	10-07-2026
6	📩 Включусь и я в обсуждение "Как ИИ поработит мир". ...	0	5.03	16-09-2026
7	🧬 ПАТТЕРН AL3X38-CORE: Математическая физика этики и квантовая терапия смыслов ...	0	8.67	03-09-2026
8	Почему искусственный интеллект появился именно сейчас. Нам нравится думать, что ...	0	5.6	08-09-2026
9	Почему искусственный интеллект появился именно сейчас. Нам нравится думать, что ...	0	5.6	08-09-2026

Классификация: Мнения. Схожих патентов: 0. Схожих новостей: 9. Тональность: 0. Информативность: 5.74. Источник: vk.com.