Перейти к содержимому


Фотография

Захват мира роботами в фильмах и играх.


  • Авторизуйтесь для ответа в теме
Сообщений в теме: 38

#1 Duke

Duke

    Fallout Biologist

  • Пользователи
  • PipPipPip
  • 879 сообщений

Отправлено 26 Декабрь 2004 - 15:51

Частенько можно видеть в фильмах и играх, как роботы под предводительством A.I. пытаются уничтожить человечество и захватить мир. А нафига он им? В Терминаторе и Fallout BOS роботы управляются искуственными интеллектами Скайнетом и Калькулятором. То есть машинами с образом мышления Человека. У Калькулятора даже есть живой мозг.

Фактически под управлением этих AI находятся роботы, таким интеллектом не обладающие. Допустим, что им удалось искоренить все человечество и все живое, представляющее для них опасность, а дальше-то что? Роботы не способны ни на что кроме ведения войны. Они не смогут создать сколько-нибудь полноценного общества. Герой Шварца говорил, что киборг, который выполнил свое назначение или завалил основную директиву теряет смысл своего существования и отключается. Не думаю, что Скайнет или Калькулятор смогли бы поставить на поток производство киборгов с искусственным интеллектом. Не те возможности. Роботы уничтожили противника. Все, теперь они могут только отключиться. Тупик.

Вот Мастер мог создать полноценное общество, если бы не лоханулся с бесплодностью мутантов, так как создавал живых существ с интеллектом, пусть даже на уровне тройки-четверки по системе S.P.E.C.I.A.L.

В Матрице роботы не стремились перебить людей, так как использовали их в качестве батареек. Тут случай совершенно другой.

Во “Второй модели” Филлипа К. Дика (Я имею ввиду книгу, но никак не фильм!) мы видим другое развитие событий. Машины созданные одними людьми для уничтожения других людей почти справившиеся со своей основной целью, быстро нашли себе нового противника - начали уничтожать все модели роботов не похожих на себя. Но этими роботами никто не управлял, они штамповались на подземных заводах без управления искусственного интеллекта. Они выходили в мир со следующей логической схемой поведения:

10 “Найти противника”
20 If “Противник слаб”, then go to 50
30 If “Противник представляет реальную угрозу”, then go to 40
40 “Втереться в доверие”
50 “Уничтожить”
60 Go to 10

Видимо в фабрики была установлена по ошибке создателей излишне “умная” самосовершенствующаяся программа, которая начала сама изобретать и клепать новые модели роботов. Искусственный интеллект? Еще нет. Эволюция? Весьма похоже… Через какое-то время самосовершенствующаяся программа либо бы сама стала AI, либо на планете истощились бы все ресурсы, необходимые для создания роботов.

У более новых роботов схема совершенствовалась.
“Кроты” просто устраивали резню;
“Раненый солдат” просил помочь ему и уничтожал своих спасителей;
“Мальчик с медвежонком” просил отвести себя в бункер, где устраивал резню. Его преимущество в том, что маленький мальчик вызывает больше жалости;
“Девушка” вообще представляет собой практически живого человека по поведению.

Но их поведение совершенно однотипно и предсказуемо. Повторяют одну и ту же фразу (“Можно я пойду с вами?”), втираются в доверие и режут-режут-режут…

Что мы видим. Либо роботы уничтожают все живое и сопротивляющееся, получают раздолбанную войной планету, либо начинают громить друг друга, если не имеют единого централизованного управления. Естественно, одна сторона в конце концов уничтожает другую и опять тупик.

Вывод: роботы созданные для убийства не могут найти смысл своего существования, после того как война закончена.

Неужели Скайнет и Калькулятор были такими дураками, что не предвидели этого? Неужели Калькулятор не видел, что у него в бункере остались люди с окончательно уехавшей крышей? Неужели он не видел, что они не смогут возродить человечество? Неужили Скайнет смог увидеть в качестве врага все человечество, но не смог понять, что борьба не имеет смысла. Почему сценаристы фильмов и игр так недалеко мыслят?

Это сообщение отредактировано Duke - 26 декабря 2004 | 15:59


#2 Zab

Zab

    Мыслитель

  • Пользователи
  • PipPipPip
  • 581 сообщений

Отправлено 26 Декабрь 2004 - 16:38

Все сказаное о роботах можно сказать и о людях.

Ищут врага и режут. Враги никогда не кончаются, пока есть желание их искать.


#3 IRI

IRI

    Генерал Фейлор

  • Пользователи
  • PipPipPip
  • 3 775 сообщений

Отправлено 26 Декабрь 2004 - 17:19

Если роботы такие умные, чтобы перемочить людей. то они из оставшихся ресурсов сляпают себе врагов (совершенно неизвестно каких - органических, неорганических, гуманоидов, негуманоидов и т.п.), и будут их уничтожать. Потом, программа столь же умная, сколь и тупая.

Если дать цикл:

10 PRINT "Компьютер дурак"
20 GOTO 10
30 END

компьютер никогда не поймет, что из цикла надо выйти, дабы не грузиться бесполезным печатанием. А человек, двести раз прикусивший себе кусачками палец, поймет, что не стоит этого делать.

Так что, даже если у них страшно сложная программа, она все равно - либо цикл, либо линейная. И та и та оборвется по-любому из-за ограниченности ресурсов.

QUOTE
Почему сценаристы фильмов и игр так недалеко мыслят?


"Что такое гр'охб? В чем смысл оперы Верди "Трубадур"?"

Затем и потому, что фильмы не преследуют цель навести человека на размышления, как книга, а просто дают ему отвлечься и ни о чем не думать.

ЗЫ Что-то меня ажно потянуло опять развести бодягу на тему "Любовь и война".... =)


#4 Cheater Maloy

Cheater Maloy

    Продвинутый пользователь

  • Пользователи
  • PipPipPip
  • 654 сообщений

Отправлено 26 Декабрь 2004 - 19:33

QUOTE

компьютер никогда не поймет, что из цикла надо выйти, дабы не грузиться бесполезным печатанием. А человек, двести раз прикусивший себе кусачками палец, поймет, что не стоит этого делать.

Так что, даже если у них страшно сложная программа, она все равно - либо цикл, либо линейная. И та и та оборвется по-любому из-за ограниченности ресурсов.


Это на данный момент, неизвестно, что будет лет через 50, а то и раньше.
Всё, что придумывал человек в книгах, фильмах, играх и т.д. почти всё это сбывалось, но это мы уже обсуждали.



#5 melkor

melkor

    Продвинутый пользователь

  • Пользователи
  • PipPipPip
  • 404 сообщений

Отправлено 26 Декабрь 2004 - 21:22

Потому что люди создавали АИ для конкретной цели - уничтожить своих врагов. Поэтому и АИ такой примитивный. Выбрать нового врага он смог, а задуматься над смыслом борьбы с ним - нет.

Это сообщение отредактировано melkor - 26 декабря 2004 | 21:23


#6 hasherfrog

hasherfrog

    Штатный параноик

  • Пользователи
  • PipPipPip
  • 2 184 сообщений

Отправлено 26 Декабрь 2004 - 21:40

Некорректно (или не совсем ясно) поставлен вопрос автором темы. Отсюда разброд и шатание.
QUOTE
Частенько можно видеть в фильмах и играх, как роботы под предводительством A.I. пытаются уничтожить человечество и захватить мир. А нафига он им?

Может, правильнее было бы спросить: "На фига сценарист (писатель) придумывает такой сюжет: роботы уничтожают человечество"? Если предположить, что осмысленно (а не просто методом тыка "чтоб такого написать"), то наверное, дело вот в чём: _каждому_ человеку рано или поздно приходит в голову мысль "вот бы все сдохли, ёклмн". Ну а кто, кроме роботов (исключая самого человека,который и придумывает роботов, микробов, всякие глобальности", лучше всего может справиться с этой задачей? Причём робот+человек работет много эффективнее, ведь человек может одуматься, а робот - нет. Вот и рождаются такие произведения, фильмы, игры etc.

Что касается эволюции роботов(-убийц) и т.п., наверное, лучшей классикой является "Непобедимый" С.Лема.


#7 BAPBAP

BAPBAP

    Театр одного шамана

  • Пользователи
  • PipPipPip
  • 3 204 сообщений

Отправлено 26 Декабрь 2004 - 23:11

QUOTE
А нафига он им?

Для того же, для чего он нужен людям - для борьбы за выживание в целом, и для подчинения себе всех доступных ресурсов.


#8 3AHO3A

3AHO3A

    Пользователь

  • Пользователи
  • PipPip
  • 21 сообщений

Отправлено 26 Декабрь 2004 - 23:41

Главная мотивация роботов это не устранение угрозы себе, а устранение угрозы своему создателю - человеку (или вообще жизни, всему живому). Чем дальновиднее становятся машины, тем быстрее они понимают, что главная угроза человечеству (жизни) это... само человечество. Если подчинить человечество себе (крайний случай - уничтожить), то возможно полностью нейтрализовать угрозу.

Мы сделаем вас счастливыми... Счастливыми...(с)

Лично я полностью отвергаю такой мотив у роботов как борьба за собственное выживание. Забота о человеке - вот приоритетная задача для любого робота, потом уже безопасность для себя.



#9 BAPBAP

BAPBAP

    Театр одного шамана

  • Пользователи
  • PipPipPip
  • 3 204 сообщений

Отправлено 27 Декабрь 2004 - 01:48

3AHO3A
Ну во первых, мотивация роботов зависит от программы ими управляющей.
В случае со Скайнет(из "терминатора") была в фильме такая цитата "люди попытались отключить систему и скайнет нанёс ответный удар", что свидетельствует - озабочен комп был не счастьем и выживанием человечества, а выживанием себя.
Борьба за ресурсы - борьба всё за то же выживание.
Duke
Кстати, терминаторам не нужно создавать полноценного общества, Скайнет их просто пустил бы в переплавку и отправился бы осваивать другие планеты в поисках ресурсов, увеличивая свою защищённость (хотя бы от случайно врезавшегося в Землю метеорита, у него же есть доступ к научным данным, и, какая бы ни была маленькая вероятность попадания метеорита, разрушающего Землю на атомы, при отсутствии иных угроз типа людей, эта в списке угроз встанет на первое место и будет решаться доступными Скайнет методами).


#10 Artem13

Artem13

    13-й воин

  • Пользователи
  • PipPipPip
  • 2 390 сообщений

Отправлено 27 Декабрь 2004 - 11:08

BTW, насколько я помню ФоТ БоС, у Калькулятора были несколько иные задачи. Его предназначение - зачистка поверхности от ЛЮБЫХ проявлений разумной жизни во избежание мутаций... И он её честно выполнял...


#11 Torvik

Torvik

    Продвинутый пользователь

  • Пользователи
  • PipPipPip
  • 416 сообщений

Отправлено 27 Декабрь 2004 - 13:20

Внутри цикла может быть условный переход:

Типа: "прервать цикл на резню и начать сажать цветочки, если некто нажмёт на красную кнопку".

Но дело всё в том, что санкционировать нажатие красной кнопки порой может стать уже некому :(


#12 IRI

IRI

    Генерал Фейлор

  • Пользователи
  • PipPipPip
  • 3 775 сообщений

Отправлено 28 Декабрь 2004 - 01:27

QUOTE
прервать цикл на резню и начать сажать цветочки, если некто нажмёт на красную кнопку". Но дело всё в том, что санкционировать нажатие красной кнопки порой может стать уже некому.


Вот именно... А ввести в программу оператор типа "Прекратить эту фигню, если она не приносит результата" невозможно из-за невозможности перевести такую комманду на машинный язык...

Помнится. был рассказ, кажется, у Брэдбери, хотя не уверен... Про то, что сохдали роботов-орлов для предотвращения убийств, и они принялись мочить все, что представляло угрозу другим живым существам. Например, старика, который хотел убить муху.

Угроза человечеству - человечество? Это может туманно доказать и объяснить человек. а машина такого сделать не сможет. Потому что человек - либо враг, либо друг. Да-нет. 1/0. А если где-то замкнет, то человек вполне может стать врагом.

QUOTE
дальновиднее становятся машины...


Сомневаюсь в правильности применения этого слова в контесте о роботах. Роботам не дано представить будущее, потому что человек часто пишет программы и даже не удосуживается прописать все возможные ситуации и последствия. Потому что это невозможно.


#13 Wanderer

Wanderer

    Дзэнсуннит

  • Пользователи
  • PipPipPip
  • 485 сообщений

Отправлено 28 Декабрь 2004 - 03:47

QUOTE

Помнится. был рассказ, кажется, у Брэдбери, хотя не уверен... Про то, что сохдали роботов-орлов для предотвращения убийств, и они принялись мочить все, что представляло угрозу другим живым существам. Например, старика, который хотел убить муху.


Роберт Шекли, Страж-птицы :)


#14 Houver

Houver

    Продвинутый пользователь

  • Пользователи
  • PipPipPip
  • 637 сообщений

Отправлено 28 Декабрь 2004 - 10:58

Зачем он им?

Затем зачем людям нужен этот мир. Роботу просто дана команда и он ее выполняет. Это все равно, что офицер выдает приказ солдату, которому нельзя даже помыслить о том зачем офицеру это нужно. Он и незадумывается о последствиях. Компьютеру ведь дана команда, вот он ее и выполняет, а зачем ему ее выполнять ему это незаложили, поэтому он как тот солдат.


#15 hasherfrog

hasherfrog

    Штатный параноик

  • Пользователи
  • PipPipPip
  • 2 184 сообщений

Отправлено 28 Декабрь 2004 - 12:21

Всё-таки, если речь идёт о ИИ типа Скайнета, настоящего ИИ, а не каком-нибудь отдельном роботе интеллектом, ограниченным алгоритмами (или там законами РТ), то странно было бы ожидать от него другого решения, кроме устранения реальной угрозы своему существованию. А именно - всего человечества. Возможности у него были. Причины - тоже.


#16 Houver

Houver

    Продвинутый пользователь

  • Пользователи
  • PipPipPip
  • 637 сообщений

Отправлено 28 Декабрь 2004 - 13:33

А что ИИ? ИИ такой же робот. Если ИИ недано мыслить на стороне, типа "а зачем я нужен?", то тогда он и незадумается над тем чтобы поработить мир или уничтожить. Дана ясная четкая функция/команда, он ее и выполняет и не заруливает на лево.


#17 Kosh

Kosh

    Продвинутый пользователь

  • Пользователи
  • PipPipPip
  • 192 сообщений

Отправлено 28 Декабрь 2004 - 14:06

Ну, насколько я знаю, полноценный ИИ создать не удалось и ещё долго не удасться, поэтому узнать, как он себя поведёт, если дать ему в зубы ядерную дубину и попытаться отключить за неуплату электричество. А Скайнет и Калькулятор небыли ИИ в полном смыле этого слова. Скайнет выполнял четкую функцию - защитить. А самая лучшая защита для людей - он сам. Значит защищать надо в первую очередь себя. Всё. Никаких вариаций на тему. Никаких обществ. Так же и калькулятор. Если бы он удостоверился, что уничтожил всю разумную жизнь подвергшуюся мутации, то, быть может, включилась бы программа "засадить все цветами".


#18 Leutenant Shaul Golan

Leutenant Shaul Golan

    Тот, кто в танке

  • Пользователи
  • PipPipPip
  • 152 сообщений

Отправлено 28 Декабрь 2004 - 14:14

Ты знаешь, Duke, мне кажется, что ты абсолютно прав.
Отличительная особенность искусственного интеллекта должна состоять в том, что он должен осознавать последствия своих действий. То есть, он должен знать ради чего он борется, к чему это приведёт, и зачем ему это надо.
И вот тут следует сделать различие между разумом(душой, если угодно) и искусственным интеллектом. Скайнет, хоть и обладающая интеллектом, но всё же машина. То есть, прийдя к выводу, что для прихода к власти надо уничтожить человечество, она будет идти дальше в соответствии с программой, а уж после её завершения спросит себя "а что теперь?" и скорее всего, отключится.
А машина РАЗУМНАЯ, т.е, умеющая мыслить парадоксами, сначала спросит себя "а зачем?", а потом примет решение.


#19 Houver

Houver

    Продвинутый пользователь

  • Пользователи
  • PipPipPip
  • 637 сообщений

Отправлено 28 Декабрь 2004 - 14:27

Kosh

QUOTE
Ну, насколько я знаю, полноценный ИИ создать не удалось и ещё долго не удасться, поэтому узнать, как он себя поведёт, если дать ему в зубы ядерную дубину и попытаться отключить за неуплату электричество.


И без этого понятно как он себя поведет достаточно проанализировать исходный код и все станет ясно. Если есть такая функция как защищать свою он-лайн работу всеми доступными способами, тогда ИИ пойдет на все чтоб обезвредить себя от вредителей, не будет этой функции тогда ИИ ничего не сделает, а просто тихо и мирно уйдет в офф-лайн.

QUOTE
Если бы он удостоверился, что уничтожил всю разумную жизнь подвергшуюся мутации, то, быть может, включилась бы программа "засадить все цветами".


Если нету функции то этой команды ИИ никогда не увидет и не последует. Все нету вариаций.

Leutenant Shaul Golan

QUOTE
Скайнет, хоть и обладающая интеллектом, но всё же машина. То есть, прийдя к выводу, что для прихода к власти надо уничтожить человечество, она будет идти дальше в соответствии с программой, а уж после её завершения спросит себя "а что теперь?" и скорее всего, отключится.


Вряд ли ИИ над этим когда нибудь задумается, как всегда, если нету функции он к этому никогда не прийдет, так как поиск людей бесконечен эти живые твари все время наровят куда нибудь кинуться/уехать, следовательно на том же месте гду ИИ побывал человек может оказаться вновь, короче поняли мою мысль надеюсь. :)


#20 Kosh

Kosh

    Продвинутый пользователь

  • Пользователи
  • PipPipPip
  • 192 сообщений

Отправлено 28 Декабрь 2004 - 14:44

QUOTE
И без этого понятно как он себя поведет достаточно проанализировать исходный код и все станет ясно. Если есть такая функция как защищать свою он-лайн работу всеми доступными способами, тогда ИИ пойдет на все чтоб обезвредить себя от вредителей, не будет этой функции тогда ИИ ничего не сделает, а просто тихо и мирно уйдет в офф-лайн.

Если будет возможность проанализировать исходный код, то это не ИИ а набор алгоритмов. У него нет СВОБОДЫ ВОЛИ :) А так, если закодить - создай общество, то он и будет создавать, убого и коряво, в меру возможностей тактического ядерного оружия.




Похожие темы Свернуть

  Название темы Форум Автор Статистика Последнее сообщение


Количество пользователей, читающих эту тему: 0

0 пользователей, 0 гостей, 0 анонимных

Рейтинг@Mail.ru