Сообщений в теме: 39

[vsadnik]

Бей уродские машины!Магнитную бомбу в каждый дом!Даешь джихад против машин к ХХII веку.
Какая лажа!
Во первых-ни одна собака в мире не знает что действительно представляет собой ИИ.
Ориентироваться можно лишь на разум людей,а кто сказал что это единственный вариант?
Будет ли ИИ врагом?Меня больше волнует сколько ИксИнов будут врагами,сколько союзниками а кому вообще все до процессора.
Причин схватиться полно,наши ограничения на мощьность,энергию,объемы данных для них.
Их разум для нас.
Почему не рассматриваете варианты холодной войны?А с оружием не проблема-ИИ как и человек любое напряжение превратит в оружие,
пассажирский лайнер на автапилоте,сети банков,космические аппараты,газовые магистрали-да все до чего дотянется,вплоть до лифтов,пожаротушения,светофоров.
Вариант ИИ гробяшего людей не из злого умысла,а потому что надо,причем самим людям.
Это Красную королеву вспомнил.
Кстати у Дэна Cимонса в "Гиперионе" и последующих книгах описана война людей и ИИ. Причем великолепно.

Менделеев в своё время серьезно считал что основной поблемой XX века будет утилизация лошадиного наваза.Это насчет "Сингулярности".

[crazy_ant]

А у меня вопрос к человеко-ненавистникам.
Вы Вернадского читали? Сам знаю, что нет, иначе не создавали таких глупых постов.
В кратце, то что человек добывает (нефть, уголь, газ) выпадает из круговорота веществ в природе, т.е. за миллионы лет это все природой накопилось и сама природа это переработать не может... И вот появляется человек, начинает это все из земли доставать, перерабатывать и возвращать в природу в самой доступной форме - углекислоте. Про фотосинтез в школе слышали?
Как из углекислоты получается кислород?
Так что человек очищает землю от ненужных ей веществ. Многие этого не понимают,но это не означает, что они действуют во вред.
ЗЫ.
Это пост несомненно оффтопик, но отбирающий у злобно настроенных людей любимый довод про плохое человечество и уничтожение его посредством ИИ.

[AlgerT]

А у меня вопрос к человеколюбам
Кто вам сказал. что эти вещества НЕ НУЖНЫ?
Кто сказал, что природе нужно разрушение водного балланса, химическое заражение, радиационное заражение, парниковый эффект, таяние антарктических и арктических льдов, вымирание огромного количества видов живых существ, появление новых болезней и генетически модифицированных растений?
(список можно продолжить)

[crazy_ant]

Странный ты AlgerT...
Эти вещества природой не перерабатываются, я ведь совершенно ясно написал. Ну давай предположим, что нужны... а чего они тогда складируются? И каким образом, без участия человека, принимают участие в круговороте веществ?
Это не мое личное мнение, а мение ученых.
А остальное, что ты написал природе до фени. Человеку - нет, а природе - до фени.
Только теперь объясни, как это все вывести к угрозе ИИ. Тема не создавалась с вопросом "Как сделать ИИ, чтобы он уничтожил человечество?" или "Почему я хочу уничтожить человечество?". Вопрос стоит по другому "Является ли ИИ угрозой Человечеству?" и если ИИ будет мыслить логически, а ведь это мы и предпологаем, то у него нет никаких оснований уничтожать нас. Наоборот, у него все основания помогать людям.
Вот только один косяк, нет никаких поводов радоваться или огорчаться. Еще нет такого уровня технического развития для создания полноценного ИИ.

[Positive One]

По поводу того, что ИИ "захочет" уничтножить человечество... Это совсем не обязательно, т.к. он может сделать это из лучших побуждений, или в результате ошибки, или в результате ошибки человека. Если же не давать ИИ доступ к важным и опасным системам, то нафик он вообще нужен?
С другой стороны, если понадеяться на то, что человек будет всё делать руководствуясь сдравым смыслом, то он должен обезопасить себя от ИИ, тем самым решив задачу. Это как "проблема 2000-го года" (помните такую?). Всех (вернее тех, кто в неё не особо врубался) колбасило от страха, что пришёл конец света. А фишка в том, что люди занимающиеся соответствующими системами знали о надвигающейся "проблеме", и есеесно, успели к ней подготовиться. То же самое и с Интеллектом Искуственным. Нужно просто верить в то, что люди (разработчикик ИИ) позаботятся о "путях отступления", доверяя машине самое важное. Вопрос в том, можно ли положиться на здравый смысл людей.
Может ли человек являться угрозой человечеству? Вспоминая атомные и водородные бомбы, зарины и заманы - почему бы нет?

[AlgerT]

Ант, извини меня, но ты ведь задал вопрос не о ИИ. А о "Чтож вы так людей не любите, они хорошие, они природе помогают избавится от мусора" (от того. что мусором считают. например фашисты считали мусором евреев и славян). И о том, что многие призывают ИИ, как "оружие судного дня". Чтобы планету очистить.
И ещё, перечисли ненужные природе вещества, из которых человек делат нужные. При этом назови ПОЧЕМУ они вредны для природы и почему ПОЛЕЗНЫ полученные продукты.
Желательно в процессе перечисления не забывать про такие хрестоматийные вещи как круговорот веществ и разные виды балланса, например теплового.

[Fragment]

Можно посмотреть на эту проблему и с другой стороны. Что люди называют благоприятной экологической обстановкой? Для кого благоприятной? Для людей-же. То есть люди сами установили какой должна быть природа и теперь кричат - копают, качают, безобразие!
А может на самом деле это естественный процесс. Если взглянуть глобально, то человечество может и не дожить до эпохи глобального заселения других планет из-за того, что ресурсы выработаны, а новые ресурсы буквально рядом (планеты солнечной системы), а достать их возможности уже нет. Тут людишкам то и конец. И ИИ (если он будет создан) тут совершенно ни при чем. Он скорее всего вытянет из человечества все ресурсы, пока не станет достаточно самостоятельным, а человечество изживет само себя.

МУА-ХА-ХА-ХА

------------------------------------
Злая тема, на самом-то деле...

[crazy_ant]

2AlgerT
Вот давай не путать политику и науку. Фашисты к науке имеют косвенное отношение, им нужно было новое оружие и способы воздействия на людей, а это ох как не вся наука. Да и в остальном мне почему-то кажется, что мы на разных языках говорим... Я уже в двух постах писал ЧТО "плохо" и КАК полезны получаемые продукты. Между прочим, смотри предыдущий пост.
Давай различать понятия "полезно для природы" и "полезно для человека". Может тогда не будет подобных непониманий.
Я смотрел как-то передачу "Очевидное-невероятное" в которой говорилось про форму жизни реально обитающую на нашей земле (точнее на дне океана) которой для выживания абсолютно не нужен кислород. Ей вполне хватает серных газов поступающих из подводных вулканических кратеров (черных курильщиков). Что делает зарождение жизни на земле возможным после ГЛОБАЛЬНОГО катаклизма. Именно поэтому я уверен, что для природы все эти глобальные потепления и похолодания так, детские игы.
ЗЫ
Между тем, я не услышал от тебя ни одного довода в пользу твоей точки зрения. Только просьбы обосновать мою. Даже не указываешь с чем ты не согласен. Знаешь, так ты похож на маленького мальчика, который на каждый ответ спрашивает - почему?

[AlgerT]

на маленького мальчика похож как раз не я
А ты. Ты на основе телевизионной передачи и на основе фактов относящихся к сильно обособленному (на сколько я знаю эти серные курильщики около галапагосов находятся) природному феномену делаешь выводы распространяющиеся на всю Землю. Ты, кстати, забыл ещё сказать про бактерии, которые могут выживать даже в космосе. И забыл сделать из этого вывод, что природе все пофиг
Так что вопросы я тебе задаю, чтобы ты свою позицию немного осмыслил А отвечать, как ты, из принципа "против всех" я не очень то хочу.

ЗЫ: бактерии, то может и выживут. Но мне и всё остальное жалко. И ещё. Доводов говоришь ты не слышал. Это гворит от том, что ты просто не знаешь такого слова. как балланс.
Или что у тебя плохой слух
Если ты всё ещё не понял, то попробуй посчитать сколько углекислоты выделяется, и сколько перерабатывается растениями и океаном. И не забудь про то, что леса активно уменьшаются, так как финскую политику вырубки ни россии ни южной америке не потянуть. Дорого это Как финны её рассчитали тебе пояснить? поясняю. Она посчитана как-раз по кислородному баллансу. Но в маштабах планеты это чих.

ЗЗЫ: хех... но вот с чего ты взял, что я о политике заговорил.. убей, но не пойму я. Может ты просто меня не слушаешь? А?
Так ты не стесняйся А если тебе так охота перейти на личности, то пиши мне в приват
милости прошу

[Miha]

Думаю, не верны утверждения о том, что создания ИИ не состоится по причине невозможности реализации в таких устройствах эмоций, присущих человеку, а значит ИИ «может существовать лишь в виде автоматической системы управления».

Электронное устройство может осознать себя как личность, даже буду лишенным эмоциональных механизмов. Не вижу препятствий для того, чтобы устройство функционировало как мыслящее и самообучающееся существо, способное к самостоятельному осмыслению и постановке перед собой целей и задач. Отсутствие эмоций, в привычном понимании сделает ИИ еще более эффективным в плане самоорганизации.

Мотивацией его мыслительных процессов может быть, например, стремление к самосовершенствованию, стремление познать окружающий мир, которые могут быть заложены в него разработчиками изначально.

Мне представляется, что ИИ после его создания, пройдет многие стадии присущие развитию человеки и по аналогии с развитием ребенка. Разница будет лишь в скорости обучения и реакции на получаемую информацию. Но достигнув определенного уровня ИИ сам будет определять формы и методику обучения. В этом то и заключается угроза человеку. Но угроза лишь потенциальная.

Именно потенциальная, а не реальная, потому, что человеку и ИИ нечего делить, нет причины для конфликта. Но вместе с тем, появляется новый тип разумных существ, отличных от человека, а значит у человека появится единственный реальный конкурент в борьбе «за место под Солнцем». По крайней мере потенциальный конкурент.

Никто не может предугадать куда заведут ИИ процессы самоорганизации и совершенствования и насколько в итоге его представления о мироздании будет отличаться от человеческого.

[Regul_VAV]

Ну допостим, (именно допустим!) что человечество занялось (кучка сумасшедших!) созданием ИИ как универсальной потенциальной угрозы(!) человечеству.
Что может произойти? После подключения к интернет он получит коды доступа ко всем сайтам мира? Коды ко всмем доменам? Пусть пройдет год и он все таки их получит, что произойдет? Ну помучаемся, помучаются провайдеры, помучаются люди-инженеры и все встанет на свои места.
Представляю много людей сидящих в разных точках мира и постепенно получающих, систематизирующих информацию. Другая такая же кучка сидит и втыкает в нее. - Пусть даже эти две кучки заменит один большой ящик.
В чем угроза? Ядерные ракеты не подключенны к интернету. Также как и большинство компьютеров (я имею ввиду которые влияют непосредственно на производство чего-либо).

Возможна угроза в некоторых областях. Но такие интелектуальные чипы быстро заменят.
Нет никакой угрозы. Ну, разве, что создадут нечто, что будет размножаться.
Так проще людские инкубаторы разрешить. Как говорилось выше - дешевле. Но это никто не разрешит. А кучку разработчиков ИИ, которое способно к размножению ликвидируют, проект заморозят.

[Pointer]

А не является ли куда более серьёзной "угрозой" со стороны ИИ его полезность?
Другими словами, не утратит ли человек разумный всякий мотив к использованию своего разума, если за людей будет думать ИИ?..
И так ли уж это будет плохо?..

[KosKa]

А не является ли беспокойство сильно преждевременным? :-)

До создания ИИ человеку еще ой как далеко. Да что там говорить - прежде, чем говорить об искусственном интеллекте, было бы неплохо познать природу самого интеллекта...

Что то не слышно пока сенсационных заявлений о раскрытии природы интеллекта :-)

[sp]

хех, а кто перед хотя бы перед началом второй мировой кричал об опасности ядерных бомб?

по-моему, никто.

[Ken]

2KosKa
Как уже было верно замечено, слово интеллект в связке "искусственный интеллект" имеет совершенно другое значение, нежели интеллект в связке "интеллект человека разумного".
-
Мне кажется, что не обязательно дожидаться искусственный интеллект, чтоб боятся. Страшно и то, что есть уже сейчас.
Возьмите любого вражину из FPS, например, из Unreal Tournament. Посадите этот "грамотный" набор If-ов в какую-нибудь самоходную установку с активной броней и скоростью 100 км/ч, поставьте ему правило kill them all как приоритетное, уровень сложности на Godlike или хотя бы Inhuman... По-моему уже этого достаточно для того чтобы испугаться и приготовиться бежать.
А если еще и доработать систему собственного определения wayponto-в по внешнему виду объектов ландшафта? Такие уже существуют, есть примеры в системах наведения ракет у наших истребителей (показали по ТВ) и в системах слежения за объектами (например, чтение видеокамерой номеров автомобилей), то бежать придется очень долго.
-
По-моему, ИИ это назвать сложно, но уже звучит опасно. Этим я хочу сказать, что правы те, кто считают, что угроза ИИ сводится к угрозе "человеческого фактора", то есть того человека, который ИИ настраивает, задает ему алгоритмы действия.
-
Что касается области применения. Например, вылет ИИ на Марс, для исследования его поверхности выглядит многообещающим, особенно в плане жизнеобеспечения астронавта.
Ведь надо столько "жрачки", чтобы какой-нибудь "гагарин" долетел до Красной планеты живым, а этому пару атомных батарей и все дела.
Короче, вспомните, чем занимались андройды в "Сняться ли андройдам электроовцы?" К Дика.

[vsadnik]

Попытки понять психологию и мотивации не человека, причём ещё не существующего всегда меня умиляли. ИИ не человек. Он думает принципиально иначе. Он чувствует (если чувствует) принципиально иначе. У него другие системы восприятия мира. Он как пример исскуственной жизни возможно более чужд чем обитатель какой нибудь Альфы Центавра. Представляет ли он угрозу? Да конечно представляет. Точно такую же как и инопланетяне, флот вторжения которых естественно движется к Земле.

[KosKa]

цитата:

---

Как уже было верно замечено, слово интеллект в связке "искусственный интеллект" имеет совершенно другое значение, нежели интеллект в связке "интеллект человека разумного".

---

Спасибо, что еще раз объяснил :-|

Ну и что?

Любая "поделка", действующая по наперед заданным алгоритмам (пусть и самообучающимся), заведоемо уступает основному "оружию" человека - способности к индукции, абстрактному мышлению, а, следовательно произвольному изменению контекста "приложения" интеллекта.

Любой самообучающийся алгоритм (пусть даже и способный работать с эвристиками) "посыпется", если его поставить в условия, которых не предусмотрел создатель алгоритма. Самостоятельно определить и изменить контекст своего выполнения алгоритмы пока не умеют, а поэтому для Человечества опасности сами по себе не представляют (чего не скажешь о создателях этих алгоритмов).

[Fibll]

Ну выскажусь, что ли.

Я не считаю ИИ угрозой человечеству. Нет, не искуственный интеллект уничтожит Землю, а искуственная тупизна. Гораздо более вероятным мне видится начало третьей мировой в результате сбоя какой-нибудь управляющей ракетой программы (написанной, к примеру, мелко-мягкими).

[Arnello]

Это смотря что понимать под угрозой. И что понимать под благом и злом для человечества. Если считать, что природа - это "грязь под ногами", как кто-то выразился, что человек, так сказать, её "царь" (Иоанн IV Грозный, надо полагать), то искусственный интеллект с нами полностью в этом согласится, поможет нам загадить эту планету и отправиться "покорять" следующие. Помните фильм "День независимости"? Там нас приехали покорять отвратительные инопланетяне. Точнее, не покорять, а уничтожать по причине бесцельности нашего существования, с их точки зрения. Так вот мы в союзе с искусственным интеллектом станем как они. А закончится всё для нас как в том фильме. Ещё один пример: "Фиаско" Станислава Лема. Вот и решайте, "хорошо" это, или "плохо". Искусственный интеллект необходим части человечества из садо-мазохистских соображений ("Искусственный разум" Стивена Спилберга). А также из-за неумения (а скорее, нежелания) развить свой собственный интеллект. Лень - двигатель прогресса, если это можно назвать прогрессом, Пан Сатирус (Ричард Уормсер - автор повести) со мной бы согласился. А если вы умеете наслаждаться не нефтяными вышками, не линиями электропередач, не комбинатами "Маяк" и не фракталами размерностью 2,5 на экране монитора, а живой природой, ветром, облаками, закатами и восходами, приливами и отливами, то вам искусственный интеллект нужен, как ежу футболка. И угрозы вам от него никакой. Единственная угроза человечеству - оно само. С искусственным интеллектом, или без него, мы способны уничтожить самих себя и всё живое на своём пути. Мы до сих пор существуем только благодаря скорости размножения, которая (пока) соразмерима с нашей агрессивностью и даже превышает её. Ждём периода 2025-2035, когда произойдет предсказанный Капицей фазовый демографический переход и эти скорости сравнятся. Вот это будет момент истины: быть или не быть. Но это уже тема для другого разговора. И вот еще немного юмора: Ишшкуштвенный интеллект