Перейти к содержимому


Фотография

Гарри Поттер и Философский куток


  • Авторизуйтесь для ответа в теме
Сообщений в теме: 67

#1 Desert Eagle

Desert Eagle

    Рассадник мудростей

  • Пользователи
  • PipPipPip
  • 1 576 сообщений

Отправлено 12 Июль 2016 - 23:11

Великому мастеру Тьюрингу однажды приснилось, что он машина. Когда он
проснулся он воскликнул:

- Я не знаю то ли я — Тьюринг, которому приснилось, что он — машина,
то ли я — машина, которой приснилось, что она — Тьюринг!


А теперь о вещах серьезных


#2 BAPBAP

BAPBAP

    Театр одного шамана

  • Пользователи
  • PipPipPip
  • 3 204 сообщений

Отправлено 13 Июль 2016 - 18:37

А что сказать то хотелось этими смехуечками и самиздатом?


#3 Seventhson

Seventhson

    Продвинутый пользователь

  • Пользователи
  • PipPipPip
  • 1 204 сообщений

Отправлено 14 Июль 2016 - 01:56

Спасибо конечно за ссылку на очередную легенду, рассказанную нам рептилоидами. Но раз уж мы говорим об интеллекте и в свете последних событий на форуме, таких как постинг желтой прессы, цитирование замысловатых софизмов и скидывание ссылок на длиннопосты "о серьезных вещах", не содержащих ссылок на авторитетные источники, кроме "один поэт сказал, что мир остается прежним", и без внятных комментариев от самого цитирующего, советую ознакомиться вот с таким исследованием:
http://journal.sjdm....a/jdm15923a.pdf

Если вкратце, то увлечение цитированием "мудрых" сентенций негативно коррелирует с интеллектуальными способностями, и позитивно — с верой во всякие колдунства и конспирологию.

Это сообщение отредактировано Seventhson - 14 июля 2016 | 02:10


#4 Desert Eagle

Desert Eagle

    Рассадник мудростей

  • Пользователи
  • PipPipPip
  • 1 576 сообщений

Отправлено 14 Июль 2016 - 13:47

Seventhson, увлечение авторитетными источниками негативно коррелирует с интеллектуальными способностями, поскольку, что очевидно, способствует полаганию на авторитеты, а не самостоятельному мышлению.

BAPBAP, просто прочти статью — в ней как раз и сказано то, что хотелось сказать автору. Статья совсем небольшая, это не книга. Но если не хочешь, то не читай — я никого не заставляю (да и не имею такой возможности).

Но если вкратце, автор говорит о том, что он думает об обретении самосознания сетью интернет и об авторах подобных теорий. И в данном случае я с ним полностью согласен.

Даже процитирую вкратце то место, ради которого я сослался на эту статью:

QUOTE

Сеть строится  на немногих элементарных принципах, так что, если все разложить по полочкам, то таинственного в ней окажется не больше, чем в канцелярских счетах. И от "самости" и "самосознания" она далека так же, как и упомянутые счеты.
<...>
Это значит, в частности, что не следует социальные явления  толковать по аналогии с техническими, тем более, ПОДМЕНЯТЬ первые — последними. Эти-то аналогии как раз есть то, что скрывает, извращает суть дела; не выясняет, а наоборот мистифицирует, фетишизирует эту суть. Это и есть технический фетишизм, о котором я упомянул в начале — явление в общем то позорное, ибо ладно еще когда дикарь мистифицирует гром и молнию, потому что не знает что это такое, но что за слабоумие мистифицировать какие ни будь «горшки», которые придумывают и обжигают отнюдь не боги, а электронщик Петя и программист Вася в соседней комнате!

В конце концов, если взялись говорить об экономике, о мировой политике, о глобальных проблемах и т.п., то почему бы и не говорить… ИМЕННО ОБ ЭТОМ! Сети-то, или нанотехнологии, или генная инженерия тут при чем? Мне возразят, что развитие науки и техники  определяют экономическое развитие, влияют на все общественные процессы и т.д. и т.п.. Влиять то влияют, но чем более глобальные процессы мы рассматриваем, тем более мы должны абстрагироваться, т.е. мысленно отбросить все врЕменное и  временнОе. На вечные вопросы надо искать ответы в вечных материях, а не в сиюминутной суете-маете. И  это, в конце концов, признак интеллектуальной незрелости, когда думают, будто в МИРЕ что-то изменится с изобретением очередного супер-пупер компьютера. Правильность подобного подхода я попытаюсь ниже продемонстрировать, так сказать,  личным примером, т.е. я попытаюсь «все объяснить» вообще не упоминая о новейших великих достижениях в науке и технике.

Так же, на мой взгляд, это довольно неплохой пример абстрактного (т.е. как раз-таки философского) рассуждения.

Это сообщение отредактировано Desert Eagle - 14 июля 2016 | 13:50


#5 Wozrogdenec

Wozrogdenec

    Defendor of the Wastes

  • Пользователи
  • PipPipPip
  • 3 198 сообщений

Отправлено 16 Июль 2016 - 21:09

Desert Eagle, ну вот так-то гораздо лучше! Спасибо.

Народ (обыватели в массе) со времён Древнего Рима (да и раньше тоже ж) требовал хлеба и зрелищ, поэтому (ИМХО?) вот этой подмене-заблуждению ("омагивании") продолжают и будут потакать.
Вот смотрю сейчас мультфильм "OVERWATCH"
уровень того, насколько зрелищным стали блокбастеры просто поражает,
как и поражает уровень "омагивании".


#6 Desert Eagle

Desert Eagle

    Рассадник мудростей

  • Пользователи
  • PipPipPip
  • 1 576 сообщений

Отправлено 18 Июль 2016 - 03:11

Магия существует!!! Витгенштейн "О "Золотой ветви"
QUOTE

Фрэзеровское изображение магических и религиозных воззрений неудовлетворительно: он представляет эти воззрения как заблуждения.
<...>
Фрэзер говорит, что очень сложно обнаружить ошибочность магических представлений — чем и объясняется живучесть магии, — потому что, например, заклинание, которое должно было вызвать дождь, рано или поздно обнаруживает свою действенность. Но тогда удивительно, как люди не заметили еще раньше, что дождь пойдет рано или поздно без всяких заклинаний.
<...>
Тот же самый дикарь, который, чтобы поразить врага, пронзает его изображение, строит свою хижину из настоящего дерева и вырезает себе настоящую стрелу, а не изображение.
<...>
Уже сама идея объяснения обычаев — вроде предания смерти божественного правителя — кажется мне ошибочной.
<...>
Заблуждение возникает тогда, когда магию начинают истолковывать научно.
<...>
Фрэзер — дикарь в большей степени, чем любой из его дикарей, потому что они отошли от понимания обстоятельств, имеющих отношение к духовным данностям, не так далеко, как англичанин XX в. Его объяснения примитивных обрядов еще более грубы и невежественны, чем смысл самих этих обрядов.


#7 BAPBAP

BAPBAP

    Театр одного шамана

  • Пользователи
  • PipPipPip
  • 3 204 сообщений

Отправлено 18 Июль 2016 - 03:54

Desert Eagle
QUOTE
Но если вкратце, автор говорит о том, что он думает об обретении самосознания сетью интернет и об авторах подобных теорий. И в данном случае я с ним полностью согласен.

А какое отношение такое загадочное явление как "обретение самосознания сетью интернет" и авторы подобных теорий из статьи имеют к ИИ? Фетишизация тех или иных изобретений и научных прорывов — удел всё той же публики не знакомой толком ни с теорией, ни с практикой. "Палп фикшн" для аудитории определённого рода. Как я уже говорил ранее, объяснять подобному персонажу принципы работы и сложности, стоящие перед разработчиками, нужно долго и нудно, а я не вижу никаких плюсов, которые мир получил бы от того, что ещё один-два обывателя познакомятся по вершкам с сутью проблемы.
Говорить же с тобой, например, как с техническим специалистом на одном языке тоже представляется большой проблемой, поскольку ты уже высказал довольно забавные мысли по поводу отсутствия эволюции программирования и вводящих тебя в недоумение слоях абстракции. Спорить и что-то доказывать человеку, ответы на вопросы которого находятся от него на расстоянии двух кликов по ссылкам в интернете, мне просто лень. Захочешь, созреешь — сам найдёшь. Если поймёшь, конечно.


#8 Desert Eagle

Desert Eagle

    Рассадник мудростей

  • Пользователи
  • PipPipPip
  • 1 576 сообщений

Отправлено 18 Июль 2016 - 09:09

QUOTE
А какое отношение такое загадочное явление как "обретение самосознания сетью интернет" и авторы подобных теорий из статьи имеют к ИИ?


Действительно, какое отношение самосознание имеет к ИИ? :)

Тем более, что именно об этом ты и говорил: в результате эволюции программирования — того самого прикладного программирования, которое вопросами ИИ вообще не занимается — должен каким-то образом сам собой зародиться ИИ. Точную цитату не приведу, поскольку тема порезана (там что-то было про "сделать все круто").

На все остальное я обещал не отвечать (у меня, оказывается, есть вопросы, на которые я не могу найти ответы в двух кликах от меня).


#9 BAPBAP

BAPBAP

    Театр одного шамана

  • Пользователи
  • PipPipPip
  • 3 204 сообщений

Отправлено 18 Июль 2016 - 18:02

Рассуждения на тему "обретение самосознания сетью интернет" имеют такое же отношение к ИИ, как и рассуждения об "обретении самосознания бочкой Диогена" или "обретении самосознания хлебными крошками", то есть абсолютно никакого.
В принципе, это подтверждает наблюдение, сделанное мной довольно давно — философ при решении проблемы абсолютно точно не знает, "что" и "как" делать, но он готов рассуждать об этом сколько угодно долго.


#10 Desert Eagle

Desert Eagle

    Рассадник мудростей

  • Пользователи
  • PipPipPip
  • 1 576 сообщений

Отправлено 19 Июль 2016 - 18:20

QUOTE
философ при решении проблемы абсолютно точно не знает, "что" и "как" делать

Ух-ты! Предполагается, видимо, что ты-то точно знаешь, "что" и "как" делать. Так за чем дело стало? Создавай ИИ, патентуй его, получай нобелевскую премию. Или опять неохота доказывать дуракам, что они дураки? :)

Если известно точно, "что" и "как" делать (при решении проблемы), то существует ли проблема?

QUOTE
это подтверждает наблюдение, что он готов рассуждать об этом сколько угодно долго.

Ты так говоришь, как будто это что-то плохое. Кстати, трудно было бы этого не наблюсти. Еще греческие философы заметили, что верное утверждение — это обоснованное (или доказанное) утверждение. Его они назвали истиной. А как доказать утверждение? Есть три способа:

*опыт (очевидное)
*логика (движение от очевидного к неочевидному)
*дискуссия (спор, но не полемика — в споре рождается истина)

Дискуссия — вроде как самый ненадежный способ, но к нему прибегают, когда два другие способа не работают по каким-то причинам. Так что спор и рассуждение — самое нормальное дело для философа. Да и есть ли другой способ найти истину?


Декарту не понравился ни один из этих способов: во всех он нашел изъяны и предложил свой критерий (вижу четко, ясно, полно, без всяких сомнений — как-то так). Тоже не бесспорный метод. Однако в наше время принято полагаться на авторитетные источники. То, что в них написано, то и есть истина.


#11 Wozrogdenec

Wozrogdenec

    Defendor of the Wastes

  • Пользователи
  • PipPipPip
  • 3 198 сообщений

Отправлено 19 Июль 2016 - 19:15

По-моему, BAPBAP имел ввиду, что для ИИ не надо будет самосознания.


#12 BAPBAP

BAPBAP

    Театр одного шамана

  • Пользователи
  • PipPipPip
  • 3 204 сообщений

Отправлено 19 Июль 2016 - 20:19

QUOTE
Ты так говоришь, как будто это что-то плохое. Кстати, трудно было бы этого не наблюсти. Еще греческие философы заметили, что верное утверждение — это обоснованное (или доказанное) утверждение. Его они назвали истиной. А как доказать утверждение?

Если бы научно-технический прогресс человечества находился в руках древнегреческих философов, то научной деятельностью до сих пор считали бы мудрствования во время возлежания под сенью олив.
QUOTE
*опыт (очевидное)

В большинстве случаев "очевидное" с обывательской точки зрения является абсолютной противоположностью мнению специалиста.
QUOTE
*логика (движение от очевидного к неочевидному)

Обыватель, исходящий из "очевидных" для него, но неверных по сути предпосылок, даже при отсутствии ошибок в рассуждениях не сможет достичь истины.
QUOTE
*дискуссия (спор, но не полемика — в споре рождается истина)

Дискуссия обывателей может разрешить вопрос?
Нет, поскольку оба участника не обладают в нём требуемым уровнем компетенции, вследствие чего "очевидные" отправные точки их рассуждений будут неверными.
Дискуссия обывателя и специалиста?
Нет, поскольку здесь мы испытаем частный случай анизотропии, когда одна сторона будет понимать другую полностью, а вторая в силу своей отсталости в вопросе, не сможет понять позицию соперника в принципе, и согласится с ней лишь бездоказательно в неё поверив.
Дискуссия специалиста и специалиста?
Возможно. Но ты реально меня удивишь, если после всех своих предыдущих высказываний, временами смешивших меня буквально до слёз, сейчас заявишь, что ты великий архитектор информационных систем, тайный гуру прикладной математики, бог кодинга и такой-то матери.
QUOTE
Ух-ты! Предполагается, видимо, что ты-то точно знаешь, "что" и "как" делать.

Разумеется, ведь это не секретная информация.
QUOTE
Так за чем дело стало? Создавай ИИ, патентуй его, получай нобелевскую премию. Или опять неохота доказывать дуракам, что они дураки? :)

Есть ряд методов гарантирующих успешное достижение результата, однако они требуют технологических прорывов, совершить которые одному человеку не под силу. Заинтересованные организации ведут работы в нужном направлении, а я смотрю на это и ем попкорн.


#13 Desert Eagle

Desert Eagle

    Рассадник мудростей

  • Пользователи
  • PipPipPip
  • 1 576 сообщений

Отправлено 19 Июль 2016 - 21:07

QUOTE
Если бы научно-технический прогресс человечества находился в руках древнегреческих философов, то научной деятельностью до сих пор считали бы мудрствования во время возлежания под сенью олив.

Вообще-то, паровой двигатель придумал еще Герон Александрийский, интегральное исчисление — Архимед. Практически, современники древнегреческих философов. Фалес — философ — вполне мог бы составить конкуренцию Архимеду, если бы они конкурировали. Я уж не говорю о том, что идею атома придумал Демокрит. Иррациональные числа — Пифагор (точнее, один его ученик).

А вот идеи прогресса действительно не было. Идеи модерна — тоже. Никто не додумался внедрить паровой двигатель Герона в производство. Легко видеть, как мир подчиняется философским парадигмам. Никто не додумался в то время, что мир можно "улучшать". Платон считал, что мир соответствует некоторой идее, но поскольку он материален, он постоянно разрушается. Поэтому его нужно постоянно чинить. Но сделать его принципиально лучше этой идеи невозможно. Отсюда идея золотого века человечества и непрерывной деградации.

Что касается техники, то ее развивают технари, а не ученые. Ученый раньше (когда только появился в эпоху возрождения) был как раз философом — натур-философом. Вот потом, с приходом Бэкона науку решили поставить на службу обществу и сделать из нее чисто прикладное занятие. И тогда ученые снова стали технарями.

Но технари были и у древних греков. Вот цитата из "Антихрупкости":
QUOTE
Греки считали, что в мире есть три профессии: "банаусикаи технаи" — ремесленники, "полемике техне" — воители, и земледельцы — "георгиа". Последние два занятия, война и земледелие, подобали благородному человеку — в основном потому, что они лишены своекорыстия и не заставляют никого вступать в конфликт с коллективом. Однако афиняне презирали "банаусои", ремесленников, которые работали в темных помещениях (обычно, сидя), и изготавливали вещи. Как полагал Ксенофонт, подобные занятия отнимают телесную силу, размягчают дух и не оставляют времени для друзей и города.


BAPBAP, опять появились какие-то обыватели и специалисты, которые смотрят на них свысока, с высоты своей компетентности. Может, у специалистов есть какие-то свои критерии истины? Не поделишься?
Такое чувство, что ты не слышал, например, о варварстве специализации Хосе-Ортеги:
QUOTE
Мы должны были бы назвать его "ученым невеждой", и это очень серьезно, это означает, что во всех вопросах, ему неизвестных, он поведет себя не как человек, незнакомый с делом, но с авторитетом и амбицией, присущей знатоку и специалисту.

И действительно, поведение "специалиста" этим отличается. В политике, в искусстве, в социальной жизни, в остальных науках он держится примитивных взглядов полного невежды, но излагает их и отстаивает с авторитетом и самоуверенностью, не принимая во внимание возражений компетентных специалистов. Поистине парадокс! Цивилизация, дав ему специальность, сделала его самодовольным и наглухо замкнутым в своих пределах

Не обижайся, но просто в глаза бросается, насколько ты темный. Хоть бы читал те книжки, на которые я ссылаюсь.

QUOTE
Но ты реально меня удивишь, если после всех своих предыдущих высказываний, временами смешивших меня буквально до слёз, сейчас заявишь, что ты великий архитектор информационных систем, тайный гуру прикладной математики, бог кодинга и такой-то матери.

Я тайный гуру прикладной математики! Хотя, почему тайный? Вроде совсем недавно даже пришлось кое-что посчитать.

QUOTE
Есть ряд методов гарантирующих успешное достижение результата, однако они требуют технологических прорывов, совершить которые одному человеку не под силу.

Что за методы? Методы создать ИИ? Ну так что же ты о самом главном-то молчишь? Рассказывай скорее!!

Это сообщение отредактировано Desert Eagle - 19 июля 2016 | 21:08


#14 BAPBAP

BAPBAP

    Театр одного шамана

  • Пользователи
  • PipPipPip
  • 3 204 сообщений

Отправлено 19 Июль 2016 - 23:18

QUOTE
Вообще-то, паровой двигатель придумал еще Герон Александрийский, интегральное исчисление — Архимед. Практически, современники древнегреческих философов.
А вот идеи прогресса действительно не было. Идеи модерна — тоже. Никто не додумался внедрить паровой двигатель Герона в производство. Легко видеть, как мир подчиняется философским парадигмам.

Ох, серьёзно? Ну вот я тебе намекну — созданием ИИ сейчас занимаются научные коллективы, которые являются практически современниками(!) современных(!) философов(!). Если ты собирался убедить меня в пользе и необходимости для цивилизации философов, то что же — отличная попытка! ЛОЛ
Философы сейчас созданием ИИ не занимаются, как не занимались они развитием науки во времена Архимеда. На одного толкового математика там приходилось по паре дюжин никчёмных болтливых просиживателей под оливами, хотя любой древнегреческий математик, безусловно превосходящий любого древнегреческого философа по уровню интеллекта, без сомнений мог поучаствовать в групповой интеллектуальной мастурбации софистов и прослыть ТАКИМ-ТО ФИЛОСОФОМ ТОЖЕ. Легко видеть, как древнегреческая цивилизация, проживающая в тепличных условиях средиземноморья и имеющая дешёвый энергоресурс в виде рабов не нуждалась особо ни в каких научно-технических революциях, и не смотря на такое-то количество философов не смогла прийти к идее, позволившей значительно расширить границы своей цивилизации или радикально улучшить качество жизни населения на своей территории. Ну то есть философы оказались бесполезны.
QUOTE
опять появились какие-то обыватели и специалисты, которые смотрят на них свысока, с высоты своей компетентности. Может, у специалистов есть какие-то свои критерии истины? Не поделишься?

Что конкретно тебя смущает? Ты отрицаешь тот факт, что есть вопросы в которых одни люди могут быть компетентнее других?
QUOTE
Не обижайся, но просто в глаза бросается, насколько ты темный. Хоть бы читал те книжки, на которые я ссылаюсь.

Спасибо за совет, но я не вижу, что полезного для себя я смогу там почерпнуть, поскольку эта литература, на мой взгляд, полностью бессмысленна. Мне нет дела до презиравших друг-друга за ремесло древних греков, нет дела до исследователей их повадок и нет дела до прочих абсолютно никчёмных писак, результат работы которых не содержит в себе ничего нового ни с точки зрения науки, ни с точки зрения развлечений. Если это заставляет тебя считать меня тёмным — я готов пойти на эту жертву. Бгггг.
Кстати, не мог бы ты привести пример какой-либо фундаментальной философской идеи, которую ты не мог осознать или принять самостоятельно до того, как прочитал какой-либо труд? Я почему-то считаю, что ты как обычно затруднишься с ответом на поставленный вопрос.
QUOTE
Я тайный гуру прикладной математики! Хотя, почему тайный? Вроде совсем недавно даже пришлось кое-что посчитать.

С пятого или шестого раза и, что бросается в глаза, ты до сих пор не понял, что именно ты высчитывал и о чём говорит тебе полученный результат.
QUOTE
Что за методы? Методы создать ИИ? Ну так что же ты о самом главном-то молчишь? Рассказывай скорее!!

Разумеется, методы создания ИИ. Не вижу смысла цитировать гугл или википедию, так же как и лишать твой мозг, расслабленный чтением трудов по философи(гн)и, хоть какой-то нагрузки.


#15 Desert Eagle

Desert Eagle

    Рассадник мудростей

  • Пользователи
  • PipPipPip
  • 1 576 сообщений

Отправлено 24 Июль 2016 - 20:46

QUOTE
Ох, серьёзно? Ну вот я тебе намекну — созданием ИИ сейчас занимаются научные коллективы, которые являются практически современниками(!) современных(!) философов(!). Если ты собирался убедить меня в пользе и необходимости для цивилизации философов, то что же — отличная попытка! ЛОЛ

Не надо намеков! Еще раз повторяю, если хочешь сказать что-то, то говори. Не надо считать себя умнее других.

Ну так что с того, что они занимаются? Много уже назанимались? Результаты есть? Если бы у них хоть что-то там получалось (кроме выдачи желаемого за действительного: назвали сеть нейронной — вот уже и "электронный" мозг), то никакие философы им бы не понадобились. Но пока что не выходит ничего, ни с помощью философов, ни без нее. Точнее, философы-то как раз уже доказали невозможность искусственного интеллекта.

QUOTE
На одного толкового математика там приходилось по паре дюжин никчёмных болтливых просиживателей под оливами

Я думаю, на одного толкового математика в любую эпоху приходится по паре дюжин никчемных математиков: всяких князей дундуков, заседающих в науке, а также болтливых просиживателей на форумах (пальцем указывать не буду). Ну и дальше что?

QUOTE
Легко видеть, как древнегреческая цивилизация, проживающая в тепличных условиях средиземноморья и имеющая дешёвый энергоресурс в виде рабов не нуждалась особо ни в каких научно-технических революциях, и не смотря на такое-то количество философов не смогла прийти к идее, позволившей значительно расширить границы своей цивилизации

BAPBAP, у тебя и вправду с логикой беда. Если древнегреческая цивилизация не нуждалась особо ни в каких научно-технических революциях, то каким образом она могла придти к идее, что она в них нуждается? На кой черт ей расширять границы своей "цивилизации"? Греки превыше всего ценили меру и равновесие с природой. И куда-то там "расширяться", покоряя все новые пространства — такая идея пришла в голову только Александру Македонскому, который в данном случае ничем не отличается от какого-нибудь монгольского хана.

QUOTE
Что конкретно тебя смущает? Ты отрицаешь тот факт, что есть вопросы в которых одни люди могут быть компетентнее других?

Я говорил о критериях истины. На кой черт ты приплел сюда каких-то специалистов? Может, у них другие критерии истины? Не надо мне о компетентности.

QUOTE
Кстати, не мог бы ты привести пример какой-либо фундаментальной философской идеи, которую ты не мог осознать или принять самостоятельно до того, как прочитал какой-либо труд?

Могу привести пример фундаментальной философской идеи, которую ты не мог осознать или принять самостоятельно до того, как прочитал какой-либо труд: идея заключается в том, что каким бы сложным ни был автомат, он не перестает быть автоматом и качественно ничем не отличается от счет.

QUOTE
С пятого или шестого раза и, что бросается в глаза, ты до сих пор не понял, что именно ты высчитывал и о чём говорит тебе полученный результат.

Охренеть! Если ты считаешь, что корабль может весить 823кг, а крышка люка при этом — 400кг, то это ты чего-то не понимаешь, а не я. Ты, как какой-нибудь школьник, и способен только вспомнить формулу и подставить в нее числа, не задумываясь ни о ее применимости к данной задаче, ни о том, откуда она вообще взялась, ни о полученном результате. Главное, чтобы с ответом в конце учебника сошлось, пусть даже там и опечатка.

Да и хватит уже этой демагогии! Мы оба знаем, что я понимаю, о чем говорю, так что ради кого ты все это пишешь?

QUOTE
Разумеется, методы создания ИИ. Не вижу смысла цитировать гугл или википедию, так же как и лишать твой мозг, расслабленный чтением трудов по философи(гн)и, хоть какой-то нагрузки.

Спасибо о заботе о моем мозге. Но ты лишаешь тему хоть какого-то положительного содержания. Я уже читал википедию. Там, например, написано "Нет и точного критерия достижения компьютерами «разумности»". Если ты считаешь, то такой критерий есть, так и предоставь его. Не надо меня отсылать на деревню к дедушке.





#16 BAPBAP

BAPBAP

    Театр одного шамана

  • Пользователи
  • PipPipPip
  • 3 204 сообщений

Отправлено 24 Июль 2016 - 22:53

QUOTE
BAPBAP, у тебя и вправду с логикой беда.

Как мне повезло, что ты можешь указать на все мои глупые ошибки!
QUOTE
Точнее, философы-то как раз уже доказали невозможность искусственного интеллекта.

Слава яйцам, теперь можно не париться! Эй, пацаны, отменяем разработки! Погодите... Философы? Доказали? А это, случайно, не те же самые учёные, что как минимум с момента появления письменности периодически доказывали, что Земля плоская, что Солнце вращается вокруг неё, и прочие ни разу не опровергнутые с тех пор теории? Получается, что пока что они доказывают только невозможность осознания философами идеи искусственного интеллекта и невозможность создания его силами философов.
QUOTE
Ну так что с того, что они занимаются? Много уже назанимались? Результаты есть? Если бы у них хоть что-то там получалось (кроме выдачи желаемого за действительного: назвали сеть нейронной — вот уже и "электронный" мозг), то никакие философы им бы не понадобились.

Конечно есть, но философам не под силу осознать их наличие.
QUOTE
Я думаю, на одного толкового математика в любую эпоху приходится по паре дюжин никчемных математиков: всяких князей дундуков, заседающих в науке, а также болтливых просиживателей на форумах (пальцем указывать не буду). Ну и дальше что?

Будем отталкиваться от Древней Греции, раз уж она была таким-то просвещённым регионом. Известных философов из этой области средиземноморья больше, чем известных математиков.
QUOTE
Если древнегреческая цивилизация не нуждалась особо ни в каких научно-технических революциях, то каким образом она могла придти к идее, что она в них нуждается? На кой черт ей расширять границы своей "цивилизации"? Греки превыше всего ценили меру и равновесие с природой. И куда-то там "расширяться", покоряя все новые пространства — такая идея пришла в голову только Александру Македонскому, который в данном случае ничем не отличается от какого-нибудь монгольского хана.

Так вот об этом я и говорю. Не смотря на количество известных философов, которых ты не стесняешься упомянуть как ребят сообразительных, и разнообразие их идей, КПД их активности оказался чрезвычайно низок, поскольку идея о том, что кто-нибудь может нагрянуть из-за пределов известной вселенной и разорить их тепличник, не нашла понимания среди масс. До идеи о том, что из соображений безопасности надо разведать земли вокруг царства и радикально расширить сферу влияния додумался один лишь Александр или монгольский хан. Монгольский хан додумался, а вот просвещённые философы не смогли. Эпик фейл.
QUOTE
Я говорил о критериях истины. На кой черт ты приплел сюда каких-то специалистов? Может, у них другие критерии истины? Не надо мне о компетентности.

Почему же? Люк, характеристическая скорость, вот это вот всё вот.
Для неспециалиста люк, который можно поднять руками, легкий, значит, его можно не выбрасывать. Это для него истина, разве нет?
А для человека маломальский помнящего, что такое ракетное уравнение, т.е. чуть более компетентного в вопросе, классификация на "лёгкий-тяжёлый" выглядит бредом. Почему же ты считаешь, что уровень компетенции не влияет на восприятие "истины"?
Лет восемь назад я читал о замечательно показательном случае, когда у девушки, растущей в религиозной семье, начал расти живот. Родители вопрос изучили в рамках своей компетенции, поглядели, как у христиан водится, в "дышащее око", не нашли следов пенетрации и сочли этот феномен последствием "непорочного зачатия". Закончилось однако всё хуже чем в библейских сказаниях — вместо младенца в животе была гигантская опухоль. Уровень компетенции подвел, не смотря на благие намерения и всё такое прочее.
Так вот о чём я. Если уровень компетенции подводил людей в прошлом — нет никаких оснований полагать, что он не может подвести некоторых людей в будущем. Если ты в какой-то мере причисляешь себя к людям, то не ровен час, это ошибочная оценка вследствие низкого уровня компетенции может и на тебя распространиться. Например, во время рассуждений о способах реализации ИИ.
QUOTE
Могу привести пример фундаментальной философской идеи, которую ты не мог осознать или принять самостоятельно до того, как прочитал какой-либо труд: идея заключается в том, что каким бы сложным ни был автомат, он не перестает быть автоматом и качественно ничем не отличается от счет.

Что именно тебе в этом было непонятно? В принципе, так как общение через интернет уже обрезало для меня твои нижние "уровни абстракции", я с чистой совестью воспринимаю тебя как достаточно сложный автомат, способный к общению на бытовом уровне и цитированию философов, но не способный к осознанию более-менее сложных теорий самостоятельно, и, как следствие, не способный к полноценному общению. Качественного отличия от счёт нет, всё верно.
QUOTE
Ты, как какой-нибудь школьник, и способен только вспомнить формулу и подставить в нее числа, не задумываясь ни о ее применимости к данной задаче, ни о том, откуда она вообще взялась, ни о полученном результате.

Ну-да, ну-да, ракета, топливо, масса, определённо тут не нужно использовать ракетное уравнение, надо использовать "неракетное уравнение для корабля с отрицательной массой в марсианской атмосфере". Оно было написано в методичке для философов, лежавшей под крышкой люка.
QUOTE
Да и хватит уже этой демагогии! Мы оба знаем, что я понимаю, о чем говорю

Ты серьёзно? А как с точки зрения философии ты можешь доказать, что понял эту свою фразу?
QUOTE
Я уже читал википедию. Там, например, написано "Нет и точного критерия достижения компьютерами «разумности»".

Мне больше нравится целая фраза "В ФИЛОСОФИИ не решён вопрос о природе и статусе человеческого интеллекта. Нет и точного критерия достижения компьютерами «разумности», хотя на заре искусственного интеллекта был предложен ряд гипотез, например, тест Тьюринга или гипотеза Ньюэлла — Саймона. Поэтому, несмотря на наличие множества подходов как к пониманию задач ИИ, так и созданию интеллектуальных информационных систем, можно выделить два основных подхода к разработке ИИ".
А дальше идёт как раз перечисление методов и подходов реализации ИИ.
Основная проблема как раз в том, что поскольку в ФИЛОСОФИИ не решён вопрос о природе человеческого интеллекта, для неё не имеет смысла рассуждать о природе ИИ.
Просто не будь философом, Карл. Делай что-нибудь.
Сходи в неизведанное, как Александр Македонский.


#17 dimka

dimka

    Продвинутый пользователь

  • Пользователи
  • PipPipPip
  • 1 166 сообщений

Отправлено 28 Июль 2016 - 12:27

Как у вас интересно тут... И как далеко от исходной постановки вопроса :)

Вообще, касательно философии, я думаю, что ты, BAPBAP, не совсем прав, называя ее бесполезной. Помнится, много лет назад, когда я впервые пришел на урок философии, я решил выпендриться и процитировал Хаксли: "Философия — это отыскивание сомнительных причин в обоснование того, во что веришь инстинктивно". Очень мне нравилась эта фраза в то время.

Много позже я прочитал произведение, из которого эта цитата берет начало, и обнаружил, что смысл в нее автор вкладывал противоположный тому, который предполагал я. Поэтому со временем я свое молодецки-пренебрежительное отношение к философам сменил на умеренно-одобрительное. Сам люблю пофилософствовать, чего уж там.

Суть в том, что философия, во-первых, не всегда была наукой теоретиков. Изначально под этим словом понимались вообще любые рассуждения на любые темы. Что понятно из самой этимологии этого слова. Потом отпочковалась натур-философия с более практическим подходом. Ну и далее со всеми остановками — медицина, биология, химия, физика и т.д. Поэтому почти у всех видных ученых где-то до 18-19 века в биографии можно найти "звание" философ. Вот об этом Desert Eagle и говорит.

Во-вторых. Нынешнее положение философии хотя и несет меньший практический заряд, тем не менее, в целом, скорее, полезно. Да, прямых выгод нет. Да, философствовать может каждый дурак. Но рассуждения философов могут дать пищу для размышлений более практическим направлениям науки. Что есть гипотеза, если не результат чисто умозрительных рассуждений?

QUOTE
До идеи о том, что из соображений безопасности надо разведать земли вокруг царства и радикально расширить сферу влияния додумался один лишь Александр или монгольский хан.

Греция не могла быть закрытым государством просто по причине того, что была торговым и культурным центром тогдашнего мира. Во всяком случае, одним из. И внешних войн она вела достаточно и до, и после Македонского. Так что тут ты не прав.

Всю вашу дискуссию не читал — лень :) Да и смысл ее как-то подрастерялся уже, нет? Цепляетесь друг к другу, как дети малые :)


#18 Desert Eagle

Desert Eagle

    Рассадник мудростей

  • Пользователи
  • PipPipPip
  • 1 576 сообщений

Отправлено 28 Июль 2016 - 13:54

BAPBAP, я категорически не разделяю твой подход к науке. Что есть компетентность? — Компетентность, практически синоним авторитетности в некоторой области. А что есть авторитетность? Авторитетный — заслуживающий признания, доверия, уважения.

Таким образом, чтобы стать авторитетом, нужно, чтобы тебя признали другие авторитеты. А их — предыдущие, и т.д. Такой вот критерий истины. Только здесь неизбежно возникает вопрос: а кто же признал самых первых авторитетов? Да никто! Они сами себя таковыми и признали.

Подобное отношение к науке превращает ее в своего рода секту, где все молятся на авторитетов, или даже в феодальный строй, где мнс выполняют поручения снс. Но если это изнанка научного сообщества: такой наука стала с приходом Ф.Бэкона, когда профессия ученого получила социальный статус — то ты, почему-то, эту "изнанку" (т.е. некоторые особенности существования научного сообщества) выпячиваешь на первый план и считаешь, что именно это и есть главное в науке. А именно, главное получить там свою бумажку, чтобы тебя признали каким-нибудь хотя бы завлабом или завкафом — и вот ты уже можешь поплевывать на всех свысока, с высоты своей компетентности.

На мой взгляд, это просто отвратительно. Это не наука, а именно кормление со своего места.

Нет, конечно, даже захудалый профессионал должен получить какую-то минимальную лицензию, чтобы заниматься, например, врачебной деятельностью. Но это НЕ наука. Профессионал использует некоторые готовые отработанные методы — он их принимает "на веру" в некотором смысле (я знаю это по опыту: моим знакомым экономистам все теоремы предлагались без доказательств). Ученый же ищет новое — он исследует. Это принципиально. Профессионал — всего лишь выполняющий работу в срок (на приемлемом уровне качества). Я не понимаю, как можно молиться на профессионалов, если уже Хосе Ортега вскрыл их варварскую природу.

QUOTE
Эй, пацаны, отменяем разработки!

Видимо, ты плохо представляешь, что в науке происходит. Если общество прознает, скольких дармоедов оно кормит, все эти "ученые" очень быстро окажутся на улице. Поэтому они вынуждены надувать щеки, делая вид, что занимаются важным делом. Уверен, что скоро все это кончится.

QUOTE
Философы? Доказали?

BAPBAP, не устал демонстрировать свое невежество? Любая научная парадигма начинается с приходом философа. Сначала пришел Ньютон — натур-философ — со своей механистической парадигмой. Затем — Максвелл с идеей полевого взаимодействия. Потом — Эйнштейн. И хоть я его терпеть не могу, и идеи были по большому счету не его, он от физического взаимодействия перешел к геометризации пространства. Это тоже философия, пусть и дурная. Потом — квантовая механика. И каждый раз начинается все с очень простых вещей. С обсуждения какого-нибудь кота Шредингера. Но это и есть философия.

Пока парадигма властвует в науке ученые ее разрабатывают количественно (но не качественно) и даже в какой-то момент начинают думать, что философия им не нужна: они типа и так умные. Так было в середине двадцатого века, когда у науки были большие достижения — тогда и был культ Науки (с большой буквы).

Но это до поры до времени. Сейчас остался культ единственной науки — экономики (но не физики). Культ "науки вообще" закончился, и надо быть слепым, чтобы этого не заметить.

QUOTE
КПД их активности оказался чрезвычайно низок, поскольку идея о том, что кто-нибудь может нагрянуть из-за пределов известной вселенной и разорить их тепличник, не нашла понимания среди масс. До идеи о том, что из соображений безопасности надо разведать земли вокруг царства и радикально расширить сферу влияния додумался один лишь Александр или монгольский хан. Монгольский хан додумался, а вот просвещённые философы не смогли.

Ох, BAPBAP, ты такой варвар... Мне стоило бы промолчать, поскольку иногда молчание красноречивее всяких слов. Но я замечу, что если б ты прочел хотя бы статью Усова (на которую была ссылка выше), ты бы такого не написал. Поскольку он прямым текстом говорит:
QUOTE
если в древности варвары являлись на Запад с Востока, то в наше время Запад, своим наступлением на Восток ПРОИЗВОДИТ  варварство. Если прежде варвары разрушали цивилизацию, то сегодня цивилизация культивирует варварство.

Т.е. никакой прогресс в сущности ничего не изменил. Да и, кстати, о каком таком КПД речь? Полезное действие философов заключалось в том, чтобы не давать миру измениться, поскольку он может становиться только хуже. С чего ты решил, что в результате "прогресса" мир стал лучше? Потому что слово так переводится (прогресс — движение вперёд, успех)? Это байки для школьников.

Да, и по поводу того, что из соображений безопасности нужно что-то там разведать — это тоже чушь полная. Подумай, сколько ученых сейчас решает проблему возможного вторжения инопланетян. Да ни одного! Потому что проблемы принято решать по мере их поступления — только так история и развивается (а точнее, адаптируется к изменяющимся условиям). У Александра, в частности, были совсем другие мотивы: потешить свое ЧСВ. Он хотел захватить все известное на тот момент пространство. Ключевое слово здесь "известное".

QUOTE
Почему же? Люк, характеристическая скорость, вот это вот всё вот.
Для неспециалиста люк, который можно поднять руками, легкий, значит, его можно не выбрасывать. Это для него истина, разве нет?

BAPBAP, я сдаюсь! Ты доказал, что тебе невозможно ничего доказать. Собственно, поэтому с тобой никто, обычно, и не спорит. Но чем меньше с тобой спорят, тем, видимо, больше ты уверяешься в своей бесспорности (и компетентности). Такая вот система с положительной обратной связью. (Или эффект даннинга-крюгера).

Подобные издевательства над религией со стороны науки устарели еще в 19м веке. И уж тем более невозможно представить их со стороны компетенции. Потому что я уже показал ранее, что компетентность тоже основана в каком-то смысле на вере, только вере в авторитеты. Так какая разница, во что верить: в бога или в культ науки?

Если уж говорить о надувшемся животе, то здесь стоит упомянуть, что одно и то же следствие может быть вызвано различными причинами (как гипотезы в теореме у Байеса), что выбирают наиболее вероятную причину (как в правиле Оккама), что наиболее вероятная причина вовсе не всегда оказывается истинной, что круг предполагаемых причин всегда ограничен (как ограничен бывает круг подозреваемых), что истинная причина может и не попасть в этот круг (о чем, например, говорил Поппер). Кстати, все это история попыток выработать критерий истины. Тебе всё это, видимо, невдомёк...

QUOTE
А дальше идёт как раз перечисление методов и подходов реализации ИИ.

Я видел это перечисление. Тебе не приходило в голову, что википедия — вторичный источник информации, который пытается сохранить нейтралитет? В ней такая "истина", которая устраивает всех (как раз основанная на авторитетных источниках). Если кто-то напишет там, что ученые — дармоеды, которые даром едят свой хлеб, то эти самые "ученые" лишатся своих насиженных мест. Но скорее начнется война правок, потому что никто не хочет лишиться своего места.

В данном случае статья противоречит самой себе. Потому что метод найти истину и критерий истины — это практически синонимы (разница незначительна). Да и как может быть иначе: ученые могут разработать ИИ, но при этом не могут доказать, что это ИИ? Ну в таком случае, у них есть метод разработать то, не знаю что. Разумеется, никто прямым текстом об этом не напишет.

Теперь, в чем заключается разница. Критерий истины позволяет взять некоторое утверждение и проверить его на истинность. Метод поиска истины позволяет найти такое утверждение (не с потолка же оно берется).

В качестве примера могу привести Гаусса, доказавшего основную теорему алгебры (о том, что в поле комплексных чисел всегда существует хоть одно решение любого алгебраического уравнения). На тот момент к нему предъявляли большие претензии и говорили: как ты можешь доказать, что решение существует, при этом не предоставив его? А предоставить решение уравнения — это и значит его решить. Т.е. Гаусс должен был, по их мнению, найти метод решения любого алгебраического уравнения любого порядка. Позже другой математик Дэвид Гилберт сказал, что "чистые теоремы о существовании служили в действительности важнейшими вехами развития нашей науки".
Но математика — это отдельная статья. Это вообще не наука, а дедуктивная дисциплина. В ней, например, порой, можно доказать, что не существует чисел с таким-то свойством. Обычная (индуктивная) наука не занимается доказательством несуществования. Иными словами, она доказывает только то, что есть, а не то, чего нет (принцип научного позитивизма). Поэтому в обычной науке метод поиска и критерий истины можно считать практически синонимами.

Наука сейчас, кстати, переживает острый кризис отсутствия критерия истины. Как раз потому, что долгое время поплевывала свысока на философию. Но критерий истины предоставляет именно философия, а не наука. Поппер в свое время сказал, что его теория о том, какая теория является научной, сама не является научной — иначе возникало противоречие. Она именно метанаучная, о том, как делать науку (философия науки). Этим он, кстати, открестился от самых первых позитивистов (во главе с Контом), которые как раз-таки пытались паразитировать на науках, пытались доказать, что философия — тоже наука, что она типа "ничем не хуже", и таким образом хотели кормиться со своих мест не хуже остальных академических ученых.

Это сообщение отредактировано Desert Eagle - 28 июля 2016 | 13:54


#19 BAPBAP

BAPBAP

    Театр одного шамана

  • Пользователи
  • PipPipPip
  • 3 204 сообщений

Отправлено 28 Июль 2016 - 15:51

dimka
Дело в том, что почти все из видных учёных, которые стали известны как философы вдогонку к своей основной научной деятельности, как, например, Декарт, жили до того, как появилась теория информации и даже просто более-менее чёткая методология исследований. Соответственно, для того, чтобы оперировать понятиями, для которых, в силу экстремальной новизны теорий, не существовало ни малейшего представления, и объяснять их своим менее сообразительным коллегам, учёным приходилось описывать принципы с помощью метафизических образов, отсюда и стремление философов признать настоящих учёных философами :)

Desert Eagle
QUOTE
я категорически не разделяю твой подход к науке

Имеешь полное право. Более того, глядя на то, как ты раз за разом героически входишь в неизведанное меж трёх сосен и начинаешь там с многозначительным видом блуждать, я рад, что нам не по пути.
QUOTE
Таким образом, чтобы стать авторитетом, нужно, чтобы тебя признали другие авторитеты. А их — предыдущие, и т.д
...
А именно, главное получить там свою бумажку, чтобы тебя признали каким-нибудь хотя бы завлабом или завкафом — и вот ты уже можешь поплевывать на всех свысока, с высоты своей компетентности.

Чувак, это звучит как глубокое переживание! Жаль, что не попался тебе в своё время хороший психолог.
QUOTE
Любая научная парадигма начинается с приходом философа. Сначала пришел Ньютон — натур-философ — со своей механистической парадигмой. Затем — Максвелл с идеей полевого взаимодействия. Потом — Эйнштейн.

Ты предлагаешь поставить знак равенства между ними и авторами эпической теории "создание искусственного интеллекта невозможно, потому что мы не можем сформулировать само понятие 'интеллект'". Гениально. Ты — учёный. Великий.
QUOTE
Культ "науки вообще" закончился, и надо быть слепым, чтобы этого не заметить.

Всё только начинается, благо, как раз созревает информационное общество. Надо быть слепым, чтобы этого не заметить.
QUOTE
если б ты прочел хотя бы статью Усова (на которую была ссылка выше), ты бы такого не написал. Поскольку он прямым текстом говорит

Бездоказательное словоблудие, которое ты принимаешь на веру.
QUOTE
Т.е. никакой прогресс в сущности ничего не изменил. Да и, кстати, о каком таком КПД речь? Полезное действие философов заключалось в том, чтобы не давать миру измениться, поскольку он может становиться только хуже. С чего ты решил, что в результате "прогресса" мир стал лучше? Потому что слово так переводится (прогресс — движение вперёд, успех)? Это байки для школьников.

Да что ты говоришь. А что такое "лучше"? А "хуже"? А в понимании философов? А в твоём?
Если говорить о конкретных вещах — подавляющему большинству человечества в наше время доступно больше благ, чем Александру Македонскому, Эдуарду IV, королеве Виктории или любому из их подданных.
QUOTE
Да, и по поводу того, что из соображений безопасности нужно что-то там разведать — это тоже чушь полная. Подумай, сколько ученых сейчас решает проблему возможного вторжения инопланетян. Да ни одного!

Сириус? А не слышал ли ты, случайно, об отмечавшемся в мире около месяца назад "Дне астероида"? Философы о нём понятное дело не писали в трудах, ни Усов, ни Хосе Ортега. Не успели прост за сменой парадигмы наверн, не попали в тренд.
QUOTE
Если уж говорить о надувшемся животе, то здесь стоит упомянуть...что истинная причина может и не попасть в этот круг (о чем, например, говорил Поппер). Кстати, все это история попыток выработать критерий истины. Тебе всё это, видимо, невдомёк

Так я тебе про критерии истины и говорю. Ты просто не понимаешь, НАСКОЛЬКО ты заблуждаешься в вопросах, которых касаешься, и вместо того, чтобы взглянуть на проблему с другой стороны и просчитать варианты, или, как ты обычно делаешь с философскими трудами, "прочитать и принять на веру", ты начинаешь нести околесицу, которую не можешь обосновать. При этом, после возникновения проблем с обоснованием, ты не отказываешься от гипотезы и не отправляешься изучить наличие прочих возможностей или восполнить пробелы в знании матчасти, а начинаешь капризно настаивать, что выглядит откровенно по идиотски.
QUOTE
Тебе не приходило в голову, что википедия — вторичный источник информации, который пытается сохранить нейтралитет? В ней такая "истина", которая устраивает всех (как раз основанная на авторитетных источниках).

Я советую тебе обратиться к википедии, потому что, судя по твоим рассуждениям, ты — абсолютный ноль в том, что касается ИИ, поэтому тебе надо ознакомиться с темой хотя бы в общих чертах. Кроме того, не лишним будет изучить и смежные области, так же доступные по ссылкам.
Твоё мнение по поводу мнения Поппера о кризисе критериев истины в науке и позитивистах, паразитирующих на настоящей науке, мне безразличны, ты уж извини.


#20 dimka

dimka

    Продвинутый пользователь

  • Пользователи
  • PipPipPip
  • 1 166 сообщений

Отправлено 28 Июль 2016 - 22:49

QUOTE (Desert Eagle)
Таким образом, чтобы стать авторитетом, нужно, чтобы тебя признали другие авторитеты. А их — предыдущие, и т.д. Такой вот критерий истины. Только здесь неизбежно возникает вопрос: а кто же признал самых первых авторитетов? Да никто! Они сами себя таковыми и признали.


Несмотря на то, что описываемые в процитированном отрезке и ниже в твоем оригинальном тексте проблемы действительно существуют, наука к ним не сводится. Даже в РФ. Иначе вообще бы никто ничего не изобретал, не открывал, не исследовал. Все бы боролись за власть и место потеплее. Примерно как в политике.

И авторитет не рождается сам по себе, просто потому что завкафедры одобрил. Только при опоре на публикации, работы, исследования, эксперименты и т.д. А те в свою очередь имеют как раз довольно четкие критерии истинности.

Эйнштейн ведь авторитет не потому, что опирался на работы других авторитетов или получил их одобрение, а потому что его работы дали кучу предсказаний, которые в конечном итоге подтвердились. Иногда — даже вопреки его собственному мнению и мнению других авторитетов на этот счет.

QUOTE (BAPBAP)
Дело в том, что почти все из видных учёных, которые стали известны как философы вдогонку к своей основной научной деятельности, как, например, Декарт, жили до того, как появилась теория информации и даже просто более-менее чёткая методология исследований.


Это правда. Но ценности произведенной ими на свет философии сей факт, тем не менее, не умаляет.




Похожие темы Свернуть

  Название темы Форум Автор Статистика Последнее сообщение


Количество пользователей, читающих эту тему: 0

0 пользователей, 0 гостей, 0 анонимных

Рейтинг@Mail.ru