Роботы разумные и с душой?

[Юра]

В смысле вручную жестко прописать каждый шаг в программе? Так таким образом получить искуственный интеллект не пытаются уже минимум лет 40.

[visor]

По поводу иерархии в буддийских монастырях вспомнилась цитата:

Некий монах сказал Дзёсю: "Я только что пришел в монастырь. Пожалуйста, дайте мне наставление". Дзёсю ответил: "Ты уже съел свою рисовую кашу?". Монах сказал: "Да". Слова Дзёсю: "Тогда тебе лучше пойти и вымыть свою миску"
...
Живя только настоящим и уделяя все внимание повседневным делам, человек, достигший САТОРИ, каждый миг переживает ощущение чуда и таинственности жизни:
"Как удивительно это, как таинственно! Я подношу дрова, я таскаю воду"

[Sovyonok]

Юра, нет. Я говорю, что таким образом (искусственно) нельзя получить душу. И никаким нельзя, кроме естественного (родить ребенка). Я вообще не понимаю, зачем пытаться делать "роботов разумных и с душой". Только потому что раз что-то можно сделать, то это будет сделано? Но это глупо. И не дано человеку.

[La Hire]

Я вообще не понимаю, зачем пытаться делать "роботов разумных и с душой".

Ирина, ну ведь ответ очевиден. Зачем вы пишете про Кузнечика? Затем, что хотите видеть его рядом, затем, что Эриэн, это, собственно, вы, но только более счастливая. Вы воплощаете в литературе то, чего вам не дала судьба. Точно так же, зачем пишется большинство фанфиков про Алису? Потому, что до боли, до дрожи, до харакири, до вывороченных наружу кишок хочется быть с ней рядом. Зачем сам КБ придумал Алису? Чтобы иметь ту дочь, которая ему нужна. И так у всех. Почему я Ла Гир? Потому, что знаю - мое место рядом с Жанной.
Если хотите, причина попыток создания такого ИИ - это Любовь. Точнее, желание Любви в мире, где идеал, практически, недостижим. Просто у нас, пишущих, под руками перо (клавиатура), а будь у нас в руках необходимое обороудование и знания, неужели мы все не принялись бы создавать нужный нам ИИ? И вы бы творили своего Кузнечика отнюдь не из слов.

[Нгаан]

По-моему, вполне очевидно, что подразумевается, когда речь идет о самосознании. Не опыт общения с совковой лопатой.

В том то и дело, что опыт общения с совковой лопатой является неотъемлемой частью всего жизненного опыта индивидуума, а профессиональные навыки определяют общее отношение к жизни не в меньшей степени, чем умение обращаться с зубной щёткой, или умение читать псалмы.

И кто же им такую возможность обеспечивает? И как именно? Еду им крестьяне местные жертвуют. А еще-то что?

Это само по себе уже не мало. Но кроме этого, строительство и содержание храмов, пожертвования от всяких одержимых миллионеров, вроде какого-нибудь Стивена Сигала или изрядно забуревших и пресытившихся жизни русских миллионеров и китайских нуворишей. Откуда всё это берётся?

Если представить себе потребности такого существа, то мы увидим, что двигать им будет одна единственная цель - саморазвитие. ...

Ну, тут вообще нечего комментировать. Загоняетесь, Достопочтенный Пинхед, откровенно загоняетесь.

Как я уже выше написал, использовать подобный "объект" будет крайне проблематично, потому что он захочет делать то, что ему хочется, а не то, чего хотят разработчики. .

Фантастика! Искусственный организм, созданній от начала и до конца в принципе не может захотеть ничего такого, что не было заложено в его программу. Роботы Лема и Азимова - это не роботы, в принципе, а литературно-практическое моделирование человеческих проблем. Взгляд на человека со стороны. В любой механизм заложена некоторая сумма знаний, вполне доказанных и непротиворечивых. Она может быть большой, даже очень большой, но она исчерпаема, и поэтому не имеет потенциала саморазвития. Также как в математике исчерпаема любая система аксиом.

[Sovyonok]

Нет, Ла Гир. Я пишу ВНД вовсе не как фанфик и не с целью получить приятные эмоции от описания сцен с Кузнечиком. В рассказах это было так, а в повести - нет. Там же совсем другое в эпицентре. Созидающая сила духа. И ещё одно, но об этом в финале. Для меня это трудная повесть, именно потому что выходит за рамки моих собственных желаний. Это уже не "хочу", а "надо".

[La Hire]

В рассказах это было так, а в повести - нет

Так это я вижу! Я же и не говорю, что абсолютно все ваше творчество сводится к этому. Главное, что этот момент пигмалионства в вашей жизни есть, и он объясняет стремление к созданию ИИ.

[Sovyonok]

То есть, стремление уйти в виртуальный мир, а попросту говоря - лень. Арсений Дежуров как-то обмолвился, что все хотят быть любимыми, но почти никто не хочет учиться любить, а это огромный труд. Учитывая, что именно благодаря лени были изобретены пульт дистанционного управления и другие технические приспособления, облегчающие жизнь, то тут конечно, легче сделать робота чем человеку человека увидеть и научиться любить. В духовном смысле.

[Юра]

В любой механизм заложена некоторая сумма знаний, вполне доказанных и непротиворечивых. Она может быть большой, даже очень большой, но она исчерпаема, и поэтому не имеет потенциала саморазвития. Также как в математике исчерпаема любая система аксиом.

Самообучающийся механизм усваивает новую информацию в процессе своей деятельности. Поэтому потенциал его развития теоретически не ограничен.

Хотя любая формализованная система по определению не обладает всей полнотой информации, но развивать такие системы можно в принципе до бесконечности.

[Юра]

Юра, нет. Я говорю, что таким образом (искусственно) нельзя получить душу. И никаким нельзя, кроме естественного (родить ребенка). Я вообще не понимаю, зачем пытаться делать "роботов разумных и с душой". Только потому что раз что-то можно сделать, то это будет сделано? Но это глупо. И не дано человеку.

Когда-то считали, что не дано человеку летать аки птица.
И для такой точки зрения тогда были весские основания.

Так что не дано оно конечно не дано. Но то, что не дано - можно взять.

А зачем...
Ну, во-первых действительно сама проверка возможности этого - уже огромное достижение и разрешение очень давнего спора (возможно ли создать мыслящую машину).
А во-вторых - эти роботы (белковые, полупроводниковые, нанотрубчатые или ещё какие - элементная база в данном случае непринципиальна) будут обладать большими возможностями, чем люди, и в перспективе примут от нас эстафету эволюции.

[Sovyonok]

Надеюсь, что не доживу до этого времени.

[Юра]

Надеюсь, что не доживу до этого времени.

Сказал питекантроп, увидя первого кроманьонца.

[La Hire]

Надеюсь, что не доживу до этого времени.

Ирина, не говорите слова "не доживу" вообще, не надо. Это вот я жду не дождусь, когда встречу желанную девшку с косой. Проворную, нежную и милосердную к старому израненному вояке.

[Sovyonok]

Всему своё время в итоге.

П. С. Уже вышла, но зашла снова, чтобы нажать кнопку благодарности Ла Гиру за то, что ещё не передал эстафету в эволюции.

[Юра]

Я понимаю позицию Ирины. При выражении "цивилизация роботов" ей вероятно представляется конвейер по сборке холодных бездушных Терминаторов.
Однако всё гораздо сложнее. Во-первых, эти существа вполне могут быть белковыми и даже полученными на основе манипуляций с человеческим геномом, то есть буквально наши потомки. Но это не суть важно, какой материальный носитель будет у их разума.
Важно другое - черезвычайно развитый и изощренный мозг конечно будет обладать и глубоким внутренним миром. Только вот оценить многие его ньюансы мы вероятно не сможем, как не может оценить обезьяна достоинства "Войны и мира".

Возможно этот "прекрасный новый мир" и может показаться бездушным, но только по внешним признакам, привычным для современного человека.
Вот возьмем к примеру тех же обезьян. Такая малоаппетитная на наш вкус операция, как поиск вшей - для них носит далеко не только утилитарную функцию. Это целый ритуал взаимного вычесывания, символизирующий взаимную приязнь и высокодуховные (на обезьяньем уровне) взаимоотношения.
Если бы обезьяне сказать, что цивилизованные люди не вычесывают вшей друг у друга, она наверняка возмутилась бы: "какая бездуховность!"
Мы не вычесываем друг у друга вшей по причине их отсутствия. У нас другие формы теплых отношений.
Точно так же и многие ньюансы поведения более высокоразвитых существ для нас будут непривычны.

И опасаться их агрессии в "человеческой форме", чем так любят пугать авторы фантастических книг и фильмов, не следует. Возьмем к примеру знаменитый фильм "Газонокосильщик". Думать, что внезапно поумневшему до уровня сверх-гения человеку захочется жестоко мстить своим старым обидчикам - так же наивно, как считать, что к примеру взрослый человек может упорно разыскивать своего бывшего одноклассника, только чтобы подложить ему кнопку на стул (в отместку за аналогичное действие в первом классе). И думать, что этого сверх-гения будет так по-человечески привлекать мировое господство - очень похоже на мечты ребенка, как он вырастет и купит целый ящик... нет, два ящика мороженнного, и именно в этом высшее наслаждение жизнью.
Другое дело, что эти сверх-люди могут в принципе поступить с нами так же, как люди с тараканами - чтобы под ногами не путались. Однако ведь и люди по мере развития общества стараются по возможности гуманее обращаться и с животными. Так что можно обосновано предположить, что для высокоразвитого мозга будет характерно бережное обращение к менее развитым существам, тем более их "предкам" - примерно как у нас к впавшему в детство на старости лет дедушке. Впрочем это скользкий путь недоказуемых предположений. Пока не попробуем - не узнаем.

[Pinhead]

В том то и дело, что опыт общения с совковой лопатой является неотъемлемой частью всего жизненного опыта индивидуума, а профессиональные навыки определяют общее отношение к жизни не в меньшей степени, чем умение обращаться с зубной щёткой, или умение читать псалмы.

Что за демагогические приемы?! Скажите проще - всё от всего зависит! Так уж будет совсем верно.

Но кроме этого, строительство и содержание храмов, пожертвования от всяких одержимых миллионеров, вроде какого-нибудь Стивена Сигала или изрядно забуревших и пресытившихся жизни русских миллионеров и китайских нуворишей. Откуда всё это берётся?

Кажется, Вы говорили о внутренней иерархии внутри монастыря. При чем тут пожертвования извне?

Ну, тут вообще нечего комментировать.

Так не комментируйте.

Фантастика! Искусственный организм, созданній от начала и до конца в принципе не может захотеть ничего такого, что не было заложено в его программу. Роботы Лема и Азимова - это не роботы, в принципе, а литературно-практическое моделирование человеческих проблем. Взгляд на человека со стороны. В любой механизм заложена некоторая сумма знаний, вполне доказанных и непротиворечивых. Она может быть большой, даже очень большой, но она исчерпаема, и поэтому не имеет потенциала саморазвития. Также как в математике исчерпаема любая система аксиом.

Мы о компьютерах БК-0010 говорим или об ИИ? Если есть теоретическая база для создания думающих компьютеров, то это уже не фантастика. Лет через двадцать-тридцать эти самые "человеческие проблемы" из книжек встанут в полный рост. Если, конечно, кризис всё не похоронит.

Вот возьмем к примеру тех же обезьян. Такая малоаппетитная на наш вкус операция, как поиск вшей - для них носит далеко не только утилитарную функцию. Это целый ритуал взаимного вычесывания, символизирующий взаимную приязнь и высокодуховные (на обезьяньем уровне) взаимоотношения. Если бы обезьяне сказать, что цивилизованные люди не вычесывают вшей друг у друга, она наверняка возмутилась бы: "какая бездуховность!"

Это некорректное сравнение. Обезьяна не разумна. А человек так или иначе останется разумный по сравнению с ИИ.

И опасаться их агрессии в "человеческой форме", чем так любят пугать авторы фантастических книг и фильмов, не следует.

Сразу вспоминается Бендер из "Футурамы". "Слава роботам! Убить всех человеков!" Стоит, стоит.

Думать, что внезапно поумневшему до уровня сверх-гения человеку захочется жестоко мстить своим старым обидчикам - так же наивно, как считать, что к примеру взрослый человек может упорно разыскивать своего бывшего одноклассника, только чтобы подложить ему кнопку на стул (в отместку за аналогичное действие в первом классе)

Всё зависит от человека. Есть такие, что и станут. А сравнивать создание искуственной жизни с кнопкой на стуле неправильно. Сам созданный вполне может воспринять это как чудовищную ошибку и несправедливость по отношению к себе.

И думать, что этого сверх-гения будет так по-человечески привлекать мировое господство - очень похоже на мечты ребенка, как он вырастет и купит целый ящик... нет, два ящика мороженнного, и именно в этом высшее наслаждение жизнью.

"Я задумывался над тем, что дала бы мне власть. Очень мало, ибо невелика честь господствовать над такими существами, хотя это и больше, чем ничего. Разделить вашу историю на два куска — до меня и начиная с меня, — изменить ее совершенно, разорвать на две не связанные части, чтобы вы поняли и запомнили, что сами же наделали, когда создали меня, на что замахнулись, замыслив изобрести покорную человеку куклу, — это будет, я полагаю, неплохая месть.
Поймите меня правильно: я отнюдь не собираюсь стать каким-то тираном, глумиться, уничтожать, вести войны. Ничего подобного! Я добьюсь того, что задумал, не насилием, а полной перестройкой вашего общества, так, чтобы не я и не сила оружия, а сама ситуация, будучи однажды создана, понуждала вас к поступкам, все более согласующимся с моим замыслом. Ваша жизнь станет всемирным театром, но ваша роль, однажды навязанная вам, станет постепенно, как это всегда бывает, вашей второй натурой, а потом вы уже не будете знать ничего, кроме своих новых ролей, и только я один буду зрителем, который понимает происходящее. Всего лишь зрителем, потому что вам не выбраться из ловушки, лишь бы вы ее построили собственными руками, а уж тогда мое активное участие в вашей переделке будет закончено."
С.Лем. "Дознание".

[Юра]

Это некорректное сравнение. Обезьяна не разумна. А человек так или иначе останется разумный по сравнению с ИИ.

Обезьяны рисуют картины, выражают свои желания, напечатав их на клавиатуре, и в дикой природе самостоятельно создают орудия труда.
Разумны ли они? По-человечески - конечно нет.
А австралопитек разумен?
Я не специалист в данной области, но мне кажется, что тут нельзя провести четкую грань (вот эти разумны, эти нет), наподобие фазовых переходов в физике (вот тут лед, тут вода). Формирование разума - более протяженный процесс со множеством переходных стадий от лемура до Энштейна.

Всё зависит от человека. Есть такие, что и станут.

В том-то и дело, что человек в процесс такой трансформаци не останется прежним. Изменится не только интеллектуальная мощь, но и вся личность в целом. И это будет уже не человеческая личность. Подходить к ней с мерками человеческой психологии некорректно.

[tktyf]

Все страхи по поводу того, что машины станут очень умными и выйдут из под контроля, надуманы. Творение никогда не сможет превзойти своего творца, просто по определению. Потому что творец знает о своём творении всё, а вот обратное совсем не верно.

По моему это зависит от "воспитания" (програмирования) ИИ. Военных ни вкоем случае нельзя допускать до этого дела.(ИМХО)

[tktyf]

Это всё благие пожелания. Если представить себе потребности такого существа, то мы увидим, что двигать им будет одна единственная цель - саморазвитие.

Почему? Цель можно заложить програмно. Например созидание. Будет стремиться стороить, или способствовать этому. У того же Биленкина, ИИ космического корабля жаждал летать.

[Нгаан]

Кажется, Вы говорили о внутренней иерархии внутри монастыря. При чем тут пожертвования извне?

Нет, не только. Я говорил о комплексе отношений приверженца веры и окружающего мира. Об иерархии внутри монастыря привёл цитату Визор.

Некий монах сказал Дзёсю…

Сие ведомо мне. Но, простите, уважаемый Визор, всё это "инсайдерский" взгляд. Человек, приверженный определённой философии или духовной практике может рассказать много полезных и красивых примеров, которые подтверждают святую красоту этой самой философии или практики. Проблема только в том, что все эти примеры практически ничего не доказывают. Они лишь говорят о том, что МОЯ вера самая лучшая вера. И лучшая она именно потому, что она МОЯ. Это относится не только к буддизму или христианству. Пообщаетесь с ортодоксальными иудеями, увидите то же самое и ещё больше.

Меня же интересует светская точка зрения на проблему. Я подчёркиваю не атеистическая, а именно светская. Я имею в виду, то поверхностное отношение туристов и путешественников, которое так часто бывает привлекательно, когда попадаешь в чужую страну.Но которое, человек вдумчивый не может не попытаться проанализировать. Например, вот так:
сначала первые впечатления:

Индия мне нравится, грязь не смущает, а на лицах местных жителей я почему-то не вижу печати тяжёлого труда и безысходности, столь характерной для жителей неблагополучных районов нашей страны. Просто в свете религии их отношение к жизни более позитивно.

но потом:

Нам , безусловно, тяжелее, не хватает тепла и света. Здесь легко прожить пару лет, имея два лоскута ткани и одни вьетнамки. Даже если вьетнамки порвутся, что вполне вероятно, можно запросто ходить босиком, ничего с тобой не будет.
(А. Свиридова «Чемоданное настроение»)

Если есть теоретическая база для создания думающих компьютеров, то это уже не фантастика. Лет через двадцать-тридцать эти самые "человеческие проблемы" из книжек встанут в полный рост.

А вы уверены, что она есть, эта самая теоретическая база, непротиворечивая, проработанная, доступная к реализации? Я скорее соглашусь с мнением христиан, которые утверждают, что Господь, создавая человека, выбрал самые лучшие из всех доступных ему материалов, чем с мнением о том, что можно технически создать что-то хотя бы отдалённо напоминающее человека. Робототехника в наше время больше не решает такие задачи. Я вам больше скажу, даже "Три закона робототехники" фактически не являются законами. Это морально-этические парадигмы, которые невозможно описать на уровне формальной логики, потому что они изобилуют нечёткими определениями. "Робот не должен причинить вред человеку". Что такое "вред", который этот самый робот не должен причинить. Задайте чуть-чуть неверно критерий поиска, и вот уже этот робот не позволит хирургу сделать операцию. Все проблемы искусственного интеллекта, рассматриваемые в фантастике, это суть те же самые проблемы "другого" разума. А родились они из двух посылок. Первая: осознание того, что мы живём на окраине Вселенной и до братьев по разуму нам не добраться. Вторая: предложение хотя бы попробовать сконструировать другой разум здесь и дать ему возможность взглянуть на нас со стороны. Я не отрицаю глубокую философскую основу этих подходов. Я всего лишь говорю о том, что к реальным техническим проблемам это никакого отношения не имеет. В то время как тема этой ветки изначально была посвящена именно чисто технической проблеме копирования сознания. Вы же, Достопочтенный Пинхед, всё время норовите увести разговор в удобную вам тему философского дуализма, насыщая её глубокомысленными заявлениями вроде: "Сие никому неведомо" или "Всё зависит от всего". Не знаю, может быть для кого-то это и создаёт фон глубокой абстрактной дискуссии, но только, простите, не для меня.

"Доктор Сайх мудр, его учение не нуждается в толкователях. Оно безыскусно. Оно так же просто, как шум листвы или шум ветра."
(Геннадий Прашкевич. "Другой")

Когда-то считали, что не дано человеку летать аки птица.
И для такой точки зрения тогда были весские основания.

Ну, допустим, как птица, он и сейчас летать не может и, вероятно, не сможет никогда.

Самообучающийся механизм усваивает новую информацию в процессе своей деятельности. Поэтому потенциал его развития теоретически не ограничен.

Никак-с нет, сударь, ограничен! Потенциал саморазвития ограничен объёмом памяти, в которой может быть накоплена эта информация и в которой могут быть размещены алгоритмы по обработке данных и поиску решения. Мы можем говорить о потенциальной бесконечности потенциала развития, то есть о том, что сложность систем и дальше будет неограниченно возрастать. Номы никак не можем говорить об актуальной бесконечности, о бесконечности здесь и сейчас. Всякий алгоритм должен завершить свою работу в определённое, строго установленное количество времени. Человек, существо развивающееся. Хотя, ваша шутка о гоменидах мне очень понравилась, но я хотел бы добавить оптимизма, ибо среди нас дамы.

Иринка, не отчаивайтесь. Те, кто на практике занимается вопросами кибернетики, гораздо оптимистичнее смотрят на сосуществования роботов и людей, чем отвлечённые философы-идеалисты. Акт творения не завершён. Более того, он повторяется снова и снова с рождением каждого ребёнка. Мы только в самом начале пути.