Роботы разумные и с душой?

[Pinhead]

Я всего лишь пытаюсь получить мнение специалиста по вопросу: возможно-ли в принципе сознание при простом воссоздании нейронной сети?

Вы имеете в виду - воссоздание с помощью технических средств?
Этого никто не знает. Когда проведут первые опыты, тогда узнаем, но до этого еще далеко. Мозг гораздо сложнее, чем простая сеть. Про это Вам Одиссей расскажет подробней.
Я считаю, что если осуществить в реальности подобную сложную структуру, то сознание в виде выделения своего "я" из окружающего мира непременно возникнет, никаких ограничений для этого нет. С другой стороны, мне кажется, что делать такие штуки ни в коем случае нельзя, т.к. головной боли мы от этого получим неизмеримо больше, чем пользы. А делать просто так ради "а вдруг получится" недопустимо.
Если же попытаться экстраполировать, то это не будет таким вот "раз - и появилось сознание!" Это будет длинный путь проб и ошибок, со всё усложняющимися системами. Логика которых также, соответственно, будет усложняться. На этом пути разобьется еще не мало самолетов и космических кораблей. И тут всё будет зависеть от того, сколько самостоятельности в принятии решений будут давать разработчики электронному (или какой он там будет) мозгу. Чем выше предусматривается подобная самостоятельность, тем сложнее будет устройство. В конце концов именно предел самостоятельности и послужит появлению ИИ, или же, напротив, положит конец таким разработкам. Потому что чем сложнее система, тем труднее в нее встроить ограничители. После некоторых неоднозначных решений перед разработчиками в полный рост встанет вопрос "а что же мы такое создаем, и зачем оно нужно".
И, самое главное, на кой черт создавать инвалида?! Потому что если действительно представить себе такую искуственную индивидуальность, то это будет просто еще один человек, потому что ничего другого всё равно не получится, создатели воссоздадут собственный образ мышления, другого-то они не знают. Они будут пичкать его человеческими знаниями, человеческими эмоциями, человеческими воззрениями на всё. И это будет ущербный, неполноценный и страдающий от этой неполноценности человек. Именно так оно и будет. И на хрена, спрашивается?!

[Нгаан]

Я всего лишь пытаюсь получить мнение специалиста по вопросу: возможно-ли в принципе сознание при простом воссоздании нейронной сети?

Проблема ассоциативных связей не ограничивается простым воспроизведением нейронной сети. Нейронная сеть это, конечно, строго индивидуальная структура, характерная для каждого отдельного представителя вида. Проблема же заключается в том, что эта сеть динамическая - постоянно перестраиваемая. Синаптические связи не так стабильны, как это нам часто пытаются показать в фантастических фильмах. В нашем мозгу постоянно происходит генерация неустойчивых состояний, а сознание это способность индивида управлять спонтанной генерацией. Именно в этом и заключается цель воспитания и обучения - не просто научиться генерировать идеи, но научиться распознавать эти идеи как ценные, управлять их способом генерации, направлять работу мозга усилием воли в нужное русло. Тот, кто не умеет это делать, может быть очень креативным, но его творческие наклонности могут привести его к сумасшествию. Поэтому, моё мнение специалиста по программно-аппаратным средствам контроля: сознание не может возникнуть в жёсткой структуре, не способной к динамической перестройке, тем более без длительного этапа социализации. Нужна не просто сеть - нужна такая система, которая будет накапливать информацию и постепенно перестраивать себя на основе этого опыта. Нужен мозг. Сейчас эту проблему пытаются решать путём совмещения жесткой логической структуры с гибкими средствами программного управления. Создаются базы знаний и базы ассоциативного поиска решений на основе программных моделей, которые загружаются в так называемые "суперкомпьютеры" на основе процессорных матриц. Но это путь традиционной кибернетической системы 20-го века. Другой подход, это попытка смоделировать человеческий мозг и его сознание, поскольку другого мы пока не знаем, но уже сейчас известно, что для этого нужны другие средства реализации - биопроцессоры, способные к "саморазвитию". Работы в этом направлении уже ведутся, но коммерческих результатов пока ждать не приходится.

Вера - это то, что принимается без доказательств, знание - то, что получено в результате доказательств. В путаете уверенность с убежденностью. Я человек неверующий и всё, что говорю, узнал в результате собственного опыта.

Не все знания человек получает на основе собственного опыта. Если бы это было так, то невозможен был бы прогресс поколений. Вы, Достопочтенный Пинхед, постоянно смешиваете духовный опыт, который на самом деле гораздо ближе стоит к вере и является чисто индивидуальным, и опыт практических знаний, где навыки часто просто копируются, без особенного осознания их общих принципов. Цель системы образования как раз в том и заключается, чтобы "запрограммировать" человека на способность выполнять определённый вид работы. Те же, кто чувствует в себе способность открывать новые истины, уходит в науку с головой. Требовать от всех людей, чтобы они все занимались углублённым самокопанием - это абсурд. Кто тогда «сортиры» чистить будет? Даже в буддийских монастырях жёсткая иерархия из тех, кто только медитирует и познаёт вечночсть и тех, кто им обеспечивает каждодневно эту возможность. Может быть, ваш принцип элитарного отношения к жизни (и себе) как раз и приводит вас к отрицанию жизни, потому что рядом нет тех людей, которые бы вам обеспечили эту возможность, быть над миром.

Мыслящий автомат, робот, кибер или, как его там, придёт в конечном итоге к тому же. Если он хочет быть полезен людям, то он должен что-то делать для этих людей - стать с ними на равную ступеньку – захотеть стать человеком. О жутких кошмариках, в которых машины создают собственное общество, вообще нет смысла говорить. Для этого у них нет мотивации, ибо социум это всего лишь способ самосохранения биологического вида в недружественных условиях окружающей среды.

Все страхи по поводу того, что машины станут очень умными и выйдут из под контроля, надуманы. Творение никогда не сможет превзойти своего творца, просто по определению. Потому что творец знает о своём творении всё, а вот обратное совсем не верно.

[Одиссей]

при простом воссоздании нейронной сети

В ближайшее время об этом и думать бесполезно. У каждого нейрона 10000 контактов (дендритов + хотя бы один аксон) Сравнивать с байтом некорректно --- каждая из них --- очень сложный процессор, компьютерные по изощрённости структуры в подмётки не годятся. Представьте компьютер на 14-15 миллиардов суперпроцессоров. И чтоб не ломалось десятилетиями, саморемонтировалось, иначе делать новый разум просто неэтично.
Это если вы не верите в микролептонные биополя. Откроют физики частицы настолько меньше "элементарных", насколько они меньше нас, докажут биологи, что разум из микролептонов состоит --- вот тогда будет весело.
visor, почему бы вам не прочитать курс общей психологии?

[visor]

visor, почему бы вам не прочитать курс общей психологии?

Чтобы научиться общению с психологами?
(Я читал литературу по псхологии и ИИ в 80-90-е годы, когда было время читать. Надеюсь, что сейчас появилось что-то новое)

И почему тут все думают, что я ради себя стараюсь, блин. Ну что вы всё обо мне, да обо мне?
В других ветках мы собираем материал в виде ссылок, мнений и т.п. И никто не протестует мол: не надо тут салонных разговоров, идите, дураки, учитесь лучше; Ты вот зачем такое спросил, думаешь самый умный? А имей в виду, что ты такой
В теме про политику 300 веток, как будто все политики. А тут прямо какая-то ревность к предмету. Какая-то паническая боязнь, что собеседник подумает, что изобрёл велосипед. Не бойтесь, нет такой иллюзии у ваших собеседников; в этом плане вы их очень (!) недооцениваете.

Я не пойму, почему не говорят о рецепторах. "Внутренний опыт" подсказывает, что в осознании своего "я" большое значение имеют миллионы рецепторов, и наблюдение за собой и реакцией окружающего мира на "меня".
Т.е. не мысли "2*2 = 4", а другие: "Я стою, мне холодно. Меня потрогали. Вот, моя рука. Я протянул её. Они отреагировали. Значит, есть отдельный я".
Я не пойму, почему-то при обсуждении разума делается акцент на сложности интеллекта. Нужна ли эта сложность? Может быть, инфузории или растения тоже осознают себя. Кто может доказать, что это не так?
Поэтому я удивляюсь, что в качестве тестов на сознание называются вопросы. А как задать вопрос инфузории? Вот они, их не нужно создавать. СлабО протестировать?
С другой стороны, многотысячелетний мистический и религиозный опыт разных народов не может быть пустым в принципе, хотя бы потому, что они работали не ради зарплаты, карьеры или самореализации. А они сознание и душу вообще не связывают с нейронами. (Знаю, что по данной теме есть литература. Считайте это замечание постоянным по умолчанию).

Значения слов "верю", "уверен", "убежден" мне известны (как ни странно).
Но когда учёный из уверенного становится самоуверенным, он перестаёт быть учёным.
Слава Богу, к присутствующим это не относится; тут даже промелькнуло "этого никто не знает".
А по поводу неэтичности экспериментов... Оружие на людях испытывают. Животных миллиардами режут. Пинхед, Вы же сами не считаете, что человек изменится в лучшую сторону.

[Юра]

Я против таких роботов. В нашем реальном мире ничего хорошего из этого не выйдет. И не надо дразниться. Я-то как раз отдаю себе отчет, где мир сказочный, а где реальный.

Арбалеты тоже пробовали запрещать. Такие попытки обречены на неудачу.
То, что может быть сделано, будет сделано. Тем более когда на кону такие перспективы.
Остается готовится свести к минимуму негативные последствия.

Похожий случай, кстати - работы по активному воздействию на человеческий геном.
Вот тут описан один из возможных вариантов злоупотребления этой технологией:
http://haritonov.kulichki.net/stories/llife.htm

[Sovyonok]

Визор, ну зачем же так нахально мусорить в информационном континууме? Что есть рецепторы без "центра управления"? Головного мозга. Информацию - сигналы от рецепторов - надо обрабатывать. Для этого у каждого типа анализатора в коре больших полушарий головного мозга есть свой центральный отдел. Допустим, зрительное восприятие. Сигналы от рецепторов сетчатки по зрительным нервам передаются в затылочные доли головного мозга. И видим-то мы не глазами, по сути, а затылком. Центральный отдел зрительного анализатора, как и другие, сложен из нейронов-кирпичиков. Они в 6 слоев, но ограничимся более крупными структурами - первичные, вторичные и третичные зоны, в которые и объединяются клеточные слои. Это всё вертикально. Идем снизу вверх. Первичные зоны. Это база, куда поступают зрительные импульсы. Вторичные. Здесь эти импульсы обрабатываются, происходит аналитико-синтетическая деятельность. Третичные - а вот это уже и взаимодействие с другими отделами и структурами мозга, и сложная обработка. Тут-то и требуется и память, и способность мыслить. Третичные зоны лобных долей - это вообще наше всё, я бы сказала. Так что ни о каком самосознании у инфузории туфельки и речи быть не может.
(осведомленных прошу не плеваться, коли тут речь зашла о популяризации).

[La Hire]

Пожалуй, я всё-таки не буду ничего здесь писать. Извините уж.

Это ж надо, как вас ныне припекло!

[Sovyonok]

(зловеще)
... и именно третичные зоны затылочных долей ответственны за организацию квазипространственных синтезов...

[Нгаан]

(зловеще)
... и именно третичные зоны затылочных долей ответственны за организацию квазипространственных синтезов...

Боже мой, боже мой! А ведь ещё вчера она была такая нежная и возвышенная девушка.

[visor]

Ирина. Спасибо за информацию об устройстве мозга )))
Рецепторов самих по себе не бывает. Иначе это не рецепторы. Это знают даже инфузории.
Устройство компьютера тоже сложное. Там тоже и импульсы от внешних раздражителей, и большие структуры, и малые...
Мы говорим о сознании. Считаете ли Вы, что оно появляется лишь при усложнении структуры?

[Юра]

Я считаю, что если осуществить в реальности подобную сложную структуру, то сознание в виде выделения своего "я" из окружающего мира непременно возникнет, никаких ограничений для этого нет. С другой стороны, мне кажется, что делать такие штуки ни в коем случае нельзя, т.к. головной боли мы от этого получим неизмеримо больше, чем пользы. А делать просто так ради "а вдруг получится" недопустимо.

Это будут наши детки на эволюционной лестнице.
Опасаетесь конфликта отцов и детей?
Но это, мне кажется, близко к позиции Ла Гира по поводу отцовства/материнства - из-за трудностей процесса происходит отказ от результата.
Кстати процесс самообучения и социализации робота, о котором писал Нгаан, наряду со многими другими книгами, не совсем серьёзно, но довольно недурственно описан к примеру тут:
http://lib.ru/TALES/RUBAN/kiborg.txt

И, самое главное, на кой черт создавать инвалида?! Потому что если действительно представить себе такую искуственную индивидуальность, то это будет просто еще один человек, потому что ничего другого всё равно не получится, создатели воссоздадут собственный образ мышления, другого-то они не знают. Они будут пичкать его человеческими знаниями, человеческими эмоциями, человеческими воззрениями на всё. И это будет ущербный, неполноценный и страдающий от этой неполноценности человек. Именно так оно и будет. И на хрена, спрашивается?!

"Филипп Филиппыч, а если бы мозг Спинозы?"
Таким путем в принципе можно создать даже не Спинозу. А мозг, которому Спиноза покажется умственно отсталым ребенком.

Делать ещё одного человека, когда его без всяких супертехнологий "может любая баба родить", конечно немного толку. Только в качестве проверки научных концепций и технологий - дескать можем.
А вот сверхчеловека... Тут возможна такая катавасия, что начинаешь лучше понимать проблему взаимоотношений кроманьоньцев и неандертальцев.

[Юра]

Мыслящий автомат, робот, кибер или, как его там, придёт в конечном итоге к тому же. Если он хочет быть полезен людям, то он должен что-то делать для этих людей - стать с ними на равную ступеньку – захотеть стать человеком. О жутких кошмариках, в которых машины создают собственное общество, вообще нет смысла говорить. Для этого у них нет мотивации, ибо социум это всего лишь способ самосохранения биологического вида в недружественных условиях окружающей среды.

Все страхи по поводу того, что машины станут очень умными и выйдут из под контроля, надуманы. Творение никогда не сможет превзойти своего творца, просто по определению. Потому что творец знает о своём творении всё, а вот обратное совсем не верно.

Вообще-то иногда творение может превзойти творца, в этом убедились древние гоминиды где-то 40 тысяч лет назад.
А по поводу общества машин - очень интересный вопрос. Возможно, что за счет развитых коммуникаций они смогут образовывать единый сверхорганизм, сверхмозг - наподобие суперкомпьютера из многих процессоров. Или муравейника, когда муравьи в группе становятся способны к гораздо более сложным действиям, чем одиночный муравей - нечто вроде коллективного разума, фунцкционально аналогичного человеческой культуре.
Какую форму это объединение примет у разумных машин (понятно что не человеческое государство, и не "химический суперкомпьютер" муравьев) - нетривиальный вопрос.

[Pinhead]

Вот видите, что получается, если пытаться получить простые ответы на сложные вопросы.

Вы, Достопочтенный Пинхед, постоянно смешиваете духовный опыт, который на самом деле гораздо ближе стоит к вере и является чисто индивидуальным, и опыт практических знаний, где навыки часто просто копируются, без особенного осознания их общих принципов. Цель системы образования как раз в том и заключается, чтобы "запрограммировать" человека на способность выполнять определённый вид работы.

Ничего я не смешиваю. По-моему, вполне очевидно, что подразумевается, когда речь идет о самосознании. Не опыт общения с совковой лопатой.

Требовать от всех людей, чтобы они все занимались углублённым самокопанием - это абсурд. Кто тогда «сортиры» чистить будет?

Одно не исключает другого. Почему это надо противопоставлять?

Даже в буддийских монастырях жёсткая иерархия из тех, кто только медитирует и познаёт вечночсть и тех, кто им обеспечивает каждодневно эту возможность.

Что Вы говорите? И кто же им такую возможность обеспечивает? И как именно? Еду им крестьяне местные жертвуют. А еще-то что?

Если он хочет быть полезен людям, то он должен что-то делать для этих людей - стать с ними на равную ступеньку – захотеть стать человеком.

Это всё благие пожелания. Если представить себе потребности такого существа, то мы увидим, что двигать им будет одна единственная цель - саморазвитие. Потому что потребность в поддержании собственного существования (еде) у него будет отсутствовать, потребности в продолжении рода (секс) он будет лишен, следовательно останется только одно - потребность безгранично познавать. Это будет такой бесконечный зохавыватель информации со стремлением постоянно расширять собственную память и мышление. Первые две потребности порождают огромный пласт человеческой психики, из них косвенно вытекают многие социально-поведенческие стереотипы, которые мы привыкли называть словом "добро". ИИ будет иметь эти стереотипы только в виде сторонней информации, непонятной для него и лишающей свободы действия. Он будет воспринимать их, как слабость биологического организма, вынужденого тащить за собой весь груз собственной традиционной культуры. А если человек попытается насильно вбивать в ИИ "нормы человечности", то неминуемо появится и враждебность.
Во всяком случае, желание подражать человеку будет у ИИ только на этапе его становления, именно так, как это происходит у детей. Затем может получиться всего два сценария. Либо комплекс неполноценности (инвалид), либо комплекс превосходства (сверхчеловек), потому что создатели ведь не остановятся в стремлении его совершенствовать.

А по поводу неэтичности экспериментов...

Дело не в этике, а в практике. Как я уже выше написал, использовать подобный "объект" будет крайне проблематично, потому что он захочет делать то, что ему хочется, а не то, чего хотят разработчики. Зато проблем будет куча. Первая же - будет ли убийством отключить подобный ИИ от питания? И что будут чувствовать создатели, когда он начнет жаловаться им на свою ущербную жизнь?

[Pinhead]

Может быть, инфузории или растения тоже осознают себя. Кто может доказать, что это не так?

Потому хотя бы уже, что это сознание никак не проявляется. А раз не проявляется, то нечего и плодить сущности без необходимости. Научно-обоснованных причин для возникновения сознания у простых организмов нет, а всё прочее - "вопрос веры", как вы говорите. Хотя даже в христианстве считается, что у животных нет души.

[Sovyonok]

Визор. Вы сами говорили, что это вопрос веры. Для меня ключевое слово здесь - душа. Человек не может создать другое живое существо искусственным путем, потому что ему не дано вдохнуть в это существо душу. А отсюда и самосознание, и разум, и чувства. Ну, пусть, это заблуждение. Но я считаю, что даже если создать очень сложную структуру, то все ее реакции будут лишь иллюзией мыслей, чувств, самосознания. Что человек в железяку сам заложит, то он и получит. И не более.

[Sovyonok]

Да елки-палки, Пинхед!

[La Hire]

Хотя даже в христианстве считается, что у животных нет души.

А в мусульманстве - что и у женщин. Так что, лучше держаться подальше от всего этого.

Но я считаю, что даже если создать очень сложную структуру, то все ее реакции будут лишь иллюзией мыслей, чувств, самосознания.

А как же Вертер? И, тем более, Кузнечик?

[Pinhead]

Но я считаю, что даже если создать очень сложную структуру, то все ее реакции будут лишь иллюзией мыслей, чувств, самосознания. Что человек в железяку сам заложит, то он и получит. И не более.

"То, что заложит" - это программа. Если хотите, наш ДНК - это тоже своего рода программа. Не надо предствалять себе процесс рождения ИИ в виде простого усложнения программы. Это именно процесс постепенного получения самостоятельности. Когда степень ограничений уменьшается, а степень свободы решений увеличивается. В конце концов для принятия очень сложных решений появится и необходимость в саморазвитии.

[Юра]

Что человек в железяку сам заложит, то он и получит. И не более.

Я думаю, что железяка обидится.
Вас ведь тоже не лично Бог-отец лепил, а папа с мамой. Много души у Вас было в виде, пардон, яйцеклетки?
Вообще самообучение и самостоятельная выработка всё более сложных алгоритмов поведения - это реальность уже для современных экспериментальных роботов. И хотя до самосознания в человеческом смысле там ещё очень далеко, но процесс развития роботов хорошо коррелирует с биологической эволюцией от простейших к более сложным организмам. А значит и у железяк количество рано или поздно перейдет в качество.

[Sovyonok]

Юра, я же говорила о создании искусственным путем.
Ла Гир, а тут следует возвратиться к тому, что я писала в начале ветки. Надо всё-таки различать сказку и реальность, в которой мы живем здесь и сейчас.