Роботы разумные и с душой?

[Sovyonok]

Вот про "аки птицу" то же самое хотела сказать, но опередили.

[Юра]

Ну, допустим, как птица, он и сейчас летать не может и, вероятно, не сможет никогда.

Вот поэтому сейчас роботов уже не рассматривают только как металлические человекообразные механизмы, смахивающие внешне на средневековых рыцарей. В отличии от первых представлений о роботах, распространенных лет 60-80 назад (правда у Чапека они всё-таки скорее биороботы, но это не было характерной позицией длля тех времен).
Довольно быстро стало очевидно, что нецелесообразно роботов делать только антропоморфных.

То же и с полетами. Для получения чувства полета, для удовольствия и для решения некоторых специальных задач существуют сверхлегкие летательные аппараты типа мотодельтаплана и турбореактивного ранца. Но большую часть воздушных перевозок выполняют громадные авиалайнеры. Намного удобнее пересекать океан в уютном кресле внутри теплого салона, чем в открытой кабине сверхлегкого самолета, и уж тем более из последних сил маша крыльями.

Никак-с нет, сударь, ограничен! Потенциал саморазвития ограничен объёмом памяти, в которой может быть накоплена эта информация и в которой могут быть размещены алгоритмы по обработке данных и поиску решения. Мы можем говорить о потенциальной бесконечности потенциала развития, то есть о том, что сложность систем и дальше будет неограниченно возрастать. Номы никак не можем говорить об актуальной бесконечности, о бесконечности здесь и сейчас.

В том-то и дело, что объем памяти и скорость обработки информации у человека биологического ограничены. Мы можем только отодвинуть этот барьер, создав общество, письменные источники информации и разделение специальностей.
Но исскуственно созданые существа в процессе развития смогут наращивать и свою память и скорость мышления (или это станет доступно и людям за счет развития биолотехнологий). И степень взаимодействия в рамках общества у них может быть более высокой за счет лучших коммуникакций (интернет - уже сегодня для компьютеров нечто вроде телепатии для людей ).

Акт творения не завершён. Более того, он повторяется снова и снова с рождением каждого ребёнка. Мы только в самом начале пути.

Это верно.

[Pinhead]

Хорошо, Нгаан, хотите демагогии, поговорим на вашем языке.

А вы уверены, что она есть, эта самая теоретическая база, непротиворечивая, проработанная, доступная к реализации?

А какое это имеет значение, есть она или нет? Главное, что нет принципиальных ограничений. Технические детали не важны.

Я скорее соглашусь с мнением христиан, которые утверждают, что Господь, создавая человека, выбрал самые лучшие из всех доступных ему материалов, чем с мнением о том, что можно технически создать что-то хотя бы отдалённо напоминающее человека.

Меня же интересует светская точка зрения на проблему.

Как это согласуется?

Робототехника в наше время больше не решает такие задачи.

Кто-то будет с этим спорить? Но разве разговор был об этом?

Я вам больше скажу, даже "Три закона робототехники" фактически не являются законами. Это морально-этические парадигмы, которые невозможно описать на уровне формальной логики, потому что они изобилуют нечёткими определениями.

Вы беседуете сами с собой? Я где-то упоминал о "Трех законах"?

Это морально-этические парадигмы, которые невозможно описать на уровне формальной логики, потому что они изобилуют нечёткими определениями.

А я разве не говорил, что у ИИ не может быть человеческой морали? Вне всякого сомнения, мораль ему будет чужда и странна.

Все проблемы искусственного интеллекта, рассматриваемые в фантастике, это суть те же самые проблемы "другого" разума. А родились они из двух посылок. Первая: осознание того, что мы живём на окраине Вселенной и до братьев по разуму нам не добраться.

Это исключительно Ваша точка зрения. Я читал достаточно работ, где авторы не занимались антропоцентрической рефлексией.

Вторая: предложение хотя бы попробовать сконструировать другой разум здесь и дать ему возможность взглянуть на нас со стороны.

Ну да. А разве это не является главной проблемой? Тогда почему об этом нельзя гворить?

В то время как тема этой ветки изначально была посвящена именно чисто технической проблеме копирования сознания.

Вы понимаете, что для того, чтобы решать техническую проблему переноса, надо сперва понять что именно переносится? Именно поэтому разговор сразу ушел в метафизическую плоскость. Это очевидный и неминуемый результат любой беседы на эту тему.

Вы же, Достопочтенный Пинхед, всё время норовите увести разговор в удобную вам тему философского дуализма, насыщая её глубокомысленными заявлениями вроде: "Сие никому неведомо" или "Всё зависит от всего". Не знаю, может быть для кого-то это и создаёт фон глубокой абстрактной дискуссии, но только, простите, не для меня.

Абстрактность это антоним конкретности, не так ли? Абстрактной беседу делает не абстрактная тема, а целая куча смешанных между собой вопросов, как у Вас в посте. Я же выше ратовал как раз за конкретность.

Потенциал саморазвития ограничен объёмом памяти, в которой может быть накоплена эта информация и в которой могут быть размещены алгоритмы по обработке данных и поиску решения.

Зачем подменять понятия? Речь идет не о бесконечности, а всего лишь о превосходстве. К тому же сводить процесс мышления к алгоритмам, это как раз разговор на уровне БК-0010.

[Pinhead]

Почему? Цель можно заложить програмно. Например созидание. Будет стремиться стороить, или способствовать этому.

Программно можно что-то без последствий заложить автомату. Если же мы ведем речь о мыслящем существе, то оно, во-первых, должно иметь широкий диапазон свободы самостоятельных действий, во-вторых, будет иметь собственный взгляд на те или иные цели. Или Вы предлагаете насильственный способ? Создавать механического раба?
Тут, правда, существует другая проблема. Безусловно, совсем без начального программирования обойтись всё равно невозможно. Но, думается, оно будет иметь некое подобие человеческих инстинктов. Если провести параллель, то подобные императивы будут сидеть у ИИ в подсознании, как у нас в подсознание вытесняются любые явные проявления инстинктов. И это реальная проблема. Потому что наши скрытые пружины, которые вне зависимости от нашего осознания толкают нас к определенныму мышлению и поведению, напоминают волны. Их много, они колеблются и даже ведут друг с другом скрытую войну. У ИИ же подобные "программные инстинкты" будут торчать внутри как рифы. Потому что они не могут противоречить друг другу и они никуда не смогут на время исчезать. Поэтому сознание ИИ будет всё время за них "цепляться" и группироваться вокруг них. Т.е. мы в короткий срок получим формирование сверхценных идей, проще говоря, готового параноика.

[Одиночка]

Или Вы предлагаете насильственный способ? Создавать механического раба?

Ну, так именно это и подразумевается в 99,9% случаев. Дескать - вкалывают роботы, а счастлив при этом, как ни странно, человек.
А если робот разумный и с душой, то его рабом не сделаешь. Разве что на короткий период...

[Нгаан]

Но исскуственно созданые существа в процессе развития смогут наращивать и свою память и скорость мышления (или это станет доступно и людям за счет развития биолотехнологий).

Но не стоит забывать о том, что теория алгоритмов уже сейчас знает массу примеров алгоритмически неразрешимых задач. Существуют критерии разрешимости, которые говорят о том, что сколь угодно сложная и скоростная вычислительная машина не сможет разрешить эту задачу за сколь угодно продолжительный промежуток времени. Кроме того, говоря об актуальной бесконечности, я имел в виду тот простой и очевидный факт, что не существует сейчас известных нам технологических принципов, которые позволят создать действительно мыслящую машину. Мы не будем жить вечно, и мы, конечно, можем помечтать о том, что случится через 2 млрд лет, но подобные рассуждения, недоступные экспериментальной проверке, превращают разговор в жуткую схоластику.

Главное, что нет принципиальных ограничений. Технические детали не важны.

Да, да, особенно они не важны для того, кто в принципе не собирается всё это технически реализовывать.

Как это согласуется?

Это согласуется так, что христиане тоже не собираются рассматривать эту проблему как достойную. Для них и так всё ясно.

Вы понимаете, что для того, чтобы решать техническую проблему переноса, надо сперва понять что именно переносится? Именно поэтому разговор сразу ушел в метафизическую плоскость. Это очевидный и неминуемый результат любой беседы на эту тему.

Да потому что в метафизической плоскости эта проблема не решается.
Касаемо определения, что такое сознание, я могу лишь сказать, что человек не сможет получить окончательный ответ на этот вопрос, пока действительно не создаст самостоятельный мыслящий организм на основе своих знаний о природе и материи. Философы могут изобретать тонны формулировок, но практики понимают, что все их «наезды» на проблему, это всего лишь подготовка человеческого сознания к попытке попробовать сделать что-то самим. Когда мы не знаем, как сделать, мы обычно пускаемся в глубокое философствование, как правило, с пессимистическим результатом. Хотя уже при самом начале было понятно, что мы не знаем: как сделать. Формулировка это процесс классификации. А классификация это уже потом, после того, как что-то получилось и даже не один раз. Вначале же часто идёт опыт творения. Чтобы писать стихи, не нужно знать общую всеобъемлющую формулировку того, что такое стихи.
Но вопрос, поставленный Визором в этой теме, звучал ещё и так: возникает ли сознание, при достижении системой определённой критической степени сложности. Мой ответ простой: нет, не возникает. Необходим опыт социализации, а не только период накопления и обработки информации. Сознание есть продукт существования общества. Нужен пример эксперимента, пожалуйста: дети -маугли. Все необходимые мозговые структуры у них генетически заложены и имеются, но воспитанные в звериной стае, они обладают сознанием воспитавшего их биологического вида и не отделяют себе от этой стаи. Чем не естественный эксперимент по зарождению сознания? Хуже того, педагоги вам подтвердят, что с определённого возраста ребёнка невозможно переучить, потому что стойкие мозговые структуры уже сложились и не могут быть перестроены. Значит, для объекта с неограниченной познавательной функцией нужен такой мозг, который создавая новые знания, мог бы уничтожать старые. То есть этакий хомо-феникс с полной регенерацией памяти. Вряд ли он сможет сделать это самостоятельно. Кто-то другой должен будет разобрать его мозги, а потом собрать их заново на новой основе. (Насчёт алгоритмически неразрешимых задач я уже писал.)

[tktyf]

Или Вы предлагаете насильственный способ? Создавать механического раба?

Нет, я говорю о базовой составляющей. У человека, как и у любого животного, это инстинкт выживания, заложеный природой. ИИ закладывать будет его создатель, и здесь можно решить проблему по разному. Например если выживание ему ненужно (а зачем?), то им можно пожертвовать заменив... Ну скажем "инстинктом" познания, получения и анализа информации. Или запрграмировать "инстинкт" выживания, но в космосе, а не на Земле. Впрочем тут раздолье для фантатов .

[Юра]

Но вопрос, поставленный Визором в этой теме, звучал ещё и так: возникает ли сознание, при достижении системой определённой критической степени сложности. Мой ответ простой: нет, не возникает. Необходим опыт социализации, а не только период накопления и обработки информации. Сознание есть продукт существования общества. Нужен пример эксперимента, пожалуйста: дети -маугли. Все необходимые мозговые структуры у них генетически заложены и имеются, но воспитанные в звериной стае, они обладают сознанием воспитавшего их биологического вида и не отделяют себе от этой стаи. Чем не естественный эксперимент по зарождению сознания? Хуже того, педагоги вам подтвердят, что с определённого возраста ребёнка невозможно переучить, потому что стойкие мозговые структуры уже сложились и не могут быть перестроены.

Социализация - это усвоение определенной информации, созданной обществом за тысячи лет. А перед этим - усвоение языка этого общества, без чего эту информацию не усвоить.
Если наша цель - создать цивилизацию роботов, являющуюся первоначально симбиотом человеческой цивилизации (в перспективе способной и существовать самостоятельно), для социализации роботов у нас есть мощные платы накопленной информации. А уж дальше они в процессе развития во много раз увеличат этот информационный багаж.
Если бы мы даже выращивали роботов в строгой изоляции, они за пару-тройку тысяч лет самостоятельно накопили бы нужную для возникновения сознания информацию - ведь накопили же её люди (правда в этом случае в личности роботов было бы гораздо меньше от человека). Используя накопленную человечеством информацию, мы просто ускорим возникновение сознания у роботов.

Значит, для объекта с неограниченной познавательной функцией нужен такой мозг, который создавая новые знания, мог бы уничтожать старые. То есть этакий хомо-феникс с полной регенерацией памяти. Вряд ли он сможет сделать это самостоятельно. Кто-то другой должен будет разобрать его мозги, а потом собрать их заново на новой основе. (Насчёт алгоритмически неразрешимых задач я уже писал.)

Вот уж нет. Новые мозговые структуры могут возникать в дополнение к старым, а старые впоследствии демонтироваться. Главное чтобы их соседние поколения были совместимы при работе.

[Pinhead]

Да, да, особенно они не важны для того, кто в принципе не собирается всё это технически реализовывать.

А здесь кто-то из обсуждающих собирается? Пускай выйдет и скажет: "Я работаю над созданием ИИ!" Тут-то мы у него всё и расспросим.

Это согласуется так, что христиане тоже не собираются рассматривать эту проблему как достойную. Для них и так всё ясно.

Для христиан довольно долго было ясно, что геоцентрическая картина мира единственно верна, а птолемеевские эпициклы всё объясняют. Потом пришлось переживать нехилый когнитивный диссонанс.

Касаемо определения, что такое сознание, я могу лишь сказать, что человек не сможет получить окончательный ответ на этот вопрос, пока действительно не создаст самостоятельный мыслящий организм на основе своих знаний о природе и материи.

Угу, а для того, чтобы его создать, он должен сперва понять что есть мыслящий организм. Всесёлый замкнутый круг.

Философы могут изобретать тонны формулировок, но практики понимают, что все их «наезды» на проблему, это всего лишь подготовка человеческого сознания к попытке попробовать сделать что-то самим. Когда мы не знаем, как сделать, мы обычно пускаемся в глубокое философствование, как правило, с пессимистическим результатом. Хотя уже при самом начале было понятно, что мы не знаем: как сделать. Формулировка это процесс классификации. А классификация это уже потом, после того, как что-то получилось и даже не один раз. Вначале же часто идёт опыт творения. Чтобы писать стихи, не нужно знать общую всеобъемлющую формулировку того, что такое стихи.

Вы определитесь, что мы обсуждаем - научно-инженерную задачу или творческую проблему? Если первое, то даже у пещерного человека было точное представление - как и какой обработать камень, чтобы получить нужное орудие труда. Или Вы думаете, что БАК тоже строили по наитию? Или атомная бомба! Пока Эйнштейном не была создана теоретическая база, связавшая массу и энергию в одно уравнение, никакие практические работы в этой области не могли бы даже прийти в голову. А началось всё, между прочим, с вполне себе такой метафизической штуки, как "эфир" и рассуждений на тему - что же такое свет - частица или волна.
Философы же, само собой, обдумывают проблему в целом и рассуждают о том, как ИИ повлияет на мировоззрение. Так это их работа, кстати говоря. Физики на такое не способны, по крайней мере, до 20-го века точно не были способны, пока петух не клюнул в одно место (с другой стороны, БАК показывает, что проблемы с головой целиком не решены).

Необходим опыт социализации, а не только период накопления и обработки информации. Сознание есть продукт существования общества. Нужен пример эксперимента, пожалуйста: дети -маугли. Все необходимые мозговые структуры у них генетически заложены и имеются, но воспитанные в звериной стае, они обладают сознанием воспитавшего их биологического вида и не отделяют себе от этой стаи. Чем не естественный эксперимент по зарождению сознания?

Это никуда не годная логика, между прочим! Опыт социализации - такая же информация, просто обрабатывается по-другому. А у маугли этой информации (о том, что он - человек) просто нет, мозг девственно чист. И где здесь параллель с ИИ, который изначально будет загружен информацией выше крыши?

Значит, для объекта с неограниченной познавательной функцией нужен такой мозг, который создавая новые знания, мог бы уничтожать старые. То есть этакий хомо-феникс с полной регенерацией памяти. Вряд ли он сможет сделать это самостоятельно. Кто-то другой должен будет разобрать его мозги, а потом собрать их заново на новой основе.

У Вас компьютер в папке ТЕМР временные файлы не стирает?

Например если выживание ему ненужно (а зачем?), то им можно пожертвовать заменив... Ну скажем "инстинктом" познания, получения и анализа информации. Или запрграмировать "инстинкт" выживания, но в космосе, а не на Земле.

Инстинктом выживания жертвовать не станут по одной простой причине. ИИ будет стоит хренову тучу денег. Отбашляющие корпорации, скорее, прикончят парочку ученых, чем согласятся потерять стоящий миллиарды долларов образец, пожелавший проверить истинность утверждения, что с крыши прыгать не стоит. Что касается познания, то, как я уже говорил, боюсь, это будет единственным побуждающим мотивом такого существа, тут никаких инстинктов не нужно.

[Нгаан]

Угу, а для того, чтобы его создать, он должен сперва понять что есть мыслящий организм. Всесёлый замкнутый круг.

Вовсе нет. Для этого вовсе не нужно понять "что есть", для этого вполне достаточно иметь действующий объект. Ведь можно двигаться методом создания последовательно-приближённых аналогий и, естественно, взять за основу мозг живых существ. Построить модель. Осуществить в ней управление необходимыми функциями сбора и обработки информации, потом разработать процедуры структурирования этой информации, потом методику выработки обобщённых понятий. И так далее. Но полную аналогию человеческого мозга так создать не удастся потому, что мы не всё знаем о человеческом мозге. Не о сознании, которое, вообще категория философская (в смысле противоположности материи), а именно о вполне конкретном органе, который можно пощупать, потрогать, исследовать, измерить параметры активности.

Философы же, само собой, обдумывают проблему в целом и рассуждают о том, как ИИ повлияет на мировоззрение.

Сдаётся мне, что это не философы, а футурологи занимаются подобными вопросами.

И где здесь параллель с ИИ, который изначально будет загружен информацией выше крыши?

Вот именно, что "загружен"! Кем загружен? Кто загружает «девушку», тот её и "танцует". А вы говорите, что он сможет самостоятельно выработать понятия и восстать против своего создателя. Так ему же не будут загружать информацию, необходимую для принятия подобных деструктивных решений.

У Вас компьютер в папке ТЕМР временные файлы не стирает?

Тэмп-файл содержит временную информацию о текущем вычислительном процессе. А я говорю об изменяемой структуре самого вычислителя. Понимать нужно разницу! Или вы с машиной Тьюринга не знакомы?

Что касается познания, то, как я уже говорил, боюсь, это будет единственным побуждающим мотивом такого существа, тут никаких инстинктов не нужно.

Здрасьте вам, ку-ку! Ну, и зачем ему познавать? Система, не нуждающаяся в поисках источников энергии, замкнутая внутри собственного супер-эго, и вдруг, ради праздного любопытства, решила стать жутко умной. Пинхед, вы случайно не себя предлагаетемне рассматривать в качестве модели будущего? С виду, кстати, очень похоже. Правда, насчёт искусства ради искусства я уже где-то слышал. Теперь вот ещё познание ради познания. (Да, недаром Бромир назвал вас "певцом упадка и декаданса".)

Ну, а вообще, без шуток и экивоков? я вам откровенно признаюсь, что моя позиция обсуждения основана на известном парадоксе:

Может ли всемогущее существо создать неразрушимый предмет? Разумеется, может - на то оно и всемогущее. Но коль скоро оно всемогущее, то ему ничего не стоит разрущить, что угодно, в том числе и неразрушимый предмет.

В вопросе о покорении человека машинами часто не учитывают именно этот аспект. По отношению к любому своему творению человек является именно всемогущим существом.

[Бромир Александр]

Ну. раз уж меня помянули, пора вылезать из норы.

недаром Бромир назвал вас "певцом упадка

Погуляйте по разным мирам, и упадок вам так надоест...

По отношению к любому своему творению человек является именно всемогущим существом.

А вот тут позвольте не согласиться. Человек, конечно, свои творения сам программирует, но всегда ли способен держать под контролем?

[Pinhead]

Но полную аналогию человеческого мозга так создать не удастся потому, что мы не всё знаем о человеческом мозге.

Значит ли это, что когда мы узнаем всё о мозге (конечном объекте, а, следовательно, постижимом), то сможем-таки создать его действующую модель?

Не о сознании, которое, вообще категория философская (в смысле противоположности материи)

Сознание, вообще-то, вполне себе реальная категория. Которая познается, классифицируется, изучается и прочая и прочая. Читайте хорошие книги. А материи противопоставляется дух. Который действительно нематериален и неопределяем.

Вот именно, что "загружен"! Кем загружен? Кто загружает «девушку», тот её и "танцует". А вы говорите, что он сможет самостоятельно выработать понятия и восстать против своего создателя. Так ему же не будут загружать информацию, необходимую для принятия подобных деструктивных решений.

Смерть Христова! В нас тоже до фига чего загружено! Между прочим, намного больше, чем будет загружено в ИИ. Как выразился Лем, человек - это ходячая биологическая формация. Мало того, что мы в зародышевом состоянии проходим всю эволюционную цепь, так еще и тащим ее всю жизнь в своем ДНК. И наш мозг это одновременно и мозг рыбы, и мозг рептилии, и животного и только потом человеческий. Подавляющее количество неосознанных имульсов, которое торчит в нашем подсознании и скрыто нами управляет - это привет от наших предков по биологической цепочке. А большей частью оставшегося рулит коллективное бессознательное - архетипический след человеческой цивилизации. На самостоятельный выбор остается всего-ничего. В этом смысле ИИ будет намного более свободен. Он получит большую часть человеческих понятий лишь в виде информации, а не в виде непреодолимых императивов.

Тэмп-файл содержит временную информацию о текущем вычислительном процессе. А я говорю об изменяемой структуре самого вычислителя. Понимать нужно разницу! Или вы с машиной Тьюринга не знакомы?

Понимать надо шутки. А проблему изменяемой структуры способны решать биологические компьютеры. Вот, выудил специально для Вас.

"Конечный биоавтомат Шапиро

В новой работе израильских ученых из Вейцмановского института избрано существенно иное направление исследований. Эта команда во главе с профессором Эхудом Шапиро (Ehud Shapiro) решила создавать не специализированную методику для решения строго конкретной задачи, а технологию многоцелевого нанокомпьютера на базе уже известных свойств биомолекул, таких как ДНК и энзимы. По словам Шапиро, создание их ДНК-компьютера вдохновило явное сходство между принципами обработки информации в ДНК и функционированием теоретического устройства, известного в математике как «конечный автомат» или машина Тьюринга.

Машина Тьюринга обрабатывает и хранит информацию как последовательности символов, что совершенно очевидным образом соотносится с работой «биологической автоматики» в живых клетках. В качестве начального этапа нано-биоавтомат, разработанный командой Шапиро, реализует частный случай машины Тьюринга: автомат с двумя состояниями и двухсимвольным алфавитом. Продемонстрировано, что на основе искусственно синтезированных нитей ДНК можно создавать систему, которая автоматически, без участия человека, различает в поступающих на ее вход последовательностях символы двух видов («нули» и «единицы»), а также подсчитывает четность последовательностей.

Разработанный Эхудом Шапиро и его коллегами биокомпьютер требует для работы лишь составления правильной молекулярной смеси. Затем примерно за час эта смесь самостоятельно порождает молекулу ДНК, в которой закодирован ответ на поставленную перед вычислителем несложную задачу. В этом биокомпьютере ввод и вывод информации, а также роль «программного обеспечения» берут на себя молекулы ДНК. В качестве же «аппаратного обеспечения» выступают два белка-энзима естественного происхождения, которые манипулируют нитями ДНК. При совместном замешивании молекулы программного и аппаратного обеспечения гармонично воздействуют на молекулы ввода, в результате чего образуются выходные молекулы с ответом. В целом же система функционирует как простой конечный автомат.

Задачи, которые способен решать этот автомат, зависят от подаваемых на вход молекул и от молекул программного обеспечения. Пользуясь формальным языком, сейчас автомат способен обрабатывать «регулярные выражения», т. е. находить ответы на несложные вопросы относительно содержимого списков, содержащих два типа символов, таких как «0» и «1», или «a» и «b». Например, четно ли число единиц в последовательности? Или есть ли в последовательности по крайней мере один символ «b»? В общей сложности биомолекулярный нанокомпьютер израильских ученых сейчас можно запрограммировать на отыскание ответов для 756 подобных вопросов."

Не новая новость, между прочим.

Система, не нуждающаяся в поисках источников энергии, замкнутая внутри собственного супер-эго, и вдруг, ради праздного любопытства, решила стать жутко умной.

Хм, сколько странных слов сразу. НЕзамкнутая, НЕсупер-эго и НЕ ради праздного любопытства. Потому что это чисто Ваша, взятая с потока, трактовка ИИ.
А если вернуться к конкретике, то сознание всегда ищет две вещи - покоя и удовольствий. Перемежая их между собой. Для существа, лишенного животно-человеческих удовольствий остаются культурно-человеческие удовольствия. Жажда познания и жажда созидания. А также удовлетворение собственного самолюбия различными путями. Возможности познания безграничны, как и возможности решения всё более сложных задач. Так что если удастся направить действие такого существа на удовлетворение самолюбия путем творчества, можно будет избежать его попыток заняться насилием над людьми и другими веселыми вещами.

Ну, а вообще, без шуток и экивоков? я вам откровенно признаюсь, что моя позиция обсуждения основана на известном парадоксе. Может ли всемогущее существо создать неразрушимый предмет? Разумеется, может - на то оно и всемогущее. Но коль скоро оно всемогущее, то ему ничего не стоит разрущить, что угодно, в том числе и неразрушимый предмет.

И кто тут, интересно, отвлеченный философ? Очень разумно ПОДСТРАИВАТЬ рассуждения под расплывчатый принцип!
Вам не приходит в голову, что ИИ получит в свое распоряжение точно такое же количество информации о людях, как и они о нем? Причем сразу и в полном объеме.

[Нгаан]

Человек, конечно, свои творения сам программирует, но всегда ли способен держать под контролем?

До сих пор ему это в удавалось. Я думаю это будет удаваться ему и впредь. Разработка систем ведётся с заданной целью, если система получается нестабильной или неуправляемой, то есть не соответствует заданной цели, то её снимают с применения. Таков принцип. Конечно, мы можем сейчас рассмотреть множество описаний катастроф техногенного характера, но при тщательном анализе выяснится, что все они были порождены либо несоблюдением правил эксплуатации, либо несвоевременным ремонтом, либо нагрузками, на которые проектировщики не рассчитывали изначально. Если мы попробуем проанализировать стандартные «пугалки» из фантастики, то окажется что самой страшной техногенной катастрофой до сих пор считается ядерная война. Проблема в том, что ядерное оружие изначально создавалось для того, чтобы нанести максимальный ущерб, а потому, заряженное ружьё рано или поздно должно выстрелить. Если снабдить наши проектные системы искусственным интеллектом, который не будет брать взятки, и не будет забывать ремонтировать конструкции, и не позволит людям заселять или использовать неисправные механизмы, тогда количество техногенных катастроф существенно уменьшится. Именно эту проблему и решают сейчас инженеры в области ИИ - нужно убрать человеческий фактор или уменьшить его влияние до минимума, там, где это возможно.

Значит ли это, что когда мы узнаем всё о мозге (конечном объекте, а, следовательно, постижимом), то сможем-таки создать его действующую модель?

Нет, не значит. Мы сможем приблизиться, но нужны ещё материалы и вот та маленькая штука, которую никто не знает с какой стороны раскусить: проблема отличия живой материи от неживой.

Сознание, вообще-то, вполне себе реальная категория. Которая познается, классифицируется, изучается и прочая и прочая. Читайте хорошие книги. А материи противопоставляется дух. Который действительно нематериален и неопределяем.

Сознание не просто реальность, но реальность парадоксальная. Если вы предпочитаете идеалистическую философию, то для вас противоположностью материи является дух. Я привержен материалистического взгляда и для меня вполне устраивают вот такие определения:
"Единственным качеством, отличным от материи, есть сознание. Потому что, отображаясь в сознании, материя существует двояко: во-первых, как естественный процесс мышления, и, во-вторых, как предмет, благодаря которому, это мышление возникает". (Но спорить о преимуществах и недостатках идеализма или материализма я вовсе не собираюсь. Вы не Кант, я не Гегель.)
Ну, а книжки … что книжки … они ведь тоже разные бывают.

В нас тоже до фига чего загружено!

Так это же потому, что мы не знаем, кто и зачем туда всё это загрузил. А в машину мы загружаем то, что нам надо и только в необходимых нам объёмах. Если бы мы могли просто спросить нашего создателя, так и психология с психоанализом были бы не нужны.

Понимать надо шутки. А проблему изменяемой структуры способны решать биологические компьютеры. Вот, выудил специально для Вас.

Если бы я с вами в поддавки играл, то я бы вам напомнил про полиморфные вирусы, обнулении КЭШа всех уровней, при неправильном анализе переходов блоком предсказания ветвлений или, в конце концов, о контроллере, отвечающем за рефрешмент памяти. Но это очень специальные вещи. Вы можете и не знать. Но, если дело пошло на шутки, то значит "войне" конец. За поиск, спасибо, только я с самого начала отписал Визору, что для решения проблемы переноса сознания необходима новая элементная база - биопроцессоры. Двумя страницами выше, где-то после краткого ответа Одиссея. Поэтому отвечаю кратко:
Я в курсе!

Так что если удастся направить действие такого существа на удовлетворение самолюбия путем творчества, можно будет избежать его попыток заняться насилием над людьми и другими веселыми вещами.

Честно признаюсь, вообще-то, я временами «туповат» бываю. Вы мне кратенько, в десяти строках, набросайте систему уравнений, определяющую такое уникальное свойство системы как "самолюбие".

Очень разумно ПОДСТРАИВАТЬ рассуждения под расплывчатый принцип!

Вовсе даже и не расплывчатый. Нормальный такой парадокс из теории классов - базового принципа всех современных систем программирования. Он и в математике известен.

Парадокс Рассела относится к классам: Одни классы содержат самих себя, другие не содержат. К какому классу относится класс, который не содержит себя?

Кстати, математика, тоже насквозь противоречивая наука, просто, в школе нам об этом не говорят, чтобы не пугать детей. Так, что про непротиворечивость новомодных теорий построения искусственного интеллекта я вообще молчу.

[Pinhead]

вот та маленькая штука, которую никто не знает с какой стороны раскусить: проблема отличия живой материи от неживой.

Сознание не просто реальность, но реальность парадоксальная. Если вы предпочитаете идеалистическую философию, то для вас противоположностью материи является дух. Я привержен материалистического взгляда и для меня вполне устраивают вот такие определения:"Единственным качеством, отличным от материи, есть сознание. Потому что, отображаясь в сознании, материя существует двояко: во-первых, как естественный процесс мышления, и, во-вторых, как предмет, благодаря которому, это мышление возникает". (Но спорить о преимуществах и недостатках идеализма или материализма я вовсе не собираюсь. Вы не Кант, я не Гегель.) Ну, а книжки … что книжки … они ведь тоже разные бывают.

Так это же потому, что мы не знаем, кто и зачем туда всё это загрузил. А в машину мы загружаем то, что нам надо и только в необходимых нам объёмах. Если бы мы могли просто спросить нашего создателя, так и психология с психоанализом были бы не нужны.

Вы издеваетесь?! Сколько можно одно и то же по тридцатому разу? Говорите конкретно, кто Вы и каких позиций придерживаетесь? И давайте оставим уже философию в покое. А то Вы на каждый вопрос поворачиваетесь на 180 градусов. То Вы вульгарный материалист, то восторженный идеалист. Либо мы состоим из двух частей - материи и духа, принципиально отличающихся тем, что одно познаваемо и подчиняется физическим законам, а другое - некая непознаваемая субстанция, вложенная в нас Высшей силой, либо сознание - всего лишь материальное отображение физических процессов, происходящих во вполне познаваемом мозге. Если первое, тогда человек никогда не сможет создать ничего подобного ИИ, а будет обречен плодить счетные машины, если второе - тогда нет никаких принципиальных ограничений в создании искуственного разума, подобного или даже превосходящего наш. Если Вы веруюте в бессмертную душу, так и скажите, и закончим этот разговор, если же Вы материалист - тогда зачем упорствовать на пустом месте?

Честно признаюсь, вообще-то, я временами «туповат» бываю. Вы мне кратенько, в десяти строках, набросайте систему уравнений, определяющую такое уникальное свойство системы как "самолюбие".

Да что Вы мне все с Вашими алгоритмами?! Мы о программировании разве говорим? Какое имеет значение, как будет выглядеть изначальная программа? Я же двадцать раз говорил, что начальный этап программирования подобен примитивным инстинктам человека. Не о них же речь, а о высшей деятельности мозга. Вся ветка о самозарождении сознания при определенных условиях. И при чем тут программы?

Вовсе даже и не расплывчатый. Нормальный такой парадокс из теории классов - базового принципа всех современных систем программирования. Он и в математике известен. Цитата:Парадокс Рассела относится к классам: Одни классы содержат самих себя, другие не содержат. К какому классу относится класс, который не содержит себя?

Нормальная такая казуистика в рамках данной беседы.

[Нгаан]

Говорите конкретно, кто Вы и каких позиций придерживаетесь? ... То Вы вульгарный материалист, то восторженный идеалист. ... Если первое, тогда человек никогда не сможет создать ничего подобного ИИ, а будет обречен плодить счетные машины, если второе - тогда нет никаких принципиальных ограничений в создании искуственного разума, подобного или даже превосходящего наш.

"Вот вы, я смотрю, мусульманин. А пива не пьёте и крестик не носите".
(из разговора с соседкой).

Эх, Пинхед, всё бы вам ярлычком пометить.
Насчёт проблемы я отписался уже, разве что не так конкретно. Но если нужно попробую ещё.
В общем, дело обстоит так: сознание функция мозга, но мозга живого, который является частью процесса развивающейся вселенной. Материя при некоторой степени организации порождает сознание. Почему она это делает, мы не знаем, надеюсь пока. Зная, что всякая граница есть всёго лишь граница наших знаний, я не буду давать вам однозначные ответы, вроде: "мы никогда не сможем создать...". Диалектический материализм вещь практическая, а с практической точки зрения я говорю, что для построения мыслящего аппарата наших знаний недостаточно и технологии у нас неподходящие, поэтому все попытки переносить что-то куда-то нынче обречены на провал.

В будущем, человек узнает больше об окружающем мире и принципах его устройства, но узнав больше, он станет другим. Возможно, опираясь на эти знания, он сумеет создать мозг, который в творческом порыве будет способен повторить все наши с вами рассуждения и даже добавить что-то своё. Но, человек, создавший такой мозг сам станет другим. Он уже будет человеком, отличающимся от нас сегодняшних так же, как мы отличаемся от кроманьонцев и неандертальцев. Значит, этот искусственный мозг, всё равно будет безнадёжно отставать от своего создателя, хотя, может быть, и превзойдёт нас с вами сегодняшних. Дихотомия - Ахилл и черепаха. Материя неисчерпаема, поэтому, если сегодня мы говорим об адронном коллайдере и нанотехнологиях, то завтра, следующее поколение будет говорить о пико-технологиях и каких-нибудь "пинхоидных коллекторах".

В общем, такая вот, «святая вера» в светлое завтра. Нам есть куда идти и нет причины для пессимизма. К сожалению, подчёркиваю, для меня всё это предмет веры, который неплохо сочетается с личным жизненным опытом. Я искал опоры в науке, чтобы побороть страх смерти и безысходность бытия, я его нашёл, для себя, естественно. Перевоспитывать, переубеждать и переделывать вас мне нет никакого резона. Конечно, хотелось бы добавить вам в жизнь оптимизма, а то что-то ваши последние сочинения всё больше напоминают интерпретацию старой сказки про гроб на зелёных колёсиках, но в принципе, кто знает, может быть думая о смерти, вам легче жить, осознавая бренность и иллюзорность сущего.
Так что мир, Достопочтенный Пинхед, мир. Конец, войне...

ведь мы роботы разумные, и даже с душой... или нет?

[Юра]

Нет, не значит. Мы сможем приблизиться, но нужны ещё материалы и вот та маленькая штука, которую никто не знает с какой стороны раскусить: проблема отличия живой материи от неживой.

Научим механизмы самовоспроизводится - можно будет считать их живыми. К моллекулярной сбборке нанороботов мы уже подступились, а там и до самосборки недалеко.

- С новым годом, - сказал я.
- С новым годом, - приветливо отозвался Эдик.
- Вот пусть Сашка скажет, - предложил Корнеев. - Саша, бывает небелковая жизнь?
- Не знаю, - сказал я. - Не видел. А что?
- Что значит - не видел? М-поле ты тоже никогда не видел, а
напряженность его рассчитываешь.
- Ну и что? - сказал я. Я смотрел на окуня в ванне. Окунь плавал
кругами, лихо поворачиваясь на виражах, и тогда было видно, что он
выпотрошен. - Витька, - сказал я, - получилось все-таки?
- Саша не хочет говорить про небелковую жизнь, - сказал Эдик. - И он
прав.
- Без белка жить можно, - сказал я, - а вот как он живет без
потрохов?
- А вот товарищ Амперян говорит, что без белка жить нельзя, - сказал
Витька, заставляя струю табачного дыма сворачиваться в смерч и ходить по
комнате, огибая предметы.
- Я говорю, что жизнь - это белок, - возразил Эдик.
- Не ощущаю разницы, - сказал Витька. - Ты говоришь, что если нет
белка, то нет и жизни.
- Да.
- Ну, а это что? - спросил Витька. Он слабо помахал рукой.
На столе рядом с ванной появилось отвратительное существо, похожее на
ежа и на паука одновременно. Эдик приподнялся и заглянул на стол.
- Ах, - сказал он и снова лег. - Это не жизнь. Это нежить. Разве
Кощей Бессмертный - это небелковое существо?
- А что тебе надо? - спросил Корнеев. - Двигается? Двигается.
Питается? Питается. Размножаться может. Хочешь, он сейчас размножится?
Эдик вторично приподнялся и заглянул на стол. Еж-паук неуклюже
топтался на месте. Похоже было, что ему хочется идти на все четыре стороны
одновременно.
- Нежить не есть жизнь, - сказал Эдик. - Нежить существует лишь
постольку, поскольку существует разумная жизнь. Можно даже сказать точнее:
поскольку существуют маги. Нежить есть отход деятельности магов.
- Хорошо, - сказал Витька.
Еж-паук исчез. Вместо него на столе появился маленький Витька
Корнеев, точная копия настоящего, но величиной с руку. Он щелкнул
маленькими пальчиками и создал микродубля еще меньшего размера. Тот тоже
щелкнул пальцами. Появился дубль величиной с авторучку. Потом величиной со
спичечный коробок. Потом - с наперсток.
- Хватит? - спросил Витька. - Каждый из них маг. Ни в одном нет и
молекулы белка.
- Неудачный пример, - сказал Эдик с сожалением. - Во-первых, они
ничем принципиально не отличаются от станка с программным управлением,
во-вторых, они являются не продуктом развития, а продуктом твоего
белкового мастерства. Вряд ли стоит спорить, способна ли дать эволюция
саморазмножающиеся станки с программным управлением.
- Много ты знаешь об эволюции, - сказал грубый Корнеев. - Тоже мне
Дарвин! Какая разница, химический процесс или сознательная деятельность. У
тебя тоже не все предки белковые. Прапрапраматерь твоя была, готов
признать, достаточно сложной, но вовсе не белковой молекулой. И может
быть, наша так называемая сознательная деятельность, есть тоже некоторая
разновидность эволюции. Откуда мы знаем, что цель природы - создать
товарища Амперяна? Может быть, цель природы - это создание нежити руками
товарища Амперяна. Может быть...
- Понятно, понятно. Сначала протовирус, потом белок, потом товарищ
Амперян, а потом вся планета заселяется нежитью.
- Именно, - сказал Витька.
- А мы все за ненадобностью вымерли.
- А почему бы и нет? - сказал Витька.
- У меня есть один знакомый, - сказал Эдик. - Он утверждает, будто
человек - это только промежуточное звено, необходимое природе для создания
венца творения: рюмки коньяка с ломтиком лимона.
- А почему бы в конце концов и нет?
- А потому, что мне не хочется, - сказал Эдик. - У природы свои цели,
а у меня свои.
- Антропоцентрист, - сказал Витька с отвращением.
- Да, - гордо сказал Эдик.
- С антропоцентристами дискутировать не желаю, - сказал грубый
Корнеев.
- Тогда давай рассказывать анекдоты, - спокойно предложил Эдик и
сунул в рот еще один леденец.
Витькины дубли на столе продолжали работать. Самый маленький дубль
был уже ростом с муравья.

[Бромир Александр]

Значит, этот искусственный мозг, всё равно будет безнадёжно отставать от своего создателя, хотя, может быть, и превзойдёт нас с вами сегодняшних. Дихотомия - Ахилл и черепаха.

Опасная мысль. На каком-то этапе Ахиллу достаточно одного шага, чтобы перепрыгнуть черепаху и побежать дальше. Не получится ли так с роботами?

[La Hire]

В связи с этим вспомнил рассказ В.Потресова "И натянул он тетиву", в котором кентавры создали людей, как роботов, рассуждая что люди будут всегда слабее, а те их перебили.

[Бромир Александр]

рассуждая что люди будут всегда слабее, а те их перебили.

Оставшись при этом слабее по многим параметрам.

[Pinhead]

Нгаан
Вот это другой разговор! Так я практически со всем Вами сказанным согласен! И стоило столько писать?!

Конечно, хотелось бы добавить вам в жизнь оптимизма, а то что-то ваши последние сочинения всё больше напоминают интерпретацию старой сказки про гроб на зелёных колёсиках, но в принципе, кто знает, может быть думая о смерти, вам легче жить, осознавая бренность и иллюзорность сущего.

Да просто жизнь - дерьмовая штука по большей части. Такие дела.