Век информации переходит в век киборгов

[Alex Ivanov]

Не везде так, но общая тенденция такая вот.

Я уже приводил эту ссылку https://www.youtube.com/watch?v=wxmIKwFqu9Q

Илон Маск отвечает на вопрос живем ли мы в Матрице. Я вкратце перескажу его ответ своими словами для тех кто не может посмотреть это видео - 40 лет назад была игра пинг-понг - платформа и шарик (я сам в нее любил играть на своем первом компьютере ZX Spectrum который я собрал своими руками). Такие были раньше игры. Что это были за игры... Сейчас игры очень похожи на реальный мир и в них одновременно играют миллионы людей. Если представить что мы будем и дальше так развиваться то игры станут неотличимы от реальности. Поэтому вполне возможно что в будущем на каждом домашнем компьютере или телевизионной игровой приставке будет запущена такая Матрица. Даже если развитие замедлится в 1000 раз тогда мы придем к этому через 10 тысяч лет. А это ничто по сравнению с возрастом Вселенной. Это подразумевает что шанс что мы живем в оригинальном мире равняется один к миллиардам.

[Н. Светлов]

Это подразумевает что шанс что мы живем в оригинальном мире равняется один к миллиардам.

Такой вывод ставит два вопроса.
1) Что это означает с практической точки зрения? Следует ли нам, встав на колени и перекрестясь, вступить в контакт с автором софта с просьбой ни в коем случае не нажимать reset? Или, быть может, наоборот — нажать?
2) Существуют ли (и могут ли существовать) в компьютерных играх персонажи, обладающие сознанием?

[Bond]

Если виртуальный мир ничем не отличается от реального, значит он и есть реальный, если виртуальные персонажи ведут себя как настоящие, значит и у них есть сознание

[Н. Светлов]

Если виртуальный мир ничем не отличается от реального, значит он и есть реальный, если виртуальные персонажи ведут себя как настоящие, значит и у них есть сознание

С первым утверждением согласен, со вторым нет

[Нгаан]

Предполагать, что к чему-то придём через 10 тысяч лет, это значит допускать, что биологического вида хомо есть неограниченный ресурс саморазвития. А ведь гарантий никаких нет (как, собственно, и нет гарантий, что домашние компьютеры будут неограниченно усложняться ) и наверное динозавры в свои лучшие годы тоже так думали: "Вот ещё немного подкормимся и как начнём ... креативить!" и вдруг "Бац!" - метеорит.

► Показать

А для хомо может и метеорита не надо. И вдруг "Бац!" - какой-нибудь андроид по имени Байден и "Привет, динозавры! А мы к вам...".

[Лилия]

Нгаан, если у динозавров и были такие мысли, то очень уж долго они собирались начать креативить. Не в пример дольше людей.
Посмотрела на всё это природа, очень долго ждала, но нет, видать тупиковая ветвь эволюции. И сами не могут и другим не дают.
А тут бац и метеорит...

[Alex Ivanov]

1) Что это означает с практической точки зрения?

На данный момент выбора все равно нет. Кнопку reset для каждого человека нажимают в любом случае. Кому то раньше, кому то позже. А могут нажать и для всех сразу. Я думаю первостепенной задачей состоит в блокировке кнопки reset (либо как вариант постоянное самосохранение и автоматическое возвращение в последнее состояние в случае нажатия кнопки reset если ее нельзя никак заблокировать). А потом у нас будет вагон времени чтобы не спеша разобраться как дойти до максимального уровня.

Есть игры в которых, если герой погибает, то это навсегда. Мы как раз в такой игре. Нам нужно получить возможность воскрешения героя со всеми заработанными навыками.

А в чем смысл? Играй и получай удовольствие. Чем дальше тем больше возможностей. Предел не ограничен.

Отправлено спустя 6 минут 15 секунд:

2) Существуют ли (и могут ли существовать) в компьютерных играх персонажи, обладающие сознанием?

Если считать сознанием возможность пройти Тест Тьюринга, то я думаю что такой ИИ обладает сознанием.

Отправлено спустя 16 минут :

Предполагать, что к чему-то придём через 10 тысяч лет...

Хотелось был обратить внимание на одну маленькую деталь. Если мы будем развиваться теми же темпами что и сейчас (без замедления), то согласно Илону Маску мы придем к этому уже через 10 лет.

[Н. Светлов]

Если считать сознанием возможность пройти Тест Тьюринга

Тест Тьюринга — это тест на intelligence, а сознание — это сonsciousness. Никакого artificial consciousness пока не создано (людьми), и даже задача такая никем всерьёз не ставилась. Никто не знает, как это работает, и никто не понимает, почему вообще это может работать. Не существует (на сегодня) ни такой физики, ни такой кибернетики, при помощи которых можно было бы описать сознание.

И я думаю, что ключик к решению проблемы сознания (под решением я понимаю появление технической возможности детектировать сознание и создавать искусственные системы, обладающие сознанием) как раз и состоит в том, чтобы на месте его описания поставить многоточие. Это принципиально новая научная парадигма. Сегодня её ещё нет.

[Нгаан]

Играй и получай удовольствие.

Вы в самом деле считаете, что смысл жизни в получении удовольствия? А разве киборгизация это не про лишение человека удовольствий? То, что андроиды мечтают об электроовцах кто-то уже писал. Но разве киборги способны получать удовольствия?

► Показать

Снова посмотрел "Сталкера" Тарковского - это нихрена не фантастика, конечно, и от АиБС тут практически мало что осталось, но как же лупит по мозгам, просто жуть. Это даже лучше, чем фантастика.

Если мы будем развиваться теми же темпами что и сейчас

Не будем. Человек вообще не шибко-то изменился за последние 5 тысяч лет. Просто он сумел заблокировать некоторые внешние вредные факторы, которые раньше сокращали естественную продолжительность жизни для 95% жителей.

Интересный случай "семейного долголетия" приводит в своей книге "Продление жизни" академик А.А. Богомолец:
"31 июля 1654 года кардинал д'Арманьяк увидел, проходя по улице, плачущего 80 летнего старика. На вопрос кардинала старик ответил, что его побил отец. Удивлённый кардинал пожелал увидеть отца. Ему представили очень бодрого старика 113 лет. Старик объяснил кардиналу, что побил сына за неуважение к деду, мимо которого тот прошёл не поклонившись. Войдя в дом, кардинал увидел ещё одного старца - 143 лет."

А вы говорите дед Павел... 21 век... импланты.
Академик Богомолец рассказал нам о рубежах, к которым нужно стремиться.

[Alex Ivanov]

Тест Тьюринга — это тест на intelligence, а сознание — это сonsciousness.

Если ИИ невозможно отличить от человека, то он имеет право называться разумным существом и иметь равные права с человеком. Это мое мнение. По крайне мере других разумных существ кроме человека мы пока не знаем и сравнить больше не с кем.

Я думаю что в будущем понятия человек и ИИ перестанут существовать. Будет симбиоз человека и ИИ который будет называться сверхчеловеком (transhuman).

[Nik]

Последняя картинка выглядит так:


Отправлено спустя 10 минут 51 секунду:
Нажимать ли резет?
Закончив игру, мы обнаружим, что тот, кто бегал по экрану - это и есть мы.

Литература: Пелевин В. Принц Госплана.

[Н. Светлов]

Если ИИ невозможно отличить от человека

Если.

Возможно, такого никогда не случится.

Физически это, безусловно, возможно. Вопрос в том, возможно ли это гносеологически. Познаваема ли нужная для этого физика. Я склонен считать, что всё-таки познаваема, но самой физике наплевать на моё мнение.

[Лилия]

Возможно вполне. Уже даже обсуждали здесь это. Если у кого то создаётся иллюзия, что отличия нет. Ну это выглядит примерно, как иллюзия считать, что гадание по книжке, пусть это даже будет самая умная книга, это есть тоже ответ разумного существа, обладающего сознанием.
А по сути, да. Что есть сознание, не берутся даже нейрофизиологи достоверно утверждать.
Возможно пока не берутся, а может так оно и останется.

[Нгаан]

Закончив игру, мы обнаружим

Концепция жизни, как игры и игры, как жизни конечно не сегодня родилась, однако именно теперь она захватила умы тех, кто привык в жизни только тем и заниматься, что развлекаться и резвиться на полянке цивилизации. Но эта цивилизация (западного типа) постепенно и неуклонно идёт к своему закату, а на подъёме другие цивилизации (восточного типа) и чтобы понять каким будет будущее, нужно читать не упадочных западных идеологов, мечтающих продлить своё господство через превращение людей в роботов. А читать нужно восточных философов, которые жизнь как игру не воспринимали практически никогда. Именно их последователи в следующем столетии продиктуют Миру "правила новой игры".

[Н. Светлов]

не берутся даже нейрофизиологи достоверно утверждать

Думаю, в конце концов выяснится, что это вопрос совершенно не их профиля. Физиологи могут объяснить эмоции (химическими процессами); обработку информации мозгом (нейроэлектрохимическими процессами); но они не могут объяснить, почему среди многочисленных "они" есть "я".

Всё, что они способны объяснить, можно (теоретически) скопировать. Можно разобрать на части, изготовить точный чертёж (очень большой), а потом по чертежу собрать в двух (и более) совершенно одинаковых экземплярах. С "я" это, понятное дело, не прокатывает.

Исходя из физики, кибернетики, нейрофизиологии никакого "я" быть не должно. Что многие из них и утверждают — вопреки очевидности. Такой подход выглядит бредовым, но зато он весьма авторитетен.

Впрочем, он перестаёт вызывать удивление, если принять как данность, что феномен "я" присущ не каждому телу, проявляющему признаки рассудочной деятельности (intelligence), пусть даже на очень высоком уровне. Это предположение абсолютно бездоказательно, но я не считаю его невозможным.

Отправлено спустя 12 минут 26 секунд:

Именно их последователи в следующем столетии продиктуют Миру "правила новой игры".

Едва ли. Будет что-то совершенно новое; а последователи старых идей будут, как и в прошлом, доказывать, что именно их пророки всегда именно об этом и говорили. Ну и пускай.

[Alex Ivanov]

Исходя из физики, кибернетики, нейрофизиологии никакого "я" быть не должно.

Почему не должно быть? Человек - это всего лишь биологическая оболочка с биологическим суперкомпьютером. Его можно собрать и из других элементов и будет тоже самое или даже лучше. Вполне возможно что где-то на других планетах существуют другие разумные существа. Они могут быть устроены совсем по другому чем человек. Тем не менее они тоже разумны.

[Н. Светлов]

Почему не должно быть?

Потому что должны быть только "они". "Они" отлично объясняются современной наукой. Про "я" современная наука не только ничего не знает — наоборот, на её основе можно прийти к выводу, что никакого "я" не может существовать. Единственная лазейка связана с квантовой механикой, с теоремой о запрете клонирования. Но как это работает в человеке (если вообще работает именно это) — опять-таки никто не знает.

Его можно собрать и из других элементов и будет тоже самое или даже лучше.

Если "меня" собрать из других элементов — согласен, для внешнего наблюдателя будет то же самое или даже лучше. Вы не заметите разницы между оригиналом и копией, и ни один имеющийся в Вашем распоряжении детектор не покажет разницы. Но тот, который копия, будет не я, а он, и я разницу, естественно, замечу.

Если Вы обладаете свойством не находить разницы между Вами и Вашей копией, то я ничего не смогу Вам объяснить. Вас в таком случае действительно можно клонировать без потерь, и Вы никогда не поймёте, о чём вообще я толкую.

А вот меня клонировать невозможно (см. выше).

Чем больше я веду разговоров на эту тему, тем больше нахожу аргументов в пользу того, что люди, вероятно, неодинаковы в этом отношении. И это добавляет кучу сложностей. Взаимопонимание и без того штука труднодостижимая, а с учётом этого нюанса вообще грабли.

[максим]

Если "меня" собрать из других элементов — согласен, для внешнего наблюдателя будет то же самое или даже лучше. Вы не заметите разницы между оригиналом и копией, и ни один имеющийся в Вашем распоряжении детектор не покажет разницы. Но тот, который копия, будет не я, а он, и я разницу, естественно, замечу.

Я иль не я? Однако это ново. Я это я!
Но все-таки, я прав или неправ?

[Alex Ivanov]

я разницу, естественно, замечу

И каким образом? Может быть вы копия, а он оригинал. Да и какое это имеет значение когда все живут в Матрице.

[Лилия]

Да и какое это имеет значение когда все живут в Матрице.

Alex Ivanov, с таким подходом, как бы и сама жизнь теряет какое-то значение.
Но Вам же не всё равно, живете Вы или нет?

Концепция жизни, как игры и игры, как жизни конечно не сегодня родилась, однако именно теперь она захватила умы тех, кто привык в жизни только тем и заниматься, что развлекаться и резвиться на полянке цивилизации.

Лично мне подобная теория попадалась скорее как интерпретация восточной философии. Про западных не встречалось. Да и игры, Нгаан, могут быть очень и очень разные. В том и суть концепции. А кто как понимает и интерпретирует, это другой вопрос.

Думаю, в конце концов выяснится, что это вопрос совершенно не их профиля.

А чей это профиль? Думаю, здесь нельзя сказать однозначно.

Такой подход выглядит бредовым, но зато он весьма авторитетен.

Именно бредовым, а соответственно не может быть авторитетным.

Впрочем, он перестаёт вызывать удивление, если принять как данность, что феномен "я" присущ не каждому телу, проявляющему признаки рассудочной деятельности (intelligence), пусть даже на очень высоком уровне. Это предположение абсолютно бездоказательно, но я не считаю его невозможным.

Николай Михайлович, Вы можете представить, что когда-нибудь перестанете ощущать свой типа феномен "я"? По крайней мере пока живы, не сошли с ума и т.п.? Вряд ли. Так почему у кого-то это должно быть иначе?