Век информации переходит в век киборгов

[Alex Ivanov]

Один из тестов на самосознание - узнать себя в зеркале

Если робот узнает себя в зеркале значит у него есть самосознание?

https://www.youtube.com/watch?v=s1Hx6wt5PY4


https://www.youtube.com/watch?v=TphFUYRAx_c

[Нгаан]

На мой взгляд не корректный, но и он подтверждает

Конечно у этого метода есть проблемы, ибо каждый из здесь присутствующих встречал в своей жизни людей, которые узнавали себя в зеркале, но имели определённые проблемы с самосознанием.

[ZYOBRA_70]

ибо каждый из здесь присутствующих встречал в своей жизни людей, которые узнавали себя в зеркале, но имели определённые проблемы с самосознанием.

причем встречал ежедневно, глядя в зеркало

[Н. Светлов]

Если на выходе тот же самый результат (и даже лучше), имеет ли значение как он получился?

Нет, не имеет. Проблема в том, что тот же самый результат получается не во всём, причём существенно не во всём. Границы возможного для ИИ, функционирующего на машине Тьюринга, ещё есть куда расширять, но есть круг задач, которые не разрешимы ни для какого алгоритма, функционирующего на машине Тьюринга. При этом человек их более или менее успешно решает. Среди этих задач есть весьма важные для человека и человеческого общества. Например, к их числу относятся проектно-конструкторские задачи в их общей постановке. Некоторые такие задачи, попроще, ИИ может решать и даже на порядки превзойти человека в их решении. Более сложные — те, где число возможных вариантов конструкции улетает в бесконечность, а образцы отсутствуют — для него непосильны в принципе.

Более подробно об этом написано в книжке Р. Пенроуза и С. Хокинга "Большое, малое и человеческий разум".

А вот стать подспорьем, инструментом для человека в его интеллектуальном труде ИИ может, и уже стал. В этом смысле он стоит в одном ряду с другими подспорьями — рычагом, паровой машиной, электродвигателем, арифмометром.

[Нгаан]

► Показать

глядя в зеркало

Лошади всегда понимали кошек лучше, чем люди и собаки.

Отправлено спустя 5 минут 20 секунд:

Например, к их числу относятся проектно-конструкторские задачи

Хм, может ли человек спроектировать такой ИИ, работу которого не сможет понять и объяснить? - спрашиваем мы и тут же переходим к следующему вопросу: А сможет ли ИИ1 спроектировать такой ИИ2, который не сможет понять, а потому ИИ2 вынужден будет спроектировать такой ИИ3, который тоже не сможет понять, но который сможет объяснить ИИ1, как работает ИИ2?

[Н. Светлов]

А сможет ли ИИ1 спроектировать такой ИИ2,

Известная мне часть теории на этот вопрос не отвечает, но на практике ещё не было случая, чтоб ИИ спроектировал ИИ.

[Урфин]

Если робот узнает себя в зеркале значит у него есть самосознание?

нет, это значит ему так программу написали.

Отправлено спустя 1 минуту 3 секунды:

Конечно у этого метода есть проблемы, ибо каждый из здесь присутствующих встречал в своей жизни людей, которые узнавали себя в зеркале, но имели определённые проблемы с самосознанием.

или имел самосознание но не узнавал себя в зеркале

[Alex Ivanov]

нет, это значит ему так программу написали.

Если результат одинаковый то какая разница как он получен? Главное что он определяет наличие самосознания по вашим словам.

[Nik]

Если написать на листе бумаги "Я, лист бумаги, обладаю сознанием" ?
Несмотря на то, что это заявлено листом бумаги четко и однозначно, обладает ли лист бумаги сознанием?

[Alex Ivanov]

Более подробно об этом написано в книжке Р. Пенроуза и С. Хокинга "Большое, малое и человеческий разум".

Рис. 3.5. Белые начинают и добиваются ничьей.
Человек легко решает эту задачу , но компьютер «ДипСот» первым же ходом бьет ладью черных!

Эта книга уже устарела. Современный ИИ прекрасно справляется с этой задачей.

P.S. Кстати эту книгу написал Р. Пенроуз, а С. Хокинг ее раскритиковал. Вот его возражения:

"Я хочу сразу предупредить читателя, что являюсь убежденным (можно даже сказать твердолобым) редукционистом. Я верю, что законы биологии можно свести к законам химии (одним из доказательств этого может служить установление структуры ДНК) и, более того, что химические законы могут быть сведены к физическим. Думаю, что большинство химиков согласятся со мной.

Мы с Роджером Пенроузом много лет занимались изучением крупномасштабных пространственно-временных структур, включая сингулярности и черные дыры. У нас почти никогда не возникало разногласий по поводу классической общей теории относительности, однако мы часто спорили по проблемам квантовой гравитации, а сейчас совершенно по-разному думаем о природе, физике и человеческом сознании. Пенроуз является убежденным платоником и верит, что существует лишь мир идей, который и описывает одну-единственную физическую реальность. Я же отношу себя к позитивистам и уверен, что физические теории являются всего лишь создаваемыми нами математическими моделями, вследствие чего вообще не имеет смысла говорить о соответствии теории и реальности. Теории следует оценивать лишь по их способности предсказывать наблюдаемые явления.

Из-за указанной разницы в принципиальных подходах я совершенно не согласен с тремя основными положениями книги Пенроуза (гл. 1—3). Первым является его предположение, что квантовая гравитация приводит к явлению, которое он обозначает аббревиатурой OR (речь идет об объективной редукции, или коллапсе, волновой функции). Второе принципиальное утверждение, с которым я не могу согласиться, заключается в том, что Пенроуз считает этот процесс важным для объяснения работы мозга и связывает его с эффектом когерентности потоков в микротрубках. И наконец, в-третьих, я не согласен с тем, что для объяснения самосознания нам требуется (якобы из-за теоремы Гёделя) некая теория типа OR.

Я начну с наиболее знакомой мне темы, а именно с квантовой гравитации. Объективная редукция волновой функции по Пенроузу представляет собой некую форму декогеренции, которая может возникать из-за взаимодействия с окружением или из-за флуктуаций топологии пространства-времени. Однако Пенроуз, кажется, не желает замечать эти механизмы, а предпочитает говорить о «легкой ряби» пространства-времени, связанной с массой мелких объектов. А ведь такая «рябь» (в соответствии с существующими теориями), казалось бы, не должна была препятствовать самой обычной гамильтоновой эволюции, не требующей никакой декогеренции или объективной редукции волновых функций. Возможно, что общепринятые идеи неверны, но самому Пенроузу тоже не удалось разработать достаточно четкую теорию, позволяющую вычислять, когда должна происходить объективная редукция.

Предлагаемая Пенроузом объективная редукция, казалось бы, должна была, наконец, извлечь несчастного шредингеровского кота из полуживого-полудохлого состояния (в нашу эпоху всеобщей любви к природе давно пора перестать мучить бедное животное даже в мысленных экспериментах). Однако Пенроуз считает, что эффект объективной редукции столь мал, что его нельзя в эксперименте отделить от декогеренции, вызванной взаимодействием с окружением. Если дело обстоит действительно так, то для объяснения парадокса достаточно декогеренции окружения, и нет никакой необходимости привлекать для объяснения квантовую гравитацию. До тех пор, пока эффект объективной редукции не будет достаточно сильным для экспериментальной регистрации, он не может играть роли, которую пытается приписать ему Пенроуз.

Второе утверждение Пенроуза заключается в том, что объективная редукция играет важную роль в работе мозга, воздействуя на когерентность потоков через микротрубки. Я не являюсь специалистом в этой области, однако предлагаемый механизм кажется мне весьма маловероятным, даже если объективная редукция волновой функции действительно происходит (во что я тоже не верю). Я не могу представить себе мозг, содержащий настолько изолированные системы, что объективная редукция в них может быть отделена от декогеренции окружения, поскольку такие изолированные системы не смогли бы обеспечить требуемую скорость мыслительных процессов.

Далее, Пенроуз полагает, что необходимость введения объективной редукции связана с тем, что из теоремы Гёделя вытекает невычислительный характер работы мозга вообще и сознания в частности. Иными словами, он просто верит, что сознание специфически присуще лишь живым существам и не может моделироваться на компьютере в принципе. Однако при этом ему не удается ясно связать объективную редукцию с сознанием, так что при чтении иногда возникает ощущение, что сознание и объективная редукция объединяются им лишь по общему признаку какой-то «таинственности» (и то и другое — тайна, следовательно, они должны быть как-то связаны).

Лично мне трудно обсуждать с другими людьми (а особенно с физиками-теоретиками) проблемы сознания, поскольку оно всегда представлялось мне понятием, которое невозможно оценить «снаружи». Говоря очень упрощенно, если передо мной вдруг появится космический пришелец, пресловутый «зеленый человечек», то я не думаю, что смогу из разговора с ним четко выяснить, является ли он роботом или мыслящим существом, обладающим самосознанием. Поэтому я всегда предпочитаю говорить об интеллекте, что является измеримой характеристикой. У меня нет оснований считать, что компьютер не может моделировать интеллектуальную деятельность, хотя, разумеется, сегодня он не способен моделировать ее полностью (что Пенроуз и продемонстрировал на примере решения шахматных задач). Однако далее он сам признает, что не существует четкой границы между интеллектом человека и животных, что позволяет нам в принципе говорить даже об интеллекте червяка. Надеюсь, что никто не сомневается в возможности моделирования мозга червяка на мощном современном компьютере. Доводы, основанные на теореме Гёделя, на мой взгляд, в данном случае совершенно неприменимы, поскольку черви не размышляют о природе П1-утверждений.

Считается, что эволюция от мозга червя до мозга человека произошла за счет естественного отбора по теории Дарвина, причем признаками, способствовавшими выживанию, выступали способность размножаться и избегать враждебного воздействия, а вовсе не математические способности. Теорема Гёделя в этой схеме вновь оказывается ненужной и бесполезной. Просто развитие «сообразительности» или интеллекта, необходимого для выживания, попутно позволяет человеку создавать и доказывать сложные математические построения. Но любые рассуждения относительно этого являются слишком сложными, неопределенными и даже обманчивыми. Пока еще в нашем распоряжении нет сколько-нибудь «здравых» идей относительно проблем сознания.

Я очень кратко изложил причины моего несогласия с тремя основными утверждениями Пенроуза (существует объективная редукция волновых функций, она играет некую роль в работе мозга, она необходима для объяснения сознания), и пусть теперь он ответит на мои возражения."

[Нгаан]

или имел самосознание но не узнавал себя в зеркале

То есть мы напрямую приходим к вопросу о том, есть ли самосознание у слепых?
И по индукции, есть ли оно у очкариков, когда они снимают очки?

Мой опыт показывает, что очкарик без очков ещё какое-то время способен сохранять сознание и ориентироваться в пространстве, но только до тех пор, пока он осуществляет активную деятельность в попытках найти очки. Если эта попытка оказывается слишком длительной и безуспешной, очкарик впадает в панику и очень быстро утрачивает признаки сознания, становясь при этом неспособным к любой деятельности и даже в привычном обстановке ориентируется с большим трудом.


Отправлено спустя 6 минут 32 секунды:

С. Хокинг ее раскритиковал. Вот его возражения

Так раскритиковал или высказал свои возражения в надежде продолжить дискуссию.


Отправлено спустя 5 минут 11 секунд:

Пенроуз является убежденным платоником и верит, что существует лишь мир идей, который и описывает одну-единственную физическую реальность. Я же отношу себя к позитивистам и уверен, что физические теории являются всего лишь создаваемыми нами математическими моделями, вследствие чего вообще не имеет смысла говорить о соответствии теории и реальности.

Судя по вот этому абзацу, они оба взялись "не за своё дело" и над ними обоими довлело концептуально-философские представления. А этот подход, как известно, хоть и продуктивен, но ровно до тех пор, когда даёт в руки практиков идеи для последующих экспериментов. А то помнится были в нашей истории и другие "мыслители", которые объявляли "продажной девкой капитализма" то генетику, то кибернетику.

[Alex Ivanov]

Так раскритиковал или высказал свои возражения в надежде продолжить дискуссию.

Критиковать - высказываться о чём-либо, о ком-либо, подчёркивая недостатки, указывая на недостатки.
Возражать - высказывать несогласие.

На мой взгляд слово "критиковать" лучше раскрывает характер дискуссии потому что были указаны недостатки.
А продолжения дискуссии (если оно и было) я не нашел.

[Н. Светлов]

P.S. Кстати эту книгу написал Р. Пенроуз,

См. её библиографическое описание: https://ru.wikipedia.org/wiki/%D0%91%D0 ... ite_note-1

Эта книга уже устарела. Современный ИИ прекрасно справляется с этой задачей.

Я в курсе. И это меня нисколько не удивляет: шахматы очень сложны и многовариантны, но принципиально вычислимы на машине Тьюринга. Это как раз та область, где превосходство ИИ над человеком — вопрос времени. Но, кстати, сохраняется другой парадокс: обучение современного ИИ, чтоб он прекрасно справился с этой задачей, требует намного больше энергии, чем обучение человека.

А вот в ряду задач проектно-конструкторского типа, как и в доказательстве теорем формальной арифметики, встречаются ситуации, где число альтернативных путей доказательства бесконечно велико. Не исключено, что человеческая интуиция базируется просто на хорошем знании окружающего мира, что иногда, быть может, позволяет выделять из бесконечного множества бесперспективных путей доказательства конечное множество перспективных путей (правда, непонятно, как именно это происходит). Во всяком случае, никто не доказал, что это не так. Если так, то у ИИ, работающего на машине Тьюринга, может быть шанс на тотальное превосходство над человеком. Если не так — то такого шанса быть не может.

Пока еще в нашем распоряжении нет сколько-нибудь «здравых» идей относительно проблем сознания.

Это верно. Ценность книжки в том, что она может стать стимулом к их возникновению. По крайней мере, она указала территорию, не охваченную научными поисками — быть может, зря (впрочем, насколько я могу судить, с тех пор ситуация изменилась).

[Alex Ivanov]

См. её библиографическое описание: https://ru.wikipedia.org/wiki/%D0%91%D0 ... ite_note-1

С. Хокинг - "...я совершенно не согласен с тремя основными положениями книги Пенроуза..."

Книгу "Большое, малое и человеческий разум" написал Р. Пенроуз, а С. Хокинг и другие ученые написали на нее критику которую добавили в конце. Р. Пенроуз так и не ответил на критику С. Хокинга о чем можно сделать определенные выводы.

Отправлено спустя 12 минут 32 секунды:

обучение современного ИИ, чтоб он прекрасно справился с этой задачей, требует намного больше энергии, чем обучение человека

ИИ работающий на мобильном телефоне сейчас спокойно обыгрывает любого гроссмейстера включая чемпионов мира.

Отправлено спустя 5 минут 13 секунд:

А вот в ряду задач проектно-конструкторского типа, как и в доказательстве теорем формальной арифметики, встречаются ситуации, где число альтернативных путей доказательства бесконечно велико. Не исключено, что человеческая интуиция базируется просто на хорошем знании окружающего мира, что иногда, быть может, позволяет выделять из бесконечного множества бесперспективных путей доказательства конечное множество перспективных путей (правда, непонятно, как именно это происходит). Во всяком случае, никто не доказал, что это не так. Если так, то у ИИ, работающего на машине Тьюринга, может быть шанс на тотальное превосходство над человеком. Если не так — то такого шанса быть не может.

Игра Го тоже имеет практически бесконечное число вариантов и тем не менее ИИ находит правильные ходы. Что же это как не аналог человеческой интуиции?

[Нгаан]

Игра Го тоже имеет практически бесконечное число вариантов и тем не менее ИИ находит правильные ходы.

Это принципиально неправильный подход сравнивать научный поиск и доказательство теорем в таких разделах математики, как теория чисел с игрой Го.

Вот мои возражения:
- у игры Го ограниченное игровое поле;
- у игры Го ограниченный набор объектов (по сути всего два);
- у игры Го есть ограниченный набор правил.


Уберите любое из этих "ограничений" и представьте себе, что получится:
- неограниченное игровое поле (бесконечность числовых рядов, последовательностей и полей);
- неограниченное количество объектов (суть те же числа);
- неограниченный набор правил (или потенциально неограниченный, потому что не все из них известны и неизвестно сколько их вообще).

Какой ИИ готов поиграть в такое Го?

[Н. Светлов]

Книгу "Большое, малое и человеческий разум" написал Р. Пенроуз, а С. Хокинг и другие ученые написали на нее критику которую добавили в конце.

Не совсем так. Если б я был Хокингом, я бы при таких обстоятельствах ни в коем случае не согласился бы поставить свою фамилию на обложку: точно так же, как не появляется на обложке фамилия авторов предисловий к переводным изданиям. И хотя текст большей части книги действительно был написан Пенроузом, без остальных соавторов он был бы написан иначе, поскольку так или иначе все соавторы участвовали в работе над книгой своими идеями, размышлениями и критикой. Книга вышла такой, какой её задумали все четверо.

ИИ работающий на мобильном телефоне сейчас спокойно обыгрывает любого гроссмейстера включая чемпионов мира.

Да, но обучалась-то нейросеть отнюдь не на мобильном телефоне!

И ещё один нюанс: гроссмейстер, который проигрывает нейросети, перебирает на много порядков меньше вариантов, чем она; а совсем недавно он выигрывал у неё несмотря на то, что перебирал на много порядков меньше вариантов, чем она. Это обстоятельство тоже не следует сбрасывать со счетов, размышляя о силе и слабости ИИ.

Игра Го тоже имеет практически бесконечное число вариантов и тем не менее ИИ находит правильные ходы. Что же это как не аналог человеческой интуиции?

Подумав, я пришёл к выводу, что это довольно сильный аргумент. Кавалерийские наскоки на него, предпринятые Нгааном, мне не кажутся убедительными. Я здесь действительно вижу аналогию с доказательством теорем. Но вот что меня озадачивает: давно уже освоена техника обучения нейросетей антагонистическим играм, при которой нейросеть играет миллионы партий сама с собой, подстраивая функции отклика своих нейронов на основе триад "позиция — ход — исход партии". Здесь само наличие антагонизма становится той "точкой опоры", которая позволяет "сдвинуть Землю". И если Нгаан в чём-то прав, так это в том, что в антагонистических играх одна эвристика, пусть даже очень сложная, позволяет находить пусть не наилучший, но практически наилучший план для любой позиции. Возможно ли такое в математике? Не знаю.

Знаю только, что способ обучения нейросети доказательству теорем пока не придуман. Все существующие ныне системы, способные к математическим доказательствам, основаны на принципе резолюции — самом эффективном из известных способе приводить высказывания (формулы) к противоречию путём перебора. Нейросети в этом деле пока не преуспели. Тем не менее, я усматриваю некую аналогию между тем, как игрок в го оттачивает свою интуицию в соперничестве с другими игроками, и тем, как математик оттачивает свою интуицию в соперничестве с другими математиками. Это наблюдение несколько поколебало мой пессимизм в отношении возможности превосходства ИИ над человеком в отыскании математических доказательств. Но даже если в математике и впрямь всё дело только лишь в высокоэффективной эвристике — способ поставить нейросеть в условия, которые позволили бы ей такую эвристику выработать, пока не изобретён (а жалко).

[Alex Ivanov]

Не совсем так. Если б я был Хокингом, я бы при таких обстоятельствах ни в коем случае не согласился бы поставить свою фамилию на обложку: точно так же, как не появляется на обложке фамилия авторов предисловий к переводным изданиям. И хотя текст большей части книги действительно был написан Пенроузом, без остальных соавторов он был бы написан иначе, поскольку так или иначе все соавторы участвовали в работе над книгой своими идеями, размышлениями и критикой. Книга вышла такой, какой её задумали все четверо.

Согласен.



Отправлено спустя 18 минут 53 секунды:

Да, но обучалась-то нейросеть отнюдь не на мобильном телефоне!

Согласен. Я бы еще отметил один нюанс. Научившись один раз, теперь об этом знают все инсталляции ИИ на всех электронных устройствах. Им не нужно каждый раз учиться заново десятки лет как это делают люди.

[Нгаан]

об этом знают все инсталляции ИИ на всех электронных устройствах

Все ли и на всех ли, или им для этого нужен стабильный высокоскоростной доступ к Сети?

Время расчёта и объём баз данных шахматных окончаний экспоненциально возрастают с количеством участвующих фигур. Размеры баз данных зависят как от количества фигур, так и от формата самой базы.
...
Так размер базы 8 фигурных окончаний (эндшпилей) содержит 38 176 306 877 748 245 позиций (комбинаций) и имеет объём от 1,5 ПетаБайт до 10 ПетаБайт в зависимости от формата базы.
...
Расчёт восьмифигурных окончаний проводится: просчитаны позиции без пешек и позиции с двумя блокирующими друг друга пешками — белой и чёрной.

(WiKi, "Эндшпильные таблицы")

[Alex Ivanov]

а совсем недавно он выигрывал у неё несмотря на то, что перебирал на много порядков меньше вариантов, чем она. Это обстоятельство тоже не следует сбрасывать со счетов, размышляя о силе и слабости ИИ.

Начиная с 2000-х годов даже сильнейшие игроки-люди не имеют никаких шансов в противостоянии с шахматными программами.
https://ru.wikipedia.org/wiki/%D0%9A%D0 ... 1%82%D1%8B

Отправлено спустя 3 минуты 15 секунд:

Все ли и на всех ли, или им для этого нужен стабильный высокоскоростной доступ к Сети?

Я играл в шахматы на своем мобильном с выключенным интернетом.

Отправлено спустя 10 минут 19 секунд:

Так размер базы 8 фигурных окончаний (эндшпилей) содержит 38 176 306 877 748 245 позиций (комбинаций) и имеет объём от 1,5 ПетаБайт до 10 ПетаБайт в зависимости от формата базы.

Я думаю, что когда ИИ не хватает мощности просчитать все варианты, тогда включается "интуиция".

[Нгаан]

Я играл в шахматы на своем мобильном

А вы тоже гроссмейстер?

Я играл в шахматы на 386-м ещё в 1998 году и, разумеется, проигрывал, но что это доказывает с точки зрения работы ИИ в игре с чемпионами мира? Мне это показало лишь то, что я не умею играть в шахматы и это в самом деле так: я знаю как ходят фигуры, но не умею строить композицию и даже не знаю зачем и когда нужно применять рокировку.

На мой взгляд алгоритм, работающий на 386-м с частотой в 40 МГц и обыгрывающий меня в шахматы, является однозначным доказательством того, что программисты, написавшие эту программу (а это был пример с открытым кодом в среде программирования "Турбо-Паскаль 7.0"), понимают в решении этой задачи больше, чем я и умеют это превратить в код для весьма несложной, по нынешним меркам, вычислительной машины, поскольку никакого ИИ в современном понимании там даже близко не было.