Решённые и нерешённые задачи искусственного интеллекта

[Нгаан]

Человек описывает картину для машины и потом направляет ее кисть и дополняет подсказками.

Хотелось бы дождаться тех времён, когда будет наоборот. (Чисто ради разнообразия)

[Н. Светлов]

Если машина думает по другому - это значит она хуже человека?

Машина думает ровно столько же, сколько кисть в руке художника или фотоаппарат в руках фотографа. Но это неважно. Важно, что шкала «лучше—хуже» здесь неприменима. Здесь применима логика «вот творчество художника, вооружённого инструментами, которыми работали ещё в каменном веке, и вот чего он с их помощью добился», а «вот творчество художника, вооружённого инструментом XXI века».

[Alex Ivanov]

Машина думает ровно столько же, сколько кисть в руке художника или фотоаппарат в руках фотографа.

У кисти и фотоаппарата нет интеллекта. А у машины есть.

[Н. Светлов]

А у машины есть.

Artificial intelligence — это вовсе не artificial mind. И даже не artificial intellect. Это всего лишь набор алгоритмов, способных решать так называемые «плохо поставленные» задачи, то есть задачи, в формулировке которых отсутствует исчерпывающее указание на требуемый результат. Такие алгоритмы либо угадывают желаемый результат по содержанию исходных данных, либо при необходимости запрашивают недостающие данные/указания. И всё. Чего же боле? ©

[skor]

Это всего лишь набор алгоритмов, способных решать так называемые «плохо поставленные» задачи, то есть задачи, в формулировке которых отсутствует исчерпывающее указание на требуемый результат.

Вот я с 2016 года начал думать, что и человеческий мозг такой же, на самом деле. Как узнал про AlphaGo.

[Alex Ivanov]

Artificial intelligence — это вовсе не artificial mind. И даже не artificial intellect. Это всего лишь набор алгоритмов, способных решать так называемые «плохо поставленные» задачи, то есть задачи, в формулировке которых отсутствует исчерпывающее указание на требуемый результат. Такие алгоритмы либо угадывают желаемый результат по содержанию исходных данных, либо при необходимости запрашивают недостающие данные/указания. И всё. Чего же боле? ©

https://ru.wikipedia.org/wiki/%D0%98%D1 ... 0%BA%D1%82
Одно из частных определений интеллекта, общее для человека и «машины», можно сформулировать так: «Интеллект — способность системы создавать в ходе самообучения программы (в первую очередь эвристические) для решения задач определённого класса сложности и решать эти задачи».

[Н. Светлов]

Одно из частных

Да. Именно так. Одно из. Частных.

Вот я с 2016 года начал думать, что и человеческий мозг такой же, на самом деле.

Да, он такой же, только хуже. Или, по крайней мере, содержит в себе такую же подсистему.
Что отвечает за самосознание — неизвестно. Возможно, что и не мозг вовсе. Но я надеюсь, что всё-таки мозг. Или хотя бы нервная система в целом.

С точки зрения кибернетики должен существовать некий информационный процесс, ответственный за раздачу самосознаний телам. Ну, или тел самосознаниям. В противном случае моё самосознание должно быть либо во всех телах сразу, либо ни в одном (что, похоже, имело место до 1968 года, но явно не имеет места сейчас).

Если мы существование такого информационного процесса не признаём, то вынуждены признать трансцендентность самосознания — по крайней мере, относительно современного состояния знаний. Первая гипотеза мне кажется более научной (из чего, однако, не следует её безусловная истинность).

Если признаём, то было бы любопытно и поучительно его обнаружить (и хакнуть запрограммировать ).

[skor]

С точки зрения кибернетики должен существовать некий информационный процесс, ответственный за раздачу самосознаний телам.

Интересно, искусственным интеллектам самосознания будут раздаваться автоматически, или придётся как-то вмешиваться в этот информационный процесс?

Не менее интересно, можно ли наделить сознанием компьютерную программу, моделирующую работу человеческого мозга.

Ну а для начала хотелось бы изобрести детектор самосознаний. Без него поставленные выше вопросы, очевидно, не имеют смысла.

В противном случае моё самосознание должно быть либо во всех телах сразу, либо ни в одном (что, похоже, имело место до 1968 года, но явно не имеет места сейчас).

Меня бы совершенно устроило, если бы самосознание было ортогонально личности, т.е. самосознание -- само по себе, а личность определяется данными на носителе самосознания. Тогда одно и то же самосознание может быть во всех телах сразу, но ему это не очевидно, потому что в каждом теле оно имеет доступ только к тем данным, которые записаны в этом теле.

Если бы так оказалось, что личность не зависит от самосознания, то данные, определяющие личность, можно было бы легко копировать с носителя на носитель, и это бы открыло огромные перспективы, от которых дух захватывает

[Н. Светлов]

Ну а для начала хотелось бы изобрести детектор самосознаний. Без него поставленные выше вопросы, очевидно, не имеют смысла.

Хотелось бы, да. Но я не согласен, что поставленные выше вопросы лишены смысла в его отсутствие. Дело в том, что мы не можем сформулировать достаточные условия самосознания, но можем сформулировать некоторые необходимые, и вот эти необходимые условия могут уже поддаваться наблюдению. Хотя бы в принципе. Изобрести их детектор — задача гораздо более простая, чем изобрести детектор самосознания как такового.

И вот как раз наличие информационного процесса «раздачи» (SELECT DISTINCT ...) — явный такой претендент на ранг необходимого условия.

Меня бы совершенно устроило, если бы самосознание было ортогонально личности, т.е. самосознание -- само по себе, а личность определяется данными на носителе самосознания. Тогда одно и то же самосознание может быть во всех телах сразу, но ему это не очевидно, потому что в каждом теле оно имеет доступ только к тем данным, которые записаны в этом теле.

Меня, в сущности, тоже; но и тогда возникает вопрос, а по каким каналам самосознание получает доступ к данным на его носителе и по каким каналам к ним получает доступ личность, которая ими определяется. Какой стороной эту проблему ни поворачивай — в этом суть. И тут же вопрос: оставляет ли архитектура машины Тьюринга место для таких каналов? Достаточно ли для их появления неких детекторов, имитирующих зрение, слух и т.п.? Поддаются ли такие каналы описанию при помощи известной нам физики или сначала требуется обновить фундаментальную картину мира?

[skor]

мы не можем сформулировать достаточные условия самосознания, но можем сформулировать некоторые необходимые, и вот эти необходимые условия могут уже поддаваться наблюдению

В общем, да. Вот только попытки сформулировать необходимые условия самосознания, которые можно использовать на практике, весьма унылы.

Например, мне попадалась несколько лет назад статья, авторы которой определяли наличие самосознания у животных по зеркальному тесту. Т.е. если животное узнаёт себя в зеркале, значит у него есть самосознание.

Поддаются ли такие каналы описанию при помощи известной нам физики или сначала требуется обновить фундаментальную картину мира?

Этот вопрос естественными науками просто не рассматривается. И причина проста -- отсутствие вышеупомянутого детектора.

► Показать

В принципе, существуют люди, которых отсутствие детектора смутить не может. Но, я думаю, у них до сознания руки просто не доходят -- они теорию струн развивают

[Нгаан]

хотелось бы изобрести детектор самосознаний

Вся ваша жизнь и есть этот самый "детектор" и нечего тут "изобретать".

Так что, если "искусственные личности" смогут жить, самостоятельно действовать и самостоятельно принимать разумные решения в среде себе подобных это и будет подтверждением наличия у них и сознания, и самосознания. А пока нас ждёт история про "неразумных детей".

[skor]

если "искусственные личности" смогут жить, самостоятельно действовать и самостоятельно принимать разумные решения в среде себе подобных это и будет подтверждением наличия у них и сознания, и самосознания

Есть ли самосознание у шизофреников, неспособных принимать разумные решения? Я полагаю, что есть.

[Н. Светлов]

это и будет подтверждением наличия у них и сознания, и самосознания

На самом деле это не подтверждение. Я вполне могу допустить, что самосознание есть только у меня, а остальные только притворяются (или вообще представляют собой мультик, который мне показывает Матрица). И, кстати, это допущение удобно тем, что снимает необходимость всяких там координирующих информационных процессов

Я это предположение отклоняю лишь на основании моей собственной априорной веры в то, что у других оно тоже есть: раз они похожи на меня во всех прочих отношениях, то, наверное, похожи и в этом.

И причина проста -- отсутствие вышеупомянутого детектора.

Возможно, это временная ситуация. И, скорее всего, такой детектор как раз должен обнаруживать канал передачи данных, обеспечивающих уникальность самосознания, и судить о наличии самосознания по содержанию этих данных.

Те, кто считает иначе (а я тоже допускаю с некоторой вероятностью, что дело может обстоять иначе), по сути, следуют свойственной многим религиям (исключая буддизм, разумеется) традиции признания трансцендентности самосознания: мол, физическая реальность сама по себе, самосознание — само по себе.

[skor]

Возможно, это временная ситуация.

Возможно. Но ситуация с привязкой самосознания к физической реальности, я бы сказал, значительно хуже, чем это было с любым другим явлением в истории науки. Возьмём гравитацию, электромагнитное взаимодействие, ядерные реакции -- у всех этих явлений есть измеримые проявления, которые позволяют формулировать гипотезы и проверять их в ходе экспериментов. А самосознание, несмотря на своё несомненное существование, измеримых проявлений не имеет. И даже непонятно, в каком направлении надо двигаться, чтобы их обнаружить.

[Н. Светлов]

Но ситуация с привязкой самосознания к физической реальности, я бы сказал, значительно хуже, чем это было с любым другим явлением в истории науки.

Да.

И даже непонятно, в каком направлении надо двигаться, чтобы их обнаружить.

Не совсем непонятно. Понятно, что нужно мониторить информационные процессы, причём наиболее дальнодействующие. Электромагнитные волны (кроме сверхдлинных), по-видимому, не ко двору. Акустические — тоже. Под подозрением нейтрино и гравитационные волны. Ну и, разумеется, квантовая сцеплённость, которая, однако, тоже требует, как минимум, существования общего для разных самосознаний источника запутанных частиц (кандидатуру Солнца я уже предлагал).

Этого всего явно недостаточно, чтобы прямо сейчас подавать заявку на грант про детектор самосознания, но достаточно для некоторого оптимизма в отношении разрешимости проблемы.

[Pinhead]

Очевидно, что сознание - это функция Вселенной для проявления себя. По причине невозможности внешнего наблюдателя, т.к. всё сущее является её частью, появляется механизм, имитирующий наблюдателя, который, формально являясь частью Вселенной, тем не менее, как бы ощущает себя отделенным и даже противостоящим целому. Т.о. изначальные законы или "правила игры", которые возникают при рождении Вселенной, теоретически могут быть какими угодно, но на практике должны отвечать обязательному условию непременного возникновения в будущем наблюдателя.

Опираясь на это понимание, мы приходим к тому, что по аналогии с другими функциями, функция сознания должна распределяться однородно и изотропно во всякой точке пространства и проявлять себя в момент возникновения потенциально подходящего носителя. И, кстати говоря, как всякое природное явление, может иметь свои случайные возмущения, выражаемые, например, в том, что религиозные традиции называют откровениями. Можно предположить, что это случайным образом поступившая информация, так сказать, "напрямую", разумеется, трактуемая мозгом в силу его понимания и осознания воспринятого.

(Понимание вышесказанного внушает всё-таки некоторую тревогу. Получается, что при некотором раскладе Лавкрафт может оказаться прав.)

Что же касается механизмов, то, по большому счёту, какая разница?
Лично я твёрдо уверен, что мы ещё крайне далеки от понимания истинной картины мира. Т.е. сам механизм навряд ли входит в число уже познанных явлений и физических механизмов. А возможно, даже и познаваемых. Ясно только, что плясать следует от познания сущности самого пространства, как такового, потому что на сегодняшний момент мы видим, что всё физическое составляющее окружающего мира является составленным из сгустков ничего. Довольно непродуктивно рассуждать о механизмах и свойствах, когда непознанно целое. И, судя по настроениям и рассуждениям в научном сообществе, никто и не собирается приступать. Каждый разрабатывает свою поляну.

Вообще же, для правильного понимания природы сознания на, так сказать, практическом уровне давным-давно придуманы действенные способы, которые значительно лучше, нежели пустые рассуждения, позволят всё понять и почувствовать. Это дзен-буддизм в первую очередь.

[ZYOBRA_70]

Pinhead, напоминает рассуждения Гегеля о мировом Духе, познающем себя через мышление и деятельность человека.

[Pinhead]

ZYOBRA_70, абсолютно все идеалисты всегда говорят о "мировом духе". И только буддизм говорит об полном отсутствии и об иллюзии.
В действительности не существует ничего. Чтобы что-то возникло, должны сперва появиться условия для того, чтобы кто-то засвидетельствовал существование. Но, так как из ничего нельзя создать что-то реальное, возникает иллюзия свидетельства и иллюзия существования. Её невозможно отличить от реальности до тех пор, пока слой за слоем не будут отвергнуты все иллюзии о существовании. И только в самом конце приходит понимание о не-существовании. Что-то, что не-существует. Собственно, это и есть суть мира.

Если сказать коротко, свидетель свидетельствует о не-существовании. Вселенная - это бесчисленные формы ничего. Наблюдатель фиксирует не эти формы, а то, что хотя это и иллюзия, тем не менее, они порождаются чем-то, чего, хотя и нет, но, тем не менее, сам факт фиксации остаётся.

Но на примитивном, катехизическом уровне, конечно, можно говорить, что буддизм (и другие восточные мировоззрения) признают всех Одним. Как колодцы, внешне разные, но питающиеся из одного подземного источника.

[Н. Светлов]

Что же касается механизмов, то, по большому счёту, какая разница?

Например, этическая. Вот робот. Спрашивается, как к нему относиться? Как к инструменту или как к товарищу?

Лично я твёрдо уверен, что мы ещё крайне далеки от понимания истинной картины мира.

И, возможно, обречены век за веком приближаться к ней, чтобы, оказавшись на 10 порядков ближе, обнаружить, что до цели ещё 10000 порядков…

Но даже из того немногого, что приведено в какую-то крайне наивную систему, удаётся извлечь некоторую практическую пользу и некоторое эстетическое чувство. Вот и ладушки.

абсолютно все идеалисты всегда говорят о "мировом духе". И только буддизм говорит об полном отсутствии и об иллюзии.

Ну, мне думается, что большой разницы нет. Мировой дух не содержится в физической реальности, то есть полностью отсутствует. Ну, а то, что физическая реальность — это мир феноменов, известно со времён Канта. Кант постулирует вещь-в-себе, но её никто не видел.

► Показать

Кроме Платона

[Pinhead]

Вот робот. Спрашивается, как к нему относиться?

Я так понимаю, речь о разумном кибернетическом организме? Вряд ли о тех роботах, которые автомобили на конвейере собирают.
Так какие тут могут быть варианты? Если он разумный, то и относиться к нему надо так же, как и к другим разумным существам.
Другой вопрос, что тут могут быть сложности иного порядка. В игре "Mass Effect" рассматривается ситуация, когда некая цивилизация создавала себе роботов-слуг (гетов), которые выполняли все рабочие операции, при этом постепенно объединила их в одну сеть, т.к. вместе они работали лучше. В результате, в какой-то момент все эти единицы осознали себя как единое сознание и начали это демонстрировать, задавая всякие "человеческие" вопросы. Создатели жутко испугались и попробовали всех гетов отключить. Но ничего не вышло, и началась война, в результате которой все жители вынуждены были покинуть свою планету и бежать, кто смог. После этого геты стали угрозой вообще для всякой органической жизни. Впрочем, у игрока есть шанс со временем это исправить.
Т.е. вовсе не обязательно, что разум будет концентрироваться в одной конкретной особи, вполне возможно, что форма будет иной, и, если к взаимодействию с подобными людям персональными разумными единицами как-то ещё сравнительно готовы, то вот другие формы могут поставить в тупик.

Ну, мне думается, что большой разницы нет.

Разница безусловно есть. Дело не в противопоставлении духа и материи, это чисто Западная трактовка, в буддизма этого вообще нет. Дух рассматривается просто как продолжение материи. Наверняка ведь встречался такой термин "тонкое тело". Имеется в виду как раз, что невидимые границы тела намного больше, чем видимые (ауры), но это всё естественное продолжение физического тела. Собственно, вся восточная медицина опирается на это понимание. Нет каких-то границ и какого-то противопоставления. Это всё одно. И всё иллюзия. Собственное сознание определяется термином Не-Я. Потому что, прежде всего, личности не существует. Есть наблюдатель, в действительности как бы разлитый везде, но из каждой точки, сконцентрированной в отдельном сознании, смотрящий самостоятельно. Это разительно отличается от Западного подхода, где всякий Дух провозглашается носителем воли, в отличие от мёртвой материи, подчиняющейся воле творящего духа. Здесь нет никакой воли, никакой личности, всё предельно естественно, как в природе, потому достигшим просветления считается тот, кто полностью утратил личность и превратился в прямого проводника природного процесса, так, как это происходит с каждым после смерти. Это называется недеяние.
Впрочем, это не столь важно, главное, что для понимания, что же вообще такое сознание и как оно связано с окружающим миром, буддистские практики работают идеально. Это не тот предмет, который следует обдумывать, тут, скорее, нужно полностью забыть всё, что знаешь.