Цивилизация: Следующий уровень.

[ZYOBRA_70]

"Создатель хороший! Создатель добрый! Выдал лишнюю батарейку за упорный труд по сборке жвачек из разбившейся банки".

А то! "Доброе слово и кошке приятно."

[Н. Светлов]

В том-то и дело. Машина может ровно столько насколько запрограммирована человеком.

Нет, она может существенно больше. Она может изобретать, и по изобретательности часто превосходит человека. Но думать она, конечно же, не умеет. Она не думает - она считает.

Мой интерес к квантовым вычислениям тем и обусловлен, что вот квантовые компьютеры, быть может, и смогут думать. Когда-нибудь. Впрочем, одной только "квантовости" для этого явно недостаточно. Но классические компьютеры не способны думать в принципе.

даже упоминается, что читать художественную литературу вроде "Трех мушкетеров" ей было в тягость.

— Если там маму увидишь, скажи, что я прочитала все книжки, которые она мне оставила. Приедет — поспорим.
— А что, не понравились?
— По-разному. Жалко тратить время на беллетристику.
— Ты знаешь, я тебе в этом не союзник, — сказал профессор Селезнев. — Я боюсь, как бы ты не выросла сухим и скучным человеком. Мне кажется, что еще года два назад ты была куда веселее и твоей любимой книжкой были «Три мушкетера».
— А также «Космическая зоология».
— Хорошо. Смотри не забывай завтракать.

А машина думает в рамках алгоритмов программы. Если алгоритм предусматривает, делать выборку наиболее выигрышных комбинаций, значит машина это будет делать. Если нет, значит нет.

Это далеко не факт. Существуют алгоритмы генерации целей - они, в частности, использовались в шахматных программах прошлого поколения. Если взять нейросеть, сопрячь её с таким алгоритмом, не задавая никакого метакритерия, и направить на неё сигналы с видеокамер и микрофонов - никто не знает, чем это кончится. Машина по-прежнему не будет думать, но почти наверняка начнёт действовать.

Можно предположить, что на первом этапе главным мотивом поведения такой системы станет машинный аналог любопытства: машина начнёт искать источники информации и знания, нужные для генерации целей.

[Нгаан]

Если машина выкидывает необработанные купюры кассир их осматривает и отправляет на принудительную обработку.

Ага, так значит сначала всё-таки купюры обрабатывает машина! А вот если машина чего не пропустила, тогда...
Ну, что же, всё понятно - нужно совершенствовать машины.

... чтобы они поменьше купюр выбрасывали.

Впрочем, одной только "квантовости" для этого явно недостаточно.

Абсолютно согласен. На мой кошачий взгляд, нужна ещё как минимум возможность изменять структуру "думателя", и не только в сторону усложнения, но и в сторону упрощения.

поменьше смотрите криминальных сериалов — те кто связан по работе и работает в правоохранительных органах смотрят их в качестве кинокомедии.

Не, это я так ... фантазирую.

Ведь эксперт может быть и не из ЦБ, а просто так себе "эксперт". Да и милиционер может быть не из МВД, а просто человек в милицейской форме.

Так что это я так - сценарий сочиняю для очередной ... комедии.

[ZYOBRA_70]

Но классические компьютеры не способны думать в принципе.

Если можно, давайте определим само слово "думать". С самосознанием это, часом, никак не связано?

[Н. Светлов]

Если можно, давайте определим само слово "думать". С самосознанием это, часом, никак не связано?

Ну да, я понимаю (и предполагаю, что Лилия понимает) слово "думать" в том смысле, что это осознаваемый процесс, в отличие от вычислений, которые выполняет компьютер. Короче, это тот самый процесс, из факта существования которого Рене Декарт делает вывод о существовании Рене Декарта

[ZYOBRA_70]

Н. Светлов, я так и думал
Скорее всего, самосознание очень тесно связано с памятью. И, кажется, есть там ещё что-то такое, трудноуловимое...

[Mich]

С самосознанием это, часом, никак не связано?

Связано. Только не сознанием, а с самоосознанием.

Отправлено спустя 1 минуту 53 секунды:

Ага, так значит сначала всё-таки купюры обрабатывает машина!

Да. Сортирует их по номиналу и изношенности. А если не может понять (купюра не читается датчиками) возносит молитву: "Человек, на помощь!"

Отправлено спустя 6 минут 24 секунды:

Можно предположить, что на первом этапе главным мотивом поведения такой системы станет машинный аналог любопытства: машина начнёт искать источники информации и знания, нужные для генерации целей.

На первом этапе машина будет собирать информацию и сопоставлять с заложенными алгоритмами. Как только поток информации закончится машина зависнет (такие опыты с "нейромами" — советскими нейрокомпьютерами конца 80х проводились). Чтобы проявилось любопытство, машина должна осознать себя: кто она и какое место занимает в мире. Ребёнку осознать себя помогают родители. Но ребёнок обладает сознанием. А сможет ли квазисознание (если таковое имеется) машины повторить этот процесс — весьма сомнительно. Здесь можно привести аналогию из живого мира: птицы обладают примитивным сознанием, но неспособны осознать себя. Муравьи обладают примитивным коллективным разумом, но не обладают сознанием.

[Н. Светлов]

Чтобы проявилось любопытство, машина должна осознать себя: кто она и какое место занимает в мире.

Возможно.

Что же касается машинного аналога любопытства, для него может оказаться достаточно алгоритма генерации целей. Для такого алгоритма вполне естественно сгенерировать цель "узнать что-нибудь ещё", потому что эта цель содействует достижению практически любой цели.

Отправлено спустя 2 минуты 11 секунд:

такие опыты с "нейромами" — советскими нейрокомпьютерами конца 80х проводились

Сколько, кстати, у них было терабайт и петафлопсов?

[Нгаан]

Сортирует их по номиналу и изношенности.

Что-то мне подсказывает, что первые человеческие машины этого делать "не умели".

Ребёнку осознать себя помогают родители.

А если у ребёнка нет родителей, то ему это помогают осознать те, кто родителей заменяет.

А сможет ли квазисознание (если таковое имеется) машины повторить этот процесс — весьма сомнительно.

Ну, философы говорят, что для этого они должны быть помещены в общество. У КБ домашние роботы именно там и находятся, а значит у них есть шанс.

[alisoman]

А пробовал ли кто-го воображать хотя бы год 3000 на основе рассказа "Клад Наполеона"?

[Лилия]

Ну да, я понимаю (и предполагаю, что Лилия понимает) слово "думать" в том смысле, что это осознаваемый процесс,

Николай Михайлович, я так понимаю, что "завтра я должна буду поверить в летающие тарелочки, телепатию и черную магию?"
Заметьте, даже в ГиБ, Алиса и сама не верить в черную магию, хотя вопрос летающих тарелок и телепатии, молча так пропускает.
В общем, у меня есть только еще один повод восхититься гением программистов, которые умудрились создать некое чудо, что даже у Николая Михайловича, возникла иллюзия, что существует компьютер, способный думать сам. И что же Вы о классических так не уважительно, мол они не думают. Ну как , вот сижу я к примеру перед своим ноутбуком, открываю Яндекс, и думаю, хочу посмотреть, и что там новенького на Романтиках? Вот только "Р" набираю, а он мне сразу ссылку на тему, умница прямо, мысли читает.

Мне кажется, что еще года два назад ты была куда веселее и твоей любимой книжкой были «Три мушкетера».

Это откуда? Мне помнится эпизод, если не путаю, как Алису отправили читать "Трех мушкетеров", а ей не очень-то хотелось. Просто на тот момент, я сама недавно прочитала "Трех мушкетеров", еще удивилась, ну как же, Алиса, такая книга интересная.

[Н. Светлов]

что даже у Николая Михайловича, возникла иллюзия, что существует компьютер, способный думать сам.

Не, не возникла. Думать компьютер не может.

А вот действовать самостоятельно, за пределами замысла программиста - это пожалуйста. И никаких чудес в этом нет. Вон нейросеть, ставшую чемпионом по игре в го, никто не программировал играть в го. Ей задали только правила игры. Играть она сама научилась. Когда вместо го ей задали правила шахмат - она научилась играть и в них, и тоже обыграла всех - и людей, и другие программы, специально написанные для игры в шахматы.

Это откуда?

"Сто лет тому вперёд".
http://sltv1978.narod.ru/p74.htm

Мне помнится эпизод, если не путаю, как Алису отправили читать "Трех мушкетеров", а ей не очень-то хотелось.

Не помню такого.

[Лилия]

А вот действовать самостоятельно, за пределами замысла программиста - это пожалуйста. И никаких чудес в этом нет.

Если без чудес, то значит гениально, прописанная человеком программа. Машина-это не живой организм, она не может самостоятельно.
А как Вы себе представляете не думать, но действовать самостоятельно?

Не помню такого.

Если вспомню откуда приведу, может путаю. В принципе, там разговор был о другом, про то что всё "в одном флаконе". Хорошо, в какой-то период Алисе нравилась книга про трёх мушкетеров, а что такого? Почему нет? Но в целом "беллетристика" не особо увлекала.

[Н. Светлов]

Но в целом "беллетристика" не особо увлекала.

В возрасте около 11-12 лет - да, не особо.

Если без чудес, то значит гениально, прописанная человеком программа.

Не-а, ничего особенно гениального. В XX веке были получены новые результаты в теории формальных систем и в теории самоорганизующихся систем, которые дали возможность понять, как живые существа накапливают знания. В машинах это работает примерно так же.

К разуму это не имеет отношения. Накапливать знания, пользоваться ими, ставить и достигать цели - для всего этого разум и мышление не требуются. Это всё чисто вычислительные процессы. То, насколько далеко может зайти процесс накопления знаний машиной (не осознающей своих знаний), зависит только от объёма её памяти и от её быстродействия.

Недоступны машине (классической) только те рассуждения, которые не осуществимы за конечное число логических шагов. Живым существам такие рассуждения, по-видимому, доступны, хотя точно это наукой не установлено.

Отправлено спустя 4 минуты 17 секунд:

А как Вы себе представляете не думать, но действовать самостоятельно?

Это значит, что машина будет вести себя так, что внешне невозможно отличить её поведение от поведения разумного существа. Различие будет лишь в том, что машина не будет понимать, что она есть. Она так и останется механизмом.

[Нгаан]

Это всё чисто вычислительные процессы.

Вот тут, конечно, есть сомнения насчёт слова "чисто". Скорее я бы предположил, что человек на данном этапе развития может это изучать и анализировать (а значит и программировать) только как "чисто вычислительный процесс".

Недоступны машине (классической) только те рассуждения, которые не осуществимы за конечное число логических шагов.

Вот, вот.

[Лилия]

В возрасте около 11-12 лет - да, не особо.

В общем-то да, может заинтересуется лет в 16 или 20, и стихи сможет писать.

Не-а, ничего особенно гениального.

Ну да конечно, ничего особенного, из серии "самый обыкновенный инженер, изобретет самую обыкновенную машину времени".
Хорошо, выяснили, как живые существа накапливают знания. Но у живых существ есть мозг, созданный природой. А "мозг" машины создает человек, соответственно, он понимает что делает. А у того кто не понимает и не делает, как раз и может возникнуть иллюзия, что якобы машина всё сама.

[Н. Светлов]

А "мозг" машины создает человек, соответственно, он понимает что делает.

Он понимает, что делает. Но не понимает, что получится.

Ну да конечно, ничего особенного

Это сделано не гениями. Возможно, среди них были и гении, но это не обязательно. Это сделано большими коллективами обыкновенных людей на основании теории, которую изучают в университете и которая создана на основе других теорий, которые тоже изучают в университетах. "Каждый может научиться" ©. И мы с Вами тоже.

Вот ведь та же программа, которая обыгрывает в го всех, включая гениев (не говоря уж о тех людях, кто её создавал) - она же никакой не гений. Она просто программа, и ей всё равно, кого и во что обыгрывать.

[Лилия]

Он понимает, что делает. Но не понимает, что получится.

Предполагает, хотя бы. А если уж получилось, то, конечно, понимает что получилось.

Она просто программа, и ей всё равно, кого и во что обыгрывать.

Да, конечно. Только я про что говорю, это просто программа, изменит кто-то из создателей, кто в курсе, какой-то из алгоритмов, который позволяет обыгрывать и всё, пойдет полный бред.

И мы с Вами тоже.

Насчёт себя не уверена, не чувствовала тяги к инженерной специальности. Хотя до какого-то уровня, если была бы необходимость, наверно бы справилась. Соглашусь скорее о чём КБ еще писал, у каждого способность к чему-то своему.

[ZYOBRA_70]

это просто программа, изменит кто-то из создателей, кто в курсе, какой-то из алгоритмов,

Кстати, а как насчёт того, чтобы изменять алгоритмы, заложенные в человеке? Мне кажется, что развитие ИИ должно идти где-то рядом с развитием самого человека. Иначе - да, фиаско

[Нгаан]

как насчёт того, чтобы изменять алгоритмы, заложенные в человеке?

Этим уже занимаются: психология и психоанализ.