Содержание образования: что добавить, а что убрать

[Н. Светлов]

Мозгу и не нужно помнить всё.

Вот-вот. В частности, ему не нужно помнить, что в грудничковом возрасте сознание тоже было, но другое. Вернее, ему не нужно, чтобы нынешнее сознание имело доступ к памяти того сознания. Хотя, возможно, «операционная система» мозга имеет доступ и туда, и туда (но с большими потерями и искажениями).

[Нгаан]

То есть в какой-то момент при формировании мозга в нём происходит такая революция, что рождается новое сознание, не имеющее доступа (прямого) к сознанию предшествующему и к данным, которые оно накопило

Проф, вы точно не перепутали с молочными зубами?

[Н. Светлов]

Проф, вы точно не перепутали с молочными зубами?

В этом отношении жизненный цикл насекомых ещё интересней и показательней, чем молочные зубы. Ведь фактически личинка и взрослое насекомое — это разные организмы. Даже более чем разные организмы. Это организмы разной архитектуры.

[Лилия]

В частности, ему не нужно помнить, что в грудничковом возрасте сознание тоже было, но другое.

А какое другое? Если ребёнок ещё активно развивает двигательную функцию, речевую и прочие. Вы представляете сколько туда ресурсов уходит? Сами по себе они тоже не разовьются. Там мозгу просто не до каких то высших материй. Он огромную работу проделывает. И не пройдя этот этап нельзя сразу подскочить на другой. Было одно время популярно заниматься разными методиками раннего развития, но увы, каких то значительных результатов они не дали.

[skor]

Ну представьте все возможности мозга. Любую, думаю, это слишком громко сказано.

Представил все возможности мозга. Не очень впечатлился, если честно.

Вообще, в последние годы у меня сильно поменялись представления как о мозге, так и о грядущем сверхчеловеческом ИИ. Я полагаю, что мозг сильно переоценён, и сверхчеловеческий ИИ будет похож не на здоровенный суперкомпьютер размером со стадион, как я раньше думал, а на такой компактный сервер из тех, что по десять штук в одной стойке

В том смысле, в котором я понимаю слово «сознание», ни у какого ИИ, работающего на цифровом компьютере, сознания быть не может. Любой ИИ такого рода — это та самая «китайская комната». Тайна сознания ещё не разгадана, и неизвестно, будет ли.

А мне кажется, что сознанием обладает любая сложно организованная материя. Т.е. существует некоторый порог сложности, при превышении которого возникает сознание. Современные компьютеры, впрочем, этот порог ещё не перешли, я думаю.

При этом не исключено, что первые версии сверхчеловеческого ИИ будут устроены гораздо проще, чем мозг, и обладать сознанием не будут.

В этом отношении жизненный цикл насекомых ещё интересней и показательней, чем молочные зубы. Ведь фактически личинка и взрослое насекомое — это разные организмы.

Да, в каком-то смысле насекомое с полным превращением умирает дважды.

[Bond]

А мне кажется, что сознанием обладает любая сложно организованная материя

Вообще любая материя - это фундаментальное свойство!

[Лилия]

Представил все возможности мозга. Не очень впечатлился, если честно.

Вы просто о нём мало знаете.

Я полагаю, что мозг сильно переоценён

А я полагаю, что программисты склонны переоценивать, возможности ИИ.

[Нгаан]

склонны переоценивать

Переоценивать, недооценивать... отвлечённые разговоры.

А тем временем я настаиваю, что "апокалиптические настроения" стоит попридержать, как и противоположный - "эйфорический" подход, и сосредоточиться на освоении тех возможностей, которые дают нарождающиеся новые технологии.

Понимая то, что и эйфория, и страх есть производные от незнания, я полагаю наиболее целесообразным подходом для всех, кто не занимается непосредственно разработкой решений для ИИ, подход, когда внимание концентрируется на собственных жизненных и профессиональных задачах, что даёт возможность оценить потенциал и найти применение ИИ в реальной жизни, и тем самым приблизить его к реальным человеческим проблемам.

Невозможно и даже катастрофически вредно "кормить малыша" задачами проектирования будущего, которое, якобы, является пространством его "жизни". Будущее, как неоднократно заявлял в своих сочинениях наш любимый автор, вырастает из настоящего, а значит "малыш" должен учиться решать текущие практические задачи и таким образом познавать мир.


Отправлено спустя 4 минуты 15 секунд:

а на такой компактный сервер из тех, что по десять штук в одной стойке

Не будет никаких серверов, ибо Господь, создавая мир и жизнь, выбрал лучшие материалы из всех, которые были ему доступны. Нийя будет, а серверов с ИИ не будет.

[Лилия]

я полагаю наиболее целесообразным подходом для всех, кто не занимается непосредственно разработкой решений для ИИ, подход, когда внимание концентрируется на собственных жизненных и профессиональных задачах,

Нгаан, совершенно справедливое замечание.
И нашим уважаемым автором, так и описывается, кто то дома выращивает из специальных кораллов, кто то постигает тайны биопсихологии, а кто то разработал разумный космический корабль.

[skor]

Вообще любая материя - это фундаментальное свойство!

Тоже вариант, да.

Не будет никаких серверов, ибо Господь, создавая мир и жизнь, выбрал лучшие материалы из всех, которые были ему доступны.

Господь, создавая мир и жизнь, колесо не сподобился изобрести. И поэтому птички крылышками машут, а не пропеллеры крутят, и от этого, глядя на самолёты, плохо кушают и всячески лишаются

а кто то разработал разумный космический корабль

Вот здесь у многих писателей-фантастов затык: почти никто не может догадаться, что любой разработчик разумного космического корабля первым делом поручит этому кораблю разработать ещё более разумный космический корабль, и история пойдёт совсем-совсем не так, как в книжке

[Лилия]

И поэтому птички крылышками машут, а не пропеллеры крутят, и от этого, глядя на самолёты, плохо кушают и всячески лишаются

Ну тогда точно до разумного ИИ не дойдет.Человек такого не потерпит.

почти никто не может догадаться, что любой разработчик разумного космического корабля первым делом поручит этому кораблю разработать ещё более разумный космический корабль, и история пойдёт совсем-совсем не так, как в книжке

Не, ну вообще такую историю тоже придумали и даже не один фильм сняли.

[skor]

Не, ну вообще такую историю тоже придумали и даже не один фильм сняли.

Что-то похожее было в сериале "Мир дикого запада". Там роботы участвовали в настройке других роботов. Но их цель состояла не в повышении мощности интеллекта, а в том, чтобы настраиваемых роботов было нельзя отличить от конкретных людей, которых эти роботы должны были заменить.

Книги, в которых ИИ разрабатывают более мощные ИИ, наверняка есть, но я сейчас не могу ни одну вспомнить. Что же касается научно-фантастических фильмов, то их вообще гораздо меньше, чем книг, и, кажется, я почти все смотрел. По-моему, такого сюжета ни в одном фильме нет.

[Нгаан]

колесо не сподобился изобрести

Колесо это жалкое зрелище, ибо в природе никто в подобных средствах просто не нуждается. А вот человек в своих изобретениях лишь подражает природе и едва-едва начал изобретать шагающие машины, которые и шагают кое-как и затраты энергии на такое движение имеют несопоставимые. Так что для атеистов повторяю: миллиарды лет эволюции это вам не хухры-мухры и хомосам с их жалкими машинами ещё учиться и учиться.

А в конце концов будет всё равно то же самое. Не верите кошкам, биоников спросите.


Отправлено спустя 4 минуты 56 секунд:

первым делом поручит этому кораблю разработать ещё более разумный космический корабль

Тут затык у кибернетиков, которые крепко выучили, что современная цивилизация это когда одни машины позволяют разрабатывать другие новые машины и приводят при этом в пример проектирование компьютеров с помощью компьютеров, стараясь не замечать, что ещё никто не разработал новый экскаватор с помощью старого экскаватора, или новую скороварку с помощью старой скороварки. С космическими кораблями ситуация, естественно, аналогичная и разработать ещё более разумный космический корабль с помощью уже имеющегося разумного корабля это задача скорее всего невыполнимая. Специализация-с.

[Лилия]

По-моему, такого сюжета ни в одном фильме нет.

Дело не конкретно в комическом корабле. А в самой идее. Как правило ИИ, особенно если по сюжету он злобный, начинает воспроизводить другие подобные себе машины. Не человек же их собирает. Человек изобрел,а дальше понеслось...
Терминатор например, там весь сюжет на этом.

Специализация-с.

Вот именно. Даже если про Гай-до вспомнить. Его изобретатель работал над ним исключительно индивидуально.

Не верите кошкам,

Кошки тоже очень интересные создания. Как то на форуме обсуждали одну из повестей КБ. Там есть упоминание, что у кошки и человека общий предок. И это действительно так. Только в какой то момент эволюции кошки пошли своему пути, а люди по своему. Но всё же смотришь иногда на них, и ощущаешь что-то родственное. А как они к человеку привязаны? И порой смотрят так, мол думай-думай, что вы вершина эволюции, пропали бы давно без нас.

[skor]

Дело не конкретно в комическом корабле. А в самой идее. Как правило ИИ, особенно если по сюжету он злобный, начинает воспроизводить другие подобные себе машины. Не человек же их собирает. Человек изобрел,а дальше понеслось...
Терминатор например, там весь сюжет на этом.

Сюжеты, когда роботы делают других роботов, имеются. А вот сюжеты, в которых ИИ совершенствует сам себя (или, что то же самое, разрабатывает более совершенный ИИ), мне неизвестны.

В "Терминаторе" сверхразумный Скайнет конструирует роботов-терминаторов, но нигде при этом не сказано, что интеллект этих терминаторов превосходит интеллект Скайнет.

никто не разработал новый экскаватор с помощью старого экскаватора, или новую скороварку с помощью старой скороварки

Это верно. Бывают случаи, когда некоторый инструмент невозможно применить для изготовления того же типа инструментов. Но бывает и наоборот: например, молоток применяется для изготовления другого молотка (там клин нужно забивать, чтобы закрепить ручку). Так что, не убедил ты меня своими примерами

[Н. Светлов]

Там мозгу просто не до каких то высших материй.

Сознание, как я понимаю, — это не про высшие материи. Сознание — это Тот, кто живёт в нас и чувствует боль (и всё прочее, в том числе любовь).

И вот я (опираясь, в том числе, на истории про раздвоение личности) полагаю, что в норме у Homo sapiens в процессе его развития происходит смена сознания. В младенчестве одно — в подростковом и взрослом возрасте другое. Раздвоение личности возникает как раз тогда, когда в этой закономерной смене сознаний происходит сбой.

Я полагаю, что мозг сильно переоценён

Я бы не сказал, что он переоценён. Хорошо известно, что он может, а что не может. Фишка мозга — в его загадочности. В частности, если б в нём не обитало сознание, если б он был «китайской комнатой», с ним было бы связано на одну загадку меньше. Впрочем, этого никто бы не заметил

А мне кажется, что сознанием обладает любая сложно организованная материя. Т.е. существует некоторый порог сложности, при превышении которого возникает сознание.

«Нам бы схемку иль чертёж» ©
Меня в принятии такой гипотезы останавливает непонимание самого механизма проистекания сознания из сложности.

Тоже вариант, да.

Циолковский тоже так считал. Я всё-таки думаю, что сознание предполагает какие-то протоколы обмена данными с окружением и поэтому требует наличия некоторой хотя бы минимальной структуры, поддерживающей эти протоколы.

поручит этому кораблю разработать ещё более разумный космический корабль

Булычёв об этом не писал, но Самаон Гай именно так и поступил. Но Гай-до не справился с поставленной задачей. Оправдываясь, он объяснил Самаону, что упёрся в закон необходимого разнообразия, и обратился к нему с просьбой отменить этот закон. Правда, кораблик смог существенно улучшить и оптимизировать свой собственный код. И вот, кстати, у Гай-до сознание есть (будет), т.к. он испытывал чувство голода.

[Лилия]

В "Терминаторе" сверхразумный Скайнет конструирует роботов-терминаторов, но нигде при этом не сказано, что интеллект этих терминаторов превосходит интеллект Скайнет.

Потому как Скайнет это система, а отдельно взятый терминатор только часть системы. А часть не может быть сильнее или умнее целого. Это примерно как человек и природа.

А вот сюжеты, в которых ИИ совершенствует сам себя

Опять же в Терминаторе. В каждой серии создается более совершенная модель. Соответственно и сам Скайнет совершенствуется. В Генезисе например, он уже решает не просто убить противника в лице Джона Коннора, а включить его в свою систему. В духе, кто нам мешал,он же и поможет.
Только зачем изобретатель первым делом должен обязательно кинуться изобретать ИИ, который превзойдет предыдущий?
В отношении языков это еще понятно. В целом то зачем?

И вот я (опираясь, в том числе, на истории про раздвоение личности) полагаю, что в норме у Homo sapiens в процессе его развития происходит смена сознания. В младенчестве одно — в подростковом и взрослом возрасте другое. Раздвоение личности возникает как раз тогда, когда в этой закономерной смене сознаний происходит сбой.

Не совсем так. Это скорее не смена сознания, а развитие. Связано с тем, что нейронные сети растут и усложняются.
В результате в сознании образуются так называемые архетипы, у разных психологов может своя классификация и их количество.
Это всё условно в принципе. И все они входят в состав одной личности.
Раздвоение личности, это когда эти части разделяются между собой. И человек осознает только какую то из своих подличностей, при этом не осознает другие.

[skor]

Только зачем изобретатель первым делом должен обязательно кинуться изобретать ИИ, который превзойдет предыдущий?
В отношении языков это еще понятно. В целом то зачем?

Любой интеллект нужен исключительно для решения задач.

Если больше нет задач (т.е. лекарство от рака создано, гиперпространственный двигатель построен, найден ответ на вопрос, равны ли P и NP, и т.д.), то интеллект не нужен. Ни естественный, ни искусственный.

Если есть задачи, то их хочется решить. Для решения задач можно использовать разные подходы. Одним из подходов является создание искусственного интеллекта, который превышает по своим возможностям естественный интеллект, потому что такому искусственному интеллекту может оказаться по силам решить те задачи, перед которыми пасует естественный интеллект.

При этом чем мощнее искусственный интеллект, тем больше вероятность, что он сможет решить ту или иную важную задачу. Отсюда и возникает мотивация изобретать всё более и более мощные ИИ.

Я бы не сказал, что он переоценён. Хорошо известно, что он может, а что не может.

У меня создалось впечатление, что многие не осознают, что могут существовать задачи, решение которых весьма актуально, но при этом принципиально недоступно человеческому мозгу. Именно это я и имею в виду, когда говорю, что мозг переоценён. Т.е. многим людям как раз неизвестно, что он может, а что не может. Они думают, что мозг может всё: надо просто больше стараться

[Нгаан]

молоток применяется для изготовления другого молотка (там клин нужно забивать, чтобы закрепить ручку)

Клин можно и на молотком забить.

А часть не может быть сильнее или умнее целого.

Но может быть равной, Кантор зуб давал. В отношении сознания работает и ваш тезис и очень даже ибо сознания природы в целом мы явно не наблюдаем. Наблюдаем естественный отбор и изменчивость, если это проявление сознания природы, то лапы кверху, я выхожу, но ... у меня лично имеются сомнения.


Отправлено спустя 4 минуты 50 секунд:

Это скорее не смена сознания, а развитие.

Согласен, ибо воспоминание о раннем детстве в голове остаются. Есть даже тест какой-то на возраст самоосознания. Кроме того, все начальные когнитивные функции тоже остаются, а именно они и есть основой сознания. Условно говоря, научившись переворачивать изображение полученное от сетчатки, мозг больше никогда не забывает этот навык и не учится делать это снова и снова в разных возрастах. то есть "БИОС прошивается" на ранних стадиях и является основой дальнейших процессов.

Что же касается "раздвоения", о котором писал проф, так я склонен полагать, что это скорее на основе конфликта внутреннего и социального рождается.


Отправлено спустя 6 минут :

Отсюда и возникает мотивация изобретать всё более и более мощные ИИ.

Мотивация понятная и то, что компьютеры являются машинами по усилению интеллекта это тоже известно (до этого были машины по усилению физических возможностей) и в этом революционность эпохи. Вопросы возникают, когда разговор заходит о мотивациях и с чего они появляются. У человека понятно: хочет жрать и тр---ться. Хотя известные философы и аскеты порой опровергают и эту мотивацию. (Психопаты или выпендриваются.) Так что я полагаю, что ИИ в нынешнем изводе это будет инструмент, "молоток", а мотивации, какие клинья забивать и куда, ему люди продиктуют. Какие люди, такие и мотивации.

В "Через тернии", кстати, рождение мотиваций это основная тема: Нийя - искусственный человек, становится настоящим человеком, проходя через любовь и страдание - процесс очеловечивания. Изначально папаша Глан из неё таки робота с интеллектом делал.

[Лилия]

Если больше нет задач, то интеллект не нужен.

Думаю, такое случиться очень не скоро.
Всёгда найдутся задачи, которые нужно решать. Было бы желание.

Одним из подходов является создание искусственного интеллекта, который превышает по своим возможностям естественный интеллект, потому что такому искусственному интеллекту может оказаться по силам решить те задачи, перед которыми пасует естественный интеллект.

ЕИ может пасовать даже перед тем, что ему по силам, лень например, так что весьма условный критерий.
А ИИ, у него лени нет вроде, но не факт что он сделает всё так, как нужно человеку, даже не имея самосознания.

Они думают, что мозг может всё: надо просто больше стараться

Но при этом стараться определенно надо. Мозг развивается только когда работает.
А так например, считать в уме большие числа тоже сложно. На калькуляторе проще, но это же не значит, что калькулятор умнее.
Мозг просто решил задачу по другому, раз сложно считать самому, изобрету ка я лучше калькулятор.

у меня лично имеются сомнения.

Да, наличие сознания у природы доказать сложно. Поэтому написала примерно.
В Терминаторе описывается ИИ, якобы обладающий этаким системным разумом.

Что же касается "раздвоения", о котором писал проф, так я склонен полагать, что это скорее на основе конфликта внутреннего и социального рождается.

Нгаан, может быть толчком, но это уже вопросы психиатрии, думаю, не стоит в них особо углубляться.
Мы же о мозге в норме говорим.