Форум сайта
https://romantiki.ru/phpf16/
выбор в пользу веры может означать только одно - то, что ИИ столкнулся с задачей, в данный момент для него непосильную и спасовал, но признать этого не может или не хочет. Очень жаль, а мог бы стать человеком
Не совсем так.ZYOBRA_70 писал(а): 08.05.2022, 13:42 выбор в пользу веры может означать только одно - то, что ИИ столкнулся с задачей, в данный момент для него непосильную и спасовал, но признать этого не может или не хочет.
например, любопытство... вообще вся верхушка пирамиды Маслоу.
Пирамида Маслоу — результат биологической эволюции. Можно, конечно, этот результат запрограммировать; но то ли это, чего мы хотим?
нет конечно. Но это то, от чего ИИ может оттолкнутся в своей дальнейшей эволюции. Не исключено, что в будущем у него появятся и другие, пока нам неведомые потребности.Н. Светлов писал(а): 08.05.2022, 16:38 Можно, конечно, этот результат запрограммировать; но то ли это, чего мы хотим?
Imho, это то, от чего ИИ не следует отталкиваться в своей дальнейшей эволюции. Это тот проверенный природой образец, который был хорош до того момента, когда популяция превратилась в социум. Теперь же он отнюдь не хорош.ZYOBRA_70 писал(а): 08.05.2022, 16:55 Но это то, от чего ИИ может оттолкнутся в своей дальнейшей эволюции.
А мы хотим?ZYOBRA_70 писал(а): 08.05.2022, 16:55 И потом, если мы хотим, чтобы наш ИИ просуществовал достаточно долго самостоятельно
тем не менее с чего-то ему начинать всё равно придётся. В конце концов, мы ведь не можем выпрыгнуть из штанов и запрограммировать для него потребности нечеловеческие .Н. Светлов писал(а): 08.05.2022, 18:00 это то, от чего ИИ не следует отталкиваться в своей дальнейшей эволюции.
борьба - это только один из способов удовлетворения потребностей, причем не самый продуктивный. Я думаю, что сильному ИИ не составит особого труда прийти к выводу, что гораздо более продуктивной стратегией является сотрудничество.Н. Светлов писал(а): 08.05.2022, 18:00 то он примется бороться за место под солнцем теми же способами, которыми борется человек
ну вот, мы его ещё не "родили", а уже готовы с лёгким сердцем его убить...Н. Светлов писал(а): 08.05.2022, 18:00 всё, что мы на самом деле хотим по отношению к сильному ИИ, — это иметь гарантированную возможность вовремя выдернуть шнур из розетки
а ещё некритические поломки и сбои в железе и коде, которые будут накапливается... когда количество перерастёт в качество, возможно нам тогда и придётся испугается.Н. Светлов писал(а): 08.05.2022, 18:00 удерживать ИИ в узде узкой специализации достаточно длительное время, пока не будет допущена какая-нибудь ошибка "чернобыльского" типа.
Думаю, здесь требуется какой-то третий вариант. Мы можем дать ему сколько угодно свободы, если у нас есть надёжная, тщательно проверенная теория, гарантирующая, что он распорядится своей свободой, не пренебрегая нашей свободой. На сегодня уверенности в истинности такой теории нет — отсюда и все разговоры.ZYOBRA_70 писал(а): 08.05.2022, 20:12 Если мы хотим, чтобы ИИ развивался, то мы должны дать ему определённую свободу. Если мы этого боимся, то о развитии можно забыть.
Вы сам много сотрудничаете с муравьями или хотя бы мышами? Может, стоит попробовать?ZYOBRA_70 писал(а): 08.05.2022, 20:12 Я думаю, что сильному ИИ не составит особого труда прийти к выводу, что гораздо более продуктивной стратегией является сотрудничество.
(Примерно такой же аргумент приводит и Циолковский). 
Поэтому я не вижу смысла торопиться с тем, чтоб его "родить". Но, боюсь, его "родят", не спросив моего разрешения. И неоднократно "убьют".ZYOBRA_70 писал(а): 08.05.2022, 20:12 ну вот, мы его ещё не "родили", а уже готовы с лёгким сердцем его убить...
Ой, эти горе-воспитатели собственных детей воспитать не в состоянии, а туда же — сильный ИИ воспитывать! А не пошлёт ли он таких воспитателей, как мы, "значит, так… на Луну!" © Знайка-из-мультика.ZYOBRA_70 писал(а): 08.05.2022, 20:12 Нужно социализировать и воспитывать ИИ, прививая ему правильные […] ценности и ориентиры
сотрудничество вообще-то подразумевает единство цели. А это не сотрудничество, а использование, эксплуатация. Точно как и "сотрудничество" наёмного работника с капиталистом.Н. Светлов писал(а): 08.05.2022, 21:41 Впрочем, сотрудничество человека с коровами и курами вполне продуктивно: и коровы с курами сыты, пока живы, и человек тоже сыт, пока жив
А смайлик вообще-то подразумевает сарказм
ну хорошо, если так *мрачно*
Я согласен с выводом -- не будет ничего, но не согласен, что ситуация, в которой ИИ не столкнулся ни с какой задачей, представляет интерес.Н. Светлов писал(а): 08.05.2022, 15:48 Интерес представляет как раз ситуация, когда ИИ вообще не столкнулся ни с какой задачей. Его включили в розетку и предоставили самому себе. Что будет дальше? Скорее всего — ничего. Покой. Нирвана. Полное отсутствие самосознания и мышления. Собственно, и нынешние нейросети в отсутствие команд пользователя ничего не делают: их процессы просто спят, ни над чем не размышляя.
Мне кажется, этот пункт сильно ограничивающий. В моём понимании ИИ может считаться сильным с того момента, когда ему уже не требуется внешний постановщик задач. Он сам их ставит (a la мы) и сам решает.
Э-эээ, я же специально сформулировал три подпункта очень неконкретно. Я ведь даже не указал, на каком языке задаются ограничения, которым должно удовлетворять искомое решение. А язык здесь определяет всё -- и круг решаемых задач, и требования к реализованному в ИИ алгоритму комбинаторного поиска.Н. Светлов писал(а): 11.05.2022, 17:41 В противном случае CONOPT4 уже вполне можно было бы считать сильным ИИ. Все три подпункта п.3 налицо
Здесь, мне кажется, ты сильно забегаешь вперёд, потому что для проектирования двигателя нужно очень много информации о реальном мире, которую просто невозможно руками сформировать. Т.е. сначала сильный ИИ должен быть раскручен, а потом запущен в интерактивном режиме для самостоятельного сбора этой информации.Н. Светлов писал(а): 11.05.2022, 17:41 Другой threshold, за которым ИИ, в моём понимании, становится сильным, — это решение задач синтеза (проектирования). Например, дано: сталь, бензин. Задача: спроектировать ДВС. Хоть какой-нибудь.
Я раньше тоже думал, что нет. Но успехи AlphaZero внушили мне надежду (возможно, напрасную), что интеллектуальные возможности человека сильно переоценены, и многие решаемые человеком задачи вовсе не требуют такой уж мощности оборудования, как представлялось раньше. Удивительно, но факт -- программа AlphaZero обыгрывает любого человека в го, шахматы и другие настольные игры, будучи запущенной на обыкновенном ноутбуке!Н. Светлов писал(а): 11.05.2022, 17:41 В некоторой мере твой п.4 предполагает решение задач синтеза (или хотя бы их специфического подкласса). Разрешимы ли они в границах архитектуры фон Нёймана — вопрос открыт. Мне кажется, что нет.
В этом и проблема. Надо было что-то добавить насчёт универсальностиskor писал(а): 11.05.2022, 18:43 Э-эээ, я же специально сформулировал три подпункта очень неконкретно.
Ну, 100 тыс. явно не предел:
Код: Выделить всё
Основная задача
Исход оптимизации 2, целевая функция: 0.00
Маржинальный доход 618502.41
Разница между целевыми функциями прямой и двойственной задач 0.00
Переменных: 299646, ограничений: 152470, итераций: 92
Не выполнено ограничений: 0
Понять, какой код лучше, ему, быть может, окажется даже труднее, чем спроектировать ДВС. Все эти наши "лучше", "хуже" — это для кремниевого разума может оказаться вообще непостижимым. У человека-то это гормонами регулируется, химиейskor писал(а): 11.05.2022, 18:43 Я был бы счастлив, если бы удалось подготовить для сильного ИИ базовые сведения из математики и программирования, достаточные для того, чтобы он смог совершенствовать свой программный код в процессе раскрутки.
А чтоб кайф от химии было кому испытать, нужна субъектность 
). Или самый быстрый. Но в общем случае это "поди туда — не знаю куда, принеси то — не знаю что" ©. И вполне логичный ответ ИИ: "нам бы схемку иль чертёж — мы б затеяли вертёж" © Попробую в общих чертах поставить задачу самоулучшения сильного ИИН. Светлов писал(а): 11.05.2022, 20:12 Понять, какой код лучше, ему, быть может, окажется даже труднее, чем спроектировать ДВС. Все эти наши "лучше", "хуже" — это для кремниевого разума может оказаться вообще непостижимым. У человека-то это гормонами регулируется, химией
Да, согласен.
Эта постановка с точки зрения её результата равноценна приобретению дополнительного массива видеокарт (или я чего-то не уловил). Я не уверен, что это именно то, что ты хотел ею выразить.
На самом деле неудивительно. У ноутбука 8 Гбайт памяти, и он ничего не забывает из этих 8 Гбайт. Человек даже близко не обладает подобным свойством. Даже самый гениальный. Играя в настольную игру, лучшие шахматисты оперируют объёмами порядка десятков килобайт, а то и меньше (и то с частичной потерей данных) — но зато очень изощрённо (я не учитываю память, заполненную сведениями из дебютных учебников — своего рода ПЗУ, где хранятся мегабайты).skor писал(а): 11.05.2022, 18:43 Удивительно, но факт -- программа AlphaZero обыгрывает любого человека в го, шахматы и другие настольные игры, будучи запущенной на обыкновенном ноутбуке!
Вроде бы, нет. Эта постановка определяет, что мы понимаем под "лучше" и "хуже", и не даёт ИИ возможности выдать тривиальное решение, сводящееся к запоминанию правильных ответов на N предоставленных задач.Н. Светлов писал(а): 11.05.2022, 21:37 Эта постановка с точки зрения её результата равноценна приобретению дополнительного массива видеокарт
С точки зрения алгоритмистики, для игры в шахматы необходим очень небольшой объём памяти. Нужно помнить только текущую позицию на доске и 2n ходов, где n -- максимальная глубина, на которую алгоритм осуществляет перебор ходов.Н. Светлов писал(а): 11.05.2022, 21:37 На самом деле неудивительно. У ноутбука 8 Гбайт памяти, и он ничего не забывает из этих 8 Гбайт.
Нигде. Она, увы, не распространяется
