Решённые и нерешённые задачи искусственного интеллекта

[Н. Светлов]

Передовое общество - это такое общество, где все его члены воспринимают других, как членов своей семьи.

Это практически цитата Ефремова
Но я очень сомневаюсь, что такое возможно. Всё-таки о человеке нужно знать очень много, чтоб его можно было воспринимать как члена семьи по-настоящему, а не притворно. На практике такая максима привела бы к лицемерию. И, кстати, все мы это проходили на практике

И тут надо ещё добавить, что в семьях тоже всяко бывает… Поэтому мало воспринимать других как членов семьи: нужно ещё, чтоб эта семья была счастливой.

Очень, очень непросто всё становится, когда основательно задумаешься над этой идеей. А жалко

И везде это общее настроение, ты человек, ты уникален и ценен.

Да, такое отношение, пожалуй, более реалистично. Тоже много «но», но таки поменьше.

Главное, чтобы это не приводило к нынешней ситуацией с "инклюзивностью". Дело в том, что источником этой ценности, несмотря ни на что, является общество, она не должна объявляться сакральной.

Да! Одна из наиболее заметных (особенно в последние годы) проблем в ряду многих.

[Лилия]

Главное, чтобы это не приводило к нынешней ситуацией с "инклюзивностью".

Это как раз не про уникальность, а скорее про крайнюю степень исключительности.

Многие технические системы подобны калейдоскопу -- они созданы людьми, но их настройка, которая и определяет, как они работают, выполняется на основе случайных процессов.

Тогда получается, что вы путаете природу одного явления с другим, причем принципиально разных.
Это как если железные механизмы в действие запускает электричество, но это совсем не тоже самое электричество, которое запускает работу сердца. Считается, что в науке такая путаница не приемлема.

Одна из наиболее заметных (особенно в последние годы) проблем

Ну да, есть такое. Вероятно в будущем, КБ предполагает ситуацию, что эта проблема будет относительно решена. Человек будет больше думать о том как реализовать свою уникальность, а не раздуть исключительность. И от этого, прогресс просто на лицо.

[skor]

Тогда получается, что вы путаете природу одного явления с другим, причем принципиально разных.

Загадками изъясняетесь. Природу каких двух явлений я путаю?

Это как если железные механизмы в действие запускает электричество, но это совсем не тоже самое электричество, которое запускает работу сердца.

На первый взгляд, этот пример не укладывается в мои представления о физике. Но, возможно, я просто не понял, что вы имели в виду.

[Лилия]

Природу каких двух явлений я путаю?

Не живой и живой природы. В данном случае физические свойства металлов и биологических существ.

На первый взгляд, этот пример не укладывается в мои представления о физике.

Почему нет? Электричество имеет свои свойства, вполне изученные физикой.
Принципы жизнедеятельности свои, и они изучаются больше биологией. А что касается области человеческих размышлений, там вообще может больше философия и литература.

[skor]

Природу каких двух явлений я путаю?

Не живой и живой природы. В данном случае физические свойства металлов и биологических существ.

Вы о чём? Какие металлы? Какие биологические существа?

Нгаан совершенно правильно отметил, что процессы, лежащие в основе работы некоторых современных технических систем, не спроектированы человеком от и до, а определяются вероятностными моделями, настройка которых осуществляется тем или иным способом обучения на примерах. И Нгаан же предположил, что такие системы уже выходят за рамки традиционного понимания термина "машина".

Вы засомневались, что такие системы существуют, потому что, видимо, предполагаете, что нейронные сети программируют какие-то программисты, и эти программисты решают, как именно нейронная сеть будет реагировать на тот или иной запрос.

Чтобы не углубляться в теорию машинного обучения, я привёл вам в качестве очень простого примера игрушку-калейдоскоп. Ни о каких биологических существах я не говорил.

Почему нет? Электричество имеет свои свойства, вполне изученные физикой.

По моим представлениям, где бы не применялось электричество, оно остаётся электричеством. Поэтому ваш пример про машины и сердце я не понял.

[Pinhead]

Т.е. догадаться, что слон тяжелее мухи сможет любая языковая модель, а вот указать на слона на картинке сейчас может только Malmo.

Так и что же? Закавыка-то вообще не в этом. Что она укажет, когда в предложении вообще нет слова "слон"? Я же уже тысячу раз повторял, что без входящей информации все эти нейросети ни на что не способны. Компьютер не может абстрактно обобщать!
В примере с животными и мебелью имеется в виду целый сонм предметов, объединённых по условному признаку, условность которого обуславливается привязкой к жизненному опыту, в примере с весами смотрящий должен предварительно в воображении воссоздать ситуацию, переведя условные изображения в реальный опыт.

Всё-таки о человеке нужно знать очень много, чтоб его можно было воспринимать как члена семьи по-настоящему, а не притворно. На практике такая максима привела бы к лицемерию.

Ну, не в буквальном смысле этого слова, а близко к этому. Вообще говоря, если задуматься, человеку, собственно, некого больше любить, кроме других людей, это его братья и сёстры в конечном итоге, пусть дальние. Тут необходима высокая степень осознанности, а не личный опыт. И, если кто-то способен этого достигать, почему не все? Дело в создании условий для появления этой осознанности.

[skor]

Т.е. догадаться, что слон тяжелее мухи сможет любая языковая модель, а вот указать на слона на картинке сейчас может только Malmo.

Что она укажет, когда в предложении вообще нет слова "слон"? Я же уже тысячу раз повторял, что без входящей информации все эти нейросети ни на что не способны. Компьютер не может абстрактно обобщать!

Вот в предложении вообще нет слова "слон" (модель Claude 3.5 Sonnet):


P.S. Прошу прощения за ужасный рисунок. Не умею я рисовать

[Лилия]

Видимо по поводу аналогичных рисунков информация в ИИ была заложена или он имеет к такой информации доступ.

Чтобы не углубляться в теорию машинного обучения, я привёл вам в качестве очень простого примера игрушку-калейдоскоп. Ни о каких биологических существах я не говорил.

Вы может не говорили, но у нас же здесь идет дискуссия на тему может ли нейросеть быть разумной? Получает мы сравниваем мозг человека, биологическую материю и ИИ, состоящий из металла и пластика. Совершенно разные материи по физическим свойствам и пытаемся доказать, что они могут иметь одинаковые свойства? Но это не может быть так. Разным физическим материям не могут быть присущи одинаковые физические свойства. Даже если они где-то кажутся похожими.

видимо, предполагаете, что нейронные сети программируют какие-то программисты, и эти программисты решают, как именно нейронная сеть будет реагировать на тот или иной запрос.

Но ведь программируют же? Не сама же себя нейросеть создает? С результатом понятно, он может выглядеть непредсказуемо.Но всё таки, сам человек, который занимался созданием данной нейросети, думаю, представляет на что способна его система или нет.

По моим представлениям, где бы не применялось электричество, оно остаётся электричеством.

Именно, да. Электричество всегда остается электричеством. Квинтэссенцией жизни оно никогда не будет.

[Нгаан]

в примере с весами смотрящий должен предварительно в воображении воссоздать ситуацию, переведя условные изображения в реальный опыт.

Только есть у меня вопрос: подбором пар предметов для каждого конкретного случая капчи кто заниматься будет - сотня операторов или тоже "какой-то алгоритм", ибо если это "слон и моська", то всё понятно, а если "кот и лиса" или "стул и гантеля"? То есть нужно задавать предметы с чётко различимым критерием массы, я так понимаю, и потом подбирать из них пары. Это как-то мне напоминает ситуацию с генераторами случайных чисел, которые вырабатываются компьютерами по специальным алгоритмам, и которые, как заявляют некоторые знающие люди, вовсе даже и не случайные.

И, если кто-то способен этого достигать, почему не все?

Точно знаю, что этот же вопрос задавал ещё совсем недавно (две тысячи лет назад) один парень в Иерусалиме, но мы все знаем чем у него там дело кончилось.

Дело в создании условий для появления этой осознанности.

Всё дело в том, что человек - существо ленивое и эгоистичное, а потому манипулировать легче, чем любить; использовать легче, чем учить; обманывать выгоднее, чем сотрудничать.

Вот в предложении вообще нет слова "слон"

Давайте предложим иной, более близкий для форумчан, пример интеллектуальной капчи, в которой существуют "мухи и котлеты", и где нужно разделить их по разным тарелкам.


Отправлено спустя 6 минут 28 секунд:

Разным физическим материям не могут быть присущи одинаковые физические свойства.

Метод моделирования по аналогиям опровергает этот ваш тезис, ибо уже давно процессы протекающие в механических системах моделируют с помощью специально построенных электрических схем. Аналогично некоторые задачи движения жидкости были решены лишь после того, как были построены модели, рассматривающие электронных газ как несжимаемую жидкость.

Да и вообще, материя она не бывает разной. Разными бывают материалы, но при определённых физических условиях. Так, например, при сверхвысоких давлениях все вещества, в том числе и водород, превращаются в металлы.


Отправлено спустя 2 минуты 1 секунду:

Но ведь программируют же? Не сама же себя нейросеть создает?

Некоторые утверждают, в том числе и некоторые парнокопытные этого форума, что личность тоже "программируется" обществом, так что...

[Alex Ivanov]

Но до познания тех законов природы, которым не противоречит наличие чувств у машины, человечеству ещё очень-очень-очень далеко. Думаю, что десятки тысяч лет. Это с учётом технологической сингулярности и всего такого.

Это так кажется, потому что мы смотрим с высоты текущих позиций. Посмотрите на людей живших сто лет назад. Разве они могли представить что у нас будет космос, интернет и компьютеры?

[skor]

Получает мы сравниваем мозг человека, биологическую материю и ИИ, состоящий из металла и пластика. Совершенно разные материи по физическим свойствам и пытаемся доказать, что они могут иметь одинаковые свойства? Но это не может быть так. Разным физическим материям не могут быть присущи одинаковые физические свойства.

Физические свойства (способность деформироваться, плавиться, кипеть и т.д.), а также химические свойства (способность реагировать с различными веществами, диссоциировать и т.п.) не представляются мне важными в контексте обсуждения интеллекта. Если бы они были важны, то Эйнштейн по своим физическим и химическим свойствам значительно отличался бы от деревенского дурачка, что очевидно не так

видимо, предполагаете, что нейронные сети программируют какие-то программисты, и эти программисты решают, как именно нейронная сеть будет реагировать на тот или иной запрос.

Но всё таки, сам человек, который занимался созданием данной нейросети, думаю, представляет на что способна его система или нет.

Нет, не представляет. Никто не понимает, как именно из запроса пользователя получается ответ. Никто не может надёжно предсказать, каким будет ответ на тот или иной запрос. Поэтому после обучения нейронной сети приходится её долго тестировать на наборах примеров, которые не использовались в процессе обучения, чтобы разобраться, на что она способна.

Именно, да. Электричество всегда остается электричеством. Квинтэссенцией жизни оно никогда не будет.

Вроде, у вас машины и сердца запускались какими-то разными электричествами?

Давайте предложим иной, более близкий для форумчан, пример интеллектуальной капчи, в которой существуют "мухи и котлеты", и где нужно разделить их по разным тарелкам.

Я тут вдруг понял, что не способен нарисовать котлету

[Н. Светлов]

Природу каких двух явлений я путаю?

Не живой и живой природы.

Знаменитая книжка Норберта Винера называется «Кибернетика, или управление и связь в животном и машине». Смысл кибернетики в том, что она изучает процессы, равным образом присущие животному и машине. Именно такие процессы присущи нейросетям. Любой физический объект, в котором протекают такие же кибернетические (сиречь информационные) процессы, как в нейросети, будет выдавать точно такие же результаты, как нейросеть, и при этом совершенно неважно, из чего такой объект изготовлен, если кибернетические процессы те же самые.

Вопрос в том, в полной ли мере такие процессы объясняют сознание. Я считаю, что если из сознания вычесть всю кибернетику, какую из него только можно вычесть, то оставшееся множество не будет пустым. Но многие считают иначе.

И, если кто-то способен этого достигать, почему не все?

Я всё-таки очень сомневаюсь, что кто-либо способен любить каждого. Мне кажется, что это миф. Но я вот подумал: а не достаточно ли уважения?

Я тут вдруг понял, что не способен нарисовать котлету

Можно попросить нейросеть (другую). Она справится

Всё дело в том, что человек - существо ленивое и эгоистичное

Нет, дело не в этом. Человек — существо противоречивое. Он в одном лице ленив и трудолюбив, эгоистичен и альтруистичен. В этом смысле надежда не беспочвенна. Проблема в другом. В кибернетике.

► Показать

Я бы проиллюстрировал свои сомнения на этот счёт вот каким примером. Как известно, миелофонов в природе существует ровно двадцать штук. Предположим, что один из них взяла Алиса (строго для научных целей). Спрашивается: кого она должна была об этом уведомить? Ведь у Джавада тоже может возникнуть научная цель, и не хотелось бы, чтобы он всуе тратил время на поиски миелофона, который уже взяла Алиса.

Я к тому, что для того, чтобы всё работало, в голове у Алисы должен быть список лиц (или, допустим, хостов), где следует регистрировать своё намерение взять миелофон.

В семье список лиц, которых нужно предупреждать о том, что я взял на работу шуруповёрт, известен заранее и довольно краток. Но если об использовании шуруповёрта (или миелофона) нужно договариваться в масштабе планеты, то проще завести свой собственный шуруповёрт (или объявить шуруповёрт своим), поставив тем самым точку в истории коммунистического общества.

Можно быть сколько угодно альтруистом и таять от любви к ближнему, но координировать свои действия с целым человечеством всё равно придётся (и надо будет ухитриться не сойти при этом с ума). А если ограничивать координацию каким-то субсоциумом, то человечество само собой распадётся на такие субсоциумы: вот с этими координировать надо, а вон с теми не надо. Люди перестают быть равными в глазах индивида.

Поэтому потенциально разрешимой представляется задача вот в какой постановке: найти такой способ координации, который свёл бы к физически возможному (по-видимому, как-то связанному со вторым законом термодинамики) минимуму неизбежные социальные издержки, которые он порождает.

Ну, а хорошие человеческие отношения поспособствуют гладкой и устойчивой работе такого механизма.

Отправлено спустя 19 минут 18 секунд:

Посмотрите на людей живших сто лет назад. Разве они могли представить что у нас будет космос, интернет и компьютеры?

Разумеется, могли.

Это так кажется, потому что мы смотрим с высоты текущих позиций.

Мне кажется, что люди, рассуждающие таким образом, недооценивают такую возможность, что множество всех физических возможностей может быть конечно, а самые доступные из них уже открыты и используются. Быть может, каждое следующее достижение потребует всё больших затрат времени и энергии на экспериментальную работу (что наблюдаем уже сейчас). Интеллектуальная мощь перед этим вызовом окажется беспомощной: интеллекту для построения новых теорий нужны результаты опытов, а если постановка некоторого важного эксперимента требует тысяч лет, то никто не узнает его результата, пока эти тысячи лет не пройдут.

Каждый имеет право на мечту, и вполне справедливо, что каждый руководствуется своей мечтой. Вселенная, в свою очередь, имеет право на то, чтобы не каждая мечта осуществлялась.

[Pinhead]

skor, практика - критерий истины! Вы впечатлили меня своим экспериментом.
Однако, всё же позволю себе заметить, что Вы сформулировали вопрос несколько иначе. Более конкретно. Исходный вопрос звучал "Какое изображение заставит шкалу опуститься вниз". Попробуйте повторить в такой формировке. К сожалению, я не могу предоставить исходное изображение, там, где я его видел, уже другие каптчи.

Отправлено спустя 12 минут 16 секунд:

Точно знаю, что этот же вопрос задавал ещё совсем недавно (две тысячи лет назад) один парень в Иерусалиме, но мы все знаем чем у него там дело кончилось.

Он ничего не говорил об осознанности. Он основывал свои выводы на том, чего нет.

Всё дело в том, что человек - существо ленивое и эгоистичное, а потому манипулировать легче, чем любить; использовать легче, чем учить; обманывать выгоднее, чем сотрудничать.

Кто бы спорил. Но как-то всё-таки слезли с деревьев и вышли из пещер. Видимо, развитие, хоть и со скрипом, но имеет шанс работать.

Я всё-таки очень сомневаюсь, что кто-либо способен любить каждого. Мне кажется, что это миф. Но я вот подумал: а не достаточно ли уважения?

Нет, уважения недостаточно. Потому что оно предполагает некоторое основание. Любят же просто так, например, за принадлежность к людскому роду. На самом деле, появись какая-то иная цивилизация, этот вопрос вряд ли представлял бы большую проблему. Большинство тут же бы осознало свою родственность.

Можно быть сколько угодно альтруистом и таять от любви к ближнему, но координировать свои действия с целым человечеством всё равно придётся (и надо будет ухитриться не сойти при этом с ума).

Ты взял абсолютно уникальный пример, пример-исключение и выстроил на нём вывод с глобальными последствиями. Очевидно же, что принцип разумной достаточности вполне... достаточен. Уж как-нибудь разумные люди поделят между собой шуруповёрты. Что же касается каких-то экстраординарных случаев, когда прямо-таки кто-то выхватывает ресурсы у другого из зубов, какой-нибудь собранный синклит авторитетных специалистов вполне способен выстроить иерархию задач, исходя из важности для общества!

[Alex Ivanov]

Разумеется, могли.

Может быть отдельные провидцы и могли. Но в большинстве своем никто даже об этом и не задумывался. Тоже самое происходит и сейчас.

Отправлено спустя 3 минуты 55 секунд:

Интеллектуальная мощь перед этим вызовом окажется беспомощной: интеллекту для построения новых теорий нужны результаты опытов, а если постановка некоторого важного эксперимента требует тысяч лет, то никто не узнает его результата, пока эти тысячи лет не пройдут.

Можно симулировать среду и получить те же самые результаты быстрее. Например, сейчас симулируют ядерный взрыв в компьютере чтобы узнать его последствия, вместо того чтобы проводить настоящее испытание.

[skor]

Исходный вопрос звучал "Какое изображение заставит шкалу опуститься вниз". Попробуйте повторить в такой формировке. К сожалению, я не могу предоставить исходное изображение, там, где я его видел, уже другие каптчи.

Попробовал:


P.S. Допустил опечатку -- "упуститься". Тем не менее, был понят правильно

[Нгаан]

Может быть отдельные провидцы и могли.

Именно они испоконвеку и толкали цивилизацию вперёд: Фалес, Ньютон, Лобачевский, Эйнштейн и так далее, а все прочие просто выращивали капусту.

Например, сейчас симулируют ядерный взрыв в компьютере чтобы узнать его последствия, вместо того чтобы проводить настоящее испытание.

Полагаю, что изначально всё-таки нужно провести испытание, и даже не одно, чтобы иметь некоторое представление о том, что собираешься симулировать на компьютере.


Отправлено спустя 5 минут 19 секунд:

Видимо, развитие, хоть и со скрипом, но имеет шанс работать.

Я склонен полагать, что внутривидовая конкуренция является необходимым условием этого развития. Всё о чём можно мечтать, так это о том, как ввести эту конкуренцию в менее разрушительные рамки для биосферы, например, хотя... может быть удел разумных видов "всё пожрать тут и двинуть дале" на новом уровне технологического развития.

[Alex Ivanov]

Вселенная, в свою очередь, имеет право на то, чтобы не каждая мечта осуществлялась.

Можно тогда сделать вселенную которая больше подойдет для наших нужд.

[Нгаан]

больше подойдет для наших нужд

Вот уже несколько тысячелетий эспериментируют, создавая города, и что-то как-то пока не очень получается.

[Alex Ivanov]

Полагаю, что изначально всё-таки нужно провести испытание, и даже не одно, чтобы иметь некоторое представление о том, что собираешься симулировать на компьютере.

Правильно. Пара реальных испытаний и потом тысячи симулированных за одну секунду. Как вам такой результат?

Отправлено спустя 2 минуты 57 секунд:

Вот уже несколько тысячелетий эспериментируют, создавая города, и что-то как-то пока не очень получается.

Компьютеры придумали вообще несколько десятилетий назад. Квантовый компьютер придумают еще быстрее.

[Нгаан]

Как вам такой результат?

История свидетельствует, что парой не ограначились. Хуже того, пара первых испытаний была на живой натуре.