Решённые и нерешённые задачи искусственного интеллекта

[skor]

заявленная ссылка

Весьма интересная статья, кстати. И даже похоже на правду: действительно, точность 8-битного представления чисел с плавающей точкой настолько мала, что честная реализация умножения для них не имеет особого смысла и может быть аппроксимирована значительно более простой формулой.

[Лилия]

тут как раз симметричная ситуация -- наука толком не знает ни как задачи решаются биологическим мозгом

Науке много чего известно.
Если не известно лично Вам, ещё не значит, что не известно науке.
И пока из дискуссии выходит, что программированию, как науке, известно и того меньше.

Полагаю, что здесь были бы уместны какие-то аргументы

Как бы постоянно привожу. Упрощаю предельно, но видимо всё равно сложно для понимания, если человек далёк от темы.

Но с моделями значительно легче экспериментировать, и этим активно занимаются.

Это да. С моделями проще.

[skor]

Науке много чего известно.
<...>
И пока из дискуссии выходит, что программированию, как науке, известно и того меньше.

Вы уж разберитесь, пожалуйста, много науке известно или "и того меньше"

Полагаю, что здесь были бы уместны какие-то аргументы

Как бы постоянно привожу. Упрощаю предельно, но видимо всё равно сложно для понимания, если человек далёк от темы.

Мне кажется, вам это приснилось.

[Лилия]

Мне кажется, вам это приснилось.

А как Вы хотите, всю нейронауку объяснить в двух словах?
Хотите коротко, уже писала, мозг, сложен практически, как Вселенная.
Можно посмотреть лекции Вячеслава Дубынина. Очень хорошо рассказывает. И один из очень немногих, который делает это в открытом доступе.
Как он сам говорит его видео рассчитаны на уровень студентов 1курса психологического факультета и широкого круга интересующихся. Как мне кажется, если у человека есть среднее школьное образование, его лекции вполне понятны.
Но Вы вряд ли будете его слушать? Ибо самоуверенны в своём?
Читать вузовские учебники думаю советовать смысла нет. Это считай, как советовать идти получать другое высшее.

Вы уж разберитесь, пожалуйста, много науке известно или "и того меньше"

Программированию, похоже из Ваших ответов известно и того меньше, чем нейронауке.

[Нгаан]

мозг, сложен практически, как Вселенная.

Насчёт "как" есть вопросы, но насчёт сложности ... мы вроде бы этого и не оспаривали, а просто намекали на то, что уже сейчас создаются системы, про которые нельзя однозначно сказать многое из того, что можно было сказать ещё 50 лет назад. И с каждым годом таких систем в различных областях деятельности будет становиться всё больше. Разумные "биороботы" не появятся в этом мире одномоментно. Они будут "вырастать" вместе с технологиями и сколько на это понадобится времени, и какого они в итоге будут вида - это непонятно. Одни мечтают об антропоморфах, другие мечтают о том, что человек станет сгустком информации и лишится своей биологической сущности. Я полагаю, что и то, и другое это фантазии. Первое как техническое направление отомрёт за ненадобностью, второе не появится из-за абсурдности в сравнении с устройством жизни в известной части Вселенной. Биотехнологические системы будут разнообразны, часто специализированы, и вовсе даже не похожи на живых людей.
Такое моё мнение.

[Лилия]

Насчёт "как" есть вопросы,

Какие? Попробуйте начать изучать мозг на уровне высшего образования. Думаю, вопросов не останется.

а просто намекали на то, что уже сейчас создаются системы, про которые нельзя однозначно сказать многое из того, что можно было сказать ещё 50 лет назад.

А потом попробуйте сравнить сложность строения мозга и ИИ. Тоже думаю, разница будет очевидна.

Разумные "биороботы" не появятся в этом мире одномоментно.

Не знаю, появятся- не появятся. Пока всё что появилось, можно назвать только имитацией сознательной деятельности.
И то не всей конечно, а отдельно взятой функции. Но назвать это сознанием, думаю нельзя.
Хотя я на работе тоже могу прикалываться, когда комп виснет, типа ну что устал, обед скоро, хватит работать?

Биотехнологические системы будут разнообразны, часто специализированы, и вовсе даже не похожи на живых людей.
Такое моё мнение.

Пока моё мнение, все системы ИИ это программы, разработанные гением человека.
Насколько тот или иной робот похож или будет похож на разумного зависит от того, как хорошо это всё будет разработано человеком.

[Нгаан]

начать изучать мозг на уровне высшего образования

Но как мне изучать Вселенную на уровне высшего образования, чтобы потом сравнить одно и другое? "Эквивалентная сложность" это, знаете ли, должно быть как-то выражено в параметрах, желательно цифровых, чтобы можно было поставить знак "больше", меньше" или "равно" (как вы утверждаете).


Оно, конечно, страхи от неизвестности, но вот и нобелевские лауреаты что-то зашевелились:

Обладатель Нобелевской Премии по физике 2024 года Джеффри Хинтон выступил с предупреждением о будущем ИИ.

«У нас нет опыта иметь вещи, которые умнее нас. Но так скоро и будет - вместо того, чтобы превосходить людей по физической силе, ИИ превзойдут нас в интеллекте. Я обеспокоен тем, что системы, более разумные чем мы, в конечном итоге возьмут нашу жизнь под контроль».

С другой стороны:

Компания Apple провела исследование на способность нейросетей создавать логические связи.

Тестированию подвергся ряд популярных языковых моделей, таких как ChatGPT, Llama, Phi, Gemma и Mistral.

Ни одна из моделей не смогла продемонстрировать логического мышления, а способности к рассуждению, которую некоторым из них приписывают, в сущности основана на системе продвинутого воспроизведения шаблонов.

[Н. Светлов]

Это ОЧЕНЬ странное рассуждение!

Возможно, это профессиональная девиация. Но я, анализируя, в том числе на моделях, различные механизмы координации, и знакомясь с такого рода анализом, выполненным другими людьми, не ввожу предположений о человеческой психике. Но, тем не менее, вижу чисто кибернетический тупик в поиске общего и эффективного решения проблемы координации.

Возможно (и наверняка), желание доминировать усугубляет проблему. Возможно, желание доминировать куда хуже по своим последствиям, чем проблема координации. Но возможно также, что именно проблема координации служит опорой стремлению доминировать. Так или иначе — повторюсь, в моделях, которые лежат в основе моих представлений обо всём этом, предположение о желании доминировать отсутствует.

Я, кстати, согласен с тем, что человека, по большому счёту, не изменишь, но вполне допускаю возможность таких социальных условий, которые обращают недостатки в достоинства или хотя бы нейтрализуют их. Оттого не исключаю, что капитализм, вопреки присущим человеку звериным качествам, преодолим. В конце концов, многие другие импликации звериных качеств в основном преодолены уже сегодня.

неминуемое скатываемое к наименее энергозатратному варианту

Наоборот! Открытые диссипативные системы эволюционируют в направлении, противоположном второму закону термодинамики, расходуя на это энергию и добиваясь за счёт этого среднего времени существования (в качестве индивидуума и в качестве популяции), на порядки превосходящего обусловленное этим законом. Это и есть целесообразность.

Хотя, если речь идёт о живых организмах, тут нужна оговорка.

Вот именно!

Но процессы организации присущи не только живым организмам. Любое грозовое облако, даже на Юпитере, — это открытая диссипативная система, самоподдерживающаяся за счёт притока энергии из среды. Просто в живых организмах эти процессы зашли особенно далеко.

Отправлено спустя 4 минуты 48 секунд:

а способности к рассуждению, которую некоторым из них приписывают, в сущности основана на системе продвинутого воспроизведения шаблонов.

Ну наконец-то хотя бы до Apple дошло то, что знает каждый, кто хотя бы мало-мальски в теме

Нейросети ценой огромных усилий специалистов научились правильно считать пальцы на руках при рисовании картинок, но отчего-то не в состоянии перенести эти навыки на подсчёт других предметов. Приходится либо обучать счёту заново при появлении в когнитивном пространстве нейросети каждого нового счётного объекта, либо предусматривать костыли в форме продукционных правил.

[skor]

А как Вы хотите, всю нейронауку объяснить в двух словах?

Не надо всю. Надо ту часть, которая обосновывает невозможность создания разумных машин.

А потом попробуйте сравнить сложность строения мозга и ИИ. Тоже думаю, разница будет очевидна.

И в чём измеряется сложность строения мозга, в количестве нейронов?

И как сложность влияет на способность решать задачи? А то я читал, что мозг слона устроен сложнее мозга человека (300 миллиардов нейронов у слона, и 90 миллиардов -- у человека), но ни разу не слышал, чтобы слон хотя бы таблицу умножения освоил.

Но как мне изучать Вселенную на уровне высшего образования, чтобы потом сравнить одно и другое?

Дубынина слушай! И сразу всё сравнишь, и вопросов не останется вообще -- будут одни ответы

[Лилия]

Надо ту часть, которая обосновывает невозможность создания разумных машин.

Тоже писала, хотя бы потому, что разум в природе не зародился в железе. Хотя железо вроде как тоже природный материал.
Наличие мозга с нейронами пока единственный известный вариант, который
обеспечивает наличие собственного сознания. Даже у слона оно есть, хотя он и не может выучить таблицу умножения.
На каком основании Вы решили, что это возможно в железе? Ну есть какие-то гипотезы. Пока они все на уровне "ах, у Фимы предчувствие"

Дубынина слушай! И сразу всё сравнишь, и вопросов не останется вообще -- будут одни ответы

Так Вы попробуйте сначала. Полагаю Вам даже это будет очень не просто.
Не говоря уже о том, чтобы пойти учиться дальше.

И как сложность влияет на способность решать задачи?

Способность решать задачи, это ещё не разум. Калькулятор и компьютер и сейчас решают определенные задачи. Вы полагаете они разумны?

Я обеспокоен тем, что системы, более разумные чем мы, в конечном итоге возьмут нашу жизнь под контроль».

Нгаан, и не только он об этом говорил. Ранее уже упоминали, что Маск и даже Дубынин тоже не исключает.
Поэтому нам и не нужно особо стремиться к созданию разумных машин. Лучше вести разработки под определенные задачи.
А то кто знает, окажется разработчиком какой нибудь социопат и первым сознательным действием такого ИИ может действительно стать решение понажимать красные кнопки, которые люди сами же себе и понаставили.

[Нгаан]

разум в природе не зародился в железе. Хотя железо вроде как тоже природный материал.

Не забывайте, что железо является очень важным элементом, участвующим в обменных процессах. Хронический дефицит железа приводит к очень тяжёлым недугам.

Разъясняю: в живых организмах встречаются практически все элементы периодической таблицы, что может подсказывать нам, что современные искусственные системы и в этом плане "катастрофически неполны".


Отправлено спустя 5 минут 7 секунд:

Поэтому нам и не нужно особо стремиться к созданию разумных машин.

Если бы на Земле был мир да согласие, то я бы может быть поднял все четыре лапы за это предложение, но с учётом глобального противостояния такая постановка вопроса может оказаться весьма трагичной в будущем, особенно, если с той стороны "железные солдаты Урфина" обременённые развитым ИИ, и сходящие с конвейеров, как горячие пирожки, а с этой - биологические объекты с эмоциональной психикой, которых 20 лет растить и учить нужно.

[Лилия]

Не забывайте, что железо является очень важным элементом, участвующим в обменных процессах.

Является, одним и из. Но не основным.
Может это такое условие разумности. Должны присутствовать все элементы таблицы Менделеева, причём строго в определенной структуре, пропорции и количестве.

Если бы на Земле был мир да согласие,

Вот именно. А так, что люди могут напрограммировать? Только себе подобное.

[skor]

Надо ту часть, которая обосновывает невозможность создания разумных машин.

Тоже писала, хотя бы потому, что разум в природе не зародился в железе.

Суровая нейронаука пошла

Давайте я вам по аналогии обосную невозможность полёта самолёта. Смотрите, все животные, способные к полёту, машут крыльями. Это единственный известный вариант, обеспечивающий полёт объекта, который тяжелее воздуха. А самолёт крыльями не машет, поэтому летать не может.

Аналогично, современные корабли не могут плавать, потому что в природе не зародились гребные винты. Более того, даже простая телега не может ездить -- вы видели где-нибудь в природе ось, на которую насажены колёса?

► Показать

Что касается железа, то, насколько мне известно, в кремниевых микросхемах оно не используется. Современные процессоры могут содержать золото, палладий, рутений, серебро, платину, но не железо.

[Лилия]

Суровая нейронаука пошла

Суровая не пошла и не пойдет.
Суровая в университетах, а не на форумах фантастики.

Что касается железа,

Понятно, что не используется, речь шла о металлах в принципе.

А самолёт крыльями не машет, поэтому летать не может.

По аналогии, самолёт, как и корабль не являются разумными и живыми тоже.

[Олег К]

хотя бы потому, что разум в природе не зародился в железе.

Когда разум в природе зарождался, железо было слабое)

[Нгаан]

Что касается железа, то, насколько мне известно, в кремниевых микросхемах оно не используется.

Зато как мощно оно используется в производстве этих самых микросхем!

Но не основным.

Ну, конечно! А гемоглобин?

[skor]

А самолёт крыльями не машет, поэтому летать не может.

По аналогии, самолёт, как и корабль не являются разумными и живыми тоже.

Но зато являются более длинными, чем зелёными!

[Falcon]

А самолёт крыльями не машет, поэтому летать не может.

Ясное дело. Это всё от бесов!

[Лилия]

А гемоглобин?

Посмотрите биохимическую формулу гемоглобина. Железа там очень немного.

А зря списывать со счетов фимино предчувствие.

В данном моменте, фраза продолжается словами "Ах, у Фимы предчувствие, побольше бы ему верить. Так и знал что ничего мы здесь не обнаружим, кроме ржавого замка." Цитата Коли Сулимы.

Потому как Фима логически выстраивал цепочку причино-следственных связей.

Да какие там связи? Что Алиса прилетела в прошлое, чтобы Колю ликвидировать, потому как он опасный преступник?

Но как друг Коли, естественно, участвовал во всех его злоключениях.

Главным злоключением Коли было угодить в лапы пиратам. А Фима даже в заброшенный дом не пошел, а все последствия их причинно следственных связей пошла разгребать Алиса. Вот где была его логика, когда он со всеми одноклассниками убежал совсем в другую сторону? Хотя может и к лучшему, что убежал, меньше потенциально пострадавших. В данном случае Марта, куда более удачный вариант, у нее хоть был какой-то алгоритм действия реагирования в подобной ситуации, а не просто головами по сторонам крутить.

И именно пример Фимы с анализом происходящих и следующих за ним событий я взял на вооружение в своё время.

Если я что-то и взяла из поведения Фимы в своё время, это понимание того, что не надо излишнее впадать в параноидальные подозрения.

Как я не понимаю, как тут ответы действуют . Как-будто сам себе отвечаю. Я же со смарта пишу, а не с компа. И вылазит ответ - самому себе!

Да, со смартфона есть такое. Приходиться самому исправлять, чья цитата была.

[Нгаан]

Железа там очень немного.

Угу, но без него "не работает". Вот были бы люди "хлорофильной" формой, тогда другой разговор.