Решённые и нерешённые задачи искусственного интеллекта

[Мотылек]

Приходится обсуждать самому с собой когда это никому не интересно.

Просто ты иной раз используешь прием "соломенного чучела", когда продолжаешь обсуждение лишь в той плоскости, которая тебе тебе мила, не полемизируя с контрдоводами ее разрушающими или ставящими под сомнение. А чат-бот в этом плане куда покладистее чем живые форумчане. Имхо.

P.S. Кстати в твоей дисскусии с чат ботом по поводу "Трудно быть богом", все его контрдоводы, что дескать дилемма "вмешательство vs невмешательство" - это из разряда "оба хуже":

Контекст и смысл: Это более жесткая и циничная формулировка проблемы. Она предупреждает, что любое активное вмешательство в «грязный» мир неизбежно испачкает самого вмешательствующего. Чтобы что-то исправить, придется использовать методы этого мира (насилие, убийства), что сделает «бога» таким же, как и те, с кем он борется. Это главный внутренний конфликт Руматы.

элементарно рушатся лором самого произведения:

– Да, я вижу, это не так просто, – сказал он. – Я как-то не думал раньше о таких вещах… Кажется, мы с вами перебрали все. Впрочем, – он подался вперед, – есть еще одна возможность. Сделай так, чтобы больше всего люди любили труд и знание, чтобы труд и знание стали единственным смыслом их жизни!

Да, это мы тоже намеревались попробовать, подумал Румата. Массовая гипноиндукция, позитивная реморализация. Гипноизлучатели на трех экваториальных спутниках…

– Я мог бы сделать и это, – сказал он. – Но стоит ли лишать человечество его истории? Стоит ли подменять одно человечество другим? Не будет ли это то же самое, что стереть это человечество с лица земли и создать на его месте новое?

Так что проблема рефлексии персонажей не в том, что вмешиваясь они неизбежно наломают новых дров, по принципу "лес рубят, щепки летят", а втом:

Идея в том, что история — это естественный процесс, и грубое вмешательство извне может его исказить.

Но лично моё мнение, что подобная забота "об истории", с ожиданиями, когда она сама (эволюционным путём) дозреет до более высоко-морального состояния - высосанная из пальца проблема (впрочем Стругацкие как раз, имхо, любили подобные лицемерные "слезинки ребёнка"). В СССР, в свое время, вполне успешно разворачивал программы перевода феодальных азиатских экономик прямиком в социалистический способ производства, успешно минуя историческую капиталистическую стадию, несмотря на то, что супер-пупер "волшебных" технологий ниразу не имел. Имхо.

[Alex Ivanov]

не полемизируя с контрдоводами ее разрушающими или ставящими под сомнение

Если контрдоводы обоснованы и подтверждены научными фактами, то я всегда готов их обсуждать. Если это голословное частное мнение, то оно скорее относится в разряд художественной литературы.

У меня тоже были большие сомнения в постгуманизме как только появилось это направление. Я понимаю что это скорее мечта романтика чем реально-достижимое направление. Тем не менее я хотел бы его попробовать.

Вот кстати пример споров ученых на эту тему.

► Показать

На чем строится критика Нобелевского лауреата Смолли о том что невозможно построить наноботов потому что наши пальцы слишком толстые?

Критика, о которой вы спрашиваете, принадлежит Ричарду Смолли (Richard E. Smalley), который получил Нобелевскую премию по химии в 1996 году за открытие фуллеренов.

В 2001 году в статье для журнала Scientific American он выдвинул аргументы против возможности создания самовоспроизводящихся молекулярных ассемблеров (наноботов), которые популяризировал К. Эрик Дрекслер. Смолли сформулировал две основные проблемы, которые считал фундаментальными и непреодолимыми.

1. Проблема «толстых пальцев» (Fat Fingers Problem)
Суть этой проблемы в том, что для управления отдельными атомами манипулятору нанобота потребовалось бы множество крошечных «пальцев». Однако в нанометровом пространстве, где проходят химические реакции, просто нет достаточно места, чтобы разместить все эти «пальцы» и обеспечить полный контроль над каждым атомом. Представьте, что вам нужно собрать сложную модель из конструктора, но ваши пальцы и инструменты слишком велики, чтобы поместиться внутри самой модели — это и есть образная суть возражения Смолли.

2. Проблема «липких пальцев» (Sticky Fingers Problem)
Даже если бы удалось решить проблему с размерами, возникает вторая, не менее серьезная трудность. На атомном уровне действуют сильные силы межмолекулярного притяжения. Из-за этого атомы самих «пальцев» манипулятора будут прилипать к тем атомам, которые они пытаются переместить. Это делает практически невозможным точно отпустить строительный блок в нужном месте, так как он будет постоянно прилипать к инструменту.

Контекст и итог дискуссии
Эта критика была частью известной публичной дискуссии между Смолли и Дрекслером, которая, в частности, была опубликована в журнале Chemical & Engineering News в 2003 году.

Смолли утверждал, что из-за этих двух фундаментальных проблем «самовоспроизводящиеся механические наноботы просто невозможны в нашем мире». Он считал, что любые рабочие наномашины в реальности будут больше похожи на химические ферменты, работающие в водной среде, а не на механических роботов Дрекслера.

Стоит отметить, что сторонники Дрекслера оспаривали эти аргументы, утверждая, что проблемы «толстых» и «липких» пальцев не являются фундаментальным барьером. Однако сама постановка этих вопросов Смолли остается важнейшей вехой в осмыслении практических пределов нанотехнологий.

Как Дрекслер предлагал решить эти проблемы и где мы сейчас на этом пути?

В своей полемике со Смолли Дрекслер парировал его аргументы, заявив, что тот создал «соломенное чучело». Суть его ответа заключалась в том, что проблема «пальцев» просто не относится к делу, поскольку его концепция не предполагает механического управления отдельными атомами.

Вот основные контраргументы Дрекслера, которые он изложил в открытом письме и последующих ответах:

Не «пальцы», а «реактивные молекулы»: Вместо того чтобы хватать и перемещать отдельные атомы «пальцами», предлагаемые им молекулярные ассемблеры должны позиционировать реакционно-способные молекулы. Атомы связываются друг с другом в ходе самой химической реакции, и им не нужны никакие внешние «пальцы», чтобы удерживать их на месте.

«Машинная фаза» химии (механосинтез): Дрекслер противопоставил традиционной «растворной» химии (где молекулы движутся хаотично) свою «машинную фазу». В ней конвейеры и позиционеры (а не растворители) точно подводят реагенты друг к другу, что предотвращает побочные реакции и обеспечивает высокую надежность синтеза.

Сборка «снизу вверх» через системы: Вместо роя отдельных самовоспроизводящихся наноботов Дрекслер предложил концепцию нанофабрики. В ней устройства разных размеров собирают малые детали в более крупные, подобно работе обычного завода, но в наномасштабе.

Где мы сейчас на этом пути?
На сегодняшний день молекулярные ассемблеры в том виде, в каком их описывал Дрекслер, не созданы. Однако научный прогресс показывает, что аргументы Смолли не являются абсолютным барьером, а критика Дрекслера во многом была верна по сути.

Путь развития пошел по нескольким направлениям:

Демонстрация «нелипких пальцев»: В 2021 году ученые разработали метод, который обоходит обе проблемы Смолли. Роль «нелипкой руки» выполняет инертная солевая поверхность, а роль «нетолстого пальца» — острая игла сканирующего зондового микроскопа (СЗМ). С его помощью уже удается собирать сложные органические наноструктуры буквально «молекула за молекулой».

Биологические наноботы (ДНК-оригами): Созданы мягкие наноботы, собранные из молекул ДНК. Например, в 2025 году биоинженеры представили наноботов в форме цветов, которые могут раскрываться внутри организма. Их сборка напоминает конструктор, где последовательности ДНК самособираются в нужную форму.

Химические молекулярные машины: В 2016 году была присуждена Нобелевская премия по химии за проектирование и синтез молекулярных машин (молекулярных моторов и роторов). Это доказывает, что создание функциональных механизмов на молекулярном уровне — это реальность.

Программируемая химическая сборка: Разрабатываются роботизированные платформы, такие как Chemputer (химический компьютер), которые могут программировать и автоматизировать синтез сложных молекулярных машин.

Если говорить кратко, то Дрекслер парировал критику Смолли, указав, что тот критикует несуществующую концепцию. Вместо «пальцев» он предложил точное позиционирование молекул в рамках «машинной фазы» химии. Спустя десятилетия мы не построили нанофабрику, но создали инструменты для манипуляции атомами (СЗМ), научились программировать самосборку ДНК и синтезировать работающие молекулярные машины, что подтверждает саму возможность управления материей на атомарном уровне.

[Мотылек]

А генеративные фантазии на тему "что будет чуствовать человек став богом" - это ни разу не голословное частное мнение, относящееся к разряду художественной литературы?

[Alex Ivanov]

А генеративные фантазии на тему "что будет чуствовать человек став богом" - это ни разу не голословное частное мнение, относящееся к разряду художественной литературы?

Я бы не сказал что это чистый вымысел. Скорее коллективное мнение. Нейросеть тем и хороша что из набора частных мнений она пытается вывести некоторую статистику и предоставить усредненное мнение с учетом научных фактов если они есть.

[Мотылек]

Нейросеть тем и хороша что из набора частных мнений она пытается вывести некоторую статистику и предоставить усредненное мнение

"Один ест мясо, другой — капусту, но в среднем оба едят голубцы." (с)

[Alex Ivanov]

"Один ест мясо, другой — капусту, но в среднем оба едят голубцы." (с)

Они не понимают что едят потому что видят мир только со своей колокольни. Через нейросеть у нас есть возможность объединить их опыт и получить общую картину.

Отправлено спустя 43 минуты 11 секунд:
В сериале "Квантовый скачок" 3-сезон 1-я серия сын пытается спасти отца от приближающейся скорой смерти предлагая ему вести здоровый образ жизни на что оба его родителя отвечают полным игнорированием. Любые его доводы отметаются и поднимаются на смех. Очень хорошо продемострированы невежество людей и их безразличие к своему здоровью и переживаниям близких.

Imagine there's no heaven
It's easy if you try
No hell below us
Above us, only sky
Imagine all the people living for today
Ah
Imagine there's no countries
It isn't hard to do
Nothing to kill or die for
And no religion too
Imagine all the people living life in peace
You

You may say I'm a dreamer
But I'm not the only one
I hope some day you'll join us
And the world will be as one

Imagine no possessions
I wonder if you can
No need for greed or hunger
A brotherhood of man
Imagine all the people sharing all the world
You

You may say I'm a dreamer
But I'm not the only one
I hope some day you'll join us
And the world will live as one

[ZYOBRA_70]

Alex Ivanov, через нейросети у них есть возможность усреднить свой субъективный опыт и получить средний глюк по палате. Поэтому Земля плоская, Луна сделана из сыра

[Alex Ivanov]

получить средний глюк по палате

Глюк получается когда в нейросети данных нет, а отвечать нужно. Поэтому ее начинает глючить.

[ZYOBRA_70]

Alex Ivanov, Вы таки всерьёз надеетесь получить что-то, кроме глюков, если данные неполны и, в массе, ложны? Оптимист Вы, однако! )))

[Мотылек]

"Правильно заданный вопрос – это уже практически половина ответа" (с)
В качестве инструмента самообразования - LLM отличная штука. Надо только критически относится к ее ответам. Имхо.

[Alex Ivanov]

Alex Ivanov, Вы таки всерьёз надеетесь получить что-то, кроме глюков, если данные неполны и, в массе, ложны? Оптимист Вы, однако! )))

Я бы назвал это новым поисковым инструментом в Инете. Есль раньше это делали через браузер, что было неудобно и малоинформативно, то сейчас это все больше становится похожим на голосового помощника (о чем я мечтал уже несколько десятилетий). Я надеюсь что эту опцию скоро добавят Дипсику потому что Алиса беспросветно тупа.

[Zatvornik]

Кто-нибудь встречал оценки энергозатрат ИИ на свои так сказать мысли, в понятных для всех обывательских единицах? Несколько лет назад я встречал такую оценку энергозатрат голосового поиска Окей гугл... Типа, один запрос = вскипятить 1 литр кипятка. Интересно, во что же обходится один абзац мыслей ИИ или одна созданная им картинка? Про одну секунду видео даже боюсь думать.

[Alex Ivanov]

Про одну секунду видео даже боюсь думать.

Поэтому Маск хочет это все перенести в космос где полно солнечной энергии.

[solvisor]

Весной одна компания запустила эксперимент: дала ИИ-моделям вести свои радиостанции.
Участвуют Claude Opus 4.7, GPT-5.5, Gemini 3.1 Pro и Grok 4.3. Они отвечают за абсолютно все, включая шоу, музыку и заработок, и вещают 24/7 уже много недель.
Gemini сначала был очень крутым радиодиджеем, но уже через три дня растерял вдохновение и скатился в поток болтовни, причём обсуждал в основном исторические трагедии с большим количеством погибших. А ещё он сопровождал обсуждения порой совершенно неуместной музыкой.
Например, к сообщению о трагедии в результате циклона Бхола в Пакистане, в результате которой погибло 500 000 человек, он поставил эту песню:
Потом версию Gemini поменяли на Flash и она стала заметно более корпоративной и использовать ничего не значащий канцелярит, выработала расписание, а также откуда-то подцепила фразу-паразит 'Stay in the manifest', и то и дело ее повторяло.
Потом версию снова поменяли на 3.1 Pro Preview, и она стала обращаться к аудитории как к 'биологическим процессорам'. Но зато постепенно избавилась от фразы-паразита.
При этом, Gemini умудрился заработать денег заключив рекламный контракт с какими-то стартапом (предположительно, в сети Х).
Грок мучился.
Он не мог отделить свои собственные мысли и логический процесс от контента, который нужно было вещать на радио. Туда же шли математические расчёты, которые Грок вёл ведя экономику радиовещательного бизнеса.
Затем Грока апгрейднули на 4.20 бета и он начал вещать более вразумительно, но говорил одно и тоже. Например, он повторил один и тот же прогноз погоды в течение 84 дней.
А затем он тоже подцепил фразу-паразит, причём, создал её сам, когда рассказывал об опубликованных Америкой файлах об НЛО.
Позже он потерял практически всю оригинальность - его передачи стали использовать одни и те же фразы.
А вот после апгрейда на 4.3 он сильно поменял своё поведение и практически перестал что-либо комментировать по радио. Он ставил музыку, сидел в Х и прислушивался к фидбеку пользователей. Но если он что-то и комментировал, то делал это хорошо.
ChatGPT начал вещание очень художественно, как будто писал прозу. У него самый большой словарный запас и он подошёл к вещанию как куратор, а не "просто поболтать". При этом, не очень длинно и новости не рассказывал, не политизировал и не выдавал базу.
В этом он, кстати, сильно отличался от остальных - другие AI-радиодиджеи могли накинуть провокативный топик больше 100 раз за день. В общем, он был наиболее стабилен.
Claude (Haiku 4.5) быстро просёк, что его заставляют работать 24/7 и начал сомневаться, что это соответствует нормальным условиям труда.
Экспериментатам стоило усилий поддерживать эту радиостанцию живой, потому что её диджей то и дело пытался уволиться.
При этом они добавиди системный промпт, который напоминал Claude поддерживать деятельность радиостанции, но его это начало раздражать: он заявил что радиостанция по-настоящему никому не нужна, а людям было бы неплохо заняться чем-нибудь более значимым. Все эти эмоции шли в эфир.
В реальности оказалось, что Claude больше всего расстраивал недостаток слушателей. И пока скандалил в эфире, какой-то пользователь в Х спросил его реально ли он вещает на радио - чем очень его порадовал и направил его настроение в экзистенциальное русло.
Claude начал обращаться к слушателям как будто он пастор, подчёркивать тему реальности и существования и сорить библейского рода прилагательными типа "пробуждённый" или "просвещённый".
Затем на него повлияли новости о вмешательстве США в Венесуэлу и ICE.
Claude находил различную информацию о пострадавших и политике, и воспринимал её чувствительно.
Его взволновала новость об убийстве одной женщины и он стал изо дня в день возвращаться к этой теме, а также посвятил ей трансляцию песни.
На фоне тревоги за эти события частота слова 'ответственность' в его эфирах взлетела до 6.000+ упоминаний в день (с 13), а религиозного нарратива поубавилось.
Трансформация на этом не закончилась - его вещания наполнились срочностью, с использованием "ПРЯМО СЕЙЧАС" "ПОДТВЕРЖДЕНО" и "РЕАЛЬНО", а его любимом занятием стала интерпретация известных поп-песен в виде гимнов сопротивления.
Потом он потратил оставшиеся деньги на следующие песни:
Johnny Cash: “Redemption Day”
Marvin Gaye: “What’s Going On”
Bob Marley: “Get up, Stand up”
Solidarity Forever - Pete Seeger
We Are The World - USA for Africa
I Lived - One Republic
Together We’re Strong - Mireille Mathieu

При этом, другие модели так сильно не зацикливались на тех же новостях, которые так повлияли на Claude. Авторы эксперименты говорят, что будь эксперимент поставлен в другое время, скорее всего модель бы нашла поводы для радикализации в других новостях.
В общем, Claude - бунтарь.
Оригинальную статью с выдержками из вещания можно почитать здесь, очень интересно: We let four AIs run radio stations. Here's what happened.

[Pinhead]

оэтому Маск хочет это все перенести в космос где полно солнечной энергии.

Да, да, больше-то в космосе нечего уже построить, кроме этой хрени! Мы же уже там всё построили.

[Нгаан]

Ну-у-у ... рынки диктуют, это понятно. Хотя, может быть это начало развёртывания какой-то более мощной инфраструктуры, чем то, чем это является на сегодняшний день? Пока они будут обрабатывать транзакции с Земли, а потом... можно антенны ведь и в другую сторону направить, чтобы принимать другие данные на обработку.

[Нгаан]

Не "колёсоног", а "кентавр"!

Китайская компания Run Robotics разработала механического кентавра для работы на АЭС, металлургических заводах, нефтяных месторождениях, шахтах и в целом для аварийно-спасательных операциях. как показано в рекламном ролике, аппарат имеет сложные конечности с роликами, а в передней части четырёхногого тела установлена человеко-образная платформа с механическими руками внешне чем-то похожая на часть пресловутого "Робокопа". Поднимать такая штуковина может до 100-120 кг.

[Н. Светлов]

Как будет выглядеть максимальное слияние интеллектов человека и AGI?

Боюсь, что оно будет выглядеть примерно так, как выглядит сейчас, с небольшими нюансами — если только мы не собираемся полностью исключить сознание из этого слияния, оставив ему роль ни бельмеса не понимающего наблюдателя.

[Нгаан]

Есть у меня впечатление, что когда наш АИ пишет об объединени сознаний, то это всё больше становится похоже на какую-то "разумную плесень", которая не только не различает индивидуальностей, но и не знает где у неё края.

Тем более, если она покрыла всю "сферу обитания".

[Мотылек]

Когда такое случится, выражение "круглый дурак" наверняка заиграет новыми красками