Решённые и нерешённые задачи искусственного интеллекта

[Нгаан]

Допустим, физика позволяет создать звездолёт, развивающий 1% скорости света. На нём до Проксимы Центавра можно долететь за 400 лет, а потом ещё столько же лететь обратно.
...
представим, что нам удалось с помощью редактирования генома постепенно, за много-много поколений, снизить скорость метаболизма человеческого организма в 100 раз. В результате люди стали в среднем жить не 80 лет, а 8000.
...
Понятно, что стократное замедление сделает возможным распространение человечества лишь на ближайшие окрестности Солнечной системы. Но кто мешает после этого замедлить метаболизм ещё на пару порядков и заселить туманность Андромеды?

Уж коли мы здесь все фантасты, то я позволю себе указать (выделением) на уязвимое место в этом стратегическом плане.

"Есть другая информация, пожалуйста."

Одномоментного прорыва во Вселенную не будет, но будет постепенное просачивание. (Вот те самые ваши много-много поколений). Будут построены космические острова с автономными энергетическими установками, с технологиями нанокопирования (здесь будет совершена следующая научная революция), с замкнутыми циклами переработки отходов, с разбором астероидных и прочих материалов. Там будут гореть искусственные солнца. Эти острова будут постепенно отдаляться от родной Солнечной системы, а вслед за ними будут отправляться всё новые и новые. Так будет выстраиваться комический мост или, если вам угодно, те кочки, по которым можно будет прыгать в глубину вселенского болота. Новые острова будут совершеннее тех, что уже отправились раньше. Они будут замещать старые, разбирая их на материалы и мостить новые кочки впереди себя. Это как железнодорожный путеукладчик, только рельсы подвозить не нужно, потому что они делаются прямо на месте.

Ибо "дорогу осилит идущий".

[Олег К]

новые дизайнерские породы собак можно будет выводить быстрее

Зачем замедленному человеку дизайнерская собака, все-равно он не сможет разглядеть это подвижное, как блоха, писклявое существо, да еще и в инфракрасном свете. Если замедлять, так уж всех, иначе сожрут.

[Мотылек]

Так будет выстраиваться комический мост или, если вам угодно, те кочки, по которым можно будет прыгать в глубину вселенского болота.

Не вижу в этом особого смысла. Другой разговор если бы эти острова были нужны как пересадочные станции магистрали/сети каких то порталов-телепортаторов, а так зачем?

P.S. Кстати у П. Уоттса есть рассказ на эту тему "остров". Про такой вот корабль, который долго-долго разгонялся и теперь летит на около релятивистских скоростях, оставляет после себя такие вот "пересадочные станции". Но драма там в том, что для экипажа - это путь в один конец, без возможности вернутся и им даже неизвестно пользуется плодами их труда и жертвы именно человечество (которое их отправило) или уже кто то другой (плюс еще крайне непростые отношения с корабельным ИИ, который как "Хал 9000" из Кубриковской "космической одиссеи" терпит экипаж только пока они не мешают ему и миссии).

[Alex Ivanov]

Нужно посадить нанороботов на корабли Breakthrough Starshot и отправить их до ближайших экзопланет (скорость полета 20% скорости света). А там они все остальное сделают сами.

[Н. Светлов]

Механизмы лавинообразного ускорения:

Этот ответ ИИ как раз и говорит о том, что до интеллекта искусственному интеллекту ещё далеко.

Чтобы он рассказал о препятствиях лавинообразному ускорению, его нужно спросить о препятствиях лавинообразному ускорению. Сам он не догадается

► Показать

С другой стороны, всегда существуют обходные пути

► Показать

Да, существуют. Хотя, быть может, и не всегда.
Но вот этот конкретный я бы покритиковал. Чтобы замедлить метаболизм человеческого организма, нужно одновременно замедлить метаболизм всех симбионтов и паразитов. Иначе более-менее ясно, что произойдёт . И если с симбионтами ещё где-то как-то можно решить эту задачу, то переловить и отредактировать всех паразитов до состояния комгуся — это да, это челлендж для настоящих Гераскиных!
Можно, правда, наслать на эту живность рой нанороботов. Но вдруг не справятся? Стрёмно как-то

Будут построены космические острова с автономными энергетическими установками

Прикинул материалоёмкость. Пришёл к выводу, что, пожалуй, на материале пояса астероидов с использованием самовоспроизводящихся роботов нечто подобное мало-помалу реализуемо. Правда, нужно ещё дожать проблему надёжных замкнутых сред обитания, которая покамест даже в первом приближении не решена. Известно о её разрешимости в масштабах планетки с обхватом талии в 40 тыс. км. (правда, колмогоровская сложность такой среды существенно превышает колмогоровскую сложность человечества вместе со всеми его научными и инженерными достижениями). Для каких ещё масштабов она разрешима — вопрос открыт.

Не вижу в этом особого смысла.

Это не проблема. Всегда найдутся те, кто видит. Тараканы бывают разных цветов.

[Alex Ivanov]

В Китае разрабатывают человекоподобного «беременного» робота с искусственной маткой, способного вынашивать ребёнка от зачатия до родов, заменив женщину.

Хотелось бы отметить что есть решения где матка совсем не нужна. Например, яйца и икринки. Они сами по себе являются наноассемблерами и им не нужна никакая поддерживающая инфраструктура в виде матки.
Из яйца размером с футбольный мяч вырастал Тираннозавр T-Rex весом 8 тонн и длиной 12 метров.

[skor]

Одномоментного прорыва во Вселенную не будет, но будет постепенное просачивание. (Вот те самые ваши много-много поколений).

В моём мысленном эксперименте предполагается, что много-много поколений пройдут в пределах Солнечной системы, а затем, после замедления метаболизма в сто раз, произойдёт одномоментный прорыв в окрестности Солнечной системы на глубину 3--5 парсек.

Т.е. смысл заключается в том, чтобы человечество сохраняло связность, а не рассыпалось на отдельные изолированные популяции.

► Показать

Чтобы замедлить метаболизм человеческого организма, нужно одновременно замедлить метаболизм всех симбионтов и паразитов.

Я думаю, всех симбионтов и паразитов так и так придётся ликвидировать, а пищеварение сделать внешним. Всё равно суп будет остывать быстрее, чем донесёшь ложку до рта.

В общем, прощай мороженка

[Alex Ivanov]

Чтобы он рассказал о препятствиях лавинообразному ускорению, его нужно спросить о препятствиях лавинообразному ускорению. Сам он не догадается

► Показать

На пути к созданию Искусственного Общего Интеллекта (AGI) и Искусственного Суперинтеллекта (ASI) существуют фундаментальные препятствия, требующие междисциплинарных решений. Ниже представлен детальный анализ ключевых проблем и перспективных путей их преодоления, основанный на актуальных исследованиях и экспертных оценках.

1. Когнитивные и архитектурные ограничения

Проблемы:

Отсутствие здравого смысла и модели мира: Современные ИИ оперируют статистическими паттернами, а не глубинным пониманием причинно-следственных связей. Например, ИИ может генерировать текст о падающей ложке, но не понимает гравитацию, как ребенок.

Хрупкость рассуждений: Нейросети совершают грубые логические ошибки при многоэтапном планировании, так как имитируют рассуждения, а не мыслят.

Катастрофическое забывание: При обучении на новых данных модели теряют старые знания, что исключает непрерывное обучение, характерное для человека.

Пути решения:

Гибридные архитектуры: Комбинация нейросетей (коннекционизм) с символьными системами, кодирующими правила логики (например, OpenCog Hyperon).

Имитация интуитивного понимания мира: Внедрение "мировых моделей" (world models), обучающих ИИ физическим законам через симуляции (DeepMind).

Двухуровневая память: Динамическая рабочая память для текущих задач и долговременная — с механизмами верификации фактов.

2. Ограничения обучения и данных

Проблемы:

Зависимость от объёмов данных: Тренировка GPT-4 потребовала терабайты текста, но человеческий мозг обучается на порядки эффективнее.

Галлюцинации: Вероятностная генерация токенов приводит к ложным утверждениям, поскольку ИИ не различает истину и вымысел.

Неспособность к переносу знаний: Узкий ИИ (ANI) не адаптирует навыки между доменами: медицинская модель не оптимизирует логистику.

Пути решения:

Обучение с подкреплением в симуляциях: ИИ-агенты (например, Operator от OpenAI) учатся через взаимодействие со средой, а не пассивные данные.

Квантовое обучение (Few-shot learning): Модели типа GPT-4o сокращают потребность в данных за счёт контекстного вывода.

Механизмы фактчекинга: Интеграция внешних баз знаний для верификации выводов в реальном времени.

3. Ресурсные и инфраструктивные барьеры

Проблемы:

Энергозатратность: Обучение GPT-3 потребовало ~1.3 ГВт⋅ч — эквивалент годового потребления 130 домохозяйств.

Ограничения железа: Доля NVIDIA на рынке ИИ-чипов — 90%, но даже её новейшие GPU Rubin не решают проблему экспоненциального роста параметров моделей.

Стоимость инфраструктуры: Для ASI потребуются дата-центры стоимостью >$1 трлн, а их энергопотребление может превысить ресурсы малых стран.

Пути решения:

Специализированные процессоры: TPU Google, оптимизированные для матричных операций, и FPGA, перепрограммируемые под задачи.

Квантовые вычисления: Пилотные проекты IBM и Google для ускорения оптимизации нейросетей.

Распределённые системы: Федеративное обучение, где данные обрабатываются локально на устройствах, снижая нагрузку на ЦОДы.

4. Этические и философские вызовы

Проблемы:

Парадокс контроля: ASI, превосходящий человеческий интеллект, может игнорировать команды (проблема "агент-ориентированности").

Манифестная судьба vs. осторожность: Технооптимисты (Илон Маск) ускоряют разработку AGI, тогда как "алармисты" (Бостонский манифест) требуют запрета исследований.

Потеря агентности человека: Риск формирования парасоциальных отношений с ИИ, где люди делегируют решения без критической оценки.

Пути решения:

Выравнивание ценностей (Value Alignment): Техники типа RLHF (обучение с подкреплением на основе человеческих предпочтений) для внедрения этических норм.

Регуляторные рамки: Глобальные инициативы вроде AI Act ЕС, требующие сертификации ИИ-систем для критических областей.

Техники интерпретируемости: Инструменты типа LIME и SHAP для визуализации "причин" решений ИИ.

5. Теоретические тупики и необходимость парадигмального сдвига

Проблемы:

Кризис масштабирования: Закономерности типа "Scaling Laws" (Kaplan, 2020) показывают, что рост параметров улучшает качество, но не гарантирует появление мышления.

Отсутствие теории ИИ: Современные архитектуры создаются эмпирически, а не на основе математических моделей сознания.

Проблема квалиа: AGI может имитировать эмоции, но воспроизведение субъективного опыта (например, эмпатии) остаётся спорным.

Пути решения:

Нейро-символическая интеграция: Проекты вроде MIT's Neuro-Symbolic Concept Learner, объединяющие глубокое обучение с логическим выводом.

Исследования сознания: Применение теорий интегрированной информации (IIT) для проектирования архитектур с псевдо-сознанием.

Коллаборации с нейронаукой: Изучение механизмов памяти мозга (например, гиппокампа) для ИИ-архитектур.

Заключение: сценарии достижения AGI/ASI

Оптимистичный (2029–2035): Прорыв в гибридных архитектурах и квантовых вычислениях, поддержанный $1–2 трлн инвестиций (прогноз Илона Маска).

Консервативный (2040–2060): AGI останется "слабым" из-за нерешенных когнитивных проблем, а ASI отложится до 2100 г. (мнение 76% экспертов AAAI).

Ключевое условие: Успех зависит от кооперации дисциплин — от нейробиологии до философии. Как отмечает Сэм Альтман, "AGI — не финальная цель, а инструмент для ускорения научного прогресса". Без преодоления описанных барьеров ИИ останется "статистическим попугаем" (как выразился Ян Лекун), а не разумным партнёром человечества.

[Урфин]

Есть законы природы, их через колено не переломить. Если человечество прошло уже 3/4 пути к пределу технологических возможностей, то осталась всего 1/4.

а есть предел то?

Отправлено спустя 5 минут 33 секунды:

Кстати у П. Уоттса есть рассказ на эту тему "остров".

а у Булычёва есть рассказ, название которого лень искать, где такой корабль через несколько лет догнал более продвинутый земной корабль, сменил экипаж, и так повторяется каждый год, используя старый звездолёт как учебный. Как сейчас используют парусники...

Отправлено спустя 4 минуты 4 секунды:
Можно обойтись без замедления торможения
Просто создать расу космических странников, живущих в мегокораблях, путешествующих по вселенной своим тихим ходом от системы к системе...

[Нгаан]

как пересадочные станции магистрали/сети каких то порталов-телепортаторов, а так зачем?

Я не хотел заходить в откровенно завиральные описания технологий будущего.

А смысл как раз в том, что поскольку это автономные острова, то летать между ними можно будет на вполне реальных звездолётах и потому расщепления человечества на отдельные кусочки можно будет избежать. Тем более, что информационная связанность нужна таким колониям: новые научные открытия будут распространяться по всей сети и не нужно будет дублировать научные исследования на каждом звёздном острове.


Отправлено спустя 3 минуты :

Для каких ещё масштабов она разрешима — вопрос открыт.

Над этим вопросом стоило бы поработать с монархиями Персидского залива: там и деньги есть, и настоятельная жизненная необходимость, или с японскими товарищами, не всё же мусор по чужим островам развозить.


Отправлено спустя 4 минуты 30 секунд:

создать расу космических странников, живущих в мегокораблях

Это то, чего боятся некоторые: расщепление человеческой расы и автономизация колоний. Как по мне, то это совсем не беда, в конце концов на Земле много видов кошек, но все они кошки, но для кого-то - беда.

[Мотылек]

А смысл как раз в том, что поскольку это автономные острова, то летать между ними можно будет на вполне реальных звездолётах и потому расщепления человечества на отдельные кусочки можно будет избежать. Тем более, что информационная связанность нужна таким колониям: новые научные открытия будут распространяться по всей сети и не нужно будет дублировать научные исследования на каждом звёздном острове.

У нас в рамках одной планеты то было вполне себе расщепление на разные культурно-цивилизационные и языковые анклавы из за хреновых возможностей логистики в прошлом.
А для информационной связности есть электромагнитные волны, которые доставят информацию на максимально возможной в природе скорости. Даже если для этого (опять же) потребуется сеть ретрансляторов-усилителей, то совсем не обязательно при них держать поселение человеков, они вполне могут быть автономными роботизированными устройствами. Имхо.

[Урфин]

Это то, чего боятся некоторые: расщепление человеческой расы и автономизация колоний. Как по мне, то это совсем не беда, в конце концов на Земле много видов кошек, но все они кошки, но для кого-то - беда.

с людьми как-то иначе. За пару лямов лет расселялись хомы по планете, оседали в разных странных местах, специализировались и выделялись новые виды. Которые следующая волна расселения помножала на нуль...

[Н. Светлов]

а есть предел то?

Зуб не даю, но похоже, что есть.

Опять-таки, полезно посмотреть на природу. То, что в ней бывает, — 100% возможно. То, что в ней не встречается ни в каком виде, несмотря на безбрежье материи, энергии и времени, — оставляет лишь слабую надежду на то, что, быть может, покамест не встречается, но ещё встретится.

И надо отметить, что мы пока ещё очень мало умеем из того, что умеет природа. Но то, что она умеет, — малопригодно для космической экспансии, какой мы её себе представляем.

► Показать

И при всём том мне свойственен сдержанный оптимизм. Допускаю, что впереди ещё очень много удивительного и даже ошарашивающего, открывающего человечеству новые горизонты.

Но всё это окажется совсем-совсем не таким, каким оно рисуется нашему воображению через призму экстраполяции захватывающих трендов XX века, большинство из которых ныне уже обломились.

И не быстро.

[Нгаан]

если для этого (опять же) потребуется сеть ретрансляторов-усилителей, то совсем не обязательно при них держать поселение человеков

Вопрос не в том, что это будут ретрансляторы сигналов. Это будут ретрансляторы всего: материи, людей и т. д. Я понимаю: Гуревич, ротоматика, попытки научно объяснить телепортацию значимых масс вещества... Но если не воспарять выше известных законов физики, то получается всё прозаичнее. Это будут базы фронтира, а им необходима связанность для взаимодействия.

Вот не удивляет же нас почему это на ТрансСибе вдоль железной дороги не только провода и кабели проложены, но и люди живут в каких-то посёлках и небольших городках. Так и там будет: пересадочные станции, заправки и парковки для звездолётов, ретрансляторы тоже, посты наблюдения, источники пищевых запасов. Всё как на неосвоенных землях было раньше, только с космическим масштабом.

[Урфин]

И надо отметить, что мы пока ещё очень мало умеем из того, что умеет природа. Но то, что она умеет, — малопригодно для космической экспансии, какой мы её себе представляем.

тут всё просто - эволюция не подготовила ничего для космической экспансии потому что это не персона, а процесс. И у неё нет плана, тех.задания, проектной документации. Это приспособление к имеющимся условиям путём издыхания всего неприспособленного.

Некий предел даёт нам теоретическая физика, но он лишь в том, что нельзя будет летать от звезды к звезде за короткое время. Но запрета на распространение в космосе человека нет.

[Мотылек]

Это будут ретрансляторы всего: материи, людей и т. д.

Я все еще не вижу в этом смысла. Это было бы оправданно, если бы где то добывался какой то сверхценный, сугубо "эндемичный" ресурс, без которого ну никак всем остальным. Но наличие такого "хрендостаниума" маловероятно. А если у тебя даже не до соседней звезды, а лишь до ближайшей станции добираться десятки лет в один конец, не говоря уже о том, что бы путешествовать из конца в конец сразу цепочки звезд, то кому оно будет надо? Имхо.

[Жорик]

предел даёт нам теоретическая физика, но он лишь в том, что нельзя будет летать от звезды к звезде за короткое время

Это сегодня.
Энштейн сильно поправил Ньютона, а ведь когда-то казалось, что у Ньютона все правильно и никак иначе. Так что вполне возможно, через 200 лет ученые найдут "кротовые норы" и переход через нуль-пространство.

[Нгаан]

Ну, понятно, в Америку лезли за золотом. В Сибирь в значительной степени тоже. Полезут ли за золотом в дальний космос? Ответа нет, хотя Ефремов всё равно его притянул в свою сказку, как критический ресурс.

Насчёт прочих "хрендостаниумов" нужно думать и спрашивать спецов. Могут, например, сложиться условия на планете Земля, когда минеральные удобрения не из чего будет делать. Но это так... навскидку. Можно, конечно пофантазировать, что масло можно делать и из го.на, а также кормиться "соплями" из набора искусственных белков, жиров и углеводов. И всё к тому идёт для большинства.

Но одна цель движения в космос есть точно: распухание Солнца. Если с этим научатся "работать" и загонят светило в колпак из сверхмощных полей (а это уже такая фантастика, что лучше про телепортацию), то тогда время жизни цивилизации в родной системе можно будет продлить. Но всё равно не бесконечно.

[Мотылек]

Я ведь не про отсутствие экспансии вообще, а о том, что не вижу смысла держать между двумя соседними звездами n-ное количество автономных искусственных поселений с живыми людьми, которые там даже не вахтовики, а полноценные жители. Уж если захочется физически побывать в гостях в другой звездной системе, то проще построить такую станцию у себя на орбите, приделать к оной двигатели с запасом рабочего тела, погрузить всех желающих и отправить в какой ни будь 80-летний вояж с визитом (хоть в живую, хоть в состоянии гибернации). Имхо.

[Урфин]

Не понял идеи "промежуточных станций". Звездолёт будет пролетать мимо них на максимальной скорости.

Отправлено спустя 1 минуту 31 секунду:

Это сегодня.

Мы и рассуждаем в пределах сегодняшних знаний. Откроют физики что-то новое и полезное для межзвёздных перелётов, или нет, сие нам неведомо...