Алиса - метаморф

[омикрон]

Так тут вопрос в том, о насколько далеком будущем говорим-то. Конкретно Алиса родится всего лишь через 45 лет.

Все зависит от того когда мы войдем в технологическую сингулярность. Прогнозы предсказывают от нескольких лет до нескольких десятилетий.

А также, что никогда не войдем.

Отправлено спустя 3 минуты 9 секунд:

Alex Ivanov, кого "его"?

Интеллекта. в мире техсингулярности Алиса сможет менять тела, как одежки.

[Н. Светлов]

А как же «Второгодники»?

Да и в «Войне с лилипутами» она вполне себе дома.

[омикрон]

А как же «Второгодники»?

Да и в «Войне с лилипутами» она вполне себе дома.

В конце "Гай-до", вроде бы, тоже, хотя лишь мельком упоминается.

[Alex Ivanov]

А также, что никогда не войдем.

► Показать

Какой процент вероятности что человечество никогда не достигнет технологической сингулярности?

Точного научно обоснованного процента здесь не существует, так как это вопрос из области прогнозирования будущего, технологий и философии. Однако, опираясь на мнения экспертов, исторические аналогии и теорию вероятностей, можно дать развернутый ответ.

Я бы разбил ответ на три части: почему вероятность не нулевая, почему она не 100%, и итоговую интегральную оценку.

1. Аргументы за то, что мы НИКОГДА не достигнем сингулярности (Вероятность выше 0%)
Существует как минимум четыре весомых сценария, которые делают фразу «никогда» реальной возможностью:

Великий фильтр (Самоуничтожение): Это самый вероятный сценарий провала. Мы можем исчезнуть как вид из-за ядерной войны, пандемии, созданной биохакерами, экологического коллапса или удара астероида до того, как уровень технологий позволит создать сверхинтеллект.

Фундаментальные физические ограничения: Возможно, мы упремся в непреодолимый потолок. Например, закон Мура уже замедляется. Для создания сверхразума может потребоваться энергия целой звезды или вычисления, которые физически невозможно реализовать в нашей локальной области пространства-времени.

Техно-экономический тупик («Великая стагнация»): Сложность технологий растет экспоненциально, а отдача от них падает. Чтобы сделать следующий шаг, потребуются вложения всего мирового ВВП на одно исследование. Цивилизация может переключиться на симуляции, виртуальную реальность или простое потребление, утратив драйв к развитию (гипотеза «скрепок» наоборот).

Непознаваемость сознания: Сингулярность обычно связывают с созданием ИИ, превосходящего человеческий. Но если сознание (квалиа) — это квантовый процесс или нечто неподвластное алгоритмизации на кремнии, мы можем создать мощный вычислитель, но не сверхразум, способный к рефлексии.

2. Аргументы за то, что сингулярность НЕИЗБЕЖНА (Почему «никогда» маловероятно)
Ускорение прогресса: История Вселенной и человечества показывает сжатие временных интервалов между ключевыми событиями (от Большого взрыва до первых бактерий — миллиарды лет, от аграрной революции до индустриальной — тысячи, от первого полета до высадки на Луну — 66 лет).

Закон ускоряющейся отдачи (Курцвейл): Технологии (биотех, нанотех, ИИ) развиваются экспоненциально. Даже если кремний упрется в лимит, мы перейдем на оптические, квантовые, ДНК-компьютеры.

Неотвратимость ИИ: Создание человеческого уровня интеллекта — лишь вопрос сканирования мозга, эволюционных алгоритмов или направленного обучения. Рано или поздно мы поймем принципы работы неокортекса, и это станет последним изобретением человечества.

3. Интегральная вероятностная оценка
Конкретные цифры от авторитетных источников (агрегированные данные опросов AI Impacts, FHI, Open Philanthropy):

Ник Бостром (философ, автор «Superintelligence»): Оценивает вероятность того, что мы не дойдем до стадии зрелых нанотехнологий и ИИ, в 10–25% (в основном из-за экзистенциальных рисков).

Рэй Курцвейл (футуролог, Google): Дает практически 0% вероятности, что человечество не достигнет сингулярности к 2045 году, так как считает это эволюционной неизбежностью. Однако он не учитывает риск самоуничтожения как «никогда».

Нассим Талеб (автор «Черного лебедя»): Скептически относится к прогнозам как таковым, но дал бы высокий процент вероятности того, что модель «сингулярности» окажется ошибочной из-за непредвиденных хрупкостей системы (вероятность «Черного лебедя», который все сломает).

Итоговая оценка:

Если объединить сценарий «самоуничтожение до прогресса» и «принципиальная невозможность», то суммарная вероятность того, что человечество никогда не достигнет технологической сингулярности (в том виде, как мы ее представляем), колеблется в диапазоне 15–25%.

Наиболее вероятный исход (~75–85%): Мы либо дойдем до точки создания сверхинтеллекта, либо наш путь прервется чем-то, что само по себе будет являться формой технологической сингулярности (например, тотальная цифровая диктатура с откатом прогресса — это тоже «финальное состояние», отличное от мечты Курцвейла, но все же технологический предел).

Краткий ответ: Вероятность того, что человечество никогда не достигнет сингулярности, составляет примерно 20%. Основной вклад в эту цифру вносит не техническая невозможность, а высокая вероятность нашего самоуничтожения до того, как мы успеем это сделать.

Отправлено спустя 9 минут 34 секунды:

в мире техсингулярности Алиса сможет менять тела, как одежки.

Если пофантазировать на эту тему, то я думаю что каждый человек сможет выбирать себе такое тело каким он хочет на самом деле выглядеть, а не только таким каким он был изначально. Это как в фильме "Первому игроку приготовиться" где люди входя в виртуальный мир могут создавать себе любую аватару.

https://vkvideo.ru/video-233516638_456239037?t=3m30s

[омикрон]

А также, что никогда не войдем.

► Показать

Какой процент вероятности что человечество никогда не достигнет технологической сингулярности?

По-моему, однако, все это ни о чем. Эксперты дают цифры, но непонятно, на чем они эти цифры основывают. Подозреваю, что в конечном счета все это - просто их личные мнения.
Наиболее близкое предсказание от "авторитета", насколько знаю, что "маловероятно, что сингулярность не наступит ДО 2030 года". Что тут скажешь... Другой вот теперь дает практически 100% до 2045 года...
Ну и вариант "никогда" - это все-таки немного не то, о чем мы говорили - про эпоху Алисы, которая уже скоро, в общем-то. Прогнозировать на тысячи лет вперед - практически невозможно. А вот на ближайшие полвека - очень даже.

[Alex Ivanov]

По-моему, однако, все это ни о чем. Эксперты дают цифры, но непонятно, на чем они эти цифры основывают.

► Показать

Когда ИИ сможет улучшать самостоятельно свой код?

Появление ИИ, который сможет полностью автономно и рекурсивно улучшать собственный код, — это вопрос эволюционный. Мы находимся не в точке "когда это произойдет?", а на пути от "это уже частично происходит" к полноценной реализации.

Сегодня мы находимся на этапе ранних, но многообещающих шагов, когда ИИ уже участвует в улучшении кода, но полная автономия — дело нескольких лет.

Текущее положение дел: От теории к первым прототипам
Сегодня концепция самосовершенствования ИИ уже вышла за рамки научной фантастики и воплощается в конкретных исследовательских прототипах. Вот несколько ключевых примеров:

Самосовершенствующиеся агенты-программисты: В 2025 году был представлен фреймворк Darwin Gödel Machine (DGM) — агент, который способен переписывать собственный код на Python, чтобы эффективнее решать задачи. Параллельно с этим проект Self-Developing показал, что большие языковые модели могут самостоятельно изобретать новые алгоритмы для собственного улучшения, превосходящие по эффективности созданные человеком аналоги.

Рекурсивное улучшение кода: В апреле 2025 года был продемонстрирован агент, который, имея доступ к базовым инструментам, смог самостоятельно редактировать свой код и добиться повышения производительности на бенчмарках от 17% до 53%. Другой фреймворк, Gödel Agent, позволяет агентам динамически менять свою логику для непрерывного самосовершенствования.

Непрерывное обучение: Технология Массачусетского технологического института SEAL (Self-Adapting LLMs) позволяет моделям генерировать собственные обучающие данные и точные инструкции для дообучения, что приводит к непрерывной эволюции модели без постоянного участия человека. В некоторых тестах это дало 40-процентный прирост точности.

Как это работает на практике: Уровни автономности
Важно понимать, что "самостоятельное улучшение кода" — это не двоичный переключатель, а спектр возможностей. Сегодня мы видим несколько уровней:

Помощник разработчика (уровень инструмента): Такие инструменты, как Google Jules, анализируют код, находят ошибки и предлагают готовые исправления. Однако финальное решение об их применении остается за человеком.

Автономный агент для рутинных задач: Уже существуют системы автоматического обслуживания кода, например, для борьбы с "техническим долгом". ИИ сам находит проблемные участки и правит их. По некоторым прогнозам, к 2026 году мы можем увидеть агентов, способных самостоятельно проводить рефакторинг целых репозиториев.

Самооптимизирующаяся система: Это наиболее близкий к "самоулучшению" уровень, где ИИ не просто правит код, но и оптимизирует собственную архитектуру. Например, ИИ может создать новую, улучшенную версию своего же агента-кодировщика. Система STOP (Self-Taught Optimizer), рекурсивно улучшающая код, — яркий пример работ в этом направлении.

Ключевые препятствия на пути к полной автономии
Несмотря на впечатляющий прогресс, на пути к полностью самосовершенствующемуся ИИ стоят серьезные фундаментальные проблемы:

Проблема валидации: Как ИИ может гарантировать, что его изменения действительно являются улучшением? Модели склонны к "галлюцинациям", и любая скрытая ошибка, допущенная в процессе самосовершенствования, может привести к лавинообразному ухудшению всей системы.

Ограниченность контекста: Современные модели не могут удерживать в поле зрения всю кодовую базу крупного проекта. Соответственно, они не способны вносить сложные, архитектурно значимые изменения, затрагивающие множество модулей.

Отсутствие истинного целеполагания: Сегодня ИИ следует заданным человеком целям. Чтобы стать по-настоящему самосовершенствующимся, ему необходимо научиться самостоятельно формулировать цели, что является одной из сложнейших и пока нерешенных задач в области ИИ.

Прогнозы и дорожная карта: Когда ждать прорыва?
Большинство экспертов сходятся во мнении, что переход к полностью автономным системам будет поэтапным. Вот примерные временные рамки:

2024–2026 (Текущий момент — "Помощник"): ИИ активно помогает в написании и отладке кода, выполняя до 30% работы в крупных проектах. Основные операции — это автодополнение, поиск и исправление простых ошибок, генерация шаблонного кода.

2027–2029 ("Младший разработчик"): Появление агентов, способных к полуавтономной работе над отдельными задачами (рефакторинг, написание тестов). Это период, когда ИИ начнет самостоятельно предлагать и реализовывать целые фичи, но под пристальным надзором человека.

2028 и далее — "Инженер-программист": Согласно некоторым прогнозам, вероятность появления систем, способных к полностью автономной разработке, превысит 60%. Именно на этом этапе ИИ сможет самостоятельно ставить себе задачи по улучшению кода, выбирать оптимальные алгоритмы и перестраивать архитектуру приложений без вмешательства человека.

Итог
Итак, отвечая на ваш вопрос: ИИ уже начинает улучшать свой код, но пока что под контролем человека и в довольно узких рамках. Революционный переход к полной автономии ожидается не ранее 2028-2030 годов. Это будет не одномоментное событие, а скорее эволюция от "умного помощника" к "самостоятельному ассистенту", и, наконец, к полноценному "AI-разработчику".

[омикрон]

Для создания сверхразума может потребоваться

*с подозрением* что за сверхразум?
Не Монокосмом ли тут запахло?
Н. Светлов, уточните, пожалуйста, нет ли тут связи...

[Alex Ivanov]

Не Монокосмом ли тут запахло?

Примерно так и есть:

«Любой разум... в процессе эволюции первого порядка проходит путь от состояния максимального разъединения... к состоянию максимально возможного при сохранении индивидуальностей объединения... Оставив в стороне романтические трели теории вертикального прогресса, мы обнаруживаем для разума лишь две реальные, принципиально различающиеся возможности. Либо остановка, самоуспокоение, замыкание на себя, потеря интереса к физическому миру. Либо вступление на путь эволюции второго порядка, на путь эволюции планируемой и управляемой, на путь к Монокосму.

...Индивид Монокосма не нуждается в творцах. Он сам себе и творец, и потребитель культуры. По капле воды он способен не только воссоздать образ океана, но и весь мир населяющих его существ, в том числе и разумных... возникает новый метаболизм, и как следствие его — жизнь и здоровье становятся практически вечными. Возраст индивида становится сравнимым с возрастом космических объектов — при полном отсутствии психической усталости...

"СОЗИДАЙ, НЕ РАЗРУШАЯ!" — вот лозунг Монокосма. Монокосм не может не считать свой путь развития и свой модус вивенди единственно верным. Боль и отчаяние вызывают у него картины разобщенных Разумов, не дозревших до приобщения к нему»

[Н. Светлов]

Н. Светлов, уточните, пожалуйста, нет ли тут связи...

Думаю, что причинной связи нет (могу заблуждаться). Но корреляция очевидна.

[омикрон]

Н. Светлов, уточните, пожалуйста, нет ли тут связи...

Думаю, что причинной связи нет (могу заблуждаться). Но корреляция очевидна.

Если я верно понимаю, основное опасение в обоих случаях, это: "Как мы можем доверять сверхразуму, если не понимаем его (поскольку он больше и сложнее нашего разума), а значит, не представляем, что у него на уме?"

[Н. Светлов]

Если я верно понимаю, основное опасение в обоих случаях, это: "Как мы можем доверять сверхразуму, если не понимаем его (поскольку он больше и сложнее нашего разума), а значит, не представляем, что у него на уме?"

Этого многие опасаются. Но я смотрю на проблему несколько под другим углом. Я вообще совершенно не против сверхразума, воспринимаю его скорее как старшего товарища, чем как врага или угрозу. Почему — это довольно долгий разговор.

Но дьявол в деталях. В том, как возник сверхразум, какой опыт стоит у него за плечами, какова его, извините за айтишный термин, архитектура. И с этой точки зрения я не обсуждаю идею Стругацких о монокосме, поскольку эта идея очень смутная и допускает широчайшую свободу толкований.

► Показать

Другое дело — Монокосм как одна из двух (наряду со Странниками) финальных стадий эволюции легендарной цивилизации цвельфов (на другом диалекте космолингвы — цвёльфов). У этого сверхразума есть вполне конкретная история, итогом которой стала пиррова победа детерминистической архитектуры машины Тьюринга над неформализуемыми архитектурами разумных существ природного происхождения. То есть прежде чем интегрироваться в Монокосм, цвёльфам предстояло отказаться от существенной части своей природы — не только от тел, но и от сознания, которое не может работать на тьюринговской архитектуре. Самим Монокосмом (который, разумеется, сознания лишён) оно воспринимается как атавизм, нужный лишь на определённых этапах эволюции, а в дальнейшем только лишь вносящий опасный хаос.

Согласно легенде, Монокосм проиграл борьбу за контроль над вселенной и над её эволюцией — он был обращён в сингулярность (не технологическую, а ту, которая из общей теории относительности) и даже не заметил этого. Правда, не весь, так что партия ещё не закончена.

Но это согласно легенде. На деле же такой вот Монокосм — это вероятный финал истории вовсе не мифических цвёльфов, а нашей собственной цивилизации, и мы к нему несёмся на всех парах. Верно лишь одно: он в любом случае почти наверняка обратится в сингулярность, оставив на своём месте новенькую, с иголочки, чёрную дыру. Обратится если не с чьей-нибудь помощью, то сам собой. Это простое следствие того, что информация нуждается в материальном носителе — чем её больше, тем больше нужно материи, — материя же искривляет пространство. Конечно, Монокосм будет прекрасно понимать, куда движется, но ему это будет до лампочки, потому что субъектности у него нет. Он сам себе назначит такой исход смыслом своего существования, подведя под него такой обоснуй, с которым мог бы поспорить только другой Монокосм: естественный разум такое просто не вместит.

[yarsmriya2022]

Кстати, вот такая ещё идея: если у Крыса была бы цель - возродить их цивилизацию. И Алиса тогда ему нужна) потому что она может и в прошлое попасть, у неё ж друзья и в МИВ есть, и вообще... много друзей. Вот. Может попытаться сделать что-то с её помощью и спасти своих сородичей (как с Колеидой, получилось же). А она не откажет, если надо помочь кому-то, даже если это какие-нибудь страшные на вид существа...
Вот про крокрысов ещё было, интересное (взято из фанфика «Алиса в Изумрудном городе»):

«В сознании Крыса проносились картины его родной планеты Крокрыс. Но они были совершенно незнакомыми... Не было мертвых пустынь, не было страшных чудовищ, не было подземелий и руин древних зданий, не было ненавидящих друг друга крокрысов. Да и сами эти крокрысы были непохожи на него, на Крыса. Они больше походили на красивых бабочек с большими перламутровыми разноцветными крыльями. - Память предков. - догадался Крыс. Много-много тысяч лет назад на Крокрысе существовала Орнитоптер (махолёт) – летательный аппарат с машущими крыльями. Непосредственно самолёт Спасателей не является, строго говоря, чистым махолётом, представляя собой гибрид махолёта и дирижабля. 64 322особенная цивилизация. Ее смыслом жизни было созидание. Крокрысы строили великолепные, монументальные здания, создавали прекрасные картины, удивительные аппараты. Крокрысы сумели даже достичь звезд и создали на планете Баамбуке свою колонию. Но главным достижением Крокрыса были необыкновенные фестивали. Танцоры - крокрысы взмывали в небо и танцуя, создавали поразительные композиции. Так было до дня Ужаса. Когда в звездную систему Крокрыса прилетела из далеких просторов космоса чёрная планета. Планета без солнца. В этот день, день большого новогоднего Фестиваля, планета крокрысов готовилась встречать пришельцев. И жители верили, что они будут добрыми. Но это было не так. Корабль пришельцев сбросил на столицу планеты, на собравшихся встречать братьев по разуму жителей лиловые шары65*, внутри которых таилась злая, непонятная сила... И так погиб Крокрыс. А жителей наполнила вечная злоба к миру...»

Вот это было бы похоже на него) и концовку можно как угодно сделать. Станут ли они мир захватывать

Autumn Leaves писал(а):
«– Да как ваш народ не завоевал Галактику ещё до твоего рождения? Растёте быстро, живёте долго, плюс ещё умение превращаться, и ментальные способности, и выжить можете почти где угодно...» («Сроки жизни», автор - Autumn Leaves)

или нет, в любом случае, достичь могут ещё каких высот, с такими то способностями)
Если представить, что Алиса сама метаморф и его дочка, то будет ещё интереснее)

Николай Михайлович, как Вам идея?

[Н. Светлов]

Николай Михайлович, как Вам идея?

Идея возрождения цивилизации Крокрыса хороша, хотя и не нова — в одном из фанфиков она уже использована.

А вот идея о близком родстве Алисы с Крысом мне не по душе. Я воспринимаю её как чрезмерное, неоправданное насилие над сюжетами Булычёва.

Вообще, спекуляции насчёт якобы странностей семейной жизни родителей Алисы — это всё грубый и циничный стёб из соцсетей, ничем не подтверждаемый в первоисточниках. И я не думаю, что его надо подпитывать дополнительно. Да, мама человек занятой, да, она часто в командировках (как и отец, кстати — см. СЛТВ) — и что с того?

Быть дочерью талантливых, востребованных, занятых родителей — нелёгкая, но счастливая участь.

[омикрон]

Но дьявол в деталях. В том, как возник сверхразум, какой опыт стоит у него за плечами, какова его, извините за айтишный термин, архитектура. И с этой точки зрения я не обсуждаю идею Стругацких о монокосме, поскольку эта идея очень смутная и допускает широчайшую свободу толкований.

Ну, я лично о монокосме знаю только то, что написано у вас и у Клантао - вариант Стругацких не читал.

[yarsmriya2022]

Идея возрождения цивилизации Крокрыса хороша, хотя и не нова — в одном из фанфиков она уже использована.

Да, а в каком? Я в «Одиссее капитана Крыса» видел, но может есть ещё фанфики...

А вот идея о близком родстве Алисы с Крысом мне не по душе. Я воспринимаю её как чрезмерное, неоправданное насилие над сюжетами Булычёва.

ничем не подтверждаемый в первоисточниках.

Но и не опровергается) а привязать к канону можно и эту версию, я в самом начале темы описал, как. Думаю, неплохо получилось)
И ряд моментов (в каноне), как я думаю, об этом и говорят) (ну не думайте, что я это утверждаю, это чисто моя версия)

[BabylonAS]

Ну, я лично о монокосме знаю только то, что написано у вас и у Клантао - вариант Стругацких не читал

Так это взято у Стругацких?

[омикрон]

Ну, я лично о монокосме знаю только то, что написано у вас и у Клантао - вариант Стругацких не читал

Так это взято у Стругацких?

Я не знаю... Видимо, да.

[Alex Ivanov]

Я помню забавный момент когда уборщица на работе подошла ко мне со своим телефоном и попросила помочь настроить ей доступ в Deepseek. Я тогда подумал что это теперь наверное новый тренд.

► Показать

Сколько страниц текста ты можешь анализировать одновременно?

Я могу обрабатывать до 1 миллиона токенов за один раз. Если перевести это в страницы, то всё зависит от формата текста, но в среднем получается примерно 2000–3000 страниц стандартного книжного текста.

Для наглядности:

Одна страница А4 (12-й кегль, одинарный интервал) — это около 300–500 токенов на русском языке.

1 миллион токенов — это весь трёхтомник «Трёх тел» Лю Цысиня, или примерно 10–15 средних романов.

Так что да, я могу целиком «проглотить» очень длинный документ, книгу или техническую документацию и отвечать на вопросы по всему объёму сразу. Если будет что-то сверх этого лимита — можно разбить на части или использовать внешнюю память (например, поиск по файлам), но в рамках одного диалогового окна мой максимум — 1М токенов.