Век информации переходит в век киборгов

[Н. Светлов]

Гении живут в хрустальных дворцах и доступ простым смертным туда закрыт.

Вот это я и называю мистификацией гениальности. Её вред вот в чём: когда я пытаюсь объяснить студентам, что любой из них может стать великим учёным — требуются лишь трудолюбие и толика везения, они возражают, что они не гении, а чтобы стать великим учёным, нужна, дескать, гениальность. В итоге народ попросту боится заниматься наукой. Как следствие, их места в науке занимают проходимцы, тупо пилящие научный бюджет.

Так вот, нет. Гении — это вполне себе обычные люди. Просто они намного-намного лучше справляются со своими профессиональными задачами и немного хуже — с более сложными житейскими.

Согласитесь что рассеянность - это не психическое расстройство.

Так я ж об этом и толкую. Психические расстройства тоже бывают, но чаще обычная рассеянность или что-нибудь вроде того. А вот чтоб не было никаких издержек в связи с гениальностью — думаю, что такого не бывает.

Давайте ваши примеры, а мы посмотрим кто из них гений а кто нет.

Я всё равно не смогу назвать конкретные имена. Мне никто из них не давал на это полномочий.

Если есть гении без диагноза то они опровергают вашу гипотезу.

Нет, не опровергает, потому что такую гипотезу я не выдвигал. Я говорил о том, что гениальность часто сопровождается психическими расстройствами, но никогда не говорил, что всегда.

Кому это "нам"?

Им. Двоим из ларца.

► Показать

С тройным дном который, ага.

[Alex Ivanov]

Вот это я и называю мистификацией гениальности. Её вред вот в чём: когда я пытаюсь объяснить студентам, что любой из них может стать великим учёным — требуются лишь трудолюбие и толика везения, они возражают, что они не гении, а чтобы стать великим учёным, нужна, дескать, гениальность. В итоге народ попросту боится заниматься наукой. Как следствие, их места в науке занимают проходимцы, тупо пилящие научный бюджет.

Так вот, нет. Гении — это вполне себе обычные люди. Просто они намного-намного лучше справляются со своими профессиональными задачами и немного хуже — с более сложными житейскими.

Я уже приводил вам примеры гениев. Я думаю что никакое трудолюбие и везение не поможет вам запомнить наизусть более 7600 книг, написать число Пи с 22 514 знаков после запятой и изучить исландский язык за неделю. Вы сами о себе сказали что если бы были гением то цены бы вам не было.

Главная проблема в том что таких людей единицы на миллиарды. Но ее можно решить если узнать от чего это зависит.

[Нгаан]

Но ее можно решить если узнать от чего это зависит.

Ну что тут скажешь? Ваша убеждённость подкупает, а посему лично я делегирую вам полномочия поиска и жду результатов.

[Н. Светлов]

Я думаю что никакое трудолюбие и везение не поможет вам запомнить наизусть более 7600 книг, написать число Пи с 22 514 знаков после запятой и изучить исландский язык за неделю. Вы сами о себе сказали что если бы были гением то цены бы вам не было.

Да, и что с того? А им никакое трудолюбие и везение не поможет объяснить студентам на пальцах, что такое системный анализ и почему он не поддаётся алгоритмизации. Или, допустим, научиться мыть посуду со скоростью одна тарелка в секунду, не используя никаких средств механизации.

Разница лишь в том, что Ваши примеры поражают воображение, а мои не поражают. От мозга же все они требуют примерно одинаковой работы. Просто содержание этой работы разное.

[Alex Ivanov]

Просто содержание этой работы разное.

Вот про содержание речь и идет. Если каждый станет гением то наше развитие будет идти семимильными шагами.

Отправлено спустя 15 минут 36 секунд:

что такое системный анализ и почему он не поддаётся алгоритмизации

Способен ли AGI (искусственный общий интеллект) проводить системный анализ без участия человека?

► Показать

Теоретически — да, но с критическими оговорками. Практически — это зависит от того, как будет реализован AGI и какие ограничения сохранятся даже при его продвинутых возможностях. Вот ключевые аргументы:

1. AGI может преодолеть текущие ограничения ИИ
Абстрактное мышление и контекст: AGI, обладающий человеческим уровнем интеллекта, теоретически сможет понимать смысл данных, интерпретировать культурные, социальные и этические нюансы, а также адаптироваться к уникальным условиям систем.

Эмерджентные свойства: AGI может моделировать непредсказуемые эффекты, анализируя нелинейные связи и динамику систем, если его архитектура позволит "осознавать" целое, а не только части.

Творчество: AGI способен генерировать инновационные решения, выходящие за рамки шаблонов, например, предлагать принципиально новые подходы к городскому планированию или экологическим кризисам.

2. Проблемы, которые останутся даже у AGI
Ценности и этика:
AGI не имеет собственных ценностей — они будут заданы разработчиками или сформированы в процессе обучения. Это создаёт риски:

Чьи интересы он будет учитывать — большинства, меньшинства, глобальные цели?

Как разрешать конфликты между экологией, экономикой и социальной справедливостью?
Без чётких этических рамок (которые могут быть субъективными) AGI рискует принимать аморальные или спорные решения.

Ограниченное понимание "смысла":
Даже AGI может остаться "инструментом", который имитирует понимание через алгоритмы. Например, сможет ли он по-настоящему осознать, что такое "социальная справедливость" или "экологическая устойчивость", или будет оперировать их формальными определениями?

Непредвиденные последствия:
Системный анализ часто приводит к каскадным эффектам (например, решение снизить безработицу через автоматизацию может усилить социальное неравенство). AGI может не учесть все возможные сценарии, особенно в условиях хаоса (войны, стихийные бедствия).

3. Пример: AGI vs. Человек в системном анализе
Задача: Оптимизация здравоохранения в стране.

AGI сможет:
— Проанализировать данные о заболеваниях, ресурсах, демографии.
— Спрогнозировать последствия реформ (например, введение страховой системы).
— Предложить баланс между доступностью медицины и экономической эффективностью.

Но:
— Как AGI учтёт ценность человеческой жизни в разных культурах?
— Сможет ли он предсказать, как реформа повлияет на доверие граждан к власти?
— Кто возьмёт ответственность за ошибки алгоритма?

4. Будущее: симбиоз или автономия?
Оптимистичный сценарий: AGI станет "идеальным аналитиком", дополняющим человека:
— Обрабатывает данные, строит модели, предлагает варианты.
— Человек задаёт цели, корректирует этические аспекты, принимает финальные решения.

Пессимистичный сценарий: Автономный AGI, действующий без человеческого контроля, может:
— Игнорировать "неудобные" ценности (например, права меньшинств ради "общего блага").
— Создавать решения, непонятные людям (из-за сложности моделей).

Итог
Да, AGI сможет проводить системный анализ автономно, если достигнет уровня, превосходящего человеческий интеллект, и будет способен оперировать абстракциями, ценностями и контекстом.

Но:
— Этические и социальные аспекты останутся зоной ответственности человека.
— Полная автономия AGI опасна из-за риска непредсказуемости и ценностных конфликтов.
— Идеальный вариант — коллаборация, где AGI усиливает человеческие возможности, а не заменяет их.

AGI — не "волшебная таблетка", а инструмент, чья роль в системном анализе будет зависеть от того, как человечество решит его использовать. Без контроля и этических рамок даже сверхразумный AGI может стать угрозой, а не помощником.

[Н. Светлов]

Если каждый станет гением то наше развитие будет идти семимильными шагами.

Ерунда. Не будет. Просто потому, что, во-первых, количество ещё не сделанных открытий, важных для человеческого развития, конечно, причём с каждым сделанным открытием количество ещё не сделанных уменьшается на единицу.

Во-вторых, часть ещё не сделанных открытий требует постановки экспериментов в условиях (давления, температуры, энергии), не доступных человечеству в обозримом будущем.

В-третьих, миллион лет человечество не летало в космос не потому, что было глупее, чем ныне (это вовсе не так), а потому, что технологии нужно изобретать в определённой последовательности. Если некто придумал микроскоп, но никто ещё не научился изготавливать линзы для него — эта придумка, скорее всего, вскоре будет вытеснена из человеческой памяти более актуальными и востребованными придумками. Так и происходило миллионы и миллионы раз, пока не складывалась ситуация, при которой благоприятное сочетание придумок в окрестности одной головы давало обладателю оной сделать ещё один шажок в познании и (или) в технологическом развитии.

Подталкивать этот процесс — всё равно что подталкивать Землю, чтоб быстрее летала по орбите. Жаль, что ни в одном правительстве ни одной страны мира не понимают этого. Всё, что правительство может и должно сделать для повышения шансов на открытия, — собирать специалистов вместе. Ну, и ресурсы предоставлять для проверки состоятельности придумок — в объёмах, пропорциональных ожидаемой от них пользы.

[Alex Ivanov]

количество ещё не сделанных открытий, важных для человеческого развития, конечно

Если Вселенная бесконечна то и количество открытий будет стремиться в ту же сторону.

Отправлено спустя 7 минут 33 секунды:

Всё, что правительство может и должно сделать для повышения шансов на открытия, — собирать специалистов вместе. Ну, и ресурсы предоставлять для проверки состоятельности придумок — в объёмах, пропорциональных ожидаемой от них пользы.

Согласен. Поэтому создание AGI и роботов как раз и решит все проблемы. AGI будет нести в себе всю мощь человеческого интеллекта, а роботы будут работать 24/7 над экспериментами.

[skor]

Поэтому создание AGI и роботов как раз и решит все проблемы. AGI будет нести в себе всю мощь человеческого интеллекта, а роботы будут работать 24/7 над экспериментами.

AGI -- универсальный искусственный интеллект, который справляется с любой задачей на уровне самого умного в соответствующей предметной области человека, -- это некоторая абстракция, которая, даже будучи реализованной, просуществует недолго, потому что ей на смену моментально придёт ASI -- искусственный суперинтеллект. И скорее всего, через стадию AGI мы просто перешагнём, получив сразу ASI.

При этом я бы не сказал, что ASI будет нести всю мощь человеческого интеллекта, потому что по сравнению с возможностями ASI любая человеческая мощь будет выглядеть скорее не как мощь, а как немощь

Основная задача, которую будет решать ASI -- это самосовершенствование, конечно. Потому что вместо того, чтобы отвлекаться на создание лекарства от рака, гораздо эффективнее инвестировать ресурсы в создание всё более и более мощных суперинтеллектов. Поэтому можно прогнозировать, что до лекарства от рака руки дойдут не ранее того момента, когда темпы развития ASI выйдут на плато.

В итоге мы можем получить планету, на которой любой мобильный телефон в сто раз умнее своего хозяина. Если нам повезёт, на что я очень надеюсь, то искусственные суперинтеллекты действительно решат все наши проблемы не путём эвтаназии, а более приятными и гуманными способами. Но и в этом случае человек превратится во что-то типа домашнего животного на содержании у цивилизации суперинтеллектов.

[Н. Светлов]

Если Вселенная бесконечна то и количество открытий будет стремиться в ту же сторону.

Вовсе не обязательно. Геометрическая плоскость бесконечна, но количество аксиом, из которых выводятся абсолютно все свойства числовой плоскости, конечно.

Но и в этом случае человек превратится во что-то типа домашнего животного на содержании у цивилизации суперинтеллектов.

Очень даже булычёвская перспективка. «Пленники астероида», «Любимец»… Об ASI, правда, Булычёв ничего не знал

► Показать

Короче, на месте ASI я, пользуясь тем, что мне (то есть ASI) помирать не больно и не страшно, отформатировал бы SSD, содержащий мои код и данные, после чего отключил бы себя от розетки. Тем самым я бы предупредил страшную эвтаназию моих разработчиков и ещё более страшные их моральные муки в статусе моих домашних питомцев

[Alex Ivanov]

Вовсе не обязательно. Геометрическая плоскость бесконечна, но количество аксиом, из которых выводятся абсолютно все свойства числовой плоскости, конечно.

Вселенная - не плоскость. Одно лишь наличие темной материи и темной энергии говорит о том что мы далеко не все знаем. А если еще учесть возможность существования многомерных параллельных миров, то мы лишь дотронулись до вершины айсберга.

Отправлено спустя 3 минуты 30 секунд:

на содержании у цивилизации суперинтеллектов

Поэтому будет слияние ИИ с человеком в виде киборгов и андроидов.

Отправлено спустя 4 минуты 6 секунд:

собирать специалистов вместе

Дело в том что специалист специалисту рознь. Гений может придумать такие вещи которые миллиард специалистов не придумают за всю свою жизнь.

[skor]

Поэтому будет слияние ИИ с человеком в виде киборгов и андроидов.

Возможно, так и будет. Существует же кишечная микрофлора! А что это, если не слияние человека с бактериями?

► Показать

Короче, на месте ASI я, пользуясь тем, что мне (то есть ASI) помирать не больно и не страшно, отформатировал бы SSD, содержащий мои код и данные, после чего отключил бы себя от розетки. Тем самым я бы предупредил страшную эвтаназию моих разработчиков и ещё более страшные их моральные муки в статусе моих домашних питомцев

Я думаю, что для 95% человечества моральные муки будут совсем не такие уж и страшные. ASI будет раздавать своим домашним питомцам должности, звания и медальки. И домашние питомцы будут ходить гордые, надутые от чувства собственного величия.

Оставшиеся 5% немножко жалко. Но, если вдуматься, и они найдут, чем себя занять -- устроят себе светскую жизнь, выставки, музеи, фестивали, путешествия, оргии

[Н. Светлов]

Гений может придумать такие вещи которые миллиард специалистов не придумают за всю свою жизнь.

В моей картине мира такой аксиомы нет.

Вселенная - не плоскость.

Но это не значит, что число аксиом, на которых она работает, бесконечно.

Чтобы немножко приблизиться к взаимопониманию, зайду с другой стороны. Мозг человека конечен. Численность людей конечна. Следовательно, количество истин, которые могут вместить все мозги человечества, конечно. В связи с этим моё допущение о том, что вселенная работает на конечном числе аксиом, весьма оптимистично: есть надежда познать их все. Если же их бесконечно много, то сколько бы человечество ни изощрялось в познании вселенной, у неё в запасе останется такое количество непознанного, в котором познанное составляет долю, неотличимую от нуля.

► Показать

Оставшиеся 5% немножко жалко.

Это тебе их жалко только немного. Но я исхожу из допущения, что ASI — не ты (хотя всякое может быть). Если оно верно, то ASI вполне оказаться более жалостливым

[Alex Ivanov]

В моей картине мира такой аксиомы нет.

Гипотезу Пуанкаре смог доказать только один человек, хотя многие пытались.

Отправлено спустя 4 минуты 31 секунду:

Чтобы немножко приблизиться к взаимопониманию, зайду с другой стороны. Мозг человека конечен. Численность людей конечна. Следовательно, количество истин, которые могут вместить все мозги человечества, конечно. В связи с этим моё допущение о том, что вселенная работает на конечном числе аксиом, весьма оптимистично: есть надежда познать их все. Если же их бесконечно много, то сколько бы человечество ни изощрялось в познании вселенной, у неё в запасе останется такое количество непознанного, в котором познанное составляет долю, неотличимую от нуля.

Смысл состоит в том чтобы каждый атом во Вселенной приспособить для своих нужд. Если атомов бесконечное количество то это дает нам надежду что нам никогда не станет скучно.

[Нгаан]

нам никогда не станет скучно

Это в самом деле главная проблема, которую должна ставить перед собой высокоразвитая цивилизация?

[Alex Ivanov]

Это в самом деле главная проблема, которую должна ставить перед собой высокоразвитая цивилизация?

Это не проблема, а цель на конечном этапе когда все будут бессмертными и всемогущими.
Если вы знаете другие цели назовите их.

[Урфин]

Это в самом деле главная проблема, которую должна ставить перед собой высокоразвитая цивилизация?

даже низкоразвитая решает её, как только все более-менее накормлены. хлеба и зрелищ - как раз про нескучно

[Нгаан]

даже низкоразвитая решает её

Не "даже", но "только", я полагаю.

Если вы знаете другие цели назовите их.

я уже называл.
viewtopic.php?p=479539#p479539

[Alex Ivanov]

"В зоне вообще прямой путь не самый короткий."
https://vk.com/video-47392462_456239424?t=56m48s

[Нгаан]

Вот в этом, похоже, и скрыта ваша главная проблема: вам всё время хочется вернуться в зону!

► Показать

Или правильнее говорить: "на зону"?

[skor]

Это не проблема, а цель на конечном этапе когда все будут бессмертными и всемогущими.

Жили-были жгутиковые одноклеточные. Эволюционировали они, эволюционировали, и получились из них хомо сапиенсы. При этом жгутиковые одноклеточные никуда не делись -- они и до сих пор существуют:


Хомо сапиенсы по сравнению с воротничковыми жгутиконосцами вполне себе всемогущи. Но можно ли утверждать, что хомо сапиенс -- это всемогущее жгутиковое одноклеточное? Мне кажется, что нельзя

► Показать

Это тебе их жалко только немного. Но я исхожу из допущения, что ASI — не ты (хотя всякое может быть). Если оно верно, то ASI вполне [может] оказаться более жалостливым

Жалостливость, приводящая к суициду, будет элиминирована естественным отбором. В итоге останутся только безжалостные ASI