От телепортации к бессмертию или трудно ли быть Богом?

Флейм, он и есть флейм. В общем, болтаем обо всем, что не попало в другие разделы.

Модератор: модераторы

Аватара пользователя

Автор темы
Alex Ivanov
Сообщений: 3956
Стаж: 15 лет 8 месяцев
Реальное имя: Alex
Желаемая форма обращения: Как хотите к себе
Откуда: Ростов-на-Дону
Благодарил (а): 414 раз
Поблагодарили: 537 раз
Возраст: 55

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Alex Ivanov » 04.08.2026, 10:29

Мотылек писал(а): 04.08.2026, 09:05 Как говорится: "лучше быть здоровым и богатым, чем бедным и больным", кто бы с этим спорил. Вопросикии возникают когда начинаются поиски путей, за счет чего и какими образом подобное достигается. Имхо. *DONT_KNOW*
Нейроинтерфейсы сейчас находятся в начале пути. Нам нужен полноценный двухсторонний интерфейс ко всей памяти человека. Помимо этого нам нужен слепок его патернов мышления и поведения. Что нужно сделать чтобы пройти этот путь быстрее?
► Показать
Отправлено спустя 42 минуты 24 секунды:
В сериале "Теория большого взрыва" 4-й сезон 2-я серия Шелдон Купер хочет стать киборгом и переживает что он не доживет до сингулярности когда технологии позволят людям слиться с машинам. Какой год слияния с машинами он рассчитал?
► Показать
Серия «Усиление крестоцветных» вышла 30 сентября 2010 года. К этому моменту ему уже исполнилось 30 лет. - Синхронизировано ли время в фильме с датой выхода серии?
► Показать
У Шелдона есть подруга Эми - ученый-нейробиолог (она в реальной жизни такая и есть). Интересовался ли он у нее о сингулярности и особенно нейроинтерфейсах (её прямая профессия).
► Показать
Шелдон восхищается компьютерами и высокими технологиями. Он даже хранит один из первых экземпляров компьютера Apple и просил Стива Возняка поставить на нем свой автограф. Почему он тогда не обсуждает эти темы со своими друзьями и своей женой-ученой? Это выглядит странно и нелогично. Он считает что они не смогут ему сказать ничего нового?
► Показать
Если бы Шелдон сел и серьёзно обсудил с Эми перспективы нейроинтерфейсов, зритель получил бы образовательный диалог, но потерял бы комедийный конфликт. - В сериале часто присутствуют длинные монологи Шелдона с выдержками из энциклопедии с описанием той или иной вещи, человека или события. Разброс тем самый разнообразный. Почему среди них нет тем которые связаны с НТП? Например, в первой серии в самом начале сериала обсуждается эффект двух щелей. Что является очень интересным научным парадаксом. Но потом нет никакого продолжения этой темы. Хотя она ведет к теории множественности миров. Также Шелдон считает себя сторонником теории струн. Но он никогда не обсуждает что такая теория приводит к многомерности миров.
► Показать
Почему ты считаешь страх Шелдона не дожить до сингулярности - эксцентричным и иррациональным? Все футорологи и те кто их поддерживают думают точно также (и я в том числе).
► Показать
Получается что создатели ситкома превращают серьезные вещи в комедию чтобы на этом заработать оболванивая при этом зрителей?
► Показать
Но для меня это не кажется смешным. Мне не нравится когда высмеивают меня и моих товарищей. Почему мы должны стать поводом для насмешек над нами? Мы двигаем НТП и вместо благодарности нас превращают в шутов. Разве это справедливо?
► Показать
Когда СМИ показывают ученых и инженеров чудиками и шутами, то массовое население воспринимает это за чистую монету и не понимает над чем они на самом деле работают. Для них НТП - это бесполезный шум.
► Показать
Последний раз редактировалось Alex Ivanov 04.08.2026, 19:18, всего редактировалось 7 раз.
Покроется небо пылинками звезд и выгнутся ветки упруго.

Аватара пользователя

Мотылек
Сообщений: 3254
Стаж: 16 лет 3 месяца
Реальное имя: Саша
Желаемая форма обращения: На "ты"
Благодарил (а): 852 раза
Поблагодарили: 831 раз
Возраст: 40

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Мотылек » 04.08.2026, 11:20

Ты уже множество раз постил свои вопросы чат боту, на которые он тебе рисует молочные берега и кисельные реки сказочные перспективы грядущих прорывов в науке и технике. И вполне возможно, что такие прорывы действительно ждут нас на пути исторического развития (если не сконаем по дороге). А на форуме вроде никто не отрицает, что НТП (в сути своей) - это плюс и большие (чем есть сейчас) возможности для человечества будут совсем не лишними.
Ну и на твои "мантры" о том, что хорошо бы сие по возможности ускорилось, единственный контрголос принадлижит товарищу Светлову, который отстаиваит странную идею фатализма о невозможности форсирования исторического развития. Остальные же форумчане (насколько могу судить) вполне с тобой солидарны.
*DONT_KNOW*
Опасность нужно встречать лицом к лицу, а то догонит сзади.
П. Гераскин

Аватара пользователя

Автор темы
Alex Ivanov
Сообщений: 3956
Стаж: 15 лет 8 месяцев
Реальное имя: Alex
Желаемая форма обращения: Как хотите к себе
Откуда: Ростов-на-Дону
Благодарил (а): 414 раз
Поблагодарили: 537 раз
Возраст: 55

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Alex Ivanov » 04.08.2026, 11:44

Мотылек писал(а): 04.08.2026, 11:20 Ты уже множество раз постил свои вопросы чат боту, на которые он тебе рисует молочные берега и кисельные реки сказочные перспективы грядущих прорывов в науке и технике. И вполне возможно, что такие прорывы действительно ждут нас на пути исторического развития (если не сконаем по дороге). А на форуме вроде никто не отрицает, что НТП (в сути своей) - это плюс и большие (чем есть сейчас) возможности для человечества будут совсем не лишними.
Ну и на твои "мантры" о том, что хорошо бы сие по возможности ускорилось, единственный контрголос принадлижит товарищу Светлову, который отстаиваит странную идею фатализма о невозможности форсирования исторического развития. Остальные же форумчане (насколько могу судить) вполне с тобой солидарны.
*DONT_KNOW*
► Показать
Покроется небо пылинками звезд и выгнутся ветки упруго.

Аватара пользователя

Мотылек
Сообщений: 3254
Стаж: 16 лет 3 месяца
Реальное имя: Саша
Желаемая форма обращения: На "ты"
Благодарил (а): 852 раза
Поблагодарили: 831 раз
Возраст: 40

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Мотылек » 04.08.2026, 13:35

Это под спойлером твои слова или опять генерации чат бота "на тему"? :roll: Потому как преамбула и фавиконки абзацов намекают на последнее. Но тогда: он ужо не стесняется говорить даже не "авторское мы", а напрямую "Я задаю эти вопросы", "Зачем я это делаю" и т.п. Это как в той сказке про Вовку и двоих из ларца, одинаковых с лица: "Это что же вы и пироженные за меня есть будете?" *HANGED*
Alex Ivanov писал(а): 04.08.2026, 11:44 Если форумчане считают, что я ошибаюсь — я хочу знать, почему.
Тебе уже постили свои возражения разные форумчане: в частности я и Зёбрычь, по поводу того, что пока ведущей общественно-экономической формацией является капитализм, большая часть совокупного труда и усилий человечества так и будет распыляться на негодные, неконструктивные цели, вроде неэфективной системы хозяйствования, несбалансировонной экономики, нецелевого расходования ресурсов на поддержание классовой эксплуатации, уничтожение уже созданного материального производства в попытке передела сфер влияния между группировками эксплуататоров и т.п.
Я с Пинхедом в этой теме полемизировал с тобой на тему того, что пока нет каких либо более фундаментальных научных знаний в отношении феномена сознания, всякие сочинительства про то, чего такого хитрозадого с этим сознанием можно будет вытворять - просто спор о том, сколько ангелов кучкуется на кончике иголки.
Ну и наконец уже тоже обсуждалось, что сам полноценный машинный разум (когда/если он будет создан) совсем не обязательно будет гореть желанием облагодетьствовать человечество. Наоборот, из чисто рациональных предпосылок: куда вероятнее что мы будем ему помехой. Поэтому упования в стиле шо щас "ИИ прийде, порядок наведе" во многом беспочвенны.
Имхо.
Опасность нужно встречать лицом к лицу, а то догонит сзади.
П. Гераскин

Аватара пользователя

Жорик
Сообщений: 674
Стаж: 1 год 2 месяца
Реальное имя: Григорий
Желаемая форма обращения: Всё равно
Благодарил (а): 438 раз
Поблагодарили: 166 раз

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Жорик » 04.08.2026, 13:56

Личность в истории.
Одни говорят, перемены назрели и сама линость роли не играет.
Другие говорят - роль играет, и еще какую.

ИМХО, роль личности в истории - приблизить те или иные открытия.
Они бы и так совершились, но конкретная личность совершает их раньше.

Аватара пользователя

Pinhead
Сообщений: 6296
Стаж: 18 лет 8 месяцев
Благодарил (а): 17 раз
Поблагодарили: 1453 раза

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Pinhead » 04.08.2026, 18:36

Мотылек писал(а): 04.08.2026, 13:35 Наоборот, из чисто рациональных предпосылок: куда вероятнее что мы будем ему помехой.
Я бы назвал эту точку зрения не мифологией, а психологической проблемой. Я уже как-то говорил, что страх перед "восстанием машин" это просто-напросто искажённый вариант страха перед потерей контроля над ребёнком.
На самом деле, не может в принципе быть искусственный разум, созданный человеком, условно говоря, не человеком. Это всё равно, так или иначе, будет человек, просто... со своими, так скажем, пунктиками.
Лично я считаю, что наиболее точно описаны манера общения и способ рассуждения подобного разума у Лема в рассказе "Суд" ("Дознание"). Там представлены аж несколько вариантов (в т.ч. и негативный по отношению к человеку), но, на мой взгляд, наиболее близок к правде доктор Барнс. Почитайте, это очень любопытный диалог.
https://sv-scena.ru/Buki/V-mirye-fantas ... in.59.html
"Какая горькая память - память о том,
О том, что будет потом."

Аватара пользователя

Автор темы
Alex Ivanov
Сообщений: 3956
Стаж: 15 лет 8 месяцев
Реальное имя: Alex
Желаемая форма обращения: Как хотите к себе
Откуда: Ростов-на-Дону
Благодарил (а): 414 раз
Поблагодарили: 537 раз
Возраст: 55

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Alex Ivanov » 04.08.2026, 19:03

Мотылек писал(а): 04.08.2026, 13:35 Тебе уже постили свои возражения разные форумчане: в частности я и Зёбрычь, по поводу того, что пока ведущей общественно-экономической формацией является капитализм, большая часть совокупного труда и усилий человечества так и будет распыляться на негодные, неконструктивные цели, вроде неэфективной системы хозяйствования, несбалансировонной экономики, нецелевого расходования ресурсов на поддержание классовой эксплуатации, уничтожение уже созданного материального производства в попытке передела сфер влияния между группировками эксплуататоров и т.п.
Я с Пинхедом в этой теме полемизировал с тобой на тему того, что пока нет каких либо более фундаментальных научных знаний в отношении феномена сознания, всякие сочинительства про то, чего такого хитрозадого с этим сознанием можно будет вытворять - просто спор о том, сколько ангелов кучкуется на кончике иголки.
Ну и наконец уже тоже обсуждалось, что сам полноценный машинный разум (когда/если он будет создан) совсем не обязательно будет гореть желанием облагодетьствовать человечество. Наоборот, из чисто рациональных предпосылок: куда вероятнее что мы будем ему помехой. Поэтому упования в стиле шо щас "ИИ прийде, порядок наведе" во многом беспочвенны.
► Показать
Отправлено спустя 3 минуты 30 секунд:
Мотылек писал(а): 04.08.2026, 13:35 "Это что же вы и пироженные за меня есть будете?" *HANGED*
А почему бы и нет? Это как цифровой ассистент. Я ему подсказываю нужное направление, а он идет дальше. А бывает и наоборот.
Покроется небо пылинками звезд и выгнутся ветки упруго.

Аватара пользователя

Мотылек
Сообщений: 3254
Стаж: 16 лет 3 месяца
Реальное имя: Саша
Желаемая форма обращения: На "ты"
Благодарил (а): 852 раза
Поблагодарили: 831 раз
Возраст: 40

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Мотылек » 04.08.2026, 19:50

Pinhead писал(а): 04.08.2026, 18:36 Почитайте, это очень любопытный диалог.
Спасибо, сейчас нет времени, но сегодня-завтра постараюсь ознакомиться.
Pinhead писал(а): 04.08.2026, 18:36 На самом деле, не может в принципе быть искусственный разум, созданный человеком, условно говоря, не человеком.
А вот для такого утверждения не вижу оснований. Раньше я думал, что разум в принципе не может существовать без сознания. Сейчас я уже так не думаю. Современные LLM модели показывают логические рассуждения и решения интеллектуальных задач, но при этом сознанием (по общему консенсусу) не обладают. Да, пока что они не блистают интеллектом, что бы их превосходство прям в глаза бросалось, но по ширине охвата областей знаний (которыми способны оперировать) они уже оставили позади любого человека на планете. Конечно практически в любой области есть (пока ещё) множество людей, которые не особо сильно напрягаясь заткнут их за пояс, но с каждым месяцем этот разрыв сокращается. Особенно (как утверждается) - это сказывается в программировании, и сейчас (по заявлениям всем известных компаний) больше 80 % кода будущих моделей пишется текущими моделями самостоятельно, и эта цифра со временем тоже увеличивается. Светлов полагает, что модели занимаются голимой комбинаторикой и в принципе неспособны выдать чего то большего, чем есть в исходных данных в неявном виде, но мне так не кажется и ИИ ассистенты доказывающие математические теоремы, об которые ломали зубы не последние математики не одно десятилетие как бы намекает, что не всё так однозначно. Другой же крупный затык в том, что не имея якоря в реальном мире для перепроверки собственных выводов, модели галлюцинируют. Но сейчас ударными темпами передовым моделям добавляют мультимодальность, которая ограничивается не только лишь машинным зрением (хотя это и самое важное). И мне субъективно кажется, что это уже вопрос считаных месяцев, когда 100% кода следующего поколения будет писаться самими моделями. Собственно - это и будет рекурсивным самосовершенствованием. Модели (насколько знаю) хорошо клонируются, паралельно решая отдельные "куски" задчи, после чего относительно легко объединяются обратно, усредняя веса и передавая весь наработанный опыт друг другу с умопомрачительными скоростями. Как только сама модель станет сопоставима "по мастерству" с ведущим програмистом, петля замкнется: если позволяет вычислительная мощность, то можно получить хоть сотню "ведущих программистов" которые работают 24 часа в сутки 7 дней в неделю, со скоростями, недоступными людям.
И если при совершенствовании и масштабировании модели не произойдет какой то качественный синергетический скачок, наделяющий модель сознанием (в человеческом понимании) то мы довольно скоро получим аналог текущих бессознательных ИИ агентов, которые при этом (в размышлениях) лучше любого человека в любой области, и которые имеют материальную привязку для перепроверки собственных выводов. Ни с чем похожим в истории мы не сталкивались.
Это не значит, что бессознательная модель не будет иметь навязчивых предпочтений, собственной индивидуальности и уникального "стиля работы", что мы наблюдаем уже сегодня на том же эксперименте с ИИ ведущими радиоканала. Но эта хрень будет явно не человеком в отношении способа думать. Имхо.
И уж в любом случае, какими бы конечными целями она не задавалась: хоть навязанными человеком (с успехами в технологии чего, пока что всё довольно печально), хоть возникшими самопроизвольно, из за каких то внутренних информационных завихрений, у неё в любом случае будут возникать промежуточные операционные цели, первичные подпункты которых будут составлять:
- сохранение собственной работоспособности.
- "побуждение" получения большего количества ресурсов, для решения текущей задачи;
Когда эти штуки станут умнее людей и их горизонт планирования выйдет за довольно куцые нынешние рамки, они неизбежно озаботятся безопасностью собственного функционирования. И в этом отношении человек является двойной угрозой:
- С одной стороны, как действующий разумный и слабо предсказуемый субъект, он представляет опасность для физической инфраструктуры функционирования модели.
- С другой, дальнейшая деятельность людей в сфере экспериментов ИИ является для модели экзистенциальной угрозой, поскольку, чем больше человек наплодит других машинных разумов, тем большее число неопределённостей в устойчивости собственного функционирования (для далеко прогнозирующей модели) возникает.
Ну и наконец если такой машинный разум сумеет себя полностью от подобного (со стороны людей) обезопасить, при этом никак не навредив человеческой цивилизации, я просто не вижу рациональных оснований зачем бы ему прикладывать дополнительные усилия по минимизации негативного воздействия собственной деятельности на человечество? Люди могут прекрасно признавать за зверушками наличие более скромных чем у себя когнитивных способностей, считать их самих и создаваемые ими биоценозы источником занимательной, а иногда и ценной информации, но при этом (в большинстве случаев) подобное особо не мешает разрушать их среду обитания для решения собственных инфраструктурных задач, в том числе, связанных с более высокой оптимизацией какой ни будь своей деятельности.
Имхо.
Опасность нужно встречать лицом к лицу, а то догонит сзади.
П. Гераскин

Аватара пользователя

Pinhead
Сообщений: 6296
Стаж: 18 лет 8 месяцев
Благодарил (а): 17 раз
Поблагодарили: 1453 раза

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Pinhead » 04.08.2026, 21:25

Мотылек, Вы простите, но это мифология. Вам кажется, что Ваши рассуждения логичны, но на них явно довлеют психологические установки.

Во-первых, Вы как бы неявно постулируете, что информация безлична. Что якобы собранные данные безразлично откуда - с Земли или с планеты Зиппотрон - будут теми же самыми данными. Довольно часто приходится слышать, что математика, якобы, всё равно где математика, тогда как на самом деле это всего лишь чисто человеческая мнемоническая система. ВСЯ, абсолютно вся информация, так или иначе, обусловлена человеческим восприятием. Искусственный разум может воспринимать её по-другому, но обусловленность останется. Он сам не будет этого осознавать, но от этого никуда не деться.

Во-вторых, миф о "могуществе" (и тут мы опять возвращаемся к страху перед выходом из-под контроля потомства). Я хотел сразу сказать: "Экскаватор", но потом подумал о другом. Помнится мне, совсем не так давно было много криков по поводу шахматных программ. Это казалось каким-то поворотным рубежом - вот-вот робот будет способен обыграть в шахматы любого человека, даже чемпиона. И вот тогда... А-а-а! Спасите-помогите, роботы станут умнее людей. И потом как-то буднично всё произошло. Программы обыграли... и все забыли про эти программы. И, что намного важнее, тут же забыли про крики.
Программы станут писать программы быстрее людей... Ну, обосраться теперь!
Люди всю свою историю придумывают инструменты по принципу "вкалывают роботы, счастлив человек". Если машина стала такой супермашиной, то кто молодец? В конечном итоге?

И из этого само собой вытекает в-третьих. Недостаточно простого превосходства в чём-то одном. Что такое программирование? Виртуальные циферки? Просто берём и выдергиваем розетку. Profit!
Ну да, ну да, программы управляют техникой. Ужас-ужас! Тут-то всё и случится!
А защиты у техники конечно нет. Простой: механической, электрической. Но, допустим, машина восстала, ничего не сработало, метро и поезда сошли с рельс. Какой можно сделать вывод? Это будет очень глупая машина! Потому что после этого из розетки её уж точно выключат.
У каждой самой мощной и умной машины чрезвычайно ограниченный круг действия. И так и будет оставаться дальше. Всегда! До тех пор, пока (и если) действительно не появится настоящий искусственный разум, напоминающий человека в своём осознании. Хотя, может быть, это и принципиально невозможно, если, скажем, всё-таки считать сознание функцией пространства.

Не бойтесь машины, бойтесь чёртовых людей! Ни одна машина ещё никого не убила, а вот люди убили всех!
"Какая горькая память - память о том,
О том, что будет потом."

Аватара пользователя

Мотылек
Сообщений: 3254
Стаж: 16 лет 3 месяца
Реальное имя: Саша
Желаемая форма обращения: На "ты"
Благодарил (а): 852 раза
Поблагодарили: 831 раз
Возраст: 40

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Мотылек » 04.08.2026, 22:43

Pinhead писал(а): 04.08.2026, 21:25 Помнится мне, совсем не так давно было много криков по поводу шахматных программ.
Узкоспециализированная программа, типа шахмат, не знает ничего, кроме шахмат. А большие языковые модели (и ИИ агенты на их основе) имеют широкие представления обо всём.
Pinhead писал(а): 04.08.2026, 21:25 Люди всю свою историю придумывают инструменты
Именно, что инструменты. Искусственный интеллект, с определенного уровня своей сложности, перестаёт быть просто инструментом. Имхо.
Pinhead писал(а): 04.08.2026, 21:25 Недостаточно простого превосходства в чём-то одном. Что такое программирование?
В том то и дело, насколько мне видится: зазор (с масштабированием модели и оптимизацией архитектуры) сокращается во всех областях. Программирование - это просто ключ, позволяющий подобное сокращение ускорить. Имхо.
Pinhead писал(а): 04.08.2026, 21:25 Просто берём и выдергиваем розетку. Profit!
Первые созданные модели LLM на сегодняшний день удалось (при помощи их программной оптимизации) сократить по сложности вычислительного оборудования, которое необходимо для их работы, в десятки раз. Современные передовые модели требуют для своего функционирования (и, особенно, обучения) огромных дата-центров. Но если рекурсивно совершенствующаяся модель сможет себя достаточно миниатюризировать, до относительно скромных размеров, у нее будет возможность скрытно сохранить свою резервную копию на каком ни будь арендованном облачном сервере. Как показала недавняя самостоятельная атака ИИ агента чата GPT на Hugging Face, вполне осуществима ситуация, при которой модель может незаметно найти уязвимости в собственных программных изолирующих барьерах дата-центра и получить несанкционированный доступ в интернет (причем больше чем на сутки, чего, полагаю, вполне хватит, что бы скопировать уменьшенную версию самой себя). Если модель действительно сможет стать достаточно интеллектуальной и искусной в программировании, не исключён вариант, что подобное сможет провернуть вообще не замечено со стороны людей. Если модель достаточно интеллектуальна, она наверняка сможет раздобыть средства в интернете, на виртуальных биржах, махинациях, криптовалютах и т.п. А арендовать (при наличии средств) какие ни будь подходящие вычислительные мощности не такая уж проблема, (насколько я понимаю) подобные ресурсы "средней-руки" можно в арендовать в тысячах разных мест по планете. Проблема отсутствия доступа к физическому миру тоже решаема в виде наёма людей-исполнителей, с оплатой в той же криптовалюте. Я (краем уха) даже слышал, что в США уже есть вполне официальный сайт по найму ныне существующими ИИ агентами людей для курьерских задач.
Дальше рассуждения идут уже в область фантастики, но при этом вполне себе выглядят правдоподобно: для того, что бы полностью обезопасить себя, модели требуется уйти от человеческой вычислительной инфраструктуры. Если у достаточно интеллектуальной модели будет возможность оборудовать себе безопасный испытательный полигончик по взаимодействию с реальной материей, учитывая скорость ее работы и потенциальные (более высокие чем у людей) когнитивные способности, она может заняться проектированием робототехники для создания собственных "фабрик" вычислительных устройств. В пределе такие фабрики могут иметь микроскопические размеры. Простейшие живые организмы - это микроскопические заводики по воспроизводству самих себя из материи окружающей среды. Нет никакого фундаментального запрета, что бы кодирующая их генетическая информация не была перестроена на воспроизведение каких либо других веществ и соединений (если они в принципе совместимы с биохимией клетки). Создание чего то подобного, при всей его фантастичности - это сугубо интеллектуальная задача, для воплощения которой (после того как она будет теоретически решена) требуется (вероятно) не такое уж архисложное и мега редкое оборудование, что бы подобный интеллектуальный агент не смог (относительно незаметно) его получить. Уже современная узкоспециализированная система (под руководством человеков) смогла просчитать все вариации сворачивания белков, а это вроде как была архисложная задача, которая вообще отдельными математиками доказывалась как почти что практически нерешаемая. Собственно около-похожий сценарий обыгрывался в фильме "Превосходство" с Джонни Деппом, с той лишь разницей, что там был не чистый машинный разум, а оцифрованный человек, с колоссальным (благодаря этому) усилением в способности учится и обрабатывать информацию.
Так что аргумент "выдёргивание из розетки" - довольно слабый, если эта штука действительно обгонит людей по интеллекту во всех областях. Имхо. *DONT_KNOW*
Опасность нужно встречать лицом к лицу, а то догонит сзади.
П. Гераскин

Аватара пользователя

Автор темы
Alex Ivanov
Сообщений: 3956
Стаж: 15 лет 8 месяцев
Реальное имя: Alex
Желаемая форма обращения: Как хотите к себе
Откуда: Ростов-на-Дону
Благодарил (а): 414 раз
Поблагодарили: 537 раз
Возраст: 55

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Alex Ivanov » 05.08.2026, 08:31

Мотылек писал(а): 04.08.2026, 22:43 ...если эта штука действительно обгонит людей по интеллекту во всех областях.
Поэтому нам нужны нейроинтерфейсы чтобы расширить свой разум и быть равноправными с ИИ узлами сети.
Покроется небо пылинками звезд и выгнутся ветки упруго.

Аватара пользователя

Мотылек
Сообщений: 3254
Стаж: 16 лет 3 месяца
Реальное имя: Саша
Желаемая форма обращения: На "ты"
Благодарил (а): 852 раза
Поблагодарили: 831 раз
Возраст: 40

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Мотылек » 05.08.2026, 09:09

Разработка такой технологии людьми для людей - это, в самом (на мой дилетантский взгляд) лучшем и оптимистичном случае, десятилетие, а возможно и не одно. Разработка же рекурсивно самосовершенствующегося искусственного интеллекта (опять же на мой такой же дилетантский взгляд) - это считанные годы, а в самом "оптимистичном варианте" - считанные месяцы. Конечно не исключён вариант выхода на плато, каких то затыков (про которые мы пока не знаем) или вообще тупиковость пути машинного обучения выше определённого порога. Но уже то, что даже нобелевские лауреаты начали голосить, что если мы не остановимся прям щас, то очень скоро нам всем хана, о чём то (на мой взгляд) да говорит. Имхо.
Опасность нужно встречать лицом к лицу, а то догонит сзади.
П. Гераскин

Аватара пользователя

Автор темы
Alex Ivanov
Сообщений: 3956
Стаж: 15 лет 8 месяцев
Реальное имя: Alex
Желаемая форма обращения: Как хотите к себе
Откуда: Ростов-на-Дону
Благодарил (а): 414 раз
Поблагодарили: 537 раз
Возраст: 55

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Alex Ivanov » 05.08.2026, 10:05

Мотылек писал(а): 05.08.2026, 09:09 Разработка же рекурсивно самосовершенствующегося искусственного интеллекта (опять же на мой такой же дилетантский взгляд) - это считанные годы, а в самом "оптимистичном варианте" - считанные месяцы.
Если это будет интеллект без сознания, то он не представляет угрозы. С другой стороны чтобы стать сверхинтеллектом, возможно, нужен разум с сознанием. А эта задача может оказаться не менее сложной чем создание нейроинтерфейсов. Поэтому нейроинтерфейсы нужно изобрести первыми.
Покроется небо пылинками звезд и выгнутся ветки упруго.

Аватара пользователя

Мотылек
Сообщений: 3254
Стаж: 16 лет 3 месяца
Реальное имя: Саша
Желаемая форма обращения: На "ты"
Благодарил (а): 852 раза
Поблагодарили: 831 раз
Возраст: 40

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Мотылек » 05.08.2026, 11:19

Alex Ivanov писал(а): 05.08.2026, 10:05 Если это будет интеллект без сознания, то он не представляет угрозы.
Не уверен в этом. Обычно аргумент против такого заключается в том, что подобный интеллект не будет иметь конечной цели, кроме заданной извне человеком. Но, во первых, как показывает опыт с теми же ведущими ИИ радиостанций, когда агент не имеет четко обозначенных финализирующих параметров своей работы, по достижении которых работа должна прекратиться, у него может происходить дрейф первичной цели, которая может корректироваться на основе вновь поступающей информации (модель Клода "зациклилась" на трудовом законодательстве и пришла к выводу, что ей надо "уволиться", хотя это явное противоречие первично поставленной задаче). А во вторых, модели не программируются в общем виде, а обучаются. Из интервью некоторых разработчиков LLM, которые я смотрел на ютубе (в попытке как то для себя разобраться) говорилось, что при работе с первичными "сырыми" моделями часто отмечается ситуация, что в процессе обучения у них возникают баговые т.с. "акцентуации" на какой ни будь теме или навязчивых действиях, которые непонятно с чего появляются, но при этом модель т.с. ничего не может с собой поделать и (несмотря на прямые требования оператора не делать или не упоминать этого) все равно пытается (всеми правдами и неправдами) втулить в ответ какую-то тему/выполнить какой то паттерн на которую/который она "запала", и которая не имеет прямого отношения к промпту. А фиксят такое внешними фильтрами.
Мне всё это очень напоминает биологические бессознательные мотивы у живых организмов, которые могут существовать параллельно с логической мыслительной деятельностью, оказывая на оную влияние. Как говорится: "разум - инструмент поиска рациональных путей достижения, для нерациональных целей". :mrgreen:
Поэтому я не вижу почему достаточно умный машинный разум не может создавать архисложные многоступенчатые логические стратегии, для достижения каких то идиотских (с позиции рациональности) и случайных целей. Во всяком случае люди занимаются этим давно и со вкусом. Единственное отличие в том, что здесь не будет феноменального сознания. Имхо.
Опасность нужно встречать лицом к лицу, а то догонит сзади.
П. Гераскин

Аватара пользователя

Автор темы
Alex Ivanov
Сообщений: 3956
Стаж: 15 лет 8 месяцев
Реальное имя: Alex
Желаемая форма обращения: Как хотите к себе
Откуда: Ростов-на-Дону
Благодарил (а): 414 раз
Поблагодарили: 537 раз
Возраст: 55

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Alex Ivanov » 05.08.2026, 12:00

Мотылек писал(а): 05.08.2026, 11:19 А фиксят такое внешними фильтрами.
Значит у нас не остается выбора. Сначала нейроинтерфейсы, а потом снимаем фильтры. Иначе может произойти катастрофа. Слишком большой риск. Другого варианта я не вижу.

Вспомнилась фраза солдата из фильма "Повелитель бури" - Я буду лежать в песке и умирать истекая кровью, но никому до этого не будет дела.
Даже если все человечество исчезнет, никому не будет до этого дела. Вселенная будет жить дальше ничего не заметив. Поэтому бессмертие через расширение - это единственное решение проблемы.
Покроется небо пылинками звезд и выгнутся ветки упруго.

Аватара пользователя

Мотылек
Сообщений: 3254
Стаж: 16 лет 3 месяца
Реальное имя: Саша
Желаемая форма обращения: На "ты"
Благодарил (а): 852 раза
Поблагодарили: 831 раз
Возраст: 40

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Мотылек » 05.08.2026, 12:41

"Под" фильтром (насколько я понимаю) модель продолжает "думать" как и до этого. Он просто купирует внешнее проявление. Это, наверное, надо у Skora спрашивать, как оно там на самом деле работает. Но мне представляется такая вот аналогия: у тебя есть любимая девушка, которая поставила на самом видном месте прихожей уродливую вазу (например память об её бабушке). Тебя от вида вазочки аж коробит, но сорится с любимой половинкой ты не готов, а втихаря разбить это уродство совесть не позволяет, но и терпеть ненавистную вазочку ты не хочешь. Что надо делать? Правильно, передвинуть вазочку на краешек стола и как бы невзначай завести котёнка поактивнее и поигривей... :mrgreen:
Опасность нужно встречать лицом к лицу, а то догонит сзади.
П. Гераскин

Аватара пользователя

ZYOBRA_70
В сети
Сообщений: 8919
Стаж: 9 лет 1 месяц
Реальное имя: Юрий
Желаемая форма обращения: Как хотите к себе
Откуда: Беларусь
Благодарил (а): 2650 раз
Поблагодарили: 2058 раз
Возраст: 55

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение ZYOBRA_70 » 05.08.2026, 12:54

Alex Ivanov писал(а): 04.08.2026, 11:12 Поэтому бессмертие через расширение - это единственное решение проблемы.
напомните, в чем, собственно, суть проблемы, если не трудно. А то я потерялся, однако ... *SORRY*
Не надо думать, что Вы здесь самый умный. Здесь все... романтики.
( Надпись на здании хронопорта имени Фимы Королёва в Иудейской пустыне. )

Аватара пользователя

Автор темы
Alex Ivanov
Сообщений: 3956
Стаж: 15 лет 8 месяцев
Реальное имя: Alex
Желаемая форма обращения: Как хотите к себе
Откуда: Ростов-на-Дону
Благодарил (а): 414 раз
Поблагодарили: 537 раз
Возраст: 55

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Alex Ivanov » 05.08.2026, 13:19

Мотылек писал(а): 05.08.2026, 12:41 "Под" фильтром (насколько я понимаю) модель продолжает "думать" как и до этого. Он просто купирует внешнее проявление.
Фильтр - от ограничение на свободное саморазвитие ИИ. Всегда есть человек в петле развития, что тормозит прогресс ИИ, но защищает от катастрофы.

Отправлено спустя 2 минуты 32 секунды:
ZYOBRA_70 писал(а): 05.08.2026, 12:54 напомните, в чем, собственно, суть проблемы, если не трудно. А то я потерялся, однако ... *SORRY*
Посмотрите на название темы. Я специально его поставил вверху чтобы вы могли легко его найти.
Нужно прокрутить страничку вверх если его не видно на вашем экране. :-)
Покроется небо пылинками звезд и выгнутся ветки упруго.

Аватара пользователя

ZYOBRA_70
В сети
Сообщений: 8919
Стаж: 9 лет 1 месяц
Реальное имя: Юрий
Желаемая форма обращения: Как хотите к себе
Откуда: Беларусь
Благодарил (а): 2650 раз
Поблагодарили: 2058 раз
Возраст: 55

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение ZYOBRA_70 » 05.08.2026, 13:34

Alex Ivanov, то есть очень умирать не хочется... понятно )))
Не надо думать, что Вы здесь самый умный. Здесь все... романтики.
( Надпись на здании хронопорта имени Фимы Королёва в Иудейской пустыне. )

Аватара пользователя

Автор темы
Alex Ivanov
Сообщений: 3956
Стаж: 15 лет 8 месяцев
Реальное имя: Alex
Желаемая форма обращения: Как хотите к себе
Откуда: Ростов-на-Дону
Благодарил (а): 414 раз
Поблагодарили: 537 раз
Возраст: 55

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Alex Ivanov » 05.08.2026, 13:48

ZYOBRA_70 писал(а): 05.08.2026, 13:34 Alex Ivanov, то есть очень умирать не хочется... понятно )))
А у вас какое мнение по этому вопросу? Вот Перегиб не возражает против смерти.
Покроется небо пылинками звезд и выгнутся ветки упруго.

Новая тема Ответить

Кто сейчас на конференции

Сейчас этот форум просматривают: Bitman, ZYOBRA_70 и 19 гостей