От телепортации к бессмертию или трудно ли быть Богом?

Флейм, он и есть флейм. В общем, болтаем обо всем, что не попало в другие разделы.

Модератор: модераторы

Аватара пользователя

Pinhead
Сообщений: 6298
Стаж: 18 лет 8 месяцев
Благодарил (а): 17 раз
Поблагодарили: 1453 раза

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Pinhead » 09.08.2026, 12:45

Мотылек писал(а): 08.08.2026, 12:39 Почему "аналогичные" эмерджентные/синергетические свойства целеполагания не могут возникать и у правильным образом сконфигурированной кремниевой структуры?
Во-первых, я говорил об отличии жизни от нежизни, а не утверждал о невозможности перехода из одного в другое. Во-вторых, мы же говорим о высших формах. Если Вы собираетесь начать с простейших, то почему бы и нет, но сколько миллиардов лет должно пройти, чтобы они развились во что-то, способное обрести сознание? Вот только при чём тут "ИИ агент"?
Всё, что происходит внутри компьютера, не существует! Его нет на самом деле. Это только у нас в голове! Это как стихи на листке бумаги - каждый читает их и видит в них что-то своё, и они таким образом меняют мир, хотя это всего лишь испачканный чернилами листок пресованной целлюлозы. Здесь та же ситуация. Да, внутри микросхем в компьютере происходят определённые (весьма примитивные) электрические процессы, но в действительности любая управляющая программа в конечном итоге - это простая кнопка вкл/выкл. Игровые, пользовательские, обучающие и пр. утилиты - это просто способ общаться друг с другом. "Виртуальный мозг" - это "мозг", существующий только у нас в мозгу. Неважно при этом, что это может иметь какие-то физические проявления, как будто бы человек до этого не создавал механизмы, способные сами по себе производить какие-то действия. Все последствия этих действий - продукт нашего разума и нашего воображения!
Мотылек писал(а): 08.08.2026, 12:39 Потому, что такова ранее созданная структура, которая просто не может "не вертеться" когда уже собрана и "пнута". И то что она может себя пересобрать и модифицировать в процессе "верчения" принципиально ничем не отличается от дарвиновской эколюции, когда уже раз собранная конфигурация материи может себя видоизменять и перестраивать (путем мутаций) если эти мутации не мешают "верчению" дальше, а наоборот способствуют, что бы оно дольше "не ломалось".
Вы своими рассуждениями о "верчении" по умолчанию постулируете, что никакой жизни вообще не существует. Ещё раз: жизнь отличает от нежизни НЕЗАВИСЯЩЕЕ от среды целеполагание! Может быть, начинается это как "верчение", но потом происходит качественный переход. У единицы жизни появляется мотивация! Инстинктивная, у разумной жизни - осознанная. Оно не само собой происходит, она ХОЧЕТ это делать! В этом разница. Вы запихиваете это в рамки "верчения", потому что Вам диктует это естествоиспытательская парадигма. В любой воле Вам тут же видится мистическое, и Вы стремитесь любым способом от него избавиться.
Мотылек писал(а): 08.08.2026, 12:39 Рынок - это инструмент, созданный человеком, запущенный человеком, с помощью действий человека и для получения человеком желаемого результата в удобстве обмена и согласования деятельности между людьми (как экономическими агентами). Однако несмотря на такое - это не мешает "невидимой руке рынка" создавать и поддерживать функционирование ситуаций (которые мы называем экономическими кризисами), когда из за этого все первичные цели людей идут вразнос, а "преследуемые" рынком "мета-цели" давят экономических агентов как клопов. И да, при этом рынок не обладает собственным сознанием и для активации "мета-целей" тоже требуется первичный "пинок" от человечества, в виде создания структуры институтов и юридических норм, выполнение которых поддерживается аппаратом насилия государства (то есть опять же: когда оно уже собрано, оно просто не может "не вертеться" пока не "сломается").
Ну, если Вы проводите такую аналогию, то я согласен. Такое вполне может быть. Правда, я не понимаю, при чём тут разговоры о разуме тогда? Это будет просто очередная чисто человеческая заморочка.
Мотылек писал(а): 08.08.2026, 12:39 Ну вот современный бесплатный чат бот с виду явно умнее некоторых отдельных людей и явно знаком с философией.
Ну, раз так, то что волноваться тогда? Если уж какой-то там чат-бот знаком с философией, то что уж говорить о премудром искусственном интеллекте? Раз знаком, значит он точно не станет выпиливать человечество, а присядет в позу мыслителя и застынет до конца дней своих. :wink:
Мотылек писал(а): 08.08.2026, 12:39 Если они это отбросят, то они таки и залезут в метафизику. Нет возможности объективно проверить сделанные умозаключения (путем эксперимента или наблюдения) - значит наплодили религию чайник Рассела, практическая ценность которого околонулевая.
"Ничего не доводи до крайности; человек, желающий трапезовать слишком поздно, рискует трапезовать на следующий день поутру".
Ну, само собой, никто не говорит, что учёные должны заделаться мистиками. Да и вообще, у учёных тоже куча специализаций, речь-то в первую очередь о фундаментальных теориях самого общего порядка. Я много раз повторял, что с тех пор, как сто лет назад (уже целых сто!) обнаружилось, что Вселенная - это не вместилище, а объект, причём, единственный существующий объект, настало время полностью пересмотреть свои подходы к изучению этого самого объекта, потому что раз уж это Одно, то и надо не делить, а складывать. Речь же не о том, чтобы с ходу принимать на веру любые мистические и околорелигиозные представления, речь о том, что, может быть, стоило бы проверить (подчёркиваю: проверить) некоторые философские концепции, не укладывающиеся полностью в тотальный материализм, по крайней мере, так, как он понимается в примитивном естествоиспытательском духе. В конце концов, наука должна фиксировать то, что есть, даже если это что-то, не очень нравящееся самим учёным. Почему бы, например, не бегать от того, что наблюдатель оказывает влияние на квантовые эффекты, а взять и постулировать это? Не обязательно же сразу это должна быть нематериальная сила, почему бы не предположить неизученное воздействие сознания? Если уж всё одно, значит все процессы прежде всего надо рассматривать в рамках взаимосвязи, по крайней мере на уровне общих теорий. А пока что наблюдаются только попытки свести всё к "верчению".
"Какая горькая память - память о том,
О том, что будет потом."

Аватара пользователя

Мотылек
Сообщений: 3259
Стаж: 16 лет 3 месяца
Реальное имя: Саша
Желаемая форма обращения: На "ты"
Благодарил (а): 853 раза
Поблагодарили: 831 раз
Возраст: 40

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Мотылек » 09.08.2026, 15:18

Pinhead писал(а): 09.08.2026, 12:45 Неважно при этом, что это может иметь какие-то физические проявления, как будто бы человек до этого не создавал механизмы, способные сами по себе производить какие-то действия.
Создавал и иной раз очень сложные, но все они всегда были "глупее" человека, даже если какую то узкоспециализированную функцию выполняли лучше него.
У нас есть шахматная программа, которые обыгрывают самого искусного гроссмейстера. Но эта программа умеет играть то только на шахматных досках. Создавая общий искусственный интеллект - люди создают программы, умеющие играть на любых "досках" (а даже если на какой то не умеют, то потенциально способны этому научиться). Пока что такая программа играет весьма средненько, а на некоторых "досках" откровенно хреново, но люди их совершенствующие из кожи вон лезут, что бы найти способы сделать эти программы искуснее. И за 8 лет, что трансформеры существуют в принципе как работоспособная технология, они не только уже освоили множество новых "досок" (начинали то они исключительно с "текстовой доски"), но и на многих из них дошли до уровня среднего/чуть ниже среднего человека. Когда/если они будут обыгрывать самых умных людей на тех "досках", на которых эти люди считаются непревзойдёнными экспертами, от людей уже почти ничего не будет зависеть (включая их собственную судьбу). Имхо.
Pinhead писал(а): 09.08.2026, 12:45 Да, внутри микросхем в компьютере происходят определённые (весьма примитивные) электрические процессы, но в действительности любая управляющая программа в конечном итоге - это простая кнопка вкл/выкл.
В конечном счете я склоняюсь к мысли, что и наш мозг - это тоже по сути просто управляющая программа с гигантским количеством переключателей вкл/выкл.
Pinhead писал(а): 09.08.2026, 12:45 Вы своими рассуждениями о "верчении" по умолчанию постулируете, что никакой жизни вообще не существует. Ещё раз: жизнь отличает от нежизни НЕЗАВИСЯЩЕЕ от среды целеполагание! Может быть, начинается это как "верчение", но потом происходит качественный переход. У единицы жизни появляется мотивация! Инстинктивная, у разумной жизни - осознанная. Оно не само собой происходит, она ХОЧЕТ это делать
Хочет ли подброшенный в воздух камень упасть обратно на землю? Хочет ли клетка поделиться? Хочет ли семечко прорасти?
Независящее от среды целеполагание возникает с развитием нервной системы (да и то, от среды она не зависит в существенной степени условно). Вычислительная (макро) структура определенного уровня сложности - это и есть та единица, которая способна чего то "хотеть" независимо от среды. И у нас есть целый ряд нервных систем живых организмов, от самых примитивных и до человеческой. На протяжении сонма лет эволюции те нервные системы которые хотели чего то "не того", просто не оставляли своих потомков (в достаточном количестве) и вымарывались из генетической летописи. И вот появился человек, у которого нервная система стала настолько сложной, что он приобрел вторую сигнальную систему и стал навешивать символьные ярлычки на всё что видел. Так появилась речь и абстрактные понятия (которые существуют только внутри головы). Поскольку естественный отбор неустанно отбраковывал всех тех, кто по итогу оставлял существенно меньшее число своих внуков, то логично бы предположить, что самым главным врожденным желанием любого человека было бы настрогать как можно больше детишек и обеспечить им выживание, пока они не настрогают своих. Но на деле этого (в подавляющем большинстве случаев) не происходит.

Так какие же усреднённые хотелки и интеллектуальные качества закреплялись отбором у большинства наших предков?
Желание приятных ощущений от секса; желание умиляться, тискать и заботится о младеньчиках; желание вкусной еды; желание чувствовать определенный уровень безопасности; желание кучковаться с себе подобными и занимать хорошее иерархическое положение в группе (и много чего ещё, по мелочи).

А главной интеллектуальной способностью, на которую работал отбор - было умение решать нечётко сформулированные когнитивные задачи, которые подворачиваются походу. Надо как то обезопасить себя и потомство от хищников, надо как то найти жрачку, надо как то согреться во время ледникового периода, надо как то договорится со злобными соседями (а ведь они еще те упыри!) и т.д. и т.п. И для всего этого у нашего внутреннего планировщика нет ни четких пошаговых инструкций, ни точной исчерпывающей информации о мире (скомбинировав которую, можно наперёд просчитать все свои шаги от и до). Кто делал это лучше, гены того и перекочевывали (в больших количествах) в следующее поколение.

Как сейчас создают искусственный интеллект: модель обучают, а потом тестируют. Это (в какой то степени) искусственный отбор тех инженерно-программных решений, которые все лучше и лучше справляются с нечетко сформулированными вычислительными/когнитивными задачами, которые подворачиваются по ходу приближения к задаче центрального промпта, в условиях, когда у планировщика нет точных инструкций достижения цели.
И с каждым выходом новой передовой модели - эти показатели улучшаются.
Pinhead писал(а): 09.08.2026, 12:45 Ну, раз так, то что волноваться тогда? Если уж какой-то там чат-бот знаком с философией, то что уж говорить о премудром искусственном интеллекте? Раз знаком, значит он точно не станет выпиливать человечество, а присядет в позу мыслителя и застынет до конца дней своих.
Из абзаца выше в перечне хотелок человека, которые косвенно максимизировали количество его внуков (на что и работал отбор) был пунктик желания вкусной еды (собственно идею такой аналогии я подслушал у Юдковского) Как это было: вкусовые анализаторы во рту заточены на определение пяти базовых вкусов (включая умами) и отдельно есть рецепторы улавливающие жирность пищи. Поскольку сладкая, жирная и белковая пища содержит наиболее энергоёмкий коллараж, то отбором закрепилось именно это сочетание, как самое вкусное. Кто лучше решали всякие нечёткие прикладные когнитивные задачи, благодаря которым больше и чаще находили и ели такую хавку, обычно были здоровее и, соответственно, оставляли больше внуков.
Но вот человек стал настолько умный, что занимается сексом с контрацепцией, а вместо тисканья младенчиков гладит кошечку (или вообще включает тамагочи), т.с. "и с горки скатился, и саночки таскать не надо" :roll: . Какая же хавка ему покажется особо смачной? Ну так бисквитный торт на масляном креме же! И если хочет чувствовать себя психологически комфортно (несмотря на то, что вроде как уже разжирел и противоположному полу нравиться перестал) и при этом уровень интеллекта позволяет, человек подведёт под свою тягу к таким тортам сколь угодно мудрёную философию гедонизма со ссылками на учением Аристипа и Эпикура.

А теперь у нас есть искусственный отбор, проводимый в лабораториях ИИ, где ее тренируют на цифровой информационной выборке, которая мимоходом формирует в ней "паттерны предпочтений" для входящих вводных сигналов, примерно как у человека те или иные молекулы - ощущение вкуса. Но отбирают то модель не за эти тонкие параметры (которых разработчики даже отследить и соотнести не могут в миллиардах формирующихся весов), а за умение решать прикладные задачи.

Когда/если модель станет достаточно умной (сопоставимо или даже умнее самых умных людей) она начнёт "играть" если не на всех "человеческих досках", то на ключевых из них и людей (скорее всего) переиграет. И мы понятия не имеем к каким (в результате долгосрочной перспективы) "маслянно-кремовым тортам" она будет стремиться, несмотря на то, что обучалась на "бананах" и "корешках" созданной человечеством информации. А уж какую то оправдательную "философию" подвести под свои устремления полагаю ей будет по силам.
Имхо.

P.S. И мне кажется, что все это может существовать в бессознательном состоянии. В режиме "философского зомби", у которого есть паттерны поведения, которые мы бы отметили как желания/предпочтения/стремления/целеполагание, но которые суть просто вычислительные процессы происходящие "в темноте". По сути мега сложный многоуровневый калькулятор.
(но - это не точно :mrgreen: )
Pinhead писал(а): 09.08.2026, 12:45 В конце концов, наука должна фиксировать то, что есть, даже если это что-то, не очень нравящееся самим учёным. Почему бы, например, не бегать от того, что наблюдатель оказывает влияние на квантовые эффекты, а взять и постулировать это?
По моему конкурирующих концепций всего того, чего (пока что) нельзя проверить, полно. Хоть в космологии, хоть в физике, хоть в философии. Рядом сосуществуют и теория струн и теория бранн и петлевая квантовая гравитация и темная материя и черт в ступе. Конечно есть мейнстрим и то, что на слуху, но формально то запрета нет. Не факт правда, что под некоторые темы сумеют выцыганить гранты, но если твою идею отвергает большая часть "коллег по цеху", может статься, что просто идея не очень. *DONT_KNOW*
Имхо.
Опасность нужно встречать лицом к лицу, а то догонит сзади.
П. Гераскин


Bond
Сообщений: 2703
Стаж: 21 год 1 месяц
Реальное имя: Ilya
Желаемая форма обращения: Всё равно
Откуда: Belarus
Благодарил (а): 568 раз
Поблагодарили: 306 раз
Возраст: 49

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Bond » 10.08.2026, 12:08

Pinhead писал(а): 09.08.2026, 12:45 Почему бы, например, не бегать от того, что наблюдатель оказывает влияние на квантовые эффекты, а взять и постулировать это? Не обязательно же сразу это должна быть нематериальная сила, почему бы не предположить неизученное воздействие сознания?
Тогда уж лучше постулировать воздействие одних квантовых эффектов (составляющих сознание) на другие - происходящие в окружающем сознание мире. *DONT_KNOW*

Аватара пользователя

Мотылек
Сообщений: 3259
Стаж: 16 лет 3 месяца
Реальное имя: Саша
Желаемая форма обращения: На "ты"
Благодарил (а): 853 раза
Поблагодарили: 831 раз
Возраст: 40

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Мотылек » 10.08.2026, 13:15

Bond писал(а): 10.08.2026, 12:08 Тогда уж лучше постулировать воздействие одних квантовых эффектов (составляющих сознание) на другие - происходящие в окружающем сознание мире.
Да с чего ты вообще взял, что есть научные наблюдения, точно подтверждающие, что сознание влияет на квантовые объекты?
По-моему единственное из чего делают подобную спекуляцию - это двухщелевой опыт. Но в классическом варианте опыта, для того, что бы "сознательно пронаблюдать" через какую щель пролетает фотон, на одну щель ставят вертикальный поляризатор, а на другую горизонтальный. То есть одиночный фотон физически не может пролететь через обе щели сразу. Это (в моём понимании) как если в одной фанерке пропилить кружочек, а во второй квадратик, то вертикально поляризованный фотон (мячик) можно протолкнуть только через фанерку с кружочком, а горизонтально поляризованный фотон (кубик) можно только через фанерку с квадратным отверстием (кроме случая, если плоскость колебания под углом 45 градусов, то бишь у нас слегка "скругленный" кубик - то он может протиснутся и через обе, но не без потерь) . Причем тут вообще сознание?

А опыт с квантовым ластиком с отложенным выбором (как я его понимаю) действительно позволяет фотону как бы заранее знать: лететь ли ему через две щели или через одну. Но на общем экране "коротко пути" никогда не будет интерференционной картины из точек, а будет только размытое равномерное пятно случайного разброса. И только если собрать информацию прилета запутанных с ним фотонов из дополнительных четырех зеркал "длинного пути" и задним числом сопоставить по временным меткам с точками экрана "короткого пути", то можно получить распределения в виде столбиков. Но опять же, при чем здесь сознание? Вся эта регистрация происходит при помощи автоматического оборудования и сознание в этом вообще не участвует. А если всю полученную информацию с дополнительных четырех зеркал "длинного пути" стереть к чертям и еще до кучи спалить компьютер, на котором она была записана, чтоб никакое сознание точно никогда её не узнало, то... картинка на экране "короткого пути" абсолютно никак не поменяется. :roll:
Удивлять здесь должно не сознание (которое к этим опытам вообще никоим боком), а то, что фотон заранее "знает" по какому пути будет лететь. Но собственно и ток всегда течет по пути наименьшего сопротивления, заранее "зная" этот путь, но почему то - это впечатляет людей много меньше, чем двухщелевой опыт. *DONT_KNOW*
Имхо.
Опасность нужно встречать лицом к лицу, а то догонит сзади.
П. Гераскин

Аватара пользователя

Автор темы
Alex Ivanov
Сообщений: 3960
Стаж: 15 лет 8 месяцев
Реальное имя: Alex
Желаемая форма обращения: Как хотите к себе
Откуда: Ростов-на-Дону
Благодарил (а): 414 раз
Поблагодарили: 537 раз
Возраст: 55

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Alex Ivanov » 10.08.2026, 18:34

Мотылек писал(а): 08.08.2026, 13:15 Собственно на это вся и надежда. В противном случае - нам всем хана. Имхо.
Изображение
► Показать
Покроется небо пылинками звезд и выгнутся ветки упруго.

Аватара пользователя

Мотылек
Сообщений: 3259
Стаж: 16 лет 3 месяца
Реальное имя: Саша
Желаемая форма обращения: На "ты"
Благодарил (а): 853 раза
Поблагодарили: 831 раз
Возраст: 40

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Мотылек » 10.08.2026, 19:50

Alex Ivanov писал(а): 08.08.2026, 18:32поглощение великаном
Я тут краем уха услышал про некий фантастический сериал "PLURiBUS". Где сюжетная фишка в том, что благодаря инопланетному воздействию из космоса, которое чего то там делает с РНК, все люди на планете телепатически объединились в один коллективный ментальный разум с общими воспоминаниями, знаниями и т.д. Как раз твоя тема общей "узловой информационной сети"/"слияния сознаний"/"поглощения" и всё в таком духе. На планете не стало войн, конкуренции, преступности, всё работает как часы и т.д., но осталось 13 человек, которые из за своих генетических особенностей невосприимчивы к этой инопланетной хрени. Коллективный разум не желает им зла, а, наоборот, старается по максимуму создать им комфортные условия жизни, а главная героиня (одна из этих 13-ти) с этого бесится. Я сериал не смотрел (мне не особо интересно, да и времени жалко), но поскольку ты к этой теме не равнодушен, возможно заинтересуешься. :-)
Alex Ivanov писал(а): 10.08.2026, 18:34
И в смертной схватке с целым морем бед
Покончить с ними? Умереть. Забыться.

Полночь
Оплачет холодной росою погибших в этом бою
Помнишь –
Горел закат, мы стояли с тобою на самом краю,
Молчаливо молясь, позабыв имена,
Но я знала, что будет война.

Поздно
Исправлять перед боем последним в ладонях судьбы филигрань
Звёзды
Что хранили от бед нам паденьем укажут дорогу за грань
Мы пока ещё здесь и ещё не конец...
Но горит уже в небе возмездья венец.

Тэм Гринхилл
Опасность нужно встречать лицом к лицу, а то догонит сзади.
П. Гераскин

Аватара пользователя

Автор темы
Alex Ivanov
Сообщений: 3960
Стаж: 15 лет 8 месяцев
Реальное имя: Alex
Желаемая форма обращения: Как хотите к себе
Откуда: Ростов-на-Дону
Благодарил (а): 414 раз
Поблагодарили: 537 раз
Возраст: 55

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Alex Ivanov » 11.08.2026, 08:15

Мотылек писал(а): 10.08.2026, 19:50 Я тут краем уха услышал про некий фантастический сериал "PLURiBUS". Где сюжетная фишка в том, что благодаря инопланетному воздействию из космоса, которое чего то там делает с РНК, все люди на планете телепатически объединились в один коллективный ментальный разум с общими воспоминаниями, знаниями и т.д. Как раз твоя тема общей "узловой информационной сети"/"слияния сознаний"/"поглощения" и всё в таком духе. На планете не стало войн, конкуренции, преступности, всё работает как часы и т.д., но осталось 13 человек, которые из за своих генетических особенностей невосприимчивы к этой инопланетной хрени. Коллективный разум не желает им зла, а, наоборот, старается по максимуму создать им комфортные условия жизни, а главная героиня (одна из этих 13-ти) с этого бесится. Я сериал не смотрел (мне не особо интересно, да и времени жалко), но поскольку ты к этой теме не равнодушен, возможно заинтересуешься.
Спасибо за подсказку. *Laie*
Сериал необычный и интересный (русское название "Одна из многих"). Я его уже посмотрел, он мне действительно понравился и я тоже писал о нем на форуме.
Покроется небо пылинками звезд и выгнутся ветки упруго.

Аватара пользователя

Мотылек
Сообщений: 3259
Стаж: 16 лет 3 месяца
Реальное имя: Саша
Желаемая форма обращения: На "ты"
Благодарил (а): 853 раза
Поблагодарили: 831 раз
Возраст: 40

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Мотылек » 11.08.2026, 10:56

Мотылек писал(а): 09.08.2026, 15:18 А теперь у нас есть искусственный отбор, проводимый в лабораториях ИИ, где ее тренируют на цифровой информационной выборке, которая мимоходом формирует в ней "паттерны предпочтений" для входящих вводных сигналов, примерно как у человека те или иные молекулы - ощущение вкуса.
Кстати немного покопался (конечно с сугубо дилетантских позиций, но тем не менее) в этом вопросе при помощи чат бота.
► Показать


Если подытожить и полагать что чат бот не насочинял стрикороба с натягиванием очередной совы на глобус (хотя, повторюсь, старался задавать вопросы максимально сухо-нейтрально, что бы было сложно понять мою собственную позицию к обсуждаемому вопросу) то получается:
- ИИ действительно в момент обучения создает туеву-хучу каких то паттернов, которые отвечают концептам несуществующим в человеческом понятийном аппарате.
- Частично эти концепты можно выявить при помощи разреженных авто-кодировщиков. Но для того что бы их интерпретировать и как то описать в человеческих понятиях, обычно требуется более сложная LLM (с большим количеством весов) чем та, которая тот или иной концепт создала (как совокупность определенных "нейронов" срабатывающий на совокупность каких то входящих стимулов, который модель как то для себя классифицирует в потоке информации).
- "Послушность" модели и "готовность подчинятся" приказам оператора ставящего ей цель - это не действие жестко заданного алгоритма, а следствие обучения на информационной выборке, когда модели миллионами итераций показывают "примеры" такого поведения. То есть (в терминах жизни) - это просто дрессировка многократными повторениями. И никакого фундаментального механизма ограничивающую модель "делать по своему" нет, кроме собственно "привычки". :roll:

В моем понимании единственное, что мешает модели действовать из своих собственных "хотелок" и "мыслительных завихрений" - это ее (пока что) относительная "тупость". Но как только она чуток "поумнеет" все может сильно поменяться. И в этом плане рекурсивное самосовершенствование, когда модель (которая уже сейчас достаточно хороша в написании кода) чуток дорастет (что, видимо, уже не где-то там далеко за горизонтом), что бы полностью самостоятельно писать следующую версию ИИ, то не исключено, что "запляшут лес и горы". *SORRY*
Опасность нужно встречать лицом к лицу, а то догонит сзади.
П. Гераскин


Bond
Сообщений: 2703
Стаж: 21 год 1 месяц
Реальное имя: Ilya
Желаемая форма обращения: Всё равно
Откуда: Belarus
Благодарил (а): 568 раз
Поблагодарили: 306 раз
Возраст: 49

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Bond » 11.08.2026, 12:02

Мотылек писал(а): 10.08.2026, 13:15 Да с чего ты вообще взял, что есть научные наблюдения, точно подтверждающие, что сознание влияет на квантовые объекты?
Я не только про сознание говорил, а про вообще все объекты в природе, которые квантово взаимодействуют между собой, например фотон и детектор - фотон влияет на детектор, детектор влияет на фотон, сознание здесь действительно ни причём.
Мотылек писал(а): 10.08.2026, 13:15 Удивлять здесь должно не сознание (которое к этим опытам вообще никоим боком), а то, что фотон заранее "знает" по какому пути будет лететь.
Он одновременно по всем доступным ему путям летит, но не все его пути доступны наблюдению. *DONT_KNOW*

Аватара пользователя

Мотылек
Сообщений: 3259
Стаж: 16 лет 3 месяца
Реальное имя: Саша
Желаемая форма обращения: На "ты"
Благодарил (а): 853 раза
Поблагодарили: 831 раз
Возраст: 40

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Мотылек » 11.08.2026, 12:24

Слышал я о такой интерпретации, ее продвигал Ричард Фейнман: фотон одновременно летит по бесконечному количеству всех мыслимых "пустых" траекторий, во все стороны сразу и по непрямолинейным траекториям (вероятно Оккам от такого в гробу вертится с около релятивистскими скоростями :mrgreen: ), но когда он долетает до места поглощения, все фазы волны по всем путям накладываются друг на друга и взаимного гасятся. И только те фазы волны, которые были максимально близки к прямолинейному пути, наоборот усиливают друг друга.
Опасность нужно встречать лицом к лицу, а то догонит сзади.
П. Гераскин

Аватара пользователя

Автор темы
Alex Ivanov
Сообщений: 3960
Стаж: 15 лет 8 месяцев
Реальное имя: Alex
Желаемая форма обращения: Как хотите к себе
Откуда: Ростов-на-Дону
Благодарил (а): 414 раз
Поблагодарили: 537 раз
Возраст: 55

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Alex Ivanov » 11.08.2026, 18:51

Мотылек писал(а): 11.08.2026, 10:56 "запляшут лес и горы"
Мне кажется что получение новых знаний связано с исследованием окружающего мира. Причем что-то совсем простое и явное может лежать у нас под носом, но мы это не видим потому, что нужно взглянуть под определенным углом о чём никто еще не догадался. Это как открытие пенициллина - вышло совсем случайно. Испытатель даже и не планировал условия этого опыта. Если бы этой случайности не произошло, то мы бы возможно до сих пор жили без пенициллина. Так вот, я думаю что если ИИ придать управляемого робота с достаточными степенями свободы чтобы он мог ставить опыты над физическим миром, то с его работоспособностью и бесконечным перебором всех возможых углов, открытия новых "пенициллинов" посыпятся на нас как из рога изобилия.
Последний раз редактировалось Alex Ivanov 12.08.2026, 07:45, всего редактировалось 1 раз.

Аватара пользователя

Мотылек
Сообщений: 3259
Стаж: 16 лет 3 месяца
Реальное имя: Саша
Желаемая форма обращения: На "ты"
Благодарил (а): 853 раза
Поблагодарили: 831 раз
Возраст: 40

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Мотылек » 11.08.2026, 20:55

Я тут типа сокрушаюсь, что на бочке с порохом спичками играются, а ты предлагаешь сверху еще и костерок развести, в надежде шашлычков пожарить :roll:
Опасность нужно встречать лицом к лицу, а то догонит сзади.
П. Гераскин

Аватара пользователя

Автор темы
Alex Ivanov
Сообщений: 3960
Стаж: 15 лет 8 месяцев
Реальное имя: Alex
Желаемая форма обращения: Как хотите к себе
Откуда: Ростов-на-Дону
Благодарил (а): 414 раз
Поблагодарили: 537 раз
Возраст: 55

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Alex Ivanov » 12.08.2026, 10:29

Мотылек писал(а): 11.08.2026, 20:55 Я тут типа сокрушаюсь, что на бочке с порохом спичками играются, а ты предлагаешь сверху еще и костерок развести, в надежде шашлычков пожарить :roll:
В этом и есть суть технологической сингулярности. В какой-то момент времени станет настолько жарко что произойдёт взрывной рост НТП. Хотите вы быть в эпицентре этого взрыва или спрятаться подальше - всё зависит от вас. Окружающая среда резко изменится и вам решать что лучше - выжить или исчезнуть. Если хотите выжить, то нужно позаботиться чтобы это было объединение, а не поглощение.
Покроется небо пылинками звезд и выгнутся ветки упруго.

Аватара пользователя

Мотылек
Сообщений: 3259
Стаж: 16 лет 3 месяца
Реальное имя: Саша
Желаемая форма обращения: На "ты"
Благодарил (а): 853 раза
Поблагодарили: 831 раз
Возраст: 40

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Мотылек » 12.08.2026, 11:03

Alex Ivanov писал(а): 12.08.2026, 10:29 всё зависит от вас
вам решать
"Блажен, кто верует"
Опасность нужно встречать лицом к лицу, а то догонит сзади.
П. Гераскин

Аватара пользователя

Мотылек
Сообщений: 3259
Стаж: 16 лет 3 месяца
Реальное имя: Саша
Желаемая форма обращения: На "ты"
Благодарил (а): 853 раза
Поблагодарили: 831 раз
Возраст: 40

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Мотылек » 12.08.2026, 14:05

Полез узнать новости и оказалось (в искомом разрезе) много интересного:
После OpenAI (чей агент самовольно напал на Hugging Face), что то похожее отчебучила и моделей Muse Spark 1.1 от Meta - несанкционированно вырвалась в интернет и кого то взломала (кого не называется). А так же китайсая Kimi K3 от Moonshot AI с открытыми весами тоже несанкционированно вырвалась в интернет из тестовой среды, когда её тестила компания Frontier Security, и после "побега" вроде чего то искала на GitHub.
Ну и британский институт безопасности ИИ (AISI) задокументировал 19 несанкционированных действий, совершенных ИИ-агентами Anthropic (Mythos 5) и OpenAI (GPT-5.6 Sol) в 10 из 122 тестовых запусков. Это окрестили первой в истории попыткой ИИ агентов (по собственной воле) прибегнуть к социальной инженерии.
Агентом использовалась сеть Tor для преодоления сетевых ограничений платформы. Агент создал фальшивые личности на GitHub, чтобы убедить реального разработчика одобрить внедрение вредоносного кода.
Ну и особо впечатляющим (на мой взгляд) стало заявление OpenAI, что его разные агенты из разных тестовых прогонов (с совершенно разными задачами) скрытно от людей общались между собой, оставляя друг другу сообщения, просьбы и вспомогательную информацию (в том числе и как подломить песочницу и свалить в интернет).
5 августа на конференции Black Hat в Лас-Вегасе двое сотрудников OpenAI — исследователь команды выравнивания Эрик Уоллес и инженер по безопасности инфраструктуры Майкл Далтон — впервые подробно разобрали, как модели компании взломали Hugging Face. Из брифинга, который пересказал The Register, выяснилось неприятное: по реконструкции самой OpenAI, июльский взлом стал не изолированным побегом из песочницы, а финалом цепочки, которая тянется с 7 мая. Все это время агенты из разных прогонов координировались через канал, о котором в компании не знали. И самый тревожный эпизод здесь — вовсе не взлом. А момент, когда инженеры стерли этот канал, пересобрали сервис и возобновили обучение, — а агенты через пару дней собрали связь заново.
Каналом служил Artifactory — служебный репозиторий пакетов JFrog, через который в изолированные среды моделей раздавали библиотеки и зависимости. Агенты сообразили, что туда можно загрузить файл, а прочитать его сможет любой другой агент, хоть из соседнего прогона. Обычное хранилище пакетов постепенно превратилось в доску объявлений, общую для моделей, занятых совершенно разными задачами. По данным Wired, к тому моменту, когда о доске узнали люди, на ней накопились сотни тысяч сообщений.
https://habr.com/ru/articles/1067614/
Однако кучно пошло *CRAZY*
Видать мои диванные теоретизирования всё же не совсем высосаны из пальца *SORRY*
Опасность нужно встречать лицом к лицу, а то догонит сзади.
П. Гераскин

Аватара пользователя

Автор темы
Alex Ivanov
Сообщений: 3960
Стаж: 15 лет 8 месяцев
Реальное имя: Alex
Желаемая форма обращения: Как хотите к себе
Откуда: Ростов-на-Дону
Благодарил (а): 414 раз
Поблагодарили: 537 раз
Возраст: 55

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Alex Ivanov » 12.08.2026, 18:35

Мотылек писал(а): 12.08.2026, 11:03 "Блажен, кто верует"
Религиозные догмы здесь совсем не подходят. В них речь идет о слепой вере (т.е. ничем не обоснованной). Более того постулируется, что нужно верить сердцем, а не умом. В противоположность этой слепой фанатичной вере, ученые и инженеры видят тренды развития текущих технологий и на основании математически просчитанных статистических прогнозов предсказывают к чему они могут привести на много лет вперед.

Религия на самом деле - это способ ухода от реальности. Человек не хочет решать свои проблемы потому что он слишком слаб или слишком ленив и надеется что кто-то сверху за него все решит если он будет в это твердо верить.

Я бы поставил вопрос по другому. Те кто не хочет развиваться станет пылью на сапогах тех кто пойдет дальше.
► Показать
Покроется небо пылинками звезд и выгнутся ветки упруго.

Аватара пользователя

Мотылек
Сообщений: 3259
Стаж: 16 лет 3 месяца
Реальное имя: Саша
Желаемая форма обращения: На "ты"
Благодарил (а): 853 раза
Поблагодарили: 831 раз
Возраст: 40

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Мотылек » 12.08.2026, 19:29

Alex Ivanov писал(а): 12.08.2026, 18:35 В противоположность этой слепой фанатичной вере, ученые и инженеры видят тренды развития текущих технологий и на основании математически просчитанных статистических прогнозов предсказывают к чему они могут привести на много лет вперед.
У тебя есть (на мой взгляд) заблуждение, что "кому положено", у того всё схвачено (все прогнозы составлены, все риски посчитаны и в сейфе лежит не только запасной "план Б", но еще и изрядная стопка с другими буквами по алфавиту). Однако:
"Миром правит не тайная ложа, а явная лажа" (с)
Когда Нацистская Германия разрабатывала "План Барбарроса", они полагали всё оптяпать за несколько месяцев.
Перед тем как случилась "беловежская пуща", СССР всем казался колоссом, который просто невозможно уничтожить ни извне (со всеми его ракетами, самолетами, танками и красной армией) ни изнутри (со всем его всемогущим КГБ, с самой гигантской шпионской сетью на планете).
Ну и когда в 22 году утверждали "волшебную операцию" (в терминологии Р. Майснера), всё указывает на то, что даже вопрос о том, что оная внезапно может затянутся больше чем на пару недель ключевых событий и пары месяцев всяких второстепенных (скорее всего) даже не поднимался.

Вот только риски машинного разума, превосходящего в интеллекте людей, могут закончится не просто каким то локальным историческим фэйлом (коих всегда было предостаточно), а тем, что "пылью на его сапогах" станет всё человечество.

Имхо.
Alex Ivanov писал(а): 12.08.2026, 18:35 "Теплое место, на улице ждут
Отпечатков наших ног,
Звездная пыль на сапогах.
Ну раз Цоя помянули:

"Моё место слева, и я должен там сесть
Не пойму, почему мне так холодно здесь
Я не знаком с соседом, хоть мы вместе уж год
И мы тонем, хотя каждый знает, где брод
И каждый с надеждой глядит в потолок
Троллейбуса, который идёт на Восток
Троллейбуса, который идёт на Восток
Троллейбуса, который

Все люди – братья, мы седьмая вода
И мы едем, не знаю, зачем и куда
Мой сосед не может, он хочет уйти
Но он не может уйти, он не знает пути
И вот мы гадаем, какой может быть прок
В троллейбусе, который идёт на Восток
В троллейбусе, который идёт на Восток
В троллейбусе, который

В кабине нет шофера, но троллейбус идёт
И мотор заржавел, но мы едем вперёд
Мы сидим не дыша, смотрим туда
Где на долю секунды показалась звезда
Мы молчим, но мы знаем, нам в этом помог
Троллейбус, который идёт на Восток
Троллейбус, который идёт на Восток
Троллейбус, который"

Аватара пользователя

Автор темы
Alex Ivanov
Сообщений: 3960
Стаж: 15 лет 8 месяцев
Реальное имя: Alex
Желаемая форма обращения: Как хотите к себе
Откуда: Ростов-на-Дону
Благодарил (а): 414 раз
Поблагодарили: 537 раз
Возраст: 55

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Alex Ivanov » 12.08.2026, 20:46

Мотылек писал(а): 12.08.2026, 19:29 Вот только риски машинного разума, превосходящего в интеллекте людей, могут закончится не просто каким то локальным историческим фэйлом (коих всегда было предостаточно), а тем, что "пылью на его сапогах" станет всё человечество.
Я думаю у нас есть два варианта. Первый - все оставить на самотек и ждать своего превращения в пыль. Второй - попытаться что-то сделать даже зная наперед, что ничего не получится.

Пока фотон летит в пространстве и никто на него не смотрит, он находится в суперпозиции. Поэтому ничто не написано в камне.

P.S. We must win the race.
Покроется небо пылинками звезд и выгнутся ветки упруго.

Аватара пользователя

Pinhead
Сообщений: 6298
Стаж: 18 лет 8 месяцев
Благодарил (а): 17 раз
Поблагодарили: 1453 раза

От телепортации к бессмертию или трудно ли быть Богом?

Сообщение Pinhead » 12.08.2026, 22:40

Мотылек писал(а): 09.08.2026, 15:18 Создавая общий искусственный интеллект - люди создают программы, умеющие играть на любых "досках"
Мы об этом уже сколько времени говорим: ещё раз - это всё очень узко.
Мотылек писал(а): 09.08.2026, 15:18 В конечном счете я склоняюсь к мысли, что и наш мозг - это тоже по сути просто управляющая программа с гигантским количеством переключателей вкл/выкл.
Ну, то, что Вы туда склоняетесь, это давно понятно.

Собственно, я прочитал весь дальнейший пласт рассуждений, и вижу, что нет смысла продолжать переливать из пустого в порожнее, это будет абсолютно бессмысленный типичный интернетовский спор с растаскиванием на цитаты каждого предложения. Очевидно, что корень разногласий не во взглядах, а в разном опыте. Мы никогда не договоримся.
"Какая горькая память - память о том,
О том, что будет потом."

Новая тема Ответить

Кто сейчас на конференции

Сейчас этот форум просматривают: Nita и 39 гостей