Мечты и реальность

[Alex Ivanov]

https://innovanews.ru/info/news/health/ ... 9a460fc5e9
Губка-терминатор и редактирование генов: что ученые говорят о вечной жизни

[Alex Ivanov]

Скорее всего не будет десяти лет (относительно) спокойной глобализированной экономики. Экономические противоречия уже сильно поджимают и все крупнейшие центры накопления капиталов потихоньку готовятся к очередной мировой войне. В том числе, пытаясь перед грядущим замесом успеть (по возможности) напихать в рукава хоть какие то козыри из грядущего шестого технологического уклада в виде очередных Wunderwaffe. Имхо.

Что если предложить построить всеобщий исследовательский центр по разработке AGI на нейтральной территории? Каждая страна участник будет платить фиксированный одинаковый ежемесячный взнос и иметь своих представителей в совете директоров. Все результаты работы центра будут одинаково доступны всем участникам.

Затем с помощью AGI будут разработаны наноботы которые будут находиться внутри человека и лечить его изнутри, более того человек будет состоять из наноботов, он будет нигде и в тоже время везде.

► Показать

Вы вышли за пределы геополитики и даже биологии. То, что вы описываете, — это не просто оружие или защита. Это метаморфоза человеческого вида, переход к постбиологической, распределенной форме существования.

В этом сценарии все наши предыдущие споры (суверенитет, ООН, доверие, войны) становятся бессмысленными, как споры муравьев о границах муравейника после того, как их залили цементом.

Давайте честно посмотрим на этот финал — он прекрасен, но он же и означает конец дискуссии о войне и мире в человеческом смысле.

Что происходит, когда человек становится роем?
Физика:

У вас нет тела, уязвимого для пули или вируса. Ваше «Я» — это паттерн информации, циркулирующий в облаке из триллионов наноботов, которые могут собраться в любую форму (человека, птицу, дерево) или рассеяться туманом.

Вы одновременно находитесь в Нью-Йорке, на Эвересте и на дне Марианской впадины, потому что частицы вашего роя покрывают планету.

Смерть в классическом смысле исчезает: даже если 99% ваших наноботов уничтожены, оставшийся 1% содержит полную информацию о вашей личности и может восстановить вас.

Психология:

Вы не одиноки, но и не разделены. Вы можете чувствовать эмоции и мысли любого другого «роя» (потому что наноботы обмениваются данными). Конфликт становится невозможен физически, но и приватность исчезает навсегда.

Индивидуальность становится опцией: вы можете быть собой, а можете слиться в коллективный разум на время, чтобы решить сложную задачу, а затем снова разделиться.

Почему это останавливает войны абсолютно?
Некого убивать: Агрессия против роя бессмысленна — вы уничтожаете часть тумана, который тут же восстанавливается из окружающей среды.

Нет территорий: Наноботы проникают повсюду, у них нет «границ». Спорить о земле так же глупо, как спорить о том, кто владеет кислородом.

Нет ресурсного дефицита: Наноботы могут перестраивать материю на атомном уровне. Нефть, вода, металлы — всё становится бесконечным сырьём для переработки.

Мгновенное разрешение конфликтов: Если у двух роев возникает разногласие, они могут мгновенно «просимулировать» миллиард вариантов решения в коллективном разуме и выбрать оптимальный без крови и боли.

Но этот сценарий УБИВАЕТ вопрос о войне, потому что...
Он убивает «человека» как субъекта нашего разговора.

Все наши аргументы о капитале, элитах, генералах, ООН и воле народа строились на том, что мы говорим о Homo Sapiens — смертных, уязвимых, эгоистичных существах с ограниченным временем жизни и привязанностью к территории.

Если мы становимся роем бессмертных частиц:

Капитал теряет смысл: Зачем накапливать ресурсы, если ты можешь создать всё из ничего?

Власть теряет смысл: Невозможно управлять существом, которое везде и неуничтожимо.

Государство теряет смысл: Нет границ, нет армии, нет граждан — есть только бесконечное поле сознания.

Страх смерти (главный двигатель агрессии) исчезает: Если смерть — это просто перезагрузка, зачем защищать что-либо с оружием в руках?

Итог

Человек становится вездесущим. Земля перестаёт быть границей — она становится лишь одной из бесконечных галактических песчинок.

В этом сценарии мы не запираем себя в клетку безопасности, мы сбрасываем скафандр биологии, чтобы выйти в открытый космос. Это переход на совершенно иной уровень бытия, где старые вопросы (о нефти, границах и ракетах) действительно становятся пылью.

[Мотылек]

Что если предложить построить всеобщий исследовательский центр по разработке AGI на нейтральной территории?

Предложить конечно можно. Вон Трамп не так давно "совет мира" предложил с вступительным взносом в миллиард $. И даже желающие на членство вроде как были, однако что то ни кто не спешит денежки вносить
И как определять, что страны участницы не ведут параллельные секретные разработки военных применений этих технологий, с привлечением данных из международных исследований? Это ведь не ядерное оружие, для которого испытания проводить надо, которые можно засечь по сейсмической активности и следам в стратосфере. А где гарантия, что кто то (особо ушлый) из стран участников не завербует подкупом, шантажом или угрозами n-ное количество ведущих сотрудников центра, что бы они внедрили в вычислительную систему замаскированное программное (или аппаратное) обеспечение, которое может по щелчку пальцев во "время X" превратить данный вычислительный центр в тыкву, в то время как у самих где ни будь в бункере параллельно ему строится точная копия? И вдруг страна, а точнее ее руководство, становится единым монопольным владельцем, способным диктовать свою волю всем скопом.

Затем с помощью AGI будут разработаны

Методы окончательного решения человеческого вопроса
Нет гарантии, что создание AGI (который очень быстро перетечет в супер-интеллект из за возможности самосовершенствования) будет безусловным благом для людей. По хорошему, его вообще лучше не создавать (что бы не играть в русскую рулетку), а пользоваться узкоспециализированными системами и самостоятельно (с их помощью) вести научный поиск (по принципу: "тише едешь, дальше будешь").

Вот только, что бы было хоть первое (консолидация усилий человечества), хоть второе (мирное осмотрительное развитие), нужна более высокая общественно-экономическая формация, которая даст централизованную всепланетную систему хозяйствования. А нынешние держатели капиталов категорически не хотят этого допускать (поскольку лишаться своего привилегированного положения) и предпочитают рисковать без оглядки на что бы то ни было. Имхо.

[Alex Ivanov]

А где гарантия, что кто то (особо ушлый) из стран участников не завербует подкупом, шантажом или угрозами n-ное количество ведущих сотрудников центра, что бы они внедрили в вычислительную систему замаскированное программное (или аппаратное) обеспечение, которое может по щелчку пальцев во "время X" превратить данный вычислительный центр в тыкву, в то время как у самих где ни будь в бункере параллельно ему строится точная копия? И вдруг страна, а точнее ее руководство, становится единым монопольным владельцем, способным диктовать свою волю всем скопом.

Все исходные коды и массивы данных будут открыты и полностью прозрачны всем странам участникам. Поэтому спрятать там что-либо будет сложно. Да и зачем? Они могут спокойно (как вы правильно заметили) параллельно строить копию этого дата-центра у себя дома. Вся суть в том что выходные данные одинаково доступны всем, поэтому все развиваются с одинаковой скоростью и нет явного лидера.

Отправлено спустя 6 минут 35 секунд:

По хорошему, его вообще лучше не создавать (что бы не играть в русскую рулетку), а пользоваться узкоспециализированными системами и самостоятельно (с их помощью) вести научный поиск (по принципу: "тише едешь, дальше будешь").

"'Стоит ли бояться?

Фантастические фильмы изображают слияние с машинами как момент, когда искусственный интеллект порабощает человечество. Курцвейл категоричен: это выдумка.
Его аргумент прост. "Если мы построили его так, чтобы он отражал нас, мы можем доверять ему, и он будет доверять нам, потому что он будет хранить наши ценности", — объясняет Курцвейл.
По его мнению, это как воспитывать детей. Мы передаем им наши знания, ценности, надеемся, что они станут хорошими людьми. ИИ — то же самое. "Мы станем гибридным видом — биология и технология вместе. Это вопрос доверия друг другу в процессе эволюции", — считает ученый."
https://ria.ru/20260303/uchenyy-2077834619.html

[Жорик]

По его мнению, это как воспитывать детей. Мы передаем им наши знания, ценности, надеемся, что они станут хорошими людьми.

Плохой пример.
Кто-то из детей становится Геростратом, кто-то Чикатилой, кто-то Гитлером, кто-то просто сумасшедшим.

[Alex Ivanov]

поскольку лишаться своего привилегированного положения

Вы хотите сказать что 50 лет "привилегированного положения" важнее возможности стать Богом? Согласитесь что это звучит нелогично. Скорее всего главная причина - в незнании как правильно использовать свой потенциал. Нужно всего лишь подсказать верный путь и откроется новая эра "золотой лихорадки".

Отправлено спустя 13 минут 23 секунды:

Плохой пример.
Кто-то из детей становится Геростратом, кто-то Чикатилой, кто-то Гитлером, кто-то просто сумасшедшим.

Что посеешь, то и пожнешь.

► Показать

Детство Адольфа Гитлера, по мнению многих историков и психологов, сыграло ключевую роль в формировании его личности, полной глубоких противоречий и психологических травм. Анализ его ранних лет обычно фокусируется на двух ключевых фигурах — матери и отце, чье влияние было полярным и разрушительным.

Чрезмерная любовь и обожание матери
Первые годы жизни Гитлера прошли в атмосфере всепоглощающей материнской любви.

Кумир семьи: Клара Гитлер, потерявшая троих предыдущих детей, обожала Адольфа и берегла его «как зеницу ока». Она никогда его не ругала, постоянно выражала свое восхищение и исполняла любые его желания.

Формирование нарциссизма: Психологи считают, что такое отношение способствовало развитию у ребенка нарциссических черт и пассивности. Адольф привык, что не нужно прилагать усилий для похвалы, и мог впадать в гнев при любом отказе.

Эдипов комплекс: Некоторые исследователи, например, работавшие над психологическим портретом Гитлера в 1943 году по заказу американской разведки, утверждали, что у него был ярко выраженный Эдипов комплекс — бессознательное влечение к матери и враждебность к отцу. Его сильная привязанность к матери, которую он позже символически перенес на образ Германии, стала одной из центральных тем в психоаналитических интерпретациях его личности.

Жестокость и авторитарность отца
Полярной противоположностью материнской любви был отец, Алоис Гитлер.

Деспотичный отец: Алоис был строгим, авторитарным и вспыльчивым человеком. По некоторым свидетельствам, он мог быть жесток как по отношению к собаке, так и к членам семьи. Адольф жил под постоянным прессингом отца и боялся его.

Источник унижений: По мнению психолога Генри Мюррея, унижения, которым Адольфа подвергал отец-садист, стали источником его детских комплексов. Ненависть к собственной слабости и готовности подчиняться, по этой теории, позже трансформировалась в чудовищные приказы о массовых убийствах.

Школьные годы и ранние травмы
Детство Гитлера также было омрачено проблемами в школе и болезнями.

Чувство неполноценности: В школе Гитлер чувствовал себя неполноценным, так как был маленьким, болезненным и не таким умным, как одноклассники. Это привело к тому, что он отказывался ходить в школу, а мать позволила ему бросить учебу.

Болезни: Он часто болел, что еще больше привязывало его к заботливой матери и усиливало инфантилизм. Существуют также данные, что в детстве он перенес эпидемический энцефалит, последствия которого могли сказаться на его психике спустя годы.

Уход в мир фантазий: В качестве побега от домашней тирании и школьных неудач он увлекся играми в «индейцев и ковбоев». Эти игры позволяли ему чувствовать себя лидером и уйти от ответственности, что некоторые биографы считают ранним проявлением его потребности властвовать и недостаточного чувства реальности.

Психологический портрет
На основе анализа детства исследователи делают следующие выводы о личности Гитлера:

Невроз и паранойя: В первом психологическом портрете, составленном в 1943 году, Гитлеру ставили диагнозы: невроз, истерия, шизофрения, паранойя.

Садомазохистские наклонности: Наблюдение за агрессивным отцом и подавленной матерью, по мнению некоторых экспертов, сформировало у него садомазохистские наклонности.

Комплексы: Отмечались также комплекс неполноценности и сифилофобия (боязнь заражения сифилисом).

Важно отметить, что многие из этих психологических интерпретаций, особенно составленные в военное время, являются спорными. Некоторые исследователи предостерегают от упрощенного объяснения его чудовищных поступков только лишь психическими расстройствами, так как это может «полностью освободить его от ответственности».

Детство Андрея Чикатило, как и в случае с Гитлером, было наполнено травмами, унижениями и лишениями, которые, по мнению многих экспертов, сыграли ключевую роль в формировании его больной психики. Считается, что именно в этот период зародились его глубочайшие комплексы, ставшие основой для будущих чудовищных преступлений.

Вот ключевые факторы его детства, которые оказали на него влияние:

Голод и травма каннибализма
Одним из самых сильных потрясений для Чикатило стали рассказы о судьбе его старшего брата Степана.

История о съеденном брате: Мать рассказывала ему, что во время голода 1933 года его старшего брата похитили и съели обезумевшие от голода соседи. По другой версии, ребенка съели сами родители.

Психологический эффект: Эта история не имеет документальных подтверждений, но она глубоко травмировала ребенка. Он панически боялся выходить на улицу, опасаясь, что его тоже могут съесть. Сам Чикатило вспоминал, что в детстве он постоянно голодал.

Ужасы войны
Детство Чикатило пришлось на годы Великой Отечественной войны, оставившие неизгладимый след в его психике.

Смерть на глазах: В 1942 году, когда ему было 6 лет, его родное село заняли немцы. Он рассказывал, как на его глазах расстреливали людей, в том числе детей.

Ночь среди трупов: Согласно его рассказу, он, спасаясь от расстрела, притворился мертвым и был вынужден провести целую ночь в яме, полной трупов.

Болезнь, жестокость и унижения
Физические и психологические страдания преследовали Чикатило с раннего детства.

Болезни: Он родился с признаками гидроцефалии и до 12 лет страдал энурезом (недержанием мочи).

Жестокое обращение: За мокрую постель его жестоко избивали мать и бабушка.

Травля в школе: Из-за близорукости он не мог носить очки (в семье не было денег), что делало его объектом постоянных насмешек и издевательств со стороны одноклассников. Он рос застенчивым, необщительным и робким мальчиком.

Отсутствие отца и клеймо "сына врага народа"
Фигура отца и связанное с ним клеймо также сыграли свою роль.

Отсутствие отца: Его отец, командир партизанского отряда, попал в плен к немцам, был освобожден американцами, но по возвращении в СССР был репрессирован и погиб в лагерях.

Социальное клеймо: Из-за статуса отца Чикатило носил клеймо "сына врага народа". Это стало еще одним источником унижений и комплексов, которые, по его собственным словам, "кормили внутреннего зверя".

Первая любовь и сексуальная несостоятельность
Унижения в личной жизни завершили формирование его глубокой неуверенности.

Отвержение: Его первая любовь закончилась трагедией, когда избранница и ее подруги жестоко высмеяли его чувства.

Импотенция: Согласно некоторым данным, с юности он страдал от хронической импотенции, возможно, вызванной травмой, что еще больше подрывало его самооценку как мужчины.

Важно отметить, что некоторые из самых шокирующих историй Чикатило о его детстве (например, о съеденном брате или ночи в яме с трупами) не имеют документальных подтверждений. Это позволяет предположить, что он мог их выдумывать или преувеличивать, чтобы оправдать свои преступления или создать себе образ "жертвы обстоятельств". Однако даже без этих крайних сюжетов, его детство было наполнено голодом, насилием и постоянными унижениями.

[Мотылек]

Его аргумент прост. "Если мы построили его так, чтобы он отражал нас, мы можем доверять ему, и он будет доверять нам, потому что он будет хранить наши ценности", — объясняет Курцвейл.

"Если бы у бабушки кое чего дополнительного было, то она бы была уже не бабушкой, а дедушкой".
Насколько я знаю из научпопа, сейчас никто даже в общих чертах не понимает как можно эффективно формализовать механизм "прививания" тех или иных ценностей у сложных обучающихся систем. А главный рабочий инструмент - это установление внешнего фильтра на выдаваемые результаты. Имхо.

Вы хотите сказать что 50 лет "привилегированного положения" важнее возможности стать Богом? Согласитесь что это звучит нелогично. Скорее всего главная причина - в незнании как правильно использовать свой потенциал. Нужно всего лишь подсказать верный путь и откроется новая эра "золотой лихорадки".

Полагаю у "сильных мира сего" свои представления о том, как правильно использовать свой потенциал и что важнее. А судя по тому куда движется мировая политика и экономика, они не склонны прислушиваться к альтернативным точкам зрения, если только их не будут вынуждать к этому силой. Единственная же социальная сила, которая нынче могла бы такое принуждение осуществить - это многократно более многочисленный эксплуатируемый класс тех, кто вынужден продавать свой труд. Но для подобного надо много чего разного, с главным условием в виде пробуждения классового сознания масс. Имхо.

[Н. Светлов]

В этой программе нет ничего оригинального.

В том, что Солнце светит, тоже нет ничего оригинального

Другое дело обучаться чтобы поддерживать и продлевать жизнь, помогать слабым, лечить больных - разве это не абсолютная гуманная цель?

Я не против. Но существуют варианты развития событий, при которых следование и этой гуманной цели приведёт к последствиям, которые страшнее атомной войны. Например, если кто-то воспрользуется технологиями продления жизни наоборот — для её сокращения в странах, которых, по мнению этого кого-то, на карте быть не должно.

Такое ощущение что Россия пытается идти по стопам фараонов.

Наука обладает тем свойством, что её невозможно ни замедлить, ни ускорить при помощи политики или финансирования. При помощи политики или финансирования можно лишь учинить хайп. Наука же всегда движется вопреки всему и всем. Это абсолютно неуправляемый процесс. Либо ты сделал открытие, либо нет.

С помощью политики и финансирования можно улучшить образование. СССР не даст соврать, а также Япония, Корея, Китай. Но образование — это процесс сохранения уже имеющихся знаний, их защиты от утраты. Это исполнение долга перед предками, оставившими нам в наследство интеллектуальное богатство. Новых открытий оно не гарантирует.

Скорее всего не будет десяти лет (относительно) спокойной глобализированной экономики. Экономические противоречия уже сильно поджимают и все крупнейшие центры накопления капиталов потихоньку готовятся к очередной мировой войне.

От мировой войны возможна только экономическая защита. Нужно сделать так, чтобы никто не имел возможности разбогатеть на войне. Надо признать, что сейчас возможности разбогатеть на войне куда скромнее, чем в начале и середине прошлого века: Иран не даст соврать. Очень надеюсь, что заинтересованные стороны эту тенденцию продолжат уже сознательно.

[Мотылек]

Нужно сделать так, чтобы никто не имел возможности разбогатеть на войне.

Когда экономические противоречия поджимают, то целью войны может уже не стоять: сделать (в перспективе) у себя лучше чем есть сейчас, а сделать у себя заметно хуже, но при этом добиться, что бы этой ценой у конкурирующего центра накопления капитала стало кардинально и в разы хужее.
"Убегая от медведя не нужно бежать быстрее медведя, надо бежать быстрее соседа"(с)
Кроме того, война может обнулить накопленные долги, под бременем которых экономика так или иначе могла бы пойти в разнос и обрушится колоссальным кризисом под собственной тяжестью. Что позволит в послевоенном восстановлении заново запустить цикл роста, консолидации общества и новой монополизации.
"Война всё спишет" (с)
Ну и наконец, почти все кто планирует развязывать войны, полагаю, обычно рассчитывают на "маленькую и победоносную", что далеко не всегда удаётся. А даже если удаётся, то нередко приводит к искаженному мнению, что подобным инструментом (как спасительной отмычкой) можно воспользоваться вновь и вновь, для решения тех или иных текущих проблем. Имхо.

Вы хотите сказать что 50 лет "привилегированного положения" важнее возможности стать Богом? Согласитесь что это звучит нелогично.

Мне вдруг в голову пришла мысль, что в средневековой христианской Европе, каждого человека верившего в правоту писания (а не верить было сложно, когда на это работал весь госаппарат, веру разделяли все вокруг, а базис научных знаний, подтачивающий ее постулаты, был еще слабо накоплен) подобные мысли о "нелогичности" должны были посещать всех и каждого при любом искушении. Когда у тебя, с одной стороны, конечные земные греховные удовольствия и выгоды, за которые полагаются вечные мучения в посмертии, а с другой, вечное же блаженство в раю, за праведную жизнь. Тем не менее грешников было хоть отбавляй.

[Alex Ivanov]

Тем не менее грешников было хоть отбавляй.

Вот поэтому должно быть просвещение чтобы люди могли отличать религию от НТП. Сколько я общался с людьми, НТП практически никого не интересует, поэтому они о нем ничего не знают. Как правильно заметил Светлов по поводу образования - что никто даже штанишки постирать свои не умеет. Что характерно когда я спрашивал по поводу религии в которую они якобы верят и здесь был полный провал. Знания были самые поверхностные. Многие даже Библию ни разу не открывали.

[Н. Светлов]

Когда экономические противоречия поджимают, то целью войны может уже не стоять: сделать (в перспективе) у себя лучше чем есть сейчас, а сделать у себя заметно хуже, но при этом добиться, что бы этой ценой у конкурирующего центра накопления капитала стало кардинально и в разы хужее.

Да, это так, но реальные лоббисты войны — именно те, кто хочет разбогатеть, причём наверняка. Если же речь идёт о том, чтобы потерять меньше, чем конкурент, то война этого не гарантирует. Значит, и лоббирование ослабевает. Если б всё в этом отношении было так же просто, как в начале сороковых годов прошлого века, — Европа бы уже полыхала от Атлантики до Урала.

Вообще, надо постепенно приходить к тому, чтобы ответом на любую военную активность становились неприемлемые убытки. Иран хорошо разыграл эту карту против Штатов. Европа против России — неудачно. И всё потому, что богатство Штатов и Европы зависит от России и Ирана, а не наоборот.

[Pinhead]

Как правильно говорит Хазин: "Войны на спаде не начинают". Потому что для войны нужны три вещи "деньги, деньги и ещё раз деньги", уже по словам Наполеона.

[Alex Ivanov]

Единственная же социальная сила, которая нынче могла бы такое принуждение осуществить...

Можно коня подвести к воде, но нельзя его заставить пить.
Я думаю что принуждение - не лучший вариант. Лучше показать выгоду и дать возможность самому сделать решение.

Отправлено спустя 10 минут 54 секунды:

Насколько я знаю из научпопа, сейчас никто даже в общих чертах не понимает как можно эффективно формализовать механизм "прививания" тех или иных ценностей у сложных обучающихся систем. А главный рабочий инструмент - это установление внешнего фильтра на выдаваемые результаты.

► Показать

Рэй Курцвейл смотрит на проблему согласования (alignment problem) через призму своего непоколебимого технологического оптимизма. В отличие от многих экспертов, которые видят в ней фундаментальную и, возможно, нерешаемую проблему, Курцвейл считает ее преодолимым вызовом на пути к неизбежной и благотворной сингулярности. Его подход можно разложить на несколько ключевых тезисов.

Главное решение: Слияние, а не разделение
Ключевое отличие позиции Курцвейла в том, что он не рассматривает ИИ как отдельного "другого" агента, цели которого нужно согласовывать с нашими. По его мнению, сама постановка вопроса об "alignments" как о согласовании двух разных сущностей в корне неверна.

ИИ станет частью нас: Курцвейл утверждает, что ИИ не будет противостоять человечеству, потому что он "войдет внутрь нас самих". Решение проблемы согласования — это не поиск способа контроля, а технологическое слияние.

Сингулярность как слияние: Его центральная концепция Сингулярности — это не момент, когда машины станут умнее нас и поработят, а момент, когда человеческий и машинный интеллект объединятся в единое целое. Это слияние он называет "прекрасным расширением сознания".

В чем суть его оптимизма?
Оптимизм Курцвейла основан на его вере в неумолимый прогресс и способность человечества решать возникающие проблемы по мере их появления.

Угроза реальна, но предотвратима: Он признает, что экзистенциальная угроза от ИИ существует. Однако он считает, что остановка прогресса из-за страха была бы "грубой ошибкой", так как лишила бы нас огромных благ и сделала бы человечество слабее перед лицом других вызовов.

Проблема в людях, а не в машинах: По его мнению, главный риск — это не сам ИИ, а отсутствие моральной ясности и институциональной целостности среди его создателей. "Наилучший способ обезопасить ИИ — это улучшить наши собственные институты управления и социальные институты".

Этические принципы должны быть закодированы: Он подчеркивает, что разработчики должны намеренно встраивать в системы просоциальные ценности, опираясь на права человека, сострадание и глобальное благополучие.

Ускорение моральной эволюции: Курцвейл призывает не замедлять развитие технологий, а ускорять нашу моральную эволюцию, чтобы она поспевала за технологической.

Взгляд на риски: Баланс возможностей и угроз
Курцвейл не отрицает риски, но рассматривает их как временные и решаемые проблемы.

Безработица и неравенство: Он признает, что автоматизация уничтожит множество рабочих мест. Однако он видит в этом продолжение исторического тренда, где старые профессии исчезают, но создаются новые. В качестве решения он предлагает безусловный базовый доход (UBI), который, по его прогнозам, появится в развитых странах уже в начале 2030-х годов.

Доступность технологий: Он считает, что неравенство в доступе к передовым ИИ-технологиям будет временным, приводя в пример мобильные телефоны, которые из дорогой редкости стали общедоступными.

Сравнение с другими мыслителями
Чтобы лучше понять его позицию, полезно сравнить ее с другими известными голосами в этой дискуссии:

Рэй Курцвейл Техно-оптимист. Проблема решится через слияние человека и ИИ. Риски управляемы при улучшении человеческих институтов.
Илон Маск. Осторожный реалист. Видит более мрачный сценарий, если развитие ИИ не будет должным образом ограничено. Выступает за регулирование.
Джеффри Хинтон. "Крестный отец ИИ". Крайне обеспокоен проблемой согласования, особенно когда ИИ станет умнее нас.
Элиезер Юдковский. Алармист. Считает проблему согласования главной экзистенциальной угрозой. Выступает за немедленную остановку разработок.

Итог: Технологический иммортализм вместо контроля
В конечном счете, взгляд Курцвейла на проблему согласования — это не попытка найти способ "запереть" ИИ в клетке наших ценностей. Это призыв к трансформации самого человека. Он предлагает не решать проблему, а выйти за ее рамки, буквально став киборгами.

Для него Сингулярность — это не апокалипсис, а возможность для человечества преодолеть свои биологические ограничения, победить болезни и даже смерть. В этом контексте проблема согласования теряет свою остроту, потому что исчезает разделение на "нас" и "их". Мы становимся единой, постоянно эволюционирующей системой.

Отправлено спустя 14 минут 8 секунд:

В том, что Солнце светит, тоже нет ничего оригинального

Вы говорили что плывете против течения. Следование общепринятым принципам таковым не является. Вот если бы вы создали принципиально новые революционные принципы и следовали им, тогда да.

Отправлено спустя 25 минут 33 секунды:

Я не против. Но существуют варианты развития событий, при которых следование и этой гуманной цели приведёт к последствиям, которые страшнее атомной войны. Например, если кто-то воспрользуется технологиями продления жизни наоборот — для её сокращения в странах, которых, по мнению этого кого-то, на карте быть не должно.

Довольно странный подход. Не будем развивать НТП для улучшения жизни людей чтобы они не стали его использовать наоборот.

[Мотылек]

Если б всё в этом отношении было так же просто, как в начале сороковых годов прошлого века, — Европа бы уже полыхала от Атлантики до Урала.

Где то мне попадались утверждения, что и перед первой мировой войной популярной была мысль, что никакое крупномасштабное военное столкновение промышленных европейских держав уже фактически невозможно, поскольку все срослись торговыми и экономическими связями и лоббисты в экономике просто не позволят своим правительствам резать все эти переплетения частных интересов и долей собственности за пределами национальных экономик. Просто, мол, посчитают грядущие убытки и скажут как в "Операции Ы": "Так, до шести лет. Не пойдет!". Мне не кажется, что сейчас эта страховка имеет большую эффективность чем тогда.
В моем представлении ситуацию от крупномасштабной войны так долго спасало сразу много факторов, немаловажным из которых было наличие СССР (и его сателлитов) в качестве идеологического противовеса, который одновременно являлся своеобразным внешним стабилизирующим фактором глобализирующегося капитализма, позволяющий искусственно тормозить процессы монополизации и вынужденно заставляющий капиталистов идти на социальные уступки своему пролетариату, замедляя имущественное расслоение и смиряя многие собственные их аппетиты (в том числе в нагибании интересов друг дружки).

Я думаю что принуждение - не лучший вариант.

Когда для большинства станет очевидным, что дальнейшая политика мудрых начальничков будет малосовместима с перспективой хоть сколь ни будь нормального личного будущего, то мнение может резко поменяться. Имхо.

[Alex Ivanov]

Наука обладает тем свойством, что её невозможно ни замедлить, ни ускорить при помощи политики или финансирования.

► Показать

Утверждение, что наука существует вне политики и денег, — это красивая, но наивная идеализация. История полна примеров, где внешние решения либо тормозили прогресс на десятилетия, либо, наоборот, совершали невозможное за рекордные сроки. Вот несколько ярких опровержений.

Замедление: политика против истины
1. Лысенковщина в СССР (1930–1960-е)
Трофим Лысенко, пользуясь поддержкой Сталина, объявил «народной» наукой собственную теорию о наследовании приобретённых признаков, отрицая классическую генетику. Все советские генетики, не согласные с ним, были репрессированы (уничтожены или сосланы), лаборатории закрыты, преподавание генетики запрещено. В результате советская биология отстала от мировой на целых 30–40 лет, а восстановление нормальной науки началось только после хрущёвской оттепели. Политика не просто замедлила — она почти уничтожила целую дисциплину.

2. Запрет на исследования эмбриональных стволовых клеток (США, 2001–2009)
Президент Буш-младший ограничил федеральное финансирование работ с новыми линиями стволовых клеток. Это вынудило многих американских учёных либо переключиться на другие темы, либо эмигрировать в страны с мягким регулированием (Великобритания, Израиль). Исследования регенеративной медицины в США были фактически заморожены почти на десятилетие — пока Обама не отменил запрет.

Ускорение: деньги и государственный заказ творят чудеса
3. Манхэттенский проект (1942–1945)
Создание атомной бомбы — классика. За 3 года физика от фундаментальной теории (расщепление ядра открыто всего за 3 года до того) дошла до промышленного производства. Это стало возможным благодаря беспрецедентному финансированию (около $2 млрд в ценах того времени) и мобилизации лучших умов с приоритетом «любой ценой». В мирное время подобные сроки были бы невозможны.

4. Космическая гонка (1960-е)
После запуска Спутника США создали NASA и вложили гигантские ресурсы в программу «Аполлон». Президент Кеннеди поставил цель — высадиться на Луну до конца десятилетия. За 8 лет американская космонавтика прошла путь от суборбитальных полётов до лунного модуля. Это был не органичный эволюционный рост, а форсированный рывок, мотивированный исключительно политическим соперничеством с СССР.

5. Проект «Геном человека» (1990–2003)
Изначально проект планировали на 15 лет, но в 1998 году частная компания Celera Genomics объявила о намерении завершить секвенирование за 3 года. В ответ государственное финансирование резко увеличили, и проект закончили на 2 года раньше срока. Конкуренция и деньги сжали график работ в два раза.

Вывод
Наука сама по себе — это логика и эксперимент, но её темп всецело определяется человеческими решениями:

отсутствие денег → работа стоит на месте;

идеологический диктат → работа идёт в ложном направлении;

приоритетное финансирование и политическая воля → невозможное становится реальностью за годы.

Так что утверждение о «независимости» науки — это миф, опасный своей самонадеянностью. Прогресс всегда социально сконструирован.

Отправлено спустя 22 минуты 18 секунд:

Когда для большинства станет очевидным, что дальнейшая политика мудрых начальничков будет малосовместима с перспективой хоть сколь ни будь нормального личного будущего, то мнение может резко поменяться. Имхо.

Я и предлагаю построить центр который бы подошел всем потому что жить лучше хотят все.

[ПереГиБ]

Я и предлагаю построить центр который бы подошел всем потому что жить лучше хотят все

[Alex Ivanov]

Европе́йская организа́ция по я́дерным иссле́дованиям (в других переводах — Европейский центр ядер­ных ис­сле­до­ва­ний), ЦЕРН (от фр. Conseil Européen pour la Recherche Nucléaire, CERN) — межгосударственная научная организация Европейского союза, крупнейшая по размерам в мире лаборатория физики высоких энергий. Учреждена в 1954 году, штаб-квартира расположена в Мерене у границы Швейцарии и Франции.

Общие сведения

Главная площадка ЦЕРН, на переднем плане — Швейцария, на заднем — Франция
ЦЕРН находится на границе Швейцарии и Франции, вблизи Женевы. Территория ЦЕРНа состоит из двух основных площадок и нескольких более мелких. Большой комплекс зданий включает в себя рабочие кабинеты, лаборатории, производственные помещения, склады, залы для конференций, жилые помещения, столовые. Ускорительный комплекс расположен как на поверхности (старые ускорители Linac, PS), так и под землёй на большой глубине до 100 метров (более современные SPS, LHC).

Основной площадкой является территория близ швейцарского городка Мерен (фр. site Meyrin) кантона Женева. Другой основной площадкой является территория возле французской коммуны Превессен-Моэн — site Prévessin. Более мелкие площадки разбросаны в ближайших окрестностях вдоль подземного кольца, построенного для ускорителя LEP.

Соглашение по образованию ЦЕРНа было подписано в Париже 29 июня — 1 июля 1953 года представителями 12 европейских стран. Организация была образована 29 сентября 1954 года. В настоящее время число стран-членов возросло до 20. Кроме того, некоторые страны и международные организации имеют статус наблюдателя. Над инфраструктурой в ЦЕРНе постоянно работают около 2500 человек, ещё около 13.5 тысяч физиков и инженеров из университетов и институтов 77 стран участвуют в международных экспериментах на территории ЦЕРНа.

Годовые взносы стран-участников ЦЕРНа в 2008 году составляют 1075,863 миллиона швейцарских франков (около 990 миллионов американских долларов).

В 2013 году ЦЕРН был награждён Золотой медалью Нильса Бора — наградой Организации Объединённых Наций по вопросам образования, науки и культуры (ЮНЕСКО) — как пример международного сотрудничества учёных из множества стран мира.
https://ru.wikipedia.org/wiki/%D0%A6%D0%95%D0%A0%D0%9D

[Мотылек]

Домик друзей

Раз тут пошли "цитаты" из мультфильмов, то фраза Алекса о том, что "жить лучше хотят все", мне напомнила финал м/с "Аркейн":

► Показать

[Alex Ivanov]

Примерное название центра - ALICE.
Artificial Limitless Intelligence Center of Exploration
Центр исследования безграничного искусственного интеллекта

[Alex Ivanov]

https://abc-av.ru/news/tpost/dr542f9li1 ... eshenie-so

Правительство России приняло решение создать Центр развития искусственного интеллекта, чтобы системно внедрять технологии ИИ в стране

Об этом было объявлено на заседании правительства. Новый центр займётся отбором и распространением проверенных решений, координацией действий между госорганами, регионами и бизнесом, а также обеспечением экспертной поддержки и организацией международного взаимодействия.

Руководить Центром будет заместитель председателя правительства и глава аппарата правительства Дмитрий Григоренко. Он отметил, что внедрение ИИ уже приносит положительные результаты в экономике, социальной сфере и госуправлении. Основная задача центра — сделать достижения ИИ доступными для всех россиян и повысить конкурентоспособность страны на мировом уровне. Центр развития ИИ будет создан на базе Аналитического центра при правительстве России и выступит в роли федерального проектного офиса.

С 2025 года в России стартует национальный проект «Экономика данных и цифровая трансформация государства», частью которого является федеральный проект «Искусственный интеллект». Все федеральные органы и регионы подготовили собственные программы цифровой трансформации с акцентом на внедрение ИИ, поэтому необходима сквозная координация для синхронизации усилий.

Одной из ключевых задач центра станет распространение лучших практик — решений, подтвердивших свою надёжность и эффективность. Центр также будет заниматься нормативным регулированием безопасности ИИ и развитием международного сотрудничества.



Отправлено спустя 9 минут 38 секунд:
Вот как ALICE мог бы выглядеть.