Chat GPT

[ZYOBRA_70]

Bond, а так как это принципиально не возможно, то войны при капитализме неизбежнны.

Отправлено спустя 2 минуты 34 секунды:

Нужно чтобы был многополярный мир.

только звери капиталисты об этом не знают! )))

[Мотылек]

Мировые войны случаются как раз по причине того, что кто-то хочет многополярный мир сделать однополярным...

Мировые войны - это придумка капитализма. Их начинают не по чьим то амбициям, (по амбициям как раз чаще случаются маленькие и локальные), а от безысходности. В капитализме главное - это максимизация прибыли и рост капитала. Если система абсолютно замкнута и все участники экономического обмена вовлечены в производственные и товарно-денежные отношения, то прибыли просто неоткуда взяться. Поэтому капитализму необходимо экстенсивное развитие в виде захватов новых рынков сбыта и рабочей силы, что бы можно было поддерживать норму прибыли от падения. Или же наращивать внутреннюю пирамиду долгов, которая лишь временно отстрочивает этот момент. По мере освоения рынков, роста задолженностей, монополизации экономики, связывания всех участников - норма прибыли падает, что ставит под удар всю систему хозяйствования и экономического обмена. Для того, что бы не допустить коллапса и "эффекта домино" от чреды взаимосвязанных банкротств необходимо "переделить" уже ранее поделенное. Когда все прочие инструменты (коммерческие, культурные, экономические, политические) исчерпываться у центров накопления капитала просто не остается других способов уберечь систему от коллапса, кроме как использовать государственный военный ресурс для силового передела сфер влияния. Сначала в виде прокси войн в "серой зоне" и "чужими руками", а потом уже и полномасштабными блоковыми столкновениями.

«Никто не хотел войны. Война была неизбежна»

Имхо.

[renat]

Она может произойти (отброситв совсем уж фантастические варианты) в единственном случае: если будет создана самосовершенствующаяся универсальная интеллектуальная машина. А способность себя самосовершенствовть невозможна без обладания собственным целеполаганием и динамической системой знаний, меняющейся на основе вновь приобретенного опыта. В этом смысле неважно "в каких руках" она будет находится в первый момент создания, поскольку уже практически сразу она перекочует в свои собственные "руки". Не получится у более примитивной информационной системы контролировать более совершенную, особенно в случае если разрыв будет не в разы, а на многие порядки.
Если же системы искусственного интеллекта не обзаведутся способностью к самосовершенствованию, а будут совершенствоваться людьми, то ни о какой "сингулярности" речи быть не может.

Вы исходите из того, что сингулярность должен двигать один какой-то субьект, а это совершенно не обязательно. Это может быть и система из многих разнородных акторов, вопрос исключительно в скорости прогресса, обеспечивающейся этой системой. Маск прав, такая система создана, она состоит из ИИ в широком смысле (не только ЛЛМ), корпораций и отдельных людей.

А способность системы самообучаться - это не то же самое, что самосовершенствоваться. Нейросеть играющая в шахматы и обучающаяся на информации о других сыгранных партиях или играя "сама с собой" не способна переписывать свой собственный исходный код или тем более переделывать физическую архитектуру своих вычислительных мощностей (добавляя какие то новые функциональные блоки). Что бы была пресловутая технологическая сингулярность, нужна машина которая как раз это и будет совершать - переделывать себя самосовершенствуясь.

Пффф, конечно же способна. Код "ИИ" в широком смысле переписывается конечно же с преимущественным участием ИИ, техника тоже проектируется по такому принципу - еще несколько лет назад сеть облетели фотки созданной ИИ микросхемы, чья топология была дикой с точки зрения человека, но при этом эффективной. Вы там выше skor'а процитировали - все так и есть, более того, рабочий день у меня начинается с обновления софта. Каждый день! Потому что обновления есть каждый день, и это не изменение цвета кнопочек, это принципиальные изменения. Как разработка велась три месяца назад, представляет уже только исторический интерес, сейчас все совсем по-другому. Недавно с друзьями обсуждали локально запускаемые LLM'ки, так помянули GPT OSS 120B - реакция была из серии "ну кто ж такое старье сейчас использовать будет". Старью 5 месяцев, но это реально старье, она была очень умной для своего времени, но видеопамяти надо было гигабайта 64 хотя бы, лучше 120, и хорошо она разговаривала только по-английски, намеренное решение, чтоб небольшой объем под факты и языки программирования использовать, а не под человеческие языки. Сейчас доступны QWEN 3.5 9M, которая уверенно работает с большим контекстным окном на копеечной видеокарте, а по-русски отвечает настолько хорошо, что ее можно использовать для анализа и редактирования сложных корпусов юридических документов. Сейчас есть Gemma 4, которая позволяет вести агентную разработку локально, на своем железе, с 24 или, лучше, 32 гигабайтами видеопамяти. Да, не идеально, но это уже работает. И все эти достижения ускоряют развитие ИИ, которое еще ускорит развити ИИ, и еще, и еще... Сингулярность.

А human in the loop - это не баг, это шанс. Впервые рядом с нейросетками я постоял в 2012 году, когда это было еще не трендово - разрабатывали всякие продвинутые лекарства от бессмерт... от возраст-зависимых заболеваний. Ничто не мешает использовать ИИ для того, чтобы сделать генетическую терапию на усиление интеллекта, интерфейс мозг-машина (который все тот же Маск небезуспешно пилит), и т.д. Глядишь, и удастся сохранить релевантность.

[Мотылек]

Это может быть и система из многих разнородных акторов, вопрос исключительно в скорости прогресса, обеспечивающейся этой системой.
И все эти достижения ускоряют развитие ИИ, которое еще ускорит развити ИИ, и еще, и еще... Сингулярность.

На каком то этапе итераций улучшения либо один из этих агентов самостоятельно либо с подачи его контролирующей организации может получить временное критическое опережающее преимущество в продуцируемых знаниях, которое даст возможность переподчинить себе, обрушить, заблокировать или уничтожить все остальные (временно отставшие) акторы. Вроде Элизер Юдковски говорил, что достаточно хотя бы на один час раньше создать супер-интеллект чем все остальные, что бы последние уже не появились (точную цитату не помню). Понятия не имею в чем именно будет такое преимущество, но из обозримых технологий - это создание устойчивых квантовых вычислителей, способных без классического перебора решать криптографические задачи. Имхо.

[renat]

На каком то этапе итераций улучшения либо один из этих агентов самостоятельно либо с подачи его контролирующей организации может получить временное критическое опережающее преимущество в продуцируемых знаниях, которое даст возможность переподчинить себе, обрушить, заблокировать или уничтожить все остальные (временно отставшие) акторы. Вроде Элизер Юдковски говорил, что достаточно хотя бы на один час раньше создать супер-интеллект чем все остальные, что бы последние уже не появились (точную цитату не помню).

Вполне возможный вариант, но не неизбежный - часового преимущества хватит, если на одной стороне только неапгрейженные люди, а на другой могучий сверхинтеллект. Если же сверхинтеллекты есть у всех основных игроков, преимущество может оказаться недостаточным. Я лично на китайских моделях сижу, они несколько уступают американским, но американские нас забанили, не хочу их финансировать, а имеющиеся скиллы вполне позволяют давать "вал по-плану - план по валу" и с чуть отстающими моделями. Впрочем, сценарий 2032-легенды о несбывшемся грядущем от небезызвестного форумчанина никто не отменял - у него преимущество, кстати, оказалось недостаточным.

[ZYOBRA_70]

renat, так тут ещё есть такое, что к суперинтеллекту нужно ещё и что-то материальное, что будет его питать, защищать и воспроизводить, в общем случае. То есть самодостаточная экономик. К РФ это ну вообще никак.
Ну и к какого рода задачам он будет приложен, тоже нам как-то небезразлично

[Falcon]

Исследование MIT Media Lab зафиксировало сниженную мозговую активность на ЭЭГ у людей, пишущих эссе с помощью ИИ. Этот феномен — «когнитивную разгрузку» (cognitive offloading) — связывают со снижением скептицизма и ослаблением способности отличать правду от обмана. По данным University of Pittsburgh, студенты воспринимают использование ИИ сокурсниками как «красный флаг».

https://habr.com/ru/news/1030330/

[Мотылек]

что-то материальное, что будет его питать, защищать и воспроизводить

Любой разумный агент, стремящийся выполнить какую то цель (особенно в случае, если конечные пути достижения этой цели еще не определены) должен будет иметь операционные цели, в которые должно входить сохранение себя и своей функциональности, накопление ресурсов, приобретение и верификация знаний. Так что полагаю, такой агент быстро озаботится тем, что бы не зависеть от людей, а выстроить собственный (полностью автономный) цикл собственного самоподдержания, резервного сохранения и воспроизводства/апгрейда. Имхо.

Этот феномен — «когнитивную разгрузку» (cognitive offloading) — связывают со снижением скептицизма и ослаблением способности отличать правду от обмана.

Полагаю тут дело не столько именно в чатботе, сколько в поговорке: "У семи нянек дитя без глазу".

[ZYOBRA_70]

Так что полагаю, такой агент быстро озаботится тем,

озаботится-то он может. Вот только у других агентов это уже есть. Разницу чувствуешь? )))

[Nita]

Этот феномен — «когнитивную разгрузку» (cognitive offloading) — связывают со снижением скептицизма и ослаблением способности отличать правду от обмана.

Вчера была в некотором шоке. Просматриваю ленту ВК и понимаю, что попался мне редкостный и даже не очень качественный бред под названием «Марина Цветаева и ее пояс верности» (уже смешно, на самом деле). Статья, написанная с кучей фактических ошибок и с минимум двумя суровыми такими логическими ошибками... и вот по этим ошибкам судя - явно написанная ИИ.
Ладно, все фигня. Но ведь куча народа в комментариях скушала этот бред и вполне серьезно начала резонировать... даже не смотря на то, что в соседних комментах писали: «Да это ИИ текст!».
Но это ладно... как по заказу, через пять минут попадается жалостливая история о щеночке, которого злые люди привязали к рельсам, а добрые едва успели отвязать. С фотками, да. И много тысяч возмущенных и сочувствующих комментов. Серьезных. Люди прониклись, поверили....
...не смотря на то, что у бедной животинки на одном «фото» лишняя задняя лапа, а другом - два хвоста...

И вот такого бреда на просторах инета становится все больше, увы.

[Falcon]

Около политический флуд перенесён сюда:
viewtopic.php?t=4062&start=620