Модератор: модераторы
А что является признаком зрелости - если способность себя уничтожить, то вполне зрелая...Н. Светлов писал(а): 16.01.2025, 20:34 Я уже как-то писал выше, что человечество — отнюдь не зрелая цивилизация.
Кто-то лучше воспринимает уравнения окислительно-восстановительных реакций, а кто-то - Пушкина - все ученики разные...ZYOBRA_70 писал(а): 15.01.2025, 21:03 хм... как можно воспринимать "по-разному" уравнения окислительно-восстановительных реакций?
Путин назвал укрепление суверенитета России главной задачейН. Светлов писал(а): 17.01.2025, 14:49 Есть другая точка зрения. Большинство войн происходит оттого, что люди называют одни и те же вещи разными словами или разные вещи одними и теми же словами. Это создаёт у каждой стороны иллюзию того, что она имеет дело с дураками, на которых нет другой управы, кроме силы.
Я за последние полвека не встречал людей, которые бы боролись за выживание.
У вас есть официальный источник что эта проблема снижает эффективность работы графических карт на 70%?Нгаан писал(а): 17.01.2025, 10:11 Предполагалось, что решение будет найдено в так называемых "распеределённых вычислительных" сетях, но там полезли иные стороны всё той же проблемы и во всю встал вопрос под названием "когерентность данных", когда изменённые данные в одном "агенте" должны моментально уведомить другие о том, что их данные "устарели".
Нанороботы - это инструмент. В конечном итоге их количество будет приближаться к количеству атомов во Вселенной.
За признак зрелости можно принять способность себя гарантированно не уничтожитьBond писал(а): 17.01.2025, 15:06 А что является признаком зрелости - если способность себя уничтожить, то вполне зрелая...
Нарушать п.1.14 правил форума в мои планы не входит.
"Хочу Алёнушку... "Alex Ivanov писал(а): 17.01.2025, 01:21 Ему нужно было загадать всего одно желание - "Сделай меня Богом!"
"Надо просто долго и усердно работать...", не так ли?Alex Ivanov писал(а): 17.01.2025, 01:21 у него теперь есть время чтобы добиться и всех остальных атрибутов.
Не совсем понятно, с чем именно вы несогласны. С конкретной оценкой в 70%? Т.е., например, 64% вас устроит?Alex Ivanov писал(а): 17.01.2025, 19:12 У вас есть официальный источник что эта проблема снижает эффективность работы графических карт на 70%?
Это не моя оценка. Вы сами назвали эту цифру.skor писал(а): 17.01.2025, 21:46 Не совсем понятно, с чем именно вы несогласны. С конкретной оценкой в 70%? Т.е., например, 64% вас устроит?
Мне нужно подтверждение ваших слов. Ссылка на статью не пойдет. Нужна конкретная цитата.
Возможно. Нужно посмотреть кто и что заявил. Бывает даже ученые ошибаются или намеренно вводят в заблуждение.skor писал(а): 17.01.2025, 21:46 Интересно, кстати, что вы имеете в виду под "официальным источником"? Заявление руководства компании OpenAI, размещённое на сайте компании?
И что вы с ней будете делать?Alex Ivanov писал(а): 17.01.2025, 22:08 Мне нужно подтверждение ваших слов. Ссылка на статью не пойдет. Нужна конкретная цитата.
Если бы я оказался на его месте, то я бы посвятил все свободное время образованию. Я бы стал ученым во всех областях науки и занимался бы научной работой. Время и здоровье больше бы не были для меня проблемой.
Насколько я понял с этим у Шекли все в порядке. Если желание требует разъяснения то появляется агент который уточняет всю нюансы прежде чем его исполнить.
Почитаю и попытаюсь понять насколько она достоверна.
А вы ответьте метафорически. Эзоп писал басни.
Ну, цифры по утилизации GPU при обучении GPT-4 -- это данные утечки. Неизвестно, насколько они достоверны.
"The recent turn of leading AI labs toward secrecy has made it difficult to acquire reliable information about algorithmic developments, which means much of the discussion of algorithmic issues in this paper has been speculative by necessity."skor писал(а): 18.01.2025, 00:18 В статье, ссылку на которую я дал, объясняются причины, из-за которых при масштабировании обучения падает утилизация GPU. Если есть желание разобраться в вопросе, то первой половины статьи будет достаточно.
Я тоже не очень понимаю, что такое "официальный источник", но проблема эта не относится исключительно к видеокартам, а носит общий, системный характер. И поскольку все мы здесь стоим за образование, то я, как сотрудник Института времени, готов покопаться в архивах и найти что-нибудь для почитать.Alex Ivanov писал(а): 17.01.2025, 19:12 У вас есть официальный источник что эта проблема снижает эффективность работы графических карт на 70%?
В то же время, чтобы не перегружать форумчан отсылками к тестам, где "многа букав", я приведу и конкретную цитату из статьи, которая в значительной мере послужила основой моих представлений о проблеме:Современные высокопроизводительные компьютеры –
Многопроцессорные системы
http://www.citforum.ru/hardware/svk/glava_11.shtml
* выделение жирнением РНТМногопроцессорные системы с локальной памятью и многомашинные системы.
Существуют два различных способа построения крупномасштабных систем с распределенной памятью. Простейший способ заключается в том, чтобы исключить аппаратные механизмы, обеспечивающие когерентность кэш-памяти, и сосредоточить внимание на создании масштабируемой системы памяти.
Несколько компаний разработали такого типа машины. Наиболее известным примером такой системы является компьютер T3D компании Cray Research. В этих машинах память распределяется между узлами (процессорными элементами) и все узлы соединяются между собой посредством того или иного типа сети. Доступ к памяти может быть локальным или удаленным. Специальные контроллеры, размещаемые в узлах сети, могут на основе анализа адреса обращения принять решение о том, находятся ли требуемые данные в локальной памяти данного узла, или размещаются в памяти удаленного узла. В последнем случае контроллеру удаленной памяти посылается сообщение для обращения к требуемым данным. Чтобы обойти проблемы когерентности, разделяемые (общие) данные не кэшируются.
Конечно, с помощью программного обеспечения можно реализовать некоторую схему кэширования разделяемых данных путем их копирования из общего адресного пространства в локальную память конкретного узла. В этом случае когерентностью памяти также будет управлять программное обеспечение. Преимуществом такого подхода является практически минимальная необходимая поддержка со стороны аппаратуры, хотя наличие, например, таких возможностей как блочное (групповое) копирование данных было бы весьма полезным. Недостатком такой организации является то, что механизмы программной поддержки когерентности подобного рода кэш-памяти компилятором весьма ограничены. Существующая в настоящее время методика в основном подходит для программ с хорошо структурированным параллелизмом на уровне программного цикла.
Машины с архитектурой, подобной Cray T3D, называют процессорами (машинами) с массовым параллелизмом (MPP Massively Parallel Processor). К машинам с массовым параллелизмом предъявляются взаимно исключающие требования. Чем больше объем устройства, тем большее число процессоров можно расположить в нем, тем длиннее каналы передачи управления и данных, а значит и меньше тактовая частота.
Я понимаю что проблемы есть. Но насколько сильно они влияют на масштабируемость? Чтобы делать какие-то выводы нужны реальные данные от компаний создателей масштабируемых систем. Удивляет когда называется цифра 70% без каких-либо реальных подтверждений.Нгаан писал(а): 18.01.2025, 11:44 я приведу и конкретную цитату из статьи, которая в значительной мере послужила основой моих представлений о проблеме
А я, кажется, понял -- это должна быть цитата из Путина
Ну не будет вам "реальных данных". Есть так называемые утечки, т.е. слухи. Я им верю, но вы, естественно, имеете право не верить до тех пор, пока Путин не скажет.Alex Ivanov писал(а): 18.01.2025, 13:05 Чтобы делать какие-то выводы нужны реальные данные от компаний создателей масштабируемых систем. Удивляет когда называется цифра 70% без каких-либо реальных подтверждений.
Майнеры не помогают друг другу решить задачу, а наоборот, конкурируют друг с другом. Т.е. каждый майнер решает задачу добавления нового блока в блокчейн абсолютно независимо от других майнеров, и побеждает тот, кто первым успеет добавить новый блок.Alex Ivanov писал(а): 18.01.2025, 13:05 Хотелось бы отметить что, например, для проекта Биткоин используются компьютеры распределенные по всей планете.
Вопрос о том каким должен быть официальный источник уже обсуждался раньше в этой теме.skor писал(а): 18.01.2025, 15:24А я, кажется, понял -- это должна быть цитата из ПутинаНгаан писал(а): ↑18.01.2025, 18:44 писал(а): Я тоже не очень понимаю, что такое "официальный источник"
Если вы не можете предоставить достоверное подтверждение ваших утверждений, то я их отнесу в область фантастики.skor писал(а): 18.01.2025, 15:24 Ну не будет вам "реальных данных". Есть так называемые утечки, т.е. слухи. Я им верю, но вы, естественно, имеете право не верить до тех пор, пока Путин не скажет.
Для уменьшения влияния фактора удачи и более равномерного и предсказуемого получения вознаграждения майнеры объединяют свои вычислительные мощности в пулы (от англ. pool — общий фонд).skor писал(а): 18.01.2025, 15:24 Майнеры не помогают друг другу решить задачу, а наоборот, конкурируют друг с другом. Т.е. каждый майнер решает задачу добавления нового блока в блокчейн абсолютно независимо от других майнеров, и побеждает тот, кто первым успеет добавить новый блок.
Да ради бога! Так как вы, в отличие от меня, не занимаетесь распараллеливанием вычислений, то неверные представления о возникающих в этой области проблемах никак не отразятся на вашей жизниAlex Ivanov писал(а): 18.01.2025, 20:03 Если вы не можете предоставить достоверное подтверждение ваших утверждений, то я их отнесу в область фантастики.
Майнеры, работающие в пуле, всё равно независимо решают задачу добавления нового блока. Просто вознаграждение, получаемое в результате добавления блока, делится между майнерами в пуле пропорционально тем мощностям, которые они привлекают для решения задачи.Alex Ivanov писал(а): 18.01.2025, 20:03 Для уменьшения влияния фактора удачи и более равномерного и предсказуемого получения вознаграждения майнеры объединяют свои вычислительные мощности в пулы
Тем не менее общий вклад есть. Чем больше пул тем быстрее будет найдено решение.skor писал(а): 18.01.2025, 20:42 Майнеры, работающие в пуле, всё равно независимо решают задачу добавления нового блока. Просто вознаграждение, получаемое в результате добавления блока, делится между майнерами в пуле пропорционально тем мощностям, которые они привлекают для решения задачи.
"Часто выплаты майнеру рассчитываются исходя из отправленных им пулу стандартных вариантов (shares) (блоков с хешем, который подошёл бы, если бы сейчас параметр сложности был равен единице)."
Я не исключаю что вы правы. Но пока вы не предоставите реальные доказательства не смогу ничего проверить.
Я не знаю как происходит проверка. Скорее всего есть какие-то решения.Олег К писал(а): 18.01.2025, 21:49 Это что же руководству пула, надо каждый присланный участниками вариант проверять на валидность? А вдруг майнер-читер там от балды данные вбил и ничего не считал?
Представьте себе несколько школьников, сидящих за партами и решающих одно и то же уравнение. Рядом стоит злая училка и следит, чтобы никто не списывал. Как только первый школьник решит уравнение, училка ставит этому школьнику пятёрку и даёт всем школьникам новое уравнение, которое надо решить. Это аналогия майнинга биткойнов без пула. Из неё, надеюсь, понятно, что школьники решают задачу независимо и никакого общего вклада в решение задачи не вносят.Alex Ivanov писал(а): 18.01.2025, 21:33 Тем не менее общий вклад есть. Чем больше пул тем быстрее будет найдено решение.
Ваш пример требует уточнения. Данное уравнение имеет несколько способов решения. Никто не знает какой способ будет правильным. Каждый школьник работает над своим вариантом. Умные школьники работают сразу над несколькими вариантами. У каждого школьника есть шанс найти правильное решение. У умных школьников этот шанс выше потому что они могут перебрать больше вариантов.skor писал(а): 18.01.2025, 21:59 Представьте себе несколько школьников сидящих за партами и решающих одно и то же уравнение.
Сейчас этот форум просматривают: Google [Bot] и 28 гостей