Содержание образования: что добавить, а что убрать

[skor]

Что же он не человек что ли? Если есть угроза, что весь мир может накрыться, потому как ИИ такое решение принял.

Это сильно устаревшая информация. Как выяснилось позже, то письмо весной 2023 года с призывом приостановить исследования в области генеративных языковых моделей было подписано Маском тогда, когда его только что созданная компания xAI закупала видеокарты для обучения собственной языковой модели. Сейчас эта модель уже существует. Она называется grok и активно развивается.

Маск -- он хитрый

[Нгаан]

Если есть угроза, что весь мир может накрыться, потому как ИИ такое решение принял.

Чепуха это всё. Тысячи дураков во всём мире ежесекундно принимают тысячи дурацких решений и мир стоит. Ну, подумаешь одним дураком больше станет, велика беда.

[Лилия]

Ну, подумаешь одним дураком больше станет, велика беда.

Нгаан, а если этому "дураку" без разницы, выживет человечество или нет?
Или более того он решит, что человечество ему мешает только? Речь же об этом.

Это сильно устаревшая информация.

Владеете новой можете нас оповещать, только со ссылкой на достоверные источники.

[skor]

Владеете новой можете нас оповещать, только со ссылкой на достоверные источники.

Вот статья в википедии: https://en.wikipedia.org/wiki/Grok_(chatbot).
А в этой статье можно прочитать про планы дальнейшего развития Грока: https://aibusiness.com/nlp/musk-confirm ... f-the-year.

[Лилия]

skor, насколько я поняла, речь о боте заточенном под определенные задачи.
Это не интеллект в глобальном смысле. Речь не шла о том, что Маск свернет вообще все проекты.

[skor]

skor, насколько я поняла, речь о боте заточенном под определенные задачи.
Это не интеллект в глобальном смысле.

Абсолютно верное замечание! Это злобные OpenAI, Anthropic, Google, а также экстремистская запрещённая Meta пилят интеллект в глобальном смысле, а добрый Маск всего лишь тренирует бота под определённые задачи. Вы, как обычно, зрите в корень.

[Лилия]

Это злобные OpenAI, Anthropic,

Не сталкивалась. В чём их злобность?

Google,

Обычно не пользуюсь или редко. Мне как то Яндекса хватает и больше нравится.

а добрый Маск всего лишь тренирует бота под определённые задачи.

Я не знаю, под что Маск тренирует своего бота. Как из статьи поняла.
И вроде как там речи о самосознании бота не было. Ну голосовой помощник Алиса тоже может отвечать с юмором.
И что? Хотите сказать, у нее есть самосознание?

[Н. Светлов]

И вроде как там речи о самосознании бота не было.

И у генеративных речевых моделей (насчёт которых было письмо, подписанное Маском) тоже нет и не планируется никакого сознания.

Маску не впервой манипулировать рынком, и он в этом деле большой мастер. Он себе целый Twitter прикупил для того, чтобы было удобней манипулировать (иначе его б там забанили за манипуляции).

Но при всём том Маск, безусловно, выдающийся инноватор, по сравнению с которым Форд — мальчишка. Хотя как манипулятор Форд, пожалуй, посильней Маска — сеть североамериканских автострад не даст соврать. Я просто не могу себе вообразить, какой талантище нужен, чтобы пролоббировать такой проект в стране с самой густой в мире сетью железных дорог (а в те времена она там была почти вдвое гуще, чем ныне) и с соответствующей финансовой мощью железнодорожных компаний.

[Лилия]

Я просто не могу себе вообразить, какой талантище нужен,

Как Вам сказать, на мой взгляд, американцы это потомки переселенцев, которые были, ну прямо скажем либо отъявленными авантюристами, либо у которых шило...в общем не сидится на месте.
А это всё в генах то сидит и может срабатывать, особенно при благоприятных стечениях обстоятельств.

[skor]

Не сталкивалась. В чём их злобность?

Ну, они обучают всё более и более мощные языковые модели, чтобы выйти на так называемый "общий искусственный интеллект", который может решать любую задачу не хуже человека. Им всё равно, если ИИ уничтожит человечество, поэтому я и назвал их злобными.

А Маск, компания которого занимается ровно тем же самым, -- он добрый, потому что открытое письмо подписал в 2023 году.

И вроде как там речи о самосознании бота не было. Ну голосовой помощник Алиса тоже может отвечать с юмором.
И что? Хотите сказать, у нее есть самосознание?

Всем этим злодеям абсолютно всё равно, будет сознание у ИИ или не будет. Они планируют разработать "общий искусственный интеллект" и поручить ему проведение исследований в области ИИ, чтобы получить так называемый "сверхчеловеческий искусственный интеллект", по сравнению с которым интеллект человека будет выглядеть, как когнитивные способности мартышки по сравнению с человеком.

Кстати, как вы предлагаете определять, есть ли у голосового помощника сознание?

[Лилия]

Кстати, как вы предлагаете определять, есть ли у голосового помощника сознание?

Если говорить про Алису, задать несколько вопросов, которые скорее всего не учли програмисты, тут всё и станет понятно.

который может решать любую задачу не хуже человека.

Любую это какую? Ну представьте только в день человек решает сколько задач, а за всю жизнь? А если в целом человечество брать? Я вот по своей рабочей системе могу судить. Зависает регулярно. А люди ничего, работают.

Они планируют разработать "общий искусственный интеллект" и поручить ему проведение исследований в области ИИ, чтобы получить так называемый "сверхчеловеческий искусственный интеллект", по сравнению с которым интеллект человека будет выглядеть, как когнитивные способности мартышки по сравнению с человеком.

И чтоб тут этот ИИ всех и накрыл? Значит будем надеяться на инстинкт самосохранения, который глобально пока до этого всегда срабатывал.
И мне кажется, Вы как программист, недооцениваете возможности мозга. Только подумайте, всё гениальное, что создано в мире, это всё благодаря мозгу.
И если в какой то задаче вдруг кажется, что ИИ превосходит человека. По моему, означает это заслуга человека, гения-программиста или инженера. Или группы людей, если они над этим работали коллективно.

[Нгаан]

а если этому "дураку" без разницы, выживет человечество или нет?
Или более того он решит, что человечество ему мешает только? Речь же об этом.

А почему так много людей, которые квохчут о том, что ему будет без разницы? А кому он тогда нужен, кошкам? Или этот "гений" будет полный идиот и уничтожит единственную мотивацию для собственного существования?


Отправлено спустя 2 минуты 11 секунд:

Он себе целый Twitter прикупил для того, чтобы было удобней манипулировать (иначе его б там забанили за манипуляции).

но не всё "коту масленница"

Компания X Илона Маска подала в суд на рекламодателей, обвинив их в незаконном сговоре с целью бойкотировать соцсеть.

Среди адресатов иска — Всемирная федерация рекламщиков (WFA), пищевые гиганты Unilever и Mars, частная медицинская компания CVS Health.

X утверждает, что ответчики лишили компанию миллиардов долларов дохода после её покупки Маском и практически полной остановки модерации на платформе.

(BBC News | Русская служба)

[skor]

Если говорить про Алису, задать несколько вопросов, которые скорее всего не учли програмисты, тут всё и станет понятно.

У нас с вами, кажется, разные представления о том, что такое сознание.

Подумайте: у маленького ребёнка, который ещё не умеет говорить и которому бесполезно задавать вопросы, есть сознание?

Любую это какую?

Любую -- это любую

А если говорить серьёзно, то уже сейчас разрабатывают так называемые "бенчмарки" для ИИ, которые представляют собой наборы задач из различных областей человеческой деятельности. Новые версии генеративных языковых моделей постоянно проверяются на этих бенчмарках, и по мере развития моделей бенчмарки постоянно усложняются.

Сейчас основной упор делается на разработку бенчмарков в области математики и программирования, потому что, как я уже говорил, нужно как можно скорее переходить к самоприменению языковых моделей, чтобы агенты на базе языковых моделей могли выступать в роли исследователей ИИ и участвовать в разработке новых, более мощных языковых моделей.

Бенчмарки в областях юриспруденции, бухгалтерского учёта, литературоведения, молекулярной биологии и прочего, несомненно, тоже будут разрабатываться. Так что в конце концов возможности языковых моделей можно будет проверить на задачах из более или менее всех сфер деятельности человека. И тогда, возможно, наступит момент, когда можно будет сказать, что та или иная модель проходит все бенчмарки на 100% и соответствует определению общего искусственного интеллекта.

И чтоб тут этот ИИ всех и накрыл? Значит будем надеяться на инстинкт самосохранения, который глобально пока до этого всегда срабатывал.

Тут есть такая проблема -- невозможно гарантировать, что абсолютно все исследователи в мире остановят свои исследования в области ИИ. То есть если, скажем, конгресс США вдруг решит проголосовать за запрет таких исследований, то конгрессменам быстро объяснят, что в этом случае сверхчеловеческий ИИ будет создан в Китае, а это неприемлемо для национальной безопасности. И наоборот, компартия Китая никогда не прикажет китайским учёным прекратить заниматься ИИ, потому что будет бояться, что сверхчеловеческим ИИ завладеют американские империалисты.

И если в какой то задаче вдруг кажется, что ИИ превосходит человека. По моему, означает это заслуга человека, гения-программиста или инженера. Или группы людей, если они над этим работали коллективно.

Конечно, означает. Поэтому этот гений-программист или группа гениев-программистов, возможно, даже успеет получить какую-нибудь престижную награду до того, как сверхчеловеческий искусственный интеллект уничтожит человечество

[Лилия]

skor, не уничтожит. Если гении-программисты не заиграются в бога. И будут разрабатывать ИИ под определённые задачи.

И наоборот, компартия Китая никогда не прикажет китайским учёным прекратить заниматься ИИ, потому что будет бояться, что сверхчеловеческим ИИ завладеют американские империалисты.

Да, это проблема. Договариваться у людей на протяжении истории мирными путями пока не особо получается. Наверно поэтому мир Алисы существует только в фантастике.

Подумайте: у маленького ребёнка, который ещё не умеет говорить и которому бесполезно задавать вопросы, есть сознание?

Это говорит только о том, что мозг создан так, что его надо развивать. А так самосознание, есть у любого животного.
Вот как Вам сам ИИ заявит или проявит, что у него тоже есть, считайте что у Вас получилось.

Любую -- это любую

Ну представьте все возможности мозга. Любую, думаю, это слишком громко сказано.

Отправлено спустя 4 минуты 43 секунды:

А почему так много людей, которые квохчут о том, что ему будет без разницы? А кому он тогда нужен, кошкам? Или этот "гений" будет полный идиот и уничтожит единственную мотивацию для собственного существования?

Нгаан, проблема в том, что если у ИИ будет своё самосознание, мы не знаем, какой логикой он будет руководствоваться и будет ли она совпадать с нашим здравым смыслом.

[Нгаан]

мы не знаем

Это ключевая фраза и как обычно люди представляют что-то плохое. В общем всё по классике: "То, что человек знает о Боге, он фактически знает о себе". Какие люди, такой и ИИ. Так что бояться нужно людей.

[Лилия]

Нгаан, вероятно, если люди научатся договариваться мирно, как в мире Алисы, тогда и смогут создать ИИ, за который не надо будет бояться, что он не на те кнопки понажимает.

[ПереГиБ]

если люди научатся договариваться мирно

Всю свою историю учатся, никак не научатся.
И не научатся, потому что приматы.

[Лилия]

ПереГиБ, и ИИ они создают по своему образу и подобию.

[Н. Светлов]

У нас с вами, кажется, разные представления о том, что такое сознание.

Всё ещё сложнее. Возможно, у вас двоих и сознания совсем разные.

Наверно поэтому мир Алисы существует только в фантастике.

Он, похоже, существует не только в фантастике. Он, похоже, существует в будущем, но если внимательно читать между строк и не предавать анафеме позднюю алисиану (это не про Вас), то окажется, что он вовсе не такой уж и фантастичный. Он лучше здешнего, но принципиальных отличий нет. Возможно, что у мира Алисы самое интересное ещё впереди.

Вот как Вам сам ИИ заявит или проявит, что у него тоже есть, считайте что у Вас получилось.

В том смысле, в котором я понимаю слово «сознание», ни у какого ИИ, работающего на цифровом компьютере, сознания быть не может. Любой ИИ такого рода — это та самая «китайская комната». Тайна сознания ещё не разгадана, и неизвестно, будет ли.

Вопрос skor'а гораздо интересней, если его задать про людей. И он потихоньку к этому подводит, поскольку заговорил о младенцах. У меня на этот счёт вот какая гипотеза: я считаю, что у младенцев сознание есть, но память о нём не сохраняется. То есть в какой-то момент при формировании мозга в нём происходит такая революция, что рождается новое сознание, не имеющее доступа (прямого) к сознанию предшествующему и к данным, которые оно накопило; а то, в свою очередь, как бы засыпает (или умирает). Основание не очень научное, но понятное: раз младенец реагирует на боль, то, значит, эту боль кто-то ощутил. Вот этот «кто-то» и есть сознание младенца. Сразу замечу: я понимаю, что нельзя говорить с уверенностью о том, что младенец именно ощущает боль, а не просто ведёт себя точно так же, как он вёл бы себя, если бы её ощущал. Но гипотеза о том, что у младенца есть сознание, выглядит (для меня) менее экзотической, чем гипотеза о том, что младенец — это «китайская комната», изображающая человеческую реакцию на боль.

[Лилия]

Он, похоже, существует не только в фантастике. Он, похоже, существует в будущем,

Ну да, мне кажется, для этого мы здесь все и собираемся, чтобы хотя бы предполагать это. Даже если все решат, "что это такая игра "

В том смысле, в котором я понимаю слово «сознание», ни у какого ИИ, работающего на цифровом компьютере, сознания быть не может.

Я тоже так считаю. Но некоторым людям, видимо, может так показаться.

У меня на этот счёт вот какая гипотеза: я считаю, что у младенцев сознание есть, но память о нём не сохраняется.

Про память вообще известно не достаточно много. А что касается младенцев, они рождаются с тем, что нейросеть ещё после рождения активно формируется. В первом видео от Вячеслава Дубинина об этом было подробно, при этом коротко и ясно. Мозгу и не нужно помнить всё. Память даже взрослого человека переписываться каждый день. То что мозг считает не важным забывается. Вы же не помните например, что ели на обед допустим месяц назад или год. Это не важная информация. Ну поел и поел, раз жив-здоров, значит нормальный обед был.
Важная информация, это та которая повторяется многократно. Мозгу получается надо ещё доказать, это важно, это надо запомнить, а иначе мы зачем сколько ресурсов на это тратим? Мозг сам по себе весьма энергозатратный орган.