Романтики.Ру

Н. Светлов писал(а): 12.05.2023, 16:37

Урфин писал(а): 12.05.2023, 13:43 ну да, давайте помечтаем

Это не столько мечты, сколько трезвая оценка вклада человеческого фактора в ненадёжность человеко-машинных систем. Не исключаю, что ИИ может оказаться ещё ненадёжней; но тогда его, скорее всего, и применять не будут, ибо на фига такой головняк?

У меня не боязнь того, что Т9 переросток захватит власть над миром. Я опасаюсь что он начнёт писать коды для контроллеров АСУ. А будет он их писать так, как рисует руки человеческие
Применять будут по простой причине: это дешевле, чем платить программистам. По этой же причине он будет писать статьи на куче сайтов, откуда народ будет массово черпать инфу и мировоззрение. И это тоже напрягает.

Урфин писал(а): 15.05.2023, 08:36 А будет он их писать так, как рисует руки человеческие. Применять будут по простой причине: это дешевле, чем платить программистам.

Тут у нас выход один: опередить тех, кто ещё не использует эту возможность и постараться повысить свою личную производительность, используя возможности этой новой технологии. Иначе...

Урфин писал(а): 15.05.2023, 08:36 По этой же причине он будет писать статьи на куче сайтов, откуда народ будет массово черпать инфу и мировоззрение. И это тоже напрягает.

Это тоже вполне возможно, но и в этом мы можем узреть оптимизм и возможности. В конце концов разоблачение глупостей ИИ не сильно отличается от разоблачения глупостей ЕИ (Естественного Интеллекта) и работы на этом поприще тоже будет много: проверять изложенные факты, проверять аргументацию, анализировать связанность мысли.

Нгаан писал(а): 15.05.2023, 09:51

Урфин писал(а): 15.05.2023, 08:36 А будет он их писать так, как рисует руки человеческие. Применять будут по простой причине: это дешевле, чем платить программистам.

Тут у нас выход один: опередить тех, кто ещё не использует эту возможность и постараться повысить свою личную производительность, используя возможности этой новой технологии. Иначе...

Программист с чатом жпт всё равно будет дороже просто чата жпт (или любой другой нейросети обученной писать коды). Поэтому тенденция очевидна.

Нгаан писал(а): 15.05.2023, 09:51 Это тоже вполне возможно, но и в этом мы можем узреть оптимизм и возможности. В конце концов разоблачение глупостей ИИ не сильно отличается от разоблачения глупостей ЕИ (Естественного Интеллекта) и работы на этом поприще тоже будет много: проверять изложенные факты, проверять аргументацию, анализировать связанность мысли.

говорят, что это не просто возможно, а уже есть
широко растиражированную глупость ИИ не победить локальными разоблачениями. У вас будет куда меньше аудитория, чем у них. И при этом у ИИ куда выше производительность: он будет клепать статьи в большем объёме, чем вы и 24 часа в сутки. Так что ...

Урфин писал(а): 15.05.2023, 10:12 Поэтому тенденция очевидна.

Мой опыт показывает, что важно кто задаёт этой штуковине спецификацию проекта. И тот же мой опыт показывает, что задать качественную, продуманную, непротиворечивую спецификацию способен не каждый программист с опытом написания кода. Так что не всё так мрачно ... пока. Думаю, что повторится история с переходом на языки высокого уровня: просто появятся специалисты по новому "мета-языку" общения со специализированными нейро сетями, а специалисты по "ассемблерам" займут свою, подобающую им нишу и будут оптимизировать то, что наваяет этот "электронный гений" по заданным спецификациям.

Отправлено спустя 5 минут 15 секунд:

Урфин писал(а): 15.05.2023, 10:12 У вас будет куда меньше аудитория, чем у них.

Если мы ставим цель "переделать этот мир", то перспектива не радужная, согласен. Но если мы говорим о том, чтобы найти себе занятие и возможно зароботок, то возможностей станет больше. Ведь раньше люди боролись только со своими глупостями, а теперь будут бороться ещё и с глупостями своего творения.

Нгаан писал(а): 15.05.2023, 15:09

Урфин писал(а): 15.05.2023, 10:12 Поэтому тенденция очевидна.

Мой опыт показывает, что важно кто задаёт этой штуковине спецификацию проекта. И тот же мой опыт показывает, что задать качественную, продуманную, непротиворечивую спецификацию способен не каждый программист с опытом написания кода. Так что не всё так мрачно ... пока. Думаю, что повторится история с переходом на языки высокого уровня: просто появятся специалисты по новому "мета-языку" общения со специализированными нейро сетями, а специалисты по "ассемблерам" займут свою, подобающую им нишу и будут оптимизировать то, что наваяет этот "электронный гений" по заданным спецификациям.

боюсь экономя на зарплатах всё, начиная с техзадания, поручат нейросети. так что с высокоуровневыми языками сравнивать неправильно. ИМХО.

Отправлено спустя 8 минут 59 секунд:

Нгаан писал(а): 15.05.2023, 15:14 Если мы ставим цель "переделать этот мир", то перспектива не радужная, согласен. Но если мы говорим о том, чтобы найти себе занятие и возможно зароботок, то возможностей станет больше. Ведь раньше люди боролись только со своими глупостями, а теперь будут бороться ещё и с глупостями своего творения.

Я как раз опасаюсь того, что мне придётся бороться с глупостью этих творений. Я не пишу коды, я обслуживаю штуки с кодами и разгребаю их ляпы, которые выскакивают не в тестах, а в работе.

Урфин писал(а): 15.05.2023, 15:26 которые выскакивают не в тестах, а в работе.

Да, это неприятно, когда получаешь эдакий "чёрный ящик" с инструкцией, а потом выясняешь, что эта инструкция не описывает полсотни "недокументированных возможностей".


Отправлено спустя 1 час 27 минут 18 секунд:
Европа попробовала определиться.

Европарламент принял AI Act - первые в мире правила для ИИ. В соответствии с документом, выявлены системы «высокого риска», которые могут потенциально причинить вред здоровью людей или окружающей среде. Сюда также входят системы ИИ, которые используются для влияния на избирателей в политических кампаниях и алгоритмы рекомендаций соцсетей. Что касается «низкорискового» ИИ, такого как чат-боты, то его поставщики обязаны информировать пользователей о том, что они взаимодействуют с ИИ, а не с человеком.

Урфин писал(а): 15.05.2023, 08:36 У меня не боязнь того, что Т9 переросток захватит власть над миром. Я опасаюсь что он начнёт писать коды для контроллеров АСУ. А будет он их писать так, как рисует руки человеческие
Применять будут по простой причине: это дешевле, чем платить программистам.

Отчасти справедливо. Но должен Вас предупредить, что средняя криворукость живых дипломированных программистов, выпускаемых современными университетами, в общем и в целом выше, чем криворукость того же ChatGPT. Я не ожидаю появления в связи с ИИ проблем для ЧПУ, превосходящих ныне существующие. Скорее наоборот: сейчас ещё нет, а в перспективе среднее качество кода благодаря ИИ повысится, а не упадёт.

Между прочим, очень хорошо работает запрос к ChatGPT "найди ошибки в программном коде". Реально находит!

Урфин писал(а): 15.05.2023, 08:36 По этой же причине он будет писать статьи на куче сайтов, откуда народ будет массово черпать инфу и мировоззрение. И это тоже напрягает.

Тут согласен. Способность ИИ мимикрировать превосходит аналогичные способности человека. Втираться в доверие — это его фирменная фишка уже сейчас, и под особенным риском оказываются люди религиозные. Я не готов сейчас давать однозначные оценки — в конце концов, даже эту фишку при желании можно использовать во благо, — но риски есть. Скорее всего, реагировать на них придётся ситуативно.

Н. Светлов писал(а): 15.05.2023, 21:31 Я не ожидаю появления в связи с ИИ проблем для ЧПУ, превосходящих ныне существующие. Скорее наоборот: сейчас ещё нет, а в перспективе среднее качество кода благодаря ИИ повысится, а не упадёт.

В разрезе станков с ЧПУ не думал вообще, ибо не компетентен. Я про АСУТП, там всё не однозначно, и проблемы могут проявиться очень не сразу. А таким как я всё это разгребать

Отправлено спустя 2 минуты 10 секунд:
так что скоро загрузим в нейросеть книгу СЛТВ и будет нам фильм

Урфин писал(а): 17.05.2023, 09:07 так что скоро загрузим в нейросеть книгу СЛТВ и будет нам фильм

Не будет. Надо ещё загрузить в нейросеть себя, чтобы снять ту часть энтропии отклика, которая не снимается текстом. В противном случае результат может неприятно удивить.

"Бал у Сатаны" — немножко про это, кстати.

Н. Светлов писал(а): 17.05.2023, 11:57

Урфин писал(а): 17.05.2023, 09:07 так что скоро загрузим в нейросеть книгу СЛТВ и будет нам фильм

Не будет. Надо ещё загрузить в нейросеть себя, чтобы снять ту часть энтропии отклика, которая не снимается текстом. В противном случае результат может неприятно удивить.

всё равно это будет честный результат. а иначе фильм и снимать не надо - читаешь книгу и "фильм" у тебя в голове.

Урфин писал(а): 17.05.2023, 15:42 всё равно это будет честный результат

Думаю, что понятие честности здесь неприменимо. Энтропия картинки, не снятая текстом, будет снята какими-то иными источниками, которые были задействованы при обучении нейросети. Очень многое будет зависеть от того, кто учил, как, на какой выборке, какие дополнительные данные доступны софту, и даже от его архитектуры. Может оказаться, что мы, например, будем ждать игрового кино, а ИИ сгенерирует мульт в стиле "Симпсонов". Или вовсе "Масяни". А персонажи будут похожи на реальных медиаперсон, актёров или персонажей других фильмов с похожими именами и фамилиями. Причём не только внешностью, но и манерами.

Н. Светлов писал(а): 17.05.2023, 21:18

Урфин писал(а): 17.05.2023, 15:42 всё равно это будет честный результат

Думаю, что понятие честности здесь неприменимо. Энтропия картинки, не снятая текстом, будет снята какими-то иными источниками, которые были задействованы при обучении нейросети. Очень многое будет зависеть от того, кто учил, как, на какой выборке, какие дополнительные данные доступны софту, и даже от его архитектуры. Может оказаться, что мы, например, будем ждать игрового кино, а ИИ сгенерирует мульт в стиле "Симпсонов". Или вовсе "Масяни". А персонажи будут похожи на реальных медиаперсон, актёров или персонажей других фильмов с похожими именами и фамилиями. Причём не только внешностью, но и манерами.

достаточно ещё раз загрузить текст, поменять в настройках стиль и сгенерировать фильм ещё раз. а потом ещё, и ещё

Урфин писал(а): 18.05.2023, 08:56 и сгенерировать фильм ещё раз

Скорее всего многие так и будут "играться", пока не устанут или пока не получат хоть что-то подходящее. Но настоящие режиссёры всегда работают вместе с операторами и раскадровки сцен в рисунках являются неотъемлемой частью процесса производства не только фильмов, но и компьютерных игр. А иначе как объяснить друг другу, что вот я это именно так вижу?

Писателям многое прощается именно потому, что каждый читатель крутит в голове "своё кино", но никому не может его показать.

Нгаан писал(а): 18.05.2023, 13:28

Урфин писал(а): 18.05.2023, 08:56 и сгенерировать фильм ещё раз

Скорее всего многие так и будут "играться", пока не устанут или пока не получат хоть что-то подходящее. Но настоящие режиссёры всегда работают вместе с операторами и раскадровки сцен в рисунках являются неотъемлемой частью процесса производства не только фильмов, но и компьютерных игр. А иначе как объяснить друг другу, что вот я это именно так вижу?

Писателям многое прощается именно потому, что каждый читатель крутит в голове "своё кино", но никому не может его показать.

так возможно начинается новая эра кино. или другое кино

Урфин писал(а): 18.05.2023, 08:56 достаточно ещё раз загрузить текст, поменять в настройках стиль и сгенерировать фильм ещё раз. а потом ещё, и ещё

Да, это, безусловно, работает. Больше того: можно заставить обезьяну напечатать на машинке какой-нибудь текст, потом ещё и ещё… В бесконечно длительном горизонте времени с вероятностью, стремящейся к единице, таким способом будет напечатана "Война и мир".

Нгаан писал(а): 18.05.2023, 13:28 Писателям многое прощается именно потому, что каждый читатель крутит в голове "своё кино", но никому не может его показать.

И да, возможности миелофона в этом отношении куда интересней, чем возможности нейросетей

Н. Светлов писал(а): 18.05.2023, 17:35 возможности миелофона в этом отношении куда интересней, чем возможности нейросетей

Я думаю, что одно без другого никак. Теперь читая про прогресс нейросетей, я верю в то, что миелофон может быть именно таким, как его показал Арсенов: кристалл, внутри которого происходит брожение энергетических полей большой мощности, и которые ни в какую иную оболочку запихнуть нельзя, а вот нейронную сеть на атомарной уровне там можно построить очень сложной по своей структуре.

Н. Светлов писал(а): 18.05.2023, 17:35

Урфин писал(а): 18.05.2023, 08:56 достаточно ещё раз загрузить текст, поменять в настройках стиль и сгенерировать фильм ещё раз. а потом ещё, и ещё

Да, это, безусловно, работает. Больше того: можно заставить обезьяну напечатать на машинке какой-нибудь текст, потом ещё и ещё… В бесконечно длительном горизонте времени с вероятностью, стремящейся к единице, таким способом будет напечатана "Война и мир".

нейросеть генерирует успешнее. вот если с картинками играться, то по описанию, достаточно скудному, иногда вполне путные изображения выдаёт. Куда лучше, чем обезьяна с гранатой красками

Собака лает, а караван идёт.

Американские инженеры учат квантовый компьютер думать, как человек. Учёные из Калифорнийского университета вместе с компанией IonQ запустили на квантовых схемах имитацию мыслительной деятельности человека. Результатом должно стать появление искусственного интеллекта, который будет точно повторять процессы принятия решений людьми. Как работает человеческое мышление, до сих пор доподлинно неизвестно. По некоторым данным, в его основе могут быть законы квантовой вероятности. Исходя из этого, ученые решили закодировать соответствующие модели на квантовых компьютерах.

В общем, имели они в виду мнение Маска и прочих там гуру, предупреждающих о рисках неконтролируемого развития ИИ.

Скоро на всем жпт.

https://www.cnews.ru/news/top/2023-06-0 ... antivirusy

Отправлено спустя 1 минуту 30 секунд:
Пора создавать искусственный антиинтеллект. . . или как его там назвать? Для сдерживания и балланса.