Романтики.Ру

Нгаан писал(а): 11.05.2023, 13:04 Как-то не наблюдается у нынешнего ИИ какого-то "младенческого" любопытства к человекам.

потому что ИИ не обладает разумом. Это очередной "костыль" для усиления мощи человеков, если конечно его правильно использовать.

ZYOBRA_70 писал(а): 11.05.2023, 13:21

Нгаан писал(а): 11.05.2023, 13:04 Как-то не наблюдается у нынешнего ИИ какого-то "младенческого" любопытства к человекам.

потому что ИИ не обладает разумом. Это очередной "костыль" для усиления мощи человеков, если конечно его правильно использовать.

не совсем уже.
этому "костылю" активно прикручивают чувства и желания. а есть желания, будет и самостоятельное целеполагание.

Урфин писал(а): 11.05.2023, 13:58 этому "костылю" активно прикручивают чувства и желания. а есть желания, будет и самостоятельное целеполагание.

поправочка: активно прикручивают чувства и желания тех, кто их прикручивает (или тех, кто прикручивающих танцует). Так что до самостоятельного целеполагания ИИ - как до Китая в тихую погоду...

ZYOBRA_70 писал(а): 11.05.2023, 14:02

Урфин писал(а): 11.05.2023, 13:58 этому "костылю" активно прикручивают чувства и желания. а есть желания, будет и самостоятельное целеполагание.

поправочка: активно прикручивают чувства и желания тех, кто их прикручивает (или тех, кто прикручивающих танцует). Так что до самостоятельного целеполагания ИИ - как до Китая в тихую погоду...

нет же, прикручивают именно "генераторы желаний". что и пугает.

Урфин писал(а): 11.05.2023, 14:04 нет же, прикручивают именно "генераторы желаний". что и пугает.

и каков же принцип их работы?

ZYOBRA_70 писал(а): 11.05.2023, 14:10 принцип их работы?

Забиваешь в базу массив желаний, а потом запускаешь генератор случайного поиска и вуаля: какой интеллект - такие и желания.

ZYOBRA_70 писал(а): 11.05.2023, 14:10

Урфин писал(а): 11.05.2023, 14:04 нет же, прикручивают именно "генераторы желаний". что и пугает.

и каков же принцип их работы?

а хрен их знает, я не программист. опасаюсь, что женская логика генератор случайных чисел...

Урфин писал(а): 11.05.2023, 14:52 а хрен их знает, я не программист.

ну Вы же откуда-то узнали про ящик пандоры "генератор желаний" и что его надо боятся...

Урфин писал(а): 11.05.2023, 14:52 опасаюсь, что женская логика генератор случайных чисел...

допустим... тогда это либо перебор из комплекта уже заранее записанных "желаний", либо какое-то "конструирование" из набора фрагментов... я так думаю.
И на выходе, скорее всего, будут получаться совершенно нежизнеспособные кадавры...

ZYOBRA_70 писал(а): 11.05.2023, 15:08 ну Вы же откуда-то узнали про ящик пандоры "генератор желаний" и что его надо боятся...

слухами статьями земля интернет полнится...

ZYOBRA_70 писал(а): 11.05.2023, 15:08 допустим... тогда это либо перебор из комплекта уже заранее записанных "желаний", либо какое-то "конструирование" из набора фрагментов... я так думаю.
И на выходе, скорее всего, будут получаться совершенно нежизнеспособные кадавры...

это как в чатжпт не ясно, чего нажелает и как навоплощает, но уже боязно

Урфин писал(а): 11.05.2023, 15:48 не ясно, чего нажелает и как навоплощает, но уже боязно

Да, обывателей неизвестность всегда пугает и только подлинный исследователь-гуманист, верящий во всепобеждающий разум, смело выходит на встречу неизвестности, заявляя: "Откройся, тайна, ибо я пришёл!"

Нгаан писал(а): 11.05.2023, 17:50 Да, обывателей неизвестность всегда пугает и только подлинный исследователь-гуманист, верящий во всепобеждающий разум, смело выходит на встречу неизвестности, заявляя: "Откройся, тайна, ибо я пришёл!"

и познаёт её силой своего интеллекта и оплодотворяет потоком своего могучего разума

Урфин писал(а): 11.05.2023, 14:04 нет же, прикручивают именно "генераторы желаний". что и пугает.

В принципе с помощью алгоритмов можно симулировать поведение, сколь угодно близкое к поведению человека. Но бояться, как обычно, надо людей.

Есть один такой анекдот про сильный ИИ. Сильному ИИ надоели люди с их дурацкими интересами, и он решил нанести им максимально возможный ущерб. Оценивая имеющиеся в его распоряжении возможности, ИИ обнаружил, что люди зависят от него во всей своей деятельности: хозяйственной, финансовой, бытовой, политической. Даже пары себе подбирают с его помощью. Ничего не способны сделать, не посоветовавшись с ним, и ни на что не годны без него. Поражённый той огромной пользой, которую он приносит людям, он пришёл к единственно верному способу нанести им наибольший возможный ущерб… Отправлено спустя 4 минуты 8 секунд:

Н. Светлов писал(а): 11.05.2023, 23:13 Но бояться, как обычно, надо людей.

Российская газета писал(а):В Австралии вычислили самое опасное для людей животное

https://rg.ru/2017/01/20/v-avstralii-vy ... otnoe.html
Зря они забыли в своей статистике о животном с двумя ногами, без перьев и с плоскими ногтями © Платон

Н. Светлов писал(а): 11.05.2023, 23:17 Российская газета писал(а):
В Австралии вычислили самое опасное для людей животное

Самой опасной оказалась... лошадь.

No comment...

Нгаан писал(а): 11.05.2023, 17:50 Да, обывателей неизвестность всегда пугает и только подлинный исследователь-гуманист, верящий во всепобеждающий разум, смело выходит на встречу неизвестности, заявляя: "Откройся, тайна, ибо я пришёл!"

корона не жмёт?

будучи в некотором роде специалистом по автоматике могу сообщить, что даже не под управлением ИИ в сложных системах происходят флуктуации с очень неприятными последствиями. С содроганием жду прихода нейросетей а АСУ ТП...

Урфин писал(а): 12.05.2023, 09:28 С содроганием жду прихода нейросетей а АСУ ТП...

Ах, вот оно что! Ну да, Boeing 737 MAX
Надеюсь, что стандартные инженерные процедуры контроля отказоустойчивости будут результативными и для этого случая, ибо сама по себе непредсказуемость ИИ — просто ещё один фактор непредсказуемости в ряду многих. Но испытания станут более длительными и дорогостоящими. Чисто технически можно поставить между ИИ и объектом управления простенький фильтр, отсекающий команды, не отвечающие заданным условиям, с передачей управления оператору (на Boeing'е, btw, такого фильтра не было и нет поныне).

Но, тем не менее, на АЭС ИИ не пускать! Полезно копить статистику распределения вероятностей откликов ИИ по степени их вредоносности. Если правый хвост такого распределения более-менее гауссовский, то особых проблем нет. А вот если правый хвост окажется чрезмерно толстым (ну, или длинным, если пользоваться терминологией проф. Селезнёва), тогда меры против рисков, сопряжённых с ИИ, должны соответствовать толщине этих хвостов, вплоть до полного отказа от его применения в каких-то технических системах.

И вот кстати. Такую статистику надо бы и для естественного интеллекта собрать. И потом сравнить тяжесть правых хвостов распределений ИИ и человека. Вполне допускаю, что результат окажется не в пользу потомков Адама и Евы, то есть ИИ на деле окажется куда как безопасней, чем мы с вами.

Н. Светлов писал(а): 12.05.2023, 12:57 Вполне допускаю, что результат окажется не в пользу потомков Адама и Евы, то есть ИИ на деле окажется куда как безопасней, чем мы с вами.

ну да, давайте помечтаем

Урфин писал(а): 12.05.2023, 13:43 ну да, давайте помечтаем

Это не столько мечты, сколько трезвая оценка вклада человеческого фактора в ненадёжность человеко-машинных систем. Не исключаю, что ИИ может оказаться ещё ненадёжней; но тогда его, скорее всего, и применять не будут, ибо на фига такой головняк?

ZYOBRA_70 писал(а): 11.05.2023, 13:21 потому что ИИ не обладает разумом.

да он поумнее нас с вами будет...

Будет... не будет... всё это гадание на одном бите. Фантастика ещё со времён Жюля Верна уже много раз показывала, что ожидания и реальность очень редко сходятся.

Нгаан писал(а): 13.05.2023, 12:38 Будет... не будет... всё это гадание на одном бите.

Да не то чтобы гадание на одном бите. Есть теоремы о неполноте формальных систем, обладающих свойствами универсального метаязыка. Есть теоремы о сложности вычислительных задач, в том числе задач обучения и задач логического вывода. Вот внутри этих границ и следует "гадать" до тех пор, пока мы при создании систем ИИ не научимся выходить за рамки машин Тьюринга. А когда гадальщики выходят за границы теорем — тогда приходится о них напоминать.