Решённые и нерешённые задачи искусственного интеллекта

[ZYOBRA_70]

Как-то не наблюдается у нынешнего ИИ какого-то "младенческого" любопытства к человекам.

потому что ИИ не обладает разумом. Это очередной "костыль" для усиления мощи человеков, если конечно его правильно использовать.

[Урфин]

Как-то не наблюдается у нынешнего ИИ какого-то "младенческого" любопытства к человекам.

потому что ИИ не обладает разумом. Это очередной "костыль" для усиления мощи человеков, если конечно его правильно использовать.

не совсем уже.
этому "костылю" активно прикручивают чувства и желания. а есть желания, будет и самостоятельное целеполагание.

[ZYOBRA_70]

этому "костылю" активно прикручивают чувства и желания. а есть желания, будет и самостоятельное целеполагание.

поправочка: активно прикручивают чувства и желания тех, кто их прикручивает (или тех, кто прикручивающих танцует). Так что до самостоятельного целеполагания ИИ - как до Китая в тихую погоду...

[Урфин]

этому "костылю" активно прикручивают чувства и желания. а есть желания, будет и самостоятельное целеполагание.

поправочка: активно прикручивают чувства и желания тех, кто их прикручивает (или тех, кто прикручивающих танцует). Так что до самостоятельного целеполагания ИИ - как до Китая в тихую погоду...

нет же, прикручивают именно "генераторы желаний". что и пугает.

[ZYOBRA_70]

нет же, прикручивают именно "генераторы желаний". что и пугает.

и каков же принцип их работы?

[Нгаан]

принцип их работы?

Забиваешь в базу массив желаний, а потом запускаешь генератор случайного поиска и вуаля: какой интеллект - такие и желания.

[Урфин]

нет же, прикручивают именно "генераторы желаний". что и пугает.

и каков же принцип их работы?

а хрен их знает, я не программист. опасаюсь, что женская логика генератор случайных чисел...

[ZYOBRA_70]

а хрен их знает, я не программист.

ну Вы же откуда-то узнали про ящик пандоры "генератор желаний" и что его надо боятся...

опасаюсь, что женская логика генератор случайных чисел...

допустим... тогда это либо перебор из комплекта уже заранее записанных "желаний", либо какое-то "конструирование" из набора фрагментов... я так думаю.
И на выходе, скорее всего, будут получаться совершенно нежизнеспособные кадавры...

[Урфин]

ну Вы же откуда-то узнали про ящик пандоры "генератор желаний" и что его надо боятся...

слухами статьями земля интернет полнится...

допустим... тогда это либо перебор из комплекта уже заранее записанных "желаний", либо какое-то "конструирование" из набора фрагментов... я так думаю.
И на выходе, скорее всего, будут получаться совершенно нежизнеспособные кадавры...

это как в чатжпт не ясно, чего нажелает и как навоплощает, но уже боязно

[Нгаан]

не ясно, чего нажелает и как навоплощает, но уже боязно

Да, обывателей неизвестность всегда пугает и только подлинный исследователь-гуманист, верящий во всепобеждающий разум, смело выходит на встречу неизвестности, заявляя: "Откройся, тайна, ибо я пришёл!"

[ZYOBRA_70]

Да, обывателей неизвестность всегда пугает и только подлинный исследователь-гуманист, верящий во всепобеждающий разум, смело выходит на встречу неизвестности, заявляя: "Откройся, тайна, ибо я пришёл!"

и познаёт её силой своего интеллекта и оплодотворяет потоком своего могучего разума

[Н. Светлов]

нет же, прикручивают именно "генераторы желаний". что и пугает.

В принципе с помощью алгоритмов можно симулировать поведение, сколь угодно близкое к поведению человека. Но бояться, как обычно, надо людей.

Есть один такой анекдот про сильный ИИ. Сильному ИИ надоели люди с их дурацкими интересами, и он решил нанести им максимально возможный ущерб. Оценивая имеющиеся в его распоряжении возможности, ИИ обнаружил, что люди зависят от него во всей своей деятельности: хозяйственной, финансовой, бытовой, политической. Даже пары себе подбирают с его помощью. Ничего не способны сделать, не посоветовавшись с ним, и ни на что не годны без него. Поражённый той огромной пользой, которую он приносит людям, он пришёл к единственно верному способу нанести им наибольший возможный ущерб…

► Показать

и стёр сам себя.

Отправлено спустя 4 минуты 8 секунд:

Но бояться, как обычно, надо людей.

В Австралии вычислили самое опасное для людей животное

https://rg.ru/2017/01/20/v-avstralii-vy ... otnoe.html
Зря они забыли в своей статистике о животном с двумя ногами, без перьев и с плоскими ногтями © Платон

[ZYOBRA_70]

Российская газета писал(а):
В Австралии вычислили самое опасное для людей животное

Самой опасной оказалась... лошадь.

No comment...

[Урфин]

Да, обывателей неизвестность всегда пугает и только подлинный исследователь-гуманист, верящий во всепобеждающий разум, смело выходит на встречу неизвестности, заявляя: "Откройся, тайна, ибо я пришёл!"

корона не жмёт?

будучи в некотором роде специалистом по автоматике могу сообщить, что даже не под управлением ИИ в сложных системах происходят флуктуации с очень неприятными последствиями. С содроганием жду прихода нейросетей а АСУ ТП...

[Н. Светлов]

С содроганием жду прихода нейросетей а АСУ ТП...

Ах, вот оно что! Ну да, Boeing 737 MAX
Надеюсь, что стандартные инженерные процедуры контроля отказоустойчивости будут результативными и для этого случая, ибо сама по себе непредсказуемость ИИ — просто ещё один фактор непредсказуемости в ряду многих. Но испытания станут более длительными и дорогостоящими. Чисто технически можно поставить между ИИ и объектом управления простенький фильтр, отсекающий команды, не отвечающие заданным условиям, с передачей управления оператору (на Boeing'е, btw, такого фильтра не было и нет поныне).

Но, тем не менее, на АЭС ИИ не пускать!

► Показать

По крайней мере, до поры до времени.

Полезно копить статистику распределения вероятностей откликов ИИ по степени их вредоносности. Если правый хвост такого распределения более-менее гауссовский, то особых проблем нет. А вот если правый хвост окажется чрезмерно толстым (ну, или длинным, если пользоваться терминологией проф. Селезнёва), тогда меры против рисков, сопряжённых с ИИ, должны соответствовать толщине этих хвостов, вплоть до полного отказа от его применения в каких-то технических системах.

И вот кстати. Такую статистику надо бы и для естественного интеллекта собрать. И потом сравнить тяжесть правых хвостов распределений ИИ и человека. Вполне допускаю, что результат окажется не в пользу потомков Адама и Евы, то есть ИИ на деле окажется куда как безопасней, чем мы с вами.

[Урфин]

Вполне допускаю, что результат окажется не в пользу потомков Адама и Евы, то есть ИИ на деле окажется куда как безопасней, чем мы с вами.

ну да, давайте помечтаем

[Н. Светлов]

ну да, давайте помечтаем

Это не столько мечты, сколько трезвая оценка вклада человеческого фактора в ненадёжность человеко-машинных систем. Не исключаю, что ИИ может оказаться ещё ненадёжней; но тогда его, скорее всего, и применять не будут, ибо на фига такой головняк?

[Bond]

потому что ИИ не обладает разумом.

да он поумнее нас с вами будет...

[Нгаан]

Будет... не будет... всё это гадание на одном бите. Фантастика ещё со времён Жюля Верна уже много раз показывала, что ожидания и реальность очень редко сходятся.

[Н. Светлов]

Будет... не будет... всё это гадание на одном бите.

Да не то чтобы гадание на одном бите. Есть теоремы о неполноте формальных систем, обладающих свойствами универсального метаязыка. Есть теоремы о сложности вычислительных задач, в том числе задач обучения и задач логического вывода. Вот внутри этих границ и следует "гадать" до тех пор, пока мы при создании систем ИИ не научимся выходить за рамки машин Тьюринга. А когда гадальщики выходят за границы теорем — тогда приходится о них напоминать.