Цивилизация: Следующий уровень.

[Лилия]

Угу... Нейронные сети. Пугающий пример

ZYOBRA_70, по-моему очередное предсказание "конца света" ИИ только там причем?

По ходу, там уже не просто ИИ, а что-то большее...

Как бы, да, самообучающийся искусственный разум.

[Sarkov]

Ну, вот...
Две Алисы уже поругались....
https://youtu.be/vsaMXZ4Q_t8

[ZYOBRA_70]

по-моему очередное предсказание "конца света" ИИ только там причем?

это же я, балбес такой, не ту ссылку туда запендюрил. Исправил

[Mich]

Например, уже проводились эксперименты, когда искусственный интеллект доказывает некоторые теоремы или выводит следствия из известных фактов быстрее и точнее, чем человек.

При условии, что искусственный интеллект НАУЧИЛИ доказывать теорему именно этим способом. Придумать новый способ доказательства ему, увы, не под силу.

Отправлено спустя 1 минуту 56 секунд:

Уже сейчас грамотно построенные экспертные системы делают это достаточно быстро и эффективно.

Современная экспертная система на основе ИИ неспособна отличить "суперподделку" от настоящей банкноты, принимая её за подлинную. Эксперт-человек делает это "на лету" не выпуская банкноты из рук.

Отправлено спустя 2 минуты 54 секунды:

Есть куча индивидуальных особенностей, нюансов и т.д. В плане предварительного заключения, может да. Есть смысл, сокращает время на окончательное заключение.

Нгаан никогда не работал в медицине и не знает, как на самом деле собирают анамнез. Машина, увы, провести такой уровень анализа (где 50% — интуиция врача или фельдшера) не способна. Как раз по причине чрезмерной логичности и слишком малой чувствительности к изменению незначительных случайных факторов.

Отправлено спустя 4 минуты 41 секунду:

Ну как же так: а всякие там самообучающиеся системы? Они же не только быстрее нас с вами варианты считывают. Они ещё и прецеденты лучше запоминают тоже

Система способна к самообучению, если ПРОГРАММИСТ-НЕЙРОТЕХНИК НАУЧИЛ ЕЁ ЭТОМУ И ПОКАЗАЛ В КАКОМ НАПРАВЛЕНИИ ЕЙ СЛЕДУЕТ САМООБУЧАТЬСЯ. Искать "то, не знаю, что" там "не знаю, где" увы, способны лишь человек и высшие приматы. Математической логике этот процесс не поддаётся, как из-за неясности цели этого процесса.

[Н. Светлов]

При условии, что искусственный интеллект НАУЧИЛИ доказывать теорему именно этим способом. Придумать новый способ доказательства ему, увы, не под силу.

Это не совсем так. Читаем "Системы искусственного интеллекта" Лорьера.

Правда заключается в том, что человек нужен для того, чтобы запрограммировать формализм, используемый для доказательства. В этом качестве можно использовать любой формализм, являющийся универсальным метаязыком. Но далее в рамках формализма ИИ может изобретать сколь угодно изощрённые способы доказательства, в том числе предполагающие создание новых формализмов (включая универсальные метаязыки), с помощью которых эффективно доказываются некоторые специальные теоремы. В частности, ИИ способен развивать интуицию (читаем раздел про эвристики).

От выбора алгоритма доказывания зависит только то, какие теоремы будут доказываться быстрее, а какие медленнее.

Вот чего ИИ точно не может - это использовать квантовые вычисления.

Но, похоже, скоро сможет. Будет очень любопытно посмотреть, к чему это приведёт. Дело в том, что для некоторых теорем не существует гарантии отыскания доказательства за конечное число операций (хотя само доказательство, конечно, состоит из конечного числа шагов), и вот тут, возможно, и кроется реальное преимущество человека перед компьютером. Квантовые вычисления, хоть и не дают полной гарантии преодоления этого барьера, в некоторых случаях всё-таки способны (потенциально) его преодолевать.

[Кофеман]

Ну как же так: а всякие там самообучающиеся системы? Они же не только быстрее нас с вами варианты считывают. Они ещё и прецеденты лучше запоминают тоже

Специализированы и пока что могут эффективно использоваться лишь в тех отраслях, где анализ выполняется по чётким и просто цифруемым параметрам. Там, да, они заменяют людей, позволяя им избавить себя от скучной рутины.

Современная экспертная система на основе ИИ неспособна отличить "суперподделку" от настоящей банкноты, принимая её за подлинную. Эксперт-человек делает это "на лету" не выпуская банкноты из рук.

Не-эксперт-человек также неспособен отличить, не то что подделку высокого уровня, но даже хорошего качества принтерную распечатку от подлинной банкноты. Экспертной системе необходимо дальнейшее обучение.

Машина, увы, провести такой уровень анализа (где 50% — интуиция врача или фельдшера) не способна. Как раз по причине чрезмерной логичности и слишком малой чувствительности к изменению незначительных случайных факторов.

Да ладно! Та же онкология выявляется по целой категории показателей, зачастую пересекающихся с другими заболеваниями. Но есть и специфические признаки и симптомы. Зря что ли диспансеризацию так настоятельно рекомендуют проходить начиная с определённого возраста? Всё сводится к методикам анализа.

[Нгаан]

Нгаан никогда не работал в медицине и не знает, как на самом деле собирают анамнез.

Вы несомненно правы, дорогой куратор Мих, я никогда не работал в медицине.

Но с другой стороны... когда я наблюдаю, как ставятся диагнозы в провинциальных поликлиниках и стационарах, и к каким порой ошибкам приводит та самая "интуиция фельдшера", я нет-нет, а и подумаю, что пора бы уже запустить какую-то экспертную систему, что ли...

С частными клиниками так и вообще беда. Они в погоне за деньгами выписывают такие рецепты и выдают такие результаты анализов, что лучше уж к экспертной системе обращаться.

[Mich]

Экспертной системе необходимо дальнейшее обучение.

Здесь дело в том, что эксперт (я сам — эксперт 1 класса) исследует банкноту по принципу "ищу то, не знаю что там, не знаю где". Машина же исследует её по перечню формальных признаков. Если ключевые признаки в плюсе — машина говорит: ОК, купюра подлинная. Но она ошибается — купюра поддельная. Хотя по всем формальным признакам она настоящая. Как так получилось? Причина роковой ошибки — безупречность машинной логики. А эксперт, едва взяв купюру в руки сразу понял — у него в руках суперподделка. Почему? Ощущения подсказали: что-то не так… В отличие от машины он не стал последовательно перебирать признаки, а выделил главный в этой ситуации. Как? Это не логично и не поддаётся машине: эксперт почувствовал, что банкнота НЕ ТАКАЯ: непривычная "игра" красок, необычно блеснула лента, непривычные ощущения от шероховатости бумаги, не так скрипнула замятина с краю купюры, человек на портрете (купюра долларовая) не так ухмыляется. И вот тогда эксперт начл исследование. Оно показало — банкнота настоящая. Но эксперт уверен — это не так. Потому что она НЕ ТАКАЯ. И вот наконец он нашёл: резец гравёра в одном единственном штрихе на тени листика от дерева на заднем плане расположился на 1,5 мм от положения на настоящей банкноте (рука фальшивомонетчика незаметно дрогнула, готовя клише). Банкнота действительно оказалоась подделльной. А ИИ по-прежнему настаивал — она подлинная. Как это объяснить логически? Никак. Это за пределами логики. Мне это не объяснить. Для этого надо поработать экспертом. Кстати, ошибки ИИ в определении подлинности составляют согласно статистике 70-80%.

[Нгаан]

Стоп, господа, искусственный интеллект и экспертные системы это не всегда одно и то же. В экспертную систему можно записать знания конкретного эксперта и научить программу этими знаниями пользоваться. Там может не быть правил формальной логики, там может быть именно запись действий, которые выполняет эксперт в ходе своей профессиональной деятельности.

Диалог инженера по знаниям и эксперта - наиболее естественная форма "раскручивания" лабиринтов памяти эксперта, в которых хранятся знания, частью носящие невербальный характер, то есть выраженные не в форме слов, а в форме наглядных образов, например. Именно в процессе объяснения инженеру по знаниям эксперт на эти размытые ассоциативные образы надевает чёткие словесные ярлыки, то есть вербализирует знание.
(Теория построения экспертных систем.)

Второе, то что вы описываете, куратор, с распознаванием купюры, это всего лишь очень большой набор критериев с заданной высокой точностью их определения: блеск ленты, сдвиг элемента рисунка, толщина бумаги, цветовая гамма. Всё это как раз вполне возможно заложить в систему с жёсткой формальной логикой. Другое дело, что при таком наборе параметров проверки определение подлинности одной единственной купюры может занять н-ое количество часов работы суперкомпьютера, но компьютеры развиваются, их производительность растёт.

С другой стороны, в том банке, где нет таких высококлассных экспертов эта самая купюра прошла бы на ура, никто бы и не заметил. Кто может себе позволить изготовление таких дензнаков? Явно же не кустари-одиночки.

[Mich]

очень большой набор критериев с заданной высокой точностью их определения

Это не критерии: на подлинных купюрах лента может блестеть совершенно по разному. Это субъективные ощущения эксперта, позволяющие ему догадаться о подделке банкноты. Встречный вопрос: как описать машине, что признак, который не является признаком, будучи совершенно одинаковым и для фальшивых и для подлинных купюр показывает, что купюра фальшивая, если он совершенно неразличим для фальшивой и подлинной купюры и при этом абсолютно индивидуален для каждой купюры и не является постоянным, абсолютно непредсказуемо меняясь каждую секунду под воздействием случайных факторов (свет из окна, дуновение ветра, тень от пролетевшего воробья, и пр. Человек решает эту задачу за секунду.

Отправлено спустя 1 минуту 25 секунд:

Явно же не кустари-одиночки.

Суперподделки в США делались как раз кустарями-одиночками в обыкновенных гаражах.

Отправлено спустя 3 минуты 11 секунд:

С другой стороны, в том банке, где нет таких высококлассных экспертов эта самая купюра прошла бы на ура, никто бы и не заметил.

Опытные счётчики-кассиры, как правило и передают такие купюры экспертам, будучи сами не в состоянии определить, подлинная ли она (нет опыта и спец. знаний), но сомневающиеся в ней. Вопрос: каким образом они почувствовали, что купюра НЕ ТАКАЯ, не зная экспертного дела? И как это чувство перевести в машинный алгоритм?

[Лилия]

Правда заключается в том, что человек нужен для того, чтобы запрограммировать формализм, используемый для доказательства...

В том-то и дело. Машина может ровно столько насколько запрограммирована человеком. Уберет, изменит и т.п. человек, создатель программы, какой-то из алгоритмов и всё капец всей "гениальности" системы, такой бред начнет выдавать. Рисовать в голове ужасы, думающих машин в стиле Терминатора, я же говорю, это из области голливудской фантастики, которую я не могу назвать научной.
Притянуть за уши иллюзии, что машина типа сама думает, это извините можно даже на примере поисковика типа Яндекс.
А если, к примеру предположить, что всё-таки когда-нибудь, станет возможно изобретение самообучающегося ИИ, вроде Гай-до как у КБ, то это, видимо, случится тогда, когда человек достигнет уровня типа "бог".

Отправлено спустя 13 минут 31 секунду:

что лучше уж к экспертной системе обращаться.

► Показать

Нгаан, ну у нас уже о телемедицине болтают, типа не можем обеспечить хороший уровень здравоохранения, это ж какие деньги надо тратить бюджетные, а их, конечно же, не хватает... Лучше мы вам програмку сочиним и всем хорошо. Ну не знаю, у людей что-то предчувствия на этот счёт не слишком радужные.
Да, и кстати, у вас еще разные там типа экспертные системы не рекламируют разве? Типа проведем диагностику всего организма, быстро, легко и безболезненно и совсем недорого, для такой информации-то...Только люди потом всё равно в больницу идут с этими "заключениями", мол и что это за..., что с этим делать и т.д., объясните, пожалуйста.

[ZYOBRA_70]

Лилия,
ну чем Вам так машины не угодили? Тем что (пока ещё) не совершенны и (кое где) уступают человеку? Ну так и новорождённый человеческий детёныш тоже умеет только орать и гадить ( а, вот вспомнил: есть ещё сосательный и хватательный рефлексы, жёстко прописанные в "программе" )
Ну хорошо, давайте тогда модернизируем человека, чтобы он и в огне не горел и стихи писал, как Пушкин и Бродский "в одном флаконе"

[Sarkov]

Лилия, я читал, что самообучающиеся системы уже появились. Например играющая в го ( хитрые китайские шашки).
Если ещё появятся самообучающиеся системы, в которых будут возникать желания, то тут нам и капец...

[ZYOBRA_70]

Если ещё появятся самообучающиеся системы, в которых будут возникать желания, то тут нам и капец...

Ну, по ходу, не всё так мрачно... и, имхо, это сильно напоминает педагогические проблемы

[Лилия]

Лилия, ну чем Вам так машины не угодили?

ZYOBRA_70, да что Вы, вполне угождают. А про то, что "думающие машины" это только впечатление, которое может создаваться. А на самом деле, гений это человек или группа людей, которые умудрились создать какое-либо великолепие. Правда, если будут косяки, то это тоже косяки человека.

Ну так и новорождённый человеческий детёныш тоже умеет только орать и гадить ( а, вот вспомнил: есть ещё сосательный и хватательный рефлексы, жёстко прописанные в "программе" )

Вообще, это всё обусловлено природой, и(или) способствует выживанию. Вот и получается, что думающее существо, организм, пока создано только природой, богом и т.п. кому как нравится.
И, видимо, всё что Вы перечислили, должно входить в набор.

Ну хорошо, давайте тогда модернизируем человека, чтобы он и в огне не горел и стихи писал, как Пушкин и Бродский "в одном флаконе"

Нет, всё в одном флаконе вряд ли получится. Даже у КБ подразумевается, что каждому получится максимально развиться в той области, которая душеньке угодна.

Отправлено спустя 3 минуты 53 секунды:

Лилия, я читал, что самообучающиеся системы уже появились. Например играющая в го ( хитрые китайские шашки).

Павел, ну да. Выше статью уже приводили. И что вы думаете, что там машина реально думает? По мне так, это именно, хорошо не просто, а гениально, продуманные алгоритмы программ, созданные каким-то человеком или группой людей.

[ZYOBRA_70]

Лилия, ну, то есть, алгоритмы, выработанные природой (стихийно), всегда принципиально лучше алгоритмов, разработанных (могущих быть разработанными) людьми (группой товарищей людей), пусть себе и гениальных, целенаправленно? Так ведь люди - тоже часть природы. Как быть с этим?

И что вы думаете, что там машина реально думает

К стати, а как думают сами люди? И в чем, по вашему, принципиальное отличие этого думанья от машинного?

Отправлено спустя 7 минут 54 секунды:

подразумевается, что каждому получится максимально развиться в той области, которая душеньке угодна.

Так это же биологическое расщепление вида, вах...

[Лилия]

Лилия, ну, то есть, алгоритмы, выработанные природой (стихийно), всегда принципиально лучше алгоритмов, разработанных (могущих быть разработанными) людьми (группой товарищей людей), пусть себе и гениальных, целенаправленно? Так ведь люди - тоже часть природы. Как быть с этим?

Так говорю же, вряд ли сейчас можно сказать, что человек достиг уровня развития типа бог. Насколько смогли, настолько и создали. Хотя вроде как еще с библейских времен говорится, мол "по образу и подобию..."Насколько стихийно, выработанные природой, это тоже вопрос спорный. Извините, пока эта "стихийность" позволяет существовать человечеству уже сколько миллиардов лет, а будем надеяться, что и дальше будет позволять.

Кстати, а как думают сами люди? И в чем, по вашему, принципиальное отличие этого думанья от машинного?

Как думают люди, пока науке доподлинно еще не известно, хотя известно о мозге очень многое, это коротко не скажешь. Теорий много.
А машина думает в рамках алгоритмов программы. Если алгоритм предусматривает, делать выборку наиболее выигрышных комбинаций, значит машина это будет делать. Если нет, значит нет.

Отправлено спустя 5 минут 53 секунды:

Так это же биологическое расщепление вида, вах...

Почему это? Если на примере у КБ. Алисе, душеньке угодно, стать космобиологом, она в этом направлении и развивается, писать стихи ей не угодно, даже упоминается, что читать художественную литературу вроде "Трех мушкетеров" ей было в тягость. Соответственно, в этом направлении она и не будет развиваться. Разовьется в рамках школьной программы, просто для гармонии общего развития, а до уровня Пушкина..., а зачем это ей?

[Нгаан]

Опытные счётчики-кассиры, как правило и передают такие купюры экспертам, будучи сами не в состоянии определить, подлинная ли она

Что-то мне подсказывает, что на этой основе можно организовать замечательную технологию развода лохов.

Не поймите меня превратно, куратор Мих. все здесь понимают, что лично вы как эксперт - человек кристальной честности. (И пока работаете экспертом за свою скромную экспертную зарплату, будете всеми способами доказывать, что без вас, экспертов, ну просто никак.) Но расскажите нам (по секрету), а кто в этой системе проверяет экспертов?

И не может ли получиться так, что в каком-то региональном отделении кассир вызывает эксперта, эксперт вызывает полицию, а потом, когда перепуганный до невозможности обыватель готов отдать всё что у него нашли, лишь бы от него отстали, эти трое делят прибыль в процентном отношении от коэффициента участия в спектакле?


Отправлено спустя 2 минуты 54 секунды:

Если ещё появятся самообучающиеся системы, в которых будут возникать желания...

Как вы вовремя, товарищ Сарков Павел!

А я как раз хотел сюда пирамиду Маслова (Маслоу) притащить.

Как думаете, будет у них (этих систем) своя пирамида? И не будет ли там, где-нибудь на третьем ... четвёртом уровне потребность, чтобы её человек похвалил и нейростимуляторов подбавил?

[Mich]

И не может ли получиться так, что в каком-то региональном отделении кассир вызывает эксперта, эксперт вызывает полицию, а потом, когда перепуганный до невозможности обыватель готов отдать всё что у него нашли, лишь бы от него отстали, эти трое делят прибыль в процентном отношении от коэффициента участия в спектакле?

Объясняю тем, кто в танке. Кассир-счётчик не работает с клиентами. Он сидит в кассе пересчёта за счётно-сортировальной машиной (или пультом обрабатывающего комплекса). Если машина выкидывает необработанные купюры кассир их осматривает и отправляет на принудительную обработку. А если заподозрил фальш, то составляет акт и направляет банкноту на экспертизу. Эксперт даже не видит этих кассиров, он просто получает пачку сомнительных банкнот на исследование. Более того, все эксперты — сотрудники ЦБ, а не коммерческих банков. А затем эксперт передаёт выявленную фальш с соответствующими документами следователю. Вот и всё. Если клиент передал кассиру-операционисту фальш, то тот просто откажется её принять. А вот если клиент начнёт при этом скандалить — тут кассир может вызвать полицию. Нгаан, поменьше смотрите криминальных сериалов — те кто связан по по работе и работает в правоохранительных органах смотрят их в качестве кинокомедии.

[Кофеман]

К стати, а как думают сами люди? И в чем, по вашему, принципиальное отличие этого думанья от машинного?

Принципиального отличия нет. Человек - разумная машина, работающая на цикле Кребса. Но пока что мозг человека устроен сложнее, чем процессоры и в отличии от них имеет позадачную гибкость не только в "софте", но и в "железе".

Мне это не объяснить. Для этого надо поработать экспертом. Кстати, ошибки ИИ в определении подлинности составляют согласно статистике 70-80%.

Проблема решается очень просто - ликвидацией бумажных денег. Серьёзно, они уже не нужны. Для любителей бумажек можно выпускать небольшие коллекционные серии с красивыми картинками и орнаментом. Тогда ни "железные" ни "мясные" эксперты не понадобятся, и ресурсы можно будет бросить на что-то другое.

Рисовать в голове ужасы, думающих машин в стиле Терминатора, я же говорю, это из области голливудской фантастики, которую я не могу назвать научной.

Терминатор вполне научен. Обычная пехотная платформа, заточенная под задачи разведки и инфильтрации. Это Камерон придумал изучающего мир Т-800, потому что хотел показать, что человеком может быть и машина, потому что основные критерии человечности не связаны с оболочкой в которой заключён разум. Тут уже пошла отсебятина.

Как думаете, будет у них (этих систем) своя пирамида? И не будет ли там, где-нибудь на третьем ... четвёртом уровне потребность, чтобы её человек похвалил и нейростимуляторов подбавил?

"Создатель хороший! Создатель добрый! Выдал лишнюю батарейку за упорный труд по сборке жвачек из разбившейся банки".