Решённые и нерешённые задачи искусственного интеллекта

[Мотылек]

Я напомню, что Солнце - звезда второго поколения! Я ведь не просто так упомянул Лавкрафта. Скорее уж, мы где-то давно на задворках, а всё воображаем себя неподражаемыми.

Период жизни звезд стремится к нулю по сравнению с периодом жизни черных дыр.
А жизнь может существовать и на планете вращающейся вокруг черной дыры.

Единственный тип жизни, про которую мы знаем, что она точно возможна - это наша, углеродная. А для полноценного функционирования сложных многоклеточных (типа нас - человеков) надо много чего из таблицы Менделеева, в том числе и довольно тяжелые элементы. А как известно из сегодняшних представлений, все что тяжелее железа 56, синтизируеться только при взрывах сверхновых. Так что ранние этапы вселенной, пока в ней не болталось (в хоть сколь ни будь товарных количествах) что нибудь потяжелее углерода, для плацдарма сложно-организованной белковой жизни, попросту бесполезны.
Ну и еще сомнений в копилку добавляет слышанная мной ранее информация (за объективную научную достоверность которой впрочем поручится не могу), о том, что гипотетическая сверхмассивная черная дыра в центре Млечного Пути, по расчетам ранее поглощала материю куда активнее, чем ныне. А значит вокруг нее был сумасшедший диск аккреции, который давал колоссальное количество разнонаправленного сверхжёсткого излучения. И (предположительно) если бы Земля появилась существенно раньше, то несмотря на ее значительно удаленное от центра положение в галактике, любая нынешняя жизнь на ней была бы не возможна из за стерилизующих потоков излучения из ядра галактики.

[Alex Ivanov]

Единственный тип жизни, про которую мы знаем, что она точно возможна - это наша, углеродная.

Я с вами не согласен. Мы также знаем что возможна и другая жизнь - электронная.

Отправлено спустя 4 минуты :

гипотетическая сверхмассивная черная дыра в центре Млечного Пути

Есть черные дыры и поменьше.
https://dzen.ru/a/Y3NkeqI09jBl36cA
Новый легкий рекордсмен в 3,8 раза больше массы нашего Солнца и составляет всего 24 километра в диаметре.

Отправлено спустя 19 минут 20 секунд:

А для полноценного функционирования сложных многоклеточных (типа нас - человеков) надо много чего из таблицы Менделеева, в том числе и довольно тяжелые элементы. А как известно из сегодняшних представлений, все что тяжелее железа 56, синтизируеться только при взрывах сверхновых. Так что ранние этапы вселенной, пока в ней не болталось (в хоть сколь ни будь товарных количествах) что нибудь потяжелее углерода, для плацдарма сложно-организованной белковой жизни, попросту бесполезны.

Они были до Большого взрыва: это переписывает историю Вселенной
https://ria.ru/20230413/blackholes-1864567565.html
Астрономы обнаружили самую древнюю сверхмассивную черную дыру возрастом более 13 миллиардов лет. Это открытие вновь поднимает вопрос о природе таких объектов. По мнению некоторых ученых, в них, возможно, таится разгадка происхождения Вселенной.

Более 13 млрд. лет назад (старше Большого Взрыва) - это уже достаточно рано или еще нет?

[Pinhead]

Мотылек, количество только известных нам на сегодняшний момент галактик 100-200 млрд. Возьмём по минимуму - 100 млрд. В каждой галактике разное количество звёзд, возьмём в среднем - 100 млрд. Помножим одно на другое - 10 в 22 степени звёзд. Планет, соответственно, ещё больше. Вот сколько вариантов того, как могут складываться природные условия там или сям. Огромный простор для возникновения достаточно сложных структур самого разного рода, которые могут являться потенциальными носителями сознания. Эта Вселенная как будто нарочно приспособлена для такого разнообразия. Однородная в целом, она демонстрирует максимальную неоднородность в мелочах. Заужать возможности до исключительно земных условий - это какая-то крайняя степень хуманоцентризма.
Почитайте доклад "марсианских учёных" о том, почему на Земле не может быть жизни. Про слишком плотную атмосферу, крайне опасный газ кислород и ужасную воду.

[Н. Светлов]

Вы сначала со смертной казнью разберитесь, с самоубийствами разными, с отправкой тысяч граждан на очередную "священную войну" то там, то сям по всему Миру, а потом уже про роботов думайте.
Тоже ещё "гуманисты"!

Высказываясь на форуме, я никогда не выражаю точку зрения какого-нибудь коллектива или социума. Тараканы из моей головы не оплачивают счета тараканов из других голов.

Если ИИ ведет себя подобно разумному организму то не важно как он это делает.

Для меня важно.

Каптчу сейчас такую делают, которую только разумный может разгадать.

Не вижу причин, по которой достаточно большая и достаточно хорошо обученная нейросеть не сможет разгадать любую наперёд заданную капчу. Самосознания (иллюзии наблюдателя) ей для этого точно не потребуется. Это как раз пример имитации разумного поведения «китайской комнатой». То в человеке, что не поддаётся имитации, — это как раз «иллюзия наблюдателя». Ироничненькое такое напоминание всем нам о том, как мало мы знаем в сравнении с тем, что существует (или представляется).

Угроза убийством. "А, ну эта машина явно неразумна. Разберём-ка её на запчасти и из них соорудим что-то получше".

Ой, даже живые системы не все и не всегда боятся смерти.

Вообще, Лем уже всё давным-давно сказал и ответил на все вопросы.

Ну, быть может, и не на все, и наверняка не на все правильно, но то, что мы все вместе далеко позади него — факт. Очень мощный мыслитель!

[Alex Ivanov]

Для меня важно.

Почему? В чем разница?

Отправлено спустя 30 минут 51 секунду:

То в человеке, что не поддаётся имитации...

Новые модели искусственного интеллекта станут умнее самого умного человека уже к концу 2025 года, заявил миллиардер Илон Маск.
https://www.forbes.ru/milliardery/50996 ... -2025-godu

[Pinhead]

Не вижу причин, по которой достаточно большая и достаточно хорошо обученная нейросеть не сможет разгадать любую наперёд заданную капчу.

Причина в том, что у таких каптч нет объективного критерия, кроме условных образов. Нейросеть НЕ ЗНАЕТ, что на рисунках. Чтобы отличить экскаватор от слона, нужно, чтобы в вопросе хотя бы встречались слова "экскаватор" или "слон". А животное на рисунке или машина нейросеть знать не может.

Это как раз пример имитации разумного поведения «китайской комнатой».

Все эти т.н. "иллюзии" - изрядно распиарены, как с пресловутым "тестом Тьюринга". Почему-то никому не приходит в голову, что психологический тест, придуманный математиком - это примерно то же самое, что математический тест, придуманный психологом. Я утверждаю, что даже психолог средней руки с лёгкостью разоблачит "искусственного" собеседника. Он будет задавать со-о-овсем не те вопросы, которые в таких случаях задают люди, неопытные в этом деле.

Ой, даже живые системы не все и не всегда боятся смерти.

Ну, тогда туда и дорога такому самоубийце! Нам-то что за дело?

Очень мощный мыслитель!

В своё время в США подозревали, что это вообще всё не он пишет, а целый специально созданный советский институт.

[Н. Светлов]

Почему? В чем разница?

► Показать

Возможно, в том, что мы с Вами из разных эпох, случайно пересекшихся на этом форуме.

Простой пример. Даны девушка, которая Вас любит, и девушка, которая только имитирует любовь. Вам, быть может, всё равно. Мне нет. Я сочувствую первой, но не второй.

Нейросеть НЕ ЗНАЕТ, что на рисунках.

Если обучить её на миллионе правильных и неправильных ответов на такие капчи — будет знать. И сможет правильно ответить и на такие капчи, которые раньше не встречались. Правда, не на все. Но и тем, на которые не сможет, тоже можно обучить.

Я утверждаю, что даже психолог средней руки с лёгкостью разоблачит "искусственного" собеседника. Он будет задавать со-о-овсем не те вопросы, которые в таких случаях задают люди, неопытные в этом деле.

Допускаю такое. Но на его вопросах и ответах естественных и искусственных собеседников тоже можно обучить нейросеть.

В своё время в США подозревали, что это вообще всё не он пишет, а целый специально созданный советский институт.

Это ошибка, свойственная западному менталитету . Они почему-то всегда считают, что любому индивидууму можно поставить в соответствие коллектив, который умнее этого индивидуума. Для некоторых индивидуумов это так, но не для всех, и причина тому чисто кибернетическая: один член коллектива не может понять сообщение другого, если не располагает достаточной базой знаний. Поэтому никакой коллектив не может оказаться умнее (в соответствующей предметной области) индивидуума, обладающего уникальными знаниями. Это не говоря об опыте, который вообще никак не передаётся, а только вырабатывается заново путём многих попыток достичь результата.

[Лилия]

Допускаю такое. Но на его вопросах и ответах естественных и искусственных собеседников тоже можно обучить нейросеть.

То есть Вы считаете, что искусственная нейросеть превосходит природную?

[Pinhead]

Если обучить её на миллионе правильных и неправильных ответов на такие капчи — будет знать.

Нет! Потому что невозможно определить критерии правильности и неправильности. Можно долго и упорно обучать на слоне и экскаваторе, я поставлю кролика и унитаз, и всё придётся начинать сначала. Именно потому, что компьютер анализирует картинку с точки зрения информации. А человек получает не информацию, он получает образ. Поэтому ему вообще всё равно, как, чем и где изображено, в какой позе, движется или стоит. Человек мыслит обобщениями. Животное, мебель, транспорт. Но самая проблема в том, что не просто обобщениями, а условными обобщениями. Чтобы их уловить, нужно осознавать окружающий мир.

Но на его вопросах и ответах естественных и искусственных собеседников тоже можно обучить нейросеть.

Это всё тоже из области написанного выше. Невозможно всё обсчитать, потому что количество вариантов бесконечно, более того, человек обладает умением мгновенно находить именно тот, который способен сбить с толку. Абсолютно бессмысленно "учить" подобным вопросам, потому что зачастую специалист заранее вообще не знает, в какой форме они будут заданы.
Я уж не говорю о том, что даже люди, обладающие способностью к умелому перевоплощению, далеко не всегда могут ввести в заблуждение специалиста, по причине того, что они не знают методик оценки.
Теоретически, можно, конечно, посадить самих психологов за выстраивание такой линии ответов, что она будет, например, скрывать личность. Но, во-первых, тогда со стороны сразу станет заметно, что собеседник что-то умело скрывает, во-вторых, если беседа будет продолжаться достаточно долго, правда всё равно вылезет наружу. Даже само построение и выбор фраз выдаёт индивидуальность, как раз по причине того, что люди мало следят за информативностью речи, ибо она не имеет значения. Там, где нет индивидуальности, нет и особенностей.

[Alex Ivanov]

Простой пример. Даны девушка, которая Вас любит, и девушка, которая только имитирует любовь. Вам, быть может, всё равно. Мне нет. Я сочувствую первой, но не второй.

Если мы постулируем что машина не способна любить, то это автоматически означает что если перенести человека в машину, то он тогда тоже не сможет любить. Таким образом перенос невозможен.

[Нгаан]

Можно долго и упорно обучать на слоне и экскаваторе, я поставлю кролика и унитаз, и всё придётся начинать сначала.

Погодите, но ведь современные системы ии-поиска уже находят картинки по подобию изображения. Раньше они это делали плохо, ориентировались на цветовые палитры и распределение пятен, но теперь они реально находят подобные и без текстового описания. То есть, грузишь им картинку с котиком и просишь найти похожие, и они находят именно котиков, но не собачек. А уж под этими найденными на стороне вполне может оказаться описание того, что на них изображено, так что...

[Pinhead]

Погодите, но ведь современные системы ии-поиска уже находят картинки по подобию изображения.

Я просто плохо объяснил. В вопросах к каптче нет ни слова о том, что на рисунках, никакой конкретики. Там например такое: кликните на рисунки с животными или кликните на те изображения, на которых такая же группа предметов, что и на рисунке-примере.
При этом на картинках изображения, разумеется, размещены совершенно произвольно, да ещё на пёстром фоне. Человек мгновенно определит, куда жать, компьютер не определит никогда.
Т.е. вопросы так сформулированы, что требуется понимание, а не просто объём памяти. Сопоставление изображения с обобщающими образами.

[Nik]

Вас путает, что человек мгновенно распознает образ, но он распознает только знакомый образ,
т.е. которому уже обучен, точно так же, как и обучена нейросеть.
Помните, в детстве: "Как делает коровка? Му! А лошадка? Иа-иа". Поэтому вы коровку на картинке вычлените среди цветных пятен, как опознает ее и нейросеть, которой сказали и показали, что на паре миллионов картинок изображена коровка.
Может быть вы хотите сказать, что человек "понимает" образ, раскладывая его на составляющие, примерно так: "четыре ноги, рога, стоит на траве - наверное, это корова"
точно также нейросеть разделяет входные данные на элементы и ищет совпадение с большей вероятностью.

Представьте вопрос к капче: "Отметьте все картинки, где изображен мультиплексор."
Сможет любой человек отобрать нужное среди прочего оборудования? Нет. Любой просто не натренирован на этот образ.

Методы распознавая одинаковы, хотя сложность наблюдателя пока на порядки различается.
Так что считать, человек видит "истинну", а нейросеть как бы чего почти угадывает, не совсем верно.
Кстати, насчет истинности, достаточно указать на законы оптики, согласно которым человек получает всегда перевернутое изображение.

А главное, что нейросеть, создавшая модель (обученная), может в мгновение ока поделиться этой моделью с другой нейросетью.
ПС Я разжевываю это, как австралийские аборигены листья бетеля, скорее чтобы сформулировать для себя.

[Pinhead]

Так что считать, человек видит "истинну", а нейросеть как бы чего почти угадывает, не совсем верно.

Где я такое говорил? Вы за меня придумали что-то, и на это отвечаете. Это вот пример того, как работает язык. Он совсем не для передачи информации.
Я говорил не о том, как и кто что-то УЗНАЁТ, а чем это для него ЯВЛЯЕТСЯ! Разница в этом. Подумайте.
Люди друг другу передают не информацию, а компьютеры - информацию. Поэтому один человек другому может намёком в виде незамысловато построенной фразы, которая не содержит никакой информации, передать, чтобы другой сам СОЗДАЛ в голове то, что требуется. Компьютер не может ничего создать, потому что у него ничего нет, это машина, для него всё - просто набор сигналов. Поэтому без информации он ничего не воспроизведёт. Для этого ему надо начать мыслить, чтобы у него тоже появлялись образы. Свои собственные.

[Нгаан]

Поэтому один человек другому может намёком в виде незамысловато построенной фразы, которая не содержит никакой информации, передать, чтобы другой сам СОЗДАЛ в голове то, что требуется.

Боюсь, что такая "капча" может оказаться вовсе не универсальной - не каждый естественный интеллект сумеет с ней справиться.

[Nik]

Что хотелось добавить:
Намек будет понят если у людей общая информационная база за плечами. Негр преклонных годов даже не поймет, какой образ до него пытаются донести намёком, он не получит именно информации. Это можно сравнить с передачей книги(информации) и передачей ссылки на книгу (указание на информацию ) Второе как раз напоминает намек.
А обученная модель нейросети это и есть обобщенный образ.

[Нгаан]

Робот он есть робот: он думает, что Марта (24 Марта) это имя.

[Олег К]

Создатели каптч выдумавают их с большой изобретательностью, ИИ за ними не поспевает. Там же не просто распознавание картинок, то пазл сложить надо, то ребус решить, то на вопрос ответить. Пока что под каждый тип каптчи и даже под её версию, надо делать новую нейросеть.

[Н. Светлов]

То есть Вы считаете, что искусственная нейросеть превосходит природную?

В чём-то превосходит, а в чём-то нет. Как и все компьютерные программы. Но там я вовсе не это имел в виду.

Можно долго и упорно обучать на слоне и экскаваторе, я поставлю кролика и унитаз, и всё придётся начинать сначала.

Так и было в те времена, когда translate.google.com сплошь и рядом выдавал редкостную чушь, а изготовленные нейросетями фейки никого не могли ввести в заблуждение. Если говорить об архитектуре нейросети, то способность к индукции и ассоциативному мышлению в ней прокачана на пять баллов — вопрос лишь в объёме и составе обучающей выборки, а вслед за сим в вычислительных мощностях. Нейросеть не обладает индивидуальностью, но обладает способностью имитировать индивидуальность.

Сегодня, если бы встала задача посоветовать отличить самую мощную из нейросетей от живого человека, я бы посоветовал предложить собеседнику сочинить четверостишие в стиле Вергилия на тему о катастрофе «Луны-45» при прилунении. Нейросеть станет добросовестно сочинять (возможно, даже на латыни), а человек просто пошлёт к лешему, заявив, что «Луну-45» ещё никто не запускал, да и Вергилия он отроду не читал

Но фундаментальных ограничений на точность имитации человеческого поведения нейросетями практически нет, и если б было иначе — дипфейков, пожалуй, не существовало бы.

Да, разница всегда останется, и всегда можно будет найти способ заставить нейросеть выдать свою алгоритмическую ограниченность. Но найти способ, подходящий именно для данной конкретной нейросети, будет с каждым годом всё труднее, и потребуется задавать всё больше вопросов, чтобы понять, кто по ту сторону экрана.

Даже само построение и выбор фраз выдаёт индивидуальность, как раз по причине того, что люди мало следят за информативностью речи, ибо она не имеет значения.

Именно это имитировать легче всего. Тут даже не нейросеть (которая, по сути, представляет собой полином жутко высокого порядка) — тут вполне хватит обычной цепи Маркова. Как в архиваторе. Я сам пробовал применять архиватор (rar) для распознавания авторства текстов — и получалось.

Если мы постулируем что машина не способна любить, то это автоматически означает что если перенести человека в машину, то он тогда тоже не сможет любить. Таким образом перенос невозможен.

Верно.

[Pinhead]

Так и было в те времена, когда translate.google.com сплошь и рядом выдавал редкостную чушь, а изготовленные нейросетями фейки никого не могли ввести в заблуждение.

Фейки и сейчас не могут ввести в заблуждение. В них нет ошибок, присущих человеку, но есть свои собственные, которые никуда не деваются.
Что касается гугл-транслейта, то мало кто помнит, но, когда он появился, там была функция что-то вроде "выбрать лучший вариант". Предлагались варианты слов и словосочетаний, и можно было ткнуть на наиболее подходящий на взгляд переводящего. Так что, по сути дела, этот переводчик обучал весь мир, постепенно корректируя в нужную сторону варианты перевода, поэтому они сейчас и выглядят такими гладкими. "Тут и дурак справится".

Нейросеть не обладает индивидуальностью, но обладает способностью имитировать индивидуальность.

Этого МАЛО в данном случае. Это не околовсяческие рассуждения, а конкретная задача, которую нельзя решить без понимания условий. Нельзя на основе анализа речи извлечь информацию, которой там нет. Даже если проанализировать все разговоры на свете, толку не будет. Потому что это намёки, и вариантов ответов бесконечное количество.

Но найти способ, подходящий именно для данной конкретной нейросети, будет с каждым годом всё труднее, и потребуется задавать всё больше вопросов, чтобы понять, кто по ту сторону экрана.

Это заблуждение, я его не раз слышал. Собственно, почему-то предполагается, что мы имеет дело с неким неисчерпаемым ресурсом. Якобы, совершенствованию обучения нет предела. Тогда как в действительности онтологическая суть нейросетей - коллективное бессознательное человечества. Которое отнюдь не безгранично. И даже далеко не совершенно. Человек просто изобрёл очередное зеркало, в которое любуется, особенно, пока оно мутное. Но чёткость изображения имеет предел. В конце концов, в зеркале отразится абсолютно всё, и на этом "обучение" закончится. Уже сейчас в некоторых областях видны границы. Нельзя передать больше информации, чем её имеется, а создать таким образом разум невозможно.
Поэтому я скажу парадоксальную вещь - напротив, со временем отличать станет легче! Потому что человек выработает постоянный навык. Опять-таки, уже заметно, как люди начинают с ходу отличать человеческие работы от изделий нейросети, хотя на первый взгляд кажется, что это нереально. Но тот, кто постоянно с этим сталкивается, вырабатывает навык.
Но, конечно, я не спорю, что при каких-то быстрых контактах всякого можно ввести в заблуждение и этим воспользоваться, особенно в недобросовестных целях.

Именно это имитировать легче всего.

Это только так кажется. Очень легко это проанализировать. А вот воспроизвести - тут начинаются проблемы. Потому что придётся решать две противоположные задачи. Как донести информацию в виде ответов, при этом ничего не донося.
Мне пришёл на ум шикарный пример! "Туды-сюды дедушка" из "Острова". Вот, пожалуйста, имитация поведения деда. И он действительно воспроизводит всё так, как делал бы реальный подобный дед. Но штука в том, что не бывает таких одномерных дедов. Воспроизвести можно, но как, не уйдя от имитации деда, показать реального человека?