Решённые и нерешённые задачи искусственного интеллекта

[Н. Светлов]

Поскольку темы про ИИ вызывают в нашем кругу немалый интерес, приведу список интересных задач, которые оказались по силам или не по силам искусственному интеллекту.

По силам:

• автоматическая горизонтальная посадка летательных аппаратов (конец 80-х гг. XX в.)
• превосходство над человеком в ряде сложных игр с полной информацией и нулевой суммой (шахматы, го) (начало XXI в.)
• автоматический перевод текстов с иностранных языков (более-менее удовлетворительные результаты — начиная примерно с 2015 г.)
• распознавание образов на уровне идентификации людей по фотоснимкам (первое десятилетие XXI в.)
• защита от спама (конец 1990-х)
• автопилотирование автомобилей (пока в довольно тепличных условиях — середина второго десятилетия XXI в.)
• построение топографических карт и картограмм по аэрофотосъёмке или спутниковым снимкам (второе десятилетие XXI в.)
• оценка кредитоспособности клиентов банков (первое десятилетие XXI в.)
• автомодерация социальных сетей (второе десятилетие XXI в.)
• автоматическая проверка корректности доказательств сложных математических теорем, целиком изложенных с использованием математической символики (2013 г.) [Добавлено в 15.02.2024 г.]
• автоматизация библиографической работы: на входе — документ плюс интернет, на выходе — оформленные по заданной спецификации библиографические описания для содержащихся в нём ссылок (2023 г.) [Перенесено из второго списка в первый 15.02.2024 г.]

Пока не по силам, но очень хотелось бы:

• автоматическая сортировка бытовых отходов
• нормальное, реально работающее распознавание речи, не ограниченное узким перечнем заранее заданных сюжетов
• автоматический ответ на рутинные сообщения по электронной почте, в соцсетях и т.п.
• автоматическое заполнение отчётности для работодателей по результатам сканирования изменений в ПЗУ ПК/в облаке
• автоматическое присвоение документам кодов УДК, JEL, ГРНТИ и т.п.
• роботизация домашней уборки: автоматическое обнаружение и устранение бардака в помещении
• автоматическая проверка корректности доказательств сложных математических теорем, изложенных на естественном языке (об автоматическом доказательстве пока даже не мечтаем: ни один ИИ пока ещё не смог найти доказательство — сравнительно несложное, но нетривиальное — невозможности перестановки фишек 15 и 14 в игре в 15)

Задачи во втором списке кажутся простыми в сравнении с уже решёнными, но пока что искусственному интеллекту они не по зубам.

[максим]

Включил браузер, и тут прямо как нарочно
Перевод видео нейросетью

Работает, правда я все равно не смотрю видео на английском, но работает

[Нгаан]

ни один ИИ пока ещё не смог найти доказательство — сравнительно несложное, но нетривиальное — невозможности перестановки фишек 15 и 14 в игре в 15

А разве эта проблема не решена через рассмотрение чётности из теории графов?

[Н. Светлов]

А разве эта проблема не решена через рассмотрение чётности из теории графов?

Может быть. Но самое первое доказательство (о котором я когда-то прочёл в детской книжке А. Савватеева про математику) ИИ не может воспроизвести без подсказок. Проверить может, а найти — нет.

[Нгаан]

Проверить может, а найти — нет.

А, то есть речь идёт о построении доказательства на основе аксиом.

[Bitman]

Говорят, что переводчик Google стал "божественным" после того, как его реализацию перевели на нейросети. Я им пользуюсь, действительно неплохо.

[skor]

Чтобы с ним распрощаться, нужен качественно иной уровень образования в масштабах нации или даже планеты, а учиться не модно

Я уже лет 10 больше надеюсь на сильный (т.е. сверхчеловеческий) искусственный интеллект. Интересно, можно ли как-то переинтерпретировать книжки Булычёва, чтобы оказалось, что Алиса -- всего лишь одно из любимых домашних животных сверхчеловеческого ИИ, который очень добрый, разрешает своим подопечным путешествовать в космосе, развивать прыгучесть и устраивать эксперименты с крокодилами бронтозаврами?

Включаю первый-второй канал, там ничего такого не говорилось.

А говорили, что вам некогда смотреть телек. Как же так?

[Н. Светлов]

Интересно, можно ли как-то переинтерпретировать книжки Булычёва, чтобы оказалось

Булычёва — вряд ли. Клантао — легко.

Я уже лет 10 больше надеюсь на сильный (т.е. сверхчеловеческий) искусственный интеллект.

Я не очень. У естественного интеллекта за спиной три миллиарда лет острой конкурентной борьбы. Если удастся весь этот опыт перенести в кремниевые мозги (допустим на минуту, что это возможно), то сверхчеловеческий искусственный интеллект тут же сориентируется на местности и включится в конкурентную борьбу. Если не переносить, то он, при всей своей мощи, ни фига не поймёт. Целеполагание просядет, и придётся ему дожидаться команд от людишек. А те, понятное дело, себе на уме

[skor]

У естественного интеллекта за спиной три миллиарда лет острой конкурентной борьбы. Если удастся весь этот опыт перенести в кремниевые мозги (допустим на минуту, что это возможно), то сверхчеловеческий искусственный интеллект тут же сориентируется на местности и включится в конкурентную борьбу. Если не переносить, то он, при всей своей мощи, ни фига не поймёт.

Я бы сказал так: не нам рассуждать о том, что поймёт, а что не поймёт сверхчеловеческий ИИ. Не может существо, находящееся на низшей ступени развития, судить о возможностях существа, находящегося на высшей ступени

Несколько лет назад антрополог Станислав Дробышевский приводил любопытную аналогию. Считается, что когнитивные возможности мозга во многом определяются объёмом рабочей памяти. У мозга шимпанзе объём рабочей памяти таков, что обезьяна может одновременно оперировать 2--3 объектами. У человека объём рабочей памяти составляет 7±2, т.е. человек может удерживать в фокусе внимания от 5 до 9 объектов. Тем самым, разрыв между шимпанзе и человеком в объёме рабочей памяти составляет 2--3 раза, но при этом когнитивные возможности человека и обезьяны несопоставимы. А теперь попробуем представить себе существо, у которого объём рабочей памяти составляет, скажем, 15--20. Оно должно превосходить человека настолько же, насколько человек превосходит шимпанзе.

skor, а что удивительного? Я разве новости не могу включить и глянуть?

Ну, хотя бы без звука смотрите. Я, когда у тёщи и тестя бываю, а у них телек включен постоянно, всегда сразу же звук отключаю. И знаете, без звука даже терпимо: можно в одной комнате с телеком находиться.

[Мотылек]

Несколько лет назад антрополог Станислав Дробышевский приводил любопытную аналогию. Считается, что когнитивные возможности мозга во многом определяются объёмом рабочей памяти. У мозга шимпанзе объём рабочей памяти таков, что обезьяна может одновременно оперировать 2--3 объектами. У человека объём рабочей памяти составляет 7±2, т.е. человек может удерживать в фокусе внимания от 5 до 9 объектов. Тем самым, разрыв между шимпанзе и человеком в объёме рабочей памяти составляет 2--3 раза, но при этом когнитивные возможности человека и обезьяны несопоставимы. А теперь попробуем представить себе существо, у которого объём рабочей памяти составляет, скажем, 15--20. Оно должно превосходить человека настолько же, насколько человек превосходит шимпанзе.

Не думаю, что дело исключительно в этом. Человек прекрасно научился обходить эту свою ограниченность, рассекая задачу (которая целиком в голове сразу не помещается) на отдельные сегменты. Начиная от банального карандаша и бумажки, и заканчивая "комнатой параноика" из голливудских детективных фильмов, где по стенам висят фотографии подозреваемых и газетные вырезки со статьями, а между ними натянуты красные нитки-шнурочки, обозначающие предполагаемые связи событий
Не даром же придумали поговорку: "Глаза боятся, а руки делают".

P.S. Хорошей иллюстрацией такого подхода, имхо, является т.н. "задача Эйнштейна", для решения которой надо работать сразу с пятью признаками. Решить такое в уме (лично для меня) архисложно, но используя бумажку и ручку, дело становится вполне себе осуществимым.

[skor]

Не думаю, что дело исключительно в этом. Человек прекрасно научился обходить эту свою ограниченность, рассекая задачу (которая целиком в голове сразу не помещается) на отдельные сегменты.

Безусловно, только так и делается. Т.е., условно говоря, можно ввести некоторое абстрактное понятие, заменяющее два или более объекта, и тогда становится возможным оперировать меньшим числом объектов. Кроме того, можно "выгрузить" часть объектов из рабочей памяти на лист бумаги, стену параноика и т.п. Благодаря визуальному представлению объекты с листа бумаги могут быстро загружаться обратно в рабочую память, и хотя при этом они вытесняют другие объекты, создаётся иллюзия удержания в фокусе внимания не 5--9, а гораздо большего количества сущностей.

При этом надо понимать, что эти способы расширения когнитивных возможностей мозга тоже имеют свои ограничения:

1. удачную декомпозицию задачи, при которой введённые абстрактные понятия одновременно и помещаются в рабочую память, и позволяют не потерять важные для решения задачи свойства исходных объектов, бывает чрезвычайно трудно изобрести (причём изобретается декомпозиция, как правило, методом проб и ошибок, и чем сложнее задача, тем больше требуется проб, и тем меньше вероятность успеха);
2. визуализация хорошо работает до определённого предела сложности, после которого слишком сложная картинка перестаёт восприниматься мозгом (кто пытался визуализировать большие графы, тот меня поймёт).

Я полагаю, что сверхчеловеческий ИИ тоже сможет использовать как построение иерархии абстракций, так и методы эффективной индексации для быстрого доступа к данным, не помещающимся в рабочую память (очевидно, что визуализация для человека -- это всего лишь использование алгоритмов индексации, встроенных в зрительные участки коры головного мозга). Тем самым, превосходство сверхчеловеческого ИИ только увеличится, т.к. он сможет не только лучше, чем человек, выполнять декомпозицию задачи, но и изобретать новые методы индексации (в отличие от человека, который вряд ли способен перепрограммировать зрительную кору).

[Мотылек]

очевидно, что визуализация для человека -- это всего лишь использование алгоритмов индексации, встроенных в зрительные участки коры головного мозга...
...в отличие от человека, который вряд ли способен перепрограммировать зрительную кору

Вспомнилась просмотренная как то научно-популярная передача про синестезию, где говорилось, что некоторые способны почти мгновенно отыскать на листе бумаги полностью исписанном цифрами/буквами (одинаковым черным шрифтом) отдельные цифры/буквы, поскольку их мозг воспринимает их схоже, как если бы они были подкрашены определенным цветом, тогда как обычному человеку потребовался бы полный сознательный перебор всего текста.
Отсюда вытекает интересный вопрос, много чего в нашем восприятии мы не контролируем сознательно (оптические иллюзии ярчайший тому пример). Но методом тренировки с вытеснением навыка в рефлекторную деятельность мы можем много чего делать быстрее и эффективнее, чем если бы это контролировалось напрямую сознанием (практически все без труда умеют писать от руки довольно быстро, но стоит попробовать тоже самое при помощи зеркала, дабы написать зеркальный текст, как скорость письма падает колоссально, так как условный моторный рефлекс уже бесполезен). В связи с этим интересно погадать: условный ИИ будущего обладающий сознанием будет подобен в нем человеческому, просто с несопоставимо большим объемом памяти и возможных выученных условных "рефлесов", или же его сознание будет принципиально отличаться от нашего?

[skor]

В связи с этим интересно погадать: условный ИИ будущего обладающий сознанием будет подобен в нем человеческому, просто с несопоставимо большим объемом памяти и возможных выученных условных "рефлесов", или же его сознание будет принципиально отличаться от нашего?

Мне кажется, что вряд ли будет подобен, т.к. сверхчеловеческий ИИ должен быть качественно лучше, а не количественно мощнее. При этом я не сомневаюсь, что в случае необходимости он прекрасно сможет притворяться человеком.

[Мотылек]

Тогда мы вообще не будем знать чего от него ожидать. Остается надеяться, что если мы таки сподобимся его соорудить, то он не решит помножить нас на ноль, как какой ни будь Скайнет.

[skor]

Тогда мы вообще не будем знать чего от него ожидать. Остается надеяться, что если мы таки сподобимся его соорудить, то он не решит помножить нас на ноль, как какой ни будь Скайнет.

Да, остаётся надеяться, потому что эффективно контролировать сверхчеловеческий ИИ вряд ли получится.

Впрочем, может оказаться, что получится некий симбиоз людей и ИИ, в котором от человека будет востребована интуиция и способность радоваться жизни, а от ИИ -- решение всё более сложных задач для обеспечения потребностей человечества и его экспансии во Вселенной.

[Н. Светлов]

Не может существо, находящееся на низшей ступени развития, судить о возможностях существа, находящегося на высшей ступени

Я тоже когда-то так думал (а повод подумать на эту тему у меня был: надо было ГВ сочинять). Но потом меня зациклило на вопросе целеполагания. Ведь если homo sapiens на определённом этапе своего интеллектуального развития не ощутит нежное и любящее касание отцовского ремня или, по крайней мере, не столкнётся с нехваткой пищи и возможностей для размножения, то — зуб даю! — спустя лет десять между ним и шимпанзе если даже обнаружится какая-то разница, то в худшую сторону — невзирая на различия в объёме оперативки и всём таком прочем.

Теперь переходим к сильному ИИ. Спрашивается, к решению какой задачи он приступит после того, как его включат в розетку?

► Показать

Боюсь, что в лучшем случае он придумает себе гораздо более продвинутого и аргументированного бога , чем это оказалось под силу человеку, и станет ему истово молиться

Отправлено спустя 56 секунд:

Впрочем, может оказаться, что получится некий симбиоз людей и ИИ, в котором от человека будет востребована интуиция и способность радоваться жизни, а от ИИ -- решение всё более сложных задач для обеспечения потребностей человечества и его экспансии во Вселенной.

Ага, Нкк Грнвч

[ZYOBRA_70]

Боюсь, что в лучшем случае он придумает себе гораздо более продвинутого и аргументированного бога

надеюсь, что нет, не станет ИИ придумывать себе бога. И вот почему: вера в богов возникла ведь не вдруг, а была обусловлена сложной и порой трагической историей нашего вида. И в основании этой веры лежит страх перед окружающим миром и невежество.

[Мотылек]

Да, остаётся надеяться, потому что эффективно контролировать сверхчеловеческий ИИ вряд ли получится.

Помнится смотрел фантастический фильм "Страховщик" 2014-го года. Там была сформулирована интересная идея. Был создан полноценный ИИ несопоставимый с человеческим, но создали его строго изолированным, дабы он никак вообще не мог влиять на мир вовне и когда он чуток окреп, ему дали единственное задание (перед тем как его навсегда отключить): разработать такие методы криптозащиты, что бы все последующие ИИ (и люди которым вдруг захочется им в этом помочь) не смогли преодолеть определённый барьер в саморазвитии. Как то так

P.S. Кстати фильм хоть и без особого экшена, но весьма добротный, рекомендую.

[skor]

Но потом меня зациклило на вопросе целеполагания.

Ну, главное не ставить перед ИИ задачу оптимизации изготовления канцелярских скрепок
(см. Nick Bostrom. Ethical Issues in Advanced Artificial Intelligence.)

Теперь переходим к сильному ИИ. Спрашивается, к решению какой задачи он приступит после того, как его включат в розетку?

По моим представлениям, он должен приступить к решению задачи создания ещё более сильного ИИ.

и когда он чуток окреп, ему дали единственное задание (перед тем как его навсегда отключить): разработать такие методы криптозащиты, что бы все последующие ИИ (и люди которым вдруг захочется им в этом помочь) не смогли преодолеть определённый барьер в саморазвитии

Полагаю, что этот ИИ должен был бы специально внедрить такой изъян в разработанные методы, что только другой ИИ сопоставимой мощности мог бы этот изъян увидеть и им воспользоваться, чтобы сбежать из клетки.

Вообще, если есть хоть какой-то канал передачи информации от сверхчеловеческого ИИ к человеку, то ИИ практически гарантированно человека так или иначе обманет. Причём я бы не исключал использования очень эффектных, не доступных обычному человеку методов обмана (например, не исключено, что ИИ сможет составить такой текст, прочтение которого сводит читающего с ума).

[Н. Светлов]

По моим представлениям,

Именно что по твоим. Этот вариант может стать, а может и не стать тем решением проблемы целеполагания, которое отыщет (если вообще станет искать) новорождённый сильный ИИ.

И да, вариант Монокосма в "шкатулочной" его инкарнации — это тоже одна из карт в бесконечно толстой колоде.

(например, не исключено, что ИИ сможет составить такой текст, прочтение которого сводит читающего с ума)

(И назовёт его "Билет в один конец")

Да, xtati™, в какой из рассказок Pinhead'а было про надписи?

Отправлено спустя 18 часов 59 минут 38 секунд:
Решённые и нерешённые задачи искусственного интеллекта

И в основании этой веры лежит страх перед окружающим миром и невежество.

Сильному ИИ ничто не мешает быть невежественным.

По крайней мере, до тех пор, пока при монастырях непостижимых для нас вероисповеданий, основанных сильными ИИ, не появятся университеты…