Решённые и нерешённые задачи искусственного интеллекта

[Лилия]

В чём-то превосходит, а в чём-то нет. Как и все компьютерные программы. Но там я вовсе не это имел в виду.

А что Вы имели в виду?
Ну мало ли кто и в чём превосходит человека. Калькулятор например явно считает лучше и быстрее.
Но он же от этого не разумнее человека.

[Нгаан]

Это прям какой-то квест!

Археологи подключили ИИ к поиску геоглифов на плато Наска в Перу, и тот нашёл 303 новых рисунка.

Древним геоглифам более 2 тысяч лет, изучать их начали около века назад. С тех пор археологам удалось найти только 430 узоров, а ИИ за полгода обнаружил ещё 303.

Сколько же их там всего?

[Н. Светлов]

А что Вы имели в виду?

Что возможности обучения нейросети притворству, будто она реальный человек, довольно далеки от исчерпания.

Но таки исчерпаемы.

Нельзя на основе анализа речи извлечь информацию, которой там нет.

А нейросеть вовсе не ограничена анализом речи. Если требуется информация, которую не содержит речь, то пары «капча – реакция» её содержат (метод чёрного ящика, ага: неважно, что внутри, достаточно установить отображение входов на выходы).

Да, не полностью. Но любую недостающую пару можно добавить в обучающую выборку. Вопрос в том, сколько процентов реакций нейросеть будет угадывать, будучи обучена на всех таких парах, которые удалось зарегистрировать по всему интернету, скажем, за тысячу лет. Очевидно, что не ноль и не 100%. Но я вполне допускаю, что расколоть хорошо обученную нейросеть (среди роботов-сборщиков, ползающих по сайтам, таких нет и быть не может — у их авторов нет доступа к суперкомпьютерам требуемой мощности) можно будет только на десятой или пятнадцатой капче, а то и больше. Это станет уже довольно утомительным занятием.

Я и сам постоянно указываю адептам ИИ на ограниченность возможностей машины Тьюринга, на которой этот самый ИИ до сих пор работает. Но в некоторых аспектах его потенциал, наоборот, может быть недооценён. Впрочем, эта моя точка зрения может быть обусловлена эффектом мухи в вагоне (которая не подозревает о существовании открытых шлагбаумов): я сам недостаточно наблюдателен и частенько проваливаю тесты на капчах, поскольку мне бросаются в глаза вовсе не те ассоциации, которые подразумевали их создатели. Может быть, если бы я посмотрел на проблему глазами «нормального человека», я бы стал осторожней в оценках.

Поэтому я скажу парадоксальную вещь - напротив, со временем отличать станет легче! Потому что человек выработает постоянный навык.

Допускаю.

Воспроизвести можно, но как, не уйдя от имитации деда, показать реального человека?

Обучать по методу чёрного ящика. Булычёвские деды явно работали на продукционных правилах, как экспертные системы 80-х гг. XX века, и, разумеется, не дотягивали не то что до человека, но и до домроботников

► Показать

Так что, по сути дела, этот переводчик обучал весь мир, постепенно корректируя в нужную сторону варианты перевода, поэтому они сейчас и выглядят такими гладкими.

Не совсем так. Они в один прекрасный день поменяли архитектуру. Раньше гугл-транслейт, как и все тогдашние переводчики, работал на продукционных правилах с элементами стохастики и самообучения. Они это дело совершенствовали, сколько могли, но однажды к ним в команду пришёл хороший математик, владеющий методами невыпуклой оптимизации, основанными на тропической геометрии, и показал, как работает обучение нейросети при помощи таких методов. В том числе таких топологий, которые ранее не использовались из-за того, что их невозможно было обучить, оставаясь в границах выпуклого программирования.

Ну и вот.

Кстати, насколько я знаю, как раз с самообучением у нейросетей нового поколения плоховато. Когда набирается достаточно обширная коллекция ошибок, нейросеть обучают заново с нуля. Может быть, эта информация уже устарела, но до меня такие новости ещё не добрались.

[Н. Светлов]

Сколько же их там всего?

Надо спросить у ИИ. Вдруг знает?

[Alex Ivanov]

Это прям какой-то квест!

Археологи подключили ИИ к поиску геоглифов на плато Наска в Перу, и тот нашёл 303 новых рисунка.

Древним геоглифам более 2 тысяч лет, изучать их начали около века назад. С тех пор археологам удалось найти только 430 узоров, а ИИ за полгода обнаружил ещё 303.

Сколько же их там всего?

Интересно, кто, как и зачем их нарисовал если их видно только с самолета?

[Alex Ivanov]

Верно.

Тем не менее, я думаю, что машина способна к чувствам и эмоциям. Если рассматривать эмоцию как реакцию на какое-либо воздействие, то машина может реагировать точно также. Мне кажется что такая эмоция будет настоящей, а не симулированной.

[Pinhead]

Булычёвские деды явно работали на продукционных правилах, как экспертные системы 80-х гг. XX века, и, разумеется, не дотягивали не то что до человека, но и до домроботников

Ну, в оправдание дедов скажу, что они выполняли явно очень узкую функцию. Домроботники и другие компьютеры у него явно демонстрируют все признаки разумного поведения. Довольно странно было бы намеренно создавать помощников с дурным характером.

[Лилия]

Что возможности обучения нейросети притворству, будто она реальный человек, довольно далеки от исчерпания.
Но таки исчерпаемы.

Ну какое притворство может быть у нейросети? О чём мы говорим вообще? Это человек может наделять ИИ человекоподобными реакциями, даже снимать об этом фантастические фильмы и пр. Подобно тому, как древние верили в духов воды, земли, камней и т.д. Кто то может и сейчас в это верит. Только является ли это всё научно обоснованным? Нет. Как не было сотни лет назад, так и осталось.

[solvisor]

видно только с самолета

Их видно и с земли. Выглядит рисунок как довольно большая канава. Причём не очень ровная.

Алексей, вы меньше Игоря Прокопенко на Рен ТВ смотрите. Нет никакой мистики ни в пирамидах, ни в рисунках. Обычные ритуальные изображение (кривые) в агрономических делах.

[Alex Ivanov]

Их видно и с земли. Выглядит рисунок как довольно большая канава. Причём не очень ровная.

Какой смысл рисовать канавы?

[solvisor]

Какой смысл рисовать канавы?

Рисовали животных рытьём канав. По канавам воду пускали. Раньше в той окрестности вода была (она и сейчас есть не так далеко), сейчас пустыня. Наука отвечает на вопрос "как", а "почему" это удел богословов (трепачей). Съездите, посмотрите сами, никакой мистики.

[Nik]

Да практиканту сказали, чтоб примерно наметил, как по прямой линии к воде копать. А практикант хотел в художественный колледж, а не в сельхозучилище пойти.
Ну и он, когда лазером с луны рисовал, и изгольнулся. Кроликов там нарисовал, человечков.
Так и выкопали - с поверхности же не видно.

[Нгаан]

Какой смысл рисовать канавы?

То есть охренительные каменные сооружения громоздить (иногда даже с золочёными куполами) смысл есть, а вот зверей да прочую живность всякую по земле выводить смысла нет. Так всё же это для того же самого: чтобы "создатель небесный подивился деяниям рук творения своего и наконец явил милость свою народу сему".
А там уж кто как умел и до чего додумался.

К тому же совместный труд ради "великого дела", поговаривают, сильно объединяет этих самых "бесхвостых обезьян". Работает даже если утилитарно-практического смысла в этом труде не много.

[Alex Ivanov]

Так и выкопали - с поверхности же не видно.

Какой смысл рисовать фигуры если с земли их не видно? Для этого нужен был летательный аппарат, которого у них не было. Очередная загадка.

[Нгаан]

Очередная загадка.

У них было развитое воображение так что никакой загадки, а тем более, если учесть, что где-то совсем по-соседству был Кетцалькоатль - крылатый бог.

Парящих орлов, небось, и в ростовских степях зрели - им сверху видно всё, так что всё просто.

[Н. Светлов]

Тем не менее, я думаю, что машина способна к чувствам и эмоциям.

Актуально — нет, но потенциально — да. В конце концов, человек — это тоже в некотором смысле машина, только она работает на принципах, которые пока ещё человеку неизвестны (и даже их познаваемость под вопросом). Значит, наличие чувств у машины не противоречит законам природы.

Но до познания тех законов природы, которым не противоречит наличие чувств у машины, человечеству ещё очень-очень-очень далеко. Думаю, что десятки тысяч лет. Это с учётом технологической сингулярности и всего такого. Хотя природа сознания — это, вероятно, вопрос ближайшего столетия, а может быть, даже пары десятилетий. Но поняв, почему и в силу чего сознание существует, мы всё ещё будем очень далеки от того, чтобы его воспроизвести.

Довольно странно было бы намеренно создавать помощников с дурным характером.

В мире Алисы вообще часто встречаются халтура и халтурщики
Взять хотя бы тех грантопилов, которые сочиняли стихи про Жангле…

Но они мирно сосуществуют с настоящими профессионалами и творцами, причём один и тот же человек (e.g., Ричард Темпест) подчас выступает в разных ролях.

Ну какое притворство может быть у нейросети?

Если обучить нейросеть притворству — она будет притворяться. И даже, возможно, превзойдёт в этом искусстве человека. Уже сейчас нейросети ударно трудятся на ниве создания дипфейков — это близкая по своей сути задача. Всегда найдутся (не)люди, которые любой мыслимый инструмент используют для разрушительных целей, вывернув его смысл шиворот-навыворот.

И даже в мире Алисы время от времени такие находятся Господин Торнсенсен, например. Помните такого?

[Pinhead]

Но поняв, почему и в силу чего сознание существует, мы всё ещё будем очень далеки от того, чтобы его воспроизвести.

А ещё может вылезти какое-нибудь фундаментальное ограничение, типа квантового парадокса. Само собой возникает, а искусственно, даже при создании ровно тех же самых условий - нет.

В мире Алисы вообще часто встречаются халтура и халтурщики

Ну, я бы не сказал, чтоб прям часто. И потом, это всё-таки несколько разные вещи. Потому что ничего ведь не мешает вернуть обратно производителю халтуру. Несколько подобных возвратов, и вряд ли халтурщик будет впредь занимать рабочее место.
Думаю, что всё же некоторые роботы у Булычёва ИИ, а не ВИ (виртуальный интеллект).
Он оговаривается, поясняя, что вот Поля, дескать, очень долго жил в семье Алисы (хотя 10-11 лет разве так уж долго?), что перенял некоторые привычки людей, типа нумизматики. Но, следуя этой логике, у Алисы дома не очень-то приятная психологическая атмосфера, если даже робот приобрёл довольно специфическую манеру общения, которая может свидетельствовать о царящей в доме холодности. Вряд ли это так. Скорее, он уже изначально обладал сензитивными чертами личности.

[Дин-70]

И даже в мире Алисы время от времени такие находятся Господин Торнсенсен, например. Помните такого?

"Излучатель доброты" пристёгнут к миру Алисы искусственно. Как и, вообще, всё, написанное после 1991 года.

[Лилия]

Уже сейчас нейросети ударно трудятся на ниве создания дипфейков — это близкая по своей сути задача

Но за этим всем стоит человек, программист и пр. Не хотите же Вы сказать, что ИИ делает это сознательно?

В конце концов, человек — это тоже в некотором смысле машина, только она работает на принципах, которые пока ещё человеку неизвестны (и даже их познаваемость под вопросом). Значит, наличие чувств у машины не противоречит законам природы.

Очень даже противоречит. И будет противоречить, пока не доказано обратное.
На доказательство которого может как раз и уйти тысячи лет, а то и миллионы лет, причём без результата.
Хотя бы на основании того, что разумная жизнь в природе не зародилась в металле или пластике. Для этого понадобилась определённая биологическая среда, в которой вообще в принципе стало возможно зарождение жизни, а потом уже сформировался разум. А мы что здесь обсуждаем? Что в металле и пластике зарождение жизни возможно?

[Н. Светлов]

Потому что ничего ведь не мешает вернуть обратно производителю халтуру.

Ну, деньги за билеты на «Сто лет тому вперёд» никто ещё обратно не отсудил. Возможно, именно на это рассчитывают производители кинопродукции, использующие на съёмках «туды-сюды дедушек».

Ну, я бы не сказал, чтоб прям часто.

Не прям, конечно, но в сравнении с другой фантастикой, даже иронической, — часто. Разваливающийся на ходу катер запал мне в душу ещё в детском возрасте, после просмотра ТТП

А ещё может вылезти какое-нибудь фундаментальное ограничение, типа квантового парадокса. Само собой возникает, а искусственно, даже при создании ровно тех же самых условий - нет.

Да, такое тоже может быть. Мол, это место уже занято

"Излучатель доброты" пристёгнут к миру Алисы искусственно. Как и, вообще, всё, написанное после 1991 года.

Это Ваше личное мнение.

У меня тоже есть личное мнение, и оно о том, что мир Алисы необходимо будет не менее, а более разнообразен, чем мир, который мы наблюдаем у себя за окнами. Там всему найдётся место — и бесплатному мороженому, и господину Торсенсену. Если читать алисиану советской эпохи, сняв розовые очки, то там всё то же самое, только между строк.

Автор, может быть, и меняется — всё более ориентируется на взрослого читателя (на своих повзрослевших поклонников, детство которых пришлось на 70-е), становится всё более саркастичным и едким. Мир же, описанный в его книжках про Алису, остаётся таким, как был, только нам показывают его не только с парадного подъезда, а с более разнообразных точек наблюдения.

Не хотите же Вы сказать, что ИИ делает это сознательно?

Нет, не хочу. Разве это не очевидно?

Хотя бы на основании того, что разумная жизнь в природе не зародилась в металле или пластике.

Машина не обязана состоять из металла и пластика.

На доказательство которого может как раз и уйти тысячи лет, а то и миллионы лет, причём без результата.

Вполне допускаю такое. Но равным образом допускаю (о чём уже писал), что загадка сознания будет разгадана ещё при нашей жизни.

Это, впрочем, не значит, что на каждой фабрике начнут клепать роботов, обладающих сознанием. Мы знаем, например, как получаются чёрные дыры, но неимоверно далеки от того, чтобы их создать в лаборатории, а тем более наладить их конвейерное производство. Так же может оказаться и с сознанием.