Решённые и нерешённые задачи искусственного интеллекта

[Alex Ivanov]

невозможно предсказать

Могу предположить, что точно также, как сейчас все ходят с телефонами подключенными к интернет, через несколько десятков лет, когда откроется дверь в виртуальную реальность с полным погружением, на планете не останется ни одного человека. Города будут стоять пустынными и заброшенными, занесенные песком или заросшие лесом. Возможно нечто похожее уже случалось раньше, например с Майя.

[Жорик]

заброшенными заметенные песком или заросшие лесом.

Я это давно предсказал - см. мой рассказ "Виртуальный мир" на Самизадте.
https://samlib.ru/p/perwyj_g/file02.shtml

[Falcon]

Кажется, сегодня мы все испытываем некоторое беспокойство по поводу искусственного интеллекта.

И в то время, когда многие студенты бросают университет, чтобы примкнуть к AI‑стартапам, бывшая студентка Массачусетского технологического института утверждает, что ушла по куда более мрачной причине: она боится, что искусственный общий интеллект — или сверхразумный ИИ — попросту сотрёт человечество с лица Земли.

«Я опасалась, что до выпуска просто не доживу из‑за AGI, — призналась изданию Элис Блэр, поступившая в МТИ в 2023 году. — Думаю, в большинстве сценариев по тому пути, каким мы идём к созданию AGI, всё заканчивается вымиранием человека».

Сейчас Блэр работает техническим писателем в некоммерческом Центре безопасности ИИ и возвращаться в MIT не собирается. Она шла туда с надеждой встретить людей, разделяющих интерес к безопасному развитию ИИ, но, судя по всему, разочаровалась. «Чую, моё будущее — за пределами университетских стен», — сообщила она изданию.

Никола Юркович, выпускник Гарварда и бывший активист университетского клуба безопасности ИИ, отчасти её понимает: «Если твоя профессия будет автоматизирована к концу десятилетия, то каждый год, проведённый в университете, — это год, вычеркнутый из и без того короткой карьеры. Лично я считаю, что AGI появится уже года через четыре, а полная автоматизация экономики — максимум через пять‑шесть».

Создание AGI — системы, равной или превосходящей человеческий разум, — для индустрии ИИ во многом главная цель. Генеральный директор OpenAI Сэм Альтман назвал недавний релиз своего неоднозначно принятого продукта GPT 5 крупным шагом к AGI и даже осмелился окрестить его «по‑настоящему разумным».

Многие специалисты, впрочем, уверены: до появления столь мощной системы ещё очень далеко, и указывают на признаки того, что прогресс начал упираться в потолок.

«Вероятность того, что AGI появится в ближайшие пять лет, крайне мала, — заявил изданию исследователь ИИ и известный критик отрасли Гэри Маркус. — Все эти разговоры — просто рекламная дымовая завеса, ведь масса фундаментальных проблем (например, „галлюцинации“ и ошибки в рассуждениях) до сих пор полностью не разрешены».

Представления о полном вымирании человечества он считает чрезмерно драматичными — на самом деле, полагает Маркус, индустрии ИИ даже выгодно нагнетать апокалиптические настроения. Альтман и прочие технологические лидеры сами озвучивают эти риски, создавая впечатление, будто технологии уже близки к божественной мощи. Это помогает им контролировать дискуссию о том, как всё это следует регулировать.

https://habr.com/ru/companies/bothub/news/937666/

[Alex Ivanov]

Вероятность того, что AGI появится в ближайшие пять лет, крайне мала, — заявил изданию исследователь ИИ и известный критик отрасли Гэри Маркус.

Психолог лучше всех разбирается в НТП.

Ему нужно было со студенткой поработать чтобы она в институт вернулась. С его же слов бояться то нечего.

[Nemo]

невозможно предсказать

Могу предположить, что точно также, как сейчас все ходят с телефонами подключенными к интернет, через несколько десятков лет, когда откроется дверь в виртуальную реальность с полным погружением, на планете не останется ни одного человека. Города будут стоять пустынными и заброшенными, занесенные песком или заросшие лесом. Возможно нечто похожее уже случалось раньше, например с Майя.

Люди останутся. В реале, в смысле. Даже если предположить, что личное присутствие биологических существ для обслуживания машин не требуется, и всё может контролироваться изнутри виртуальности, останутся всякие дикари, верующие, нищеброды и упёртые разных видов. Даже если предположить, что их будут запихивать в матрицу принудительно, дабы не гадили в реале (и для экономии), всё равно всех не запихнут, так как некоторых проще пустить в расход, а до других нет дела, как до оленеводов крайнего севера. В общем, планету унаследуют Неуловимые Джо.

[Урфин]

Те, что в "матрице", не будут размножаться и вымрут в первом же поколении. Останутся же идейные Реалисты

[Нгаан]

Согласен.

Такая "Алисиана" нам не нужна!

Новые прогрессивные технологии должны обеспечивать устойчивость и выживаемость вида, его экспансию в Солнечной системе и дальше, а не потакать всяким социопатам с их комплексами.

[Мотылек]

не будут размножаться и вымрут в первом же поколении

Думаю, что в относительно недалеком будущем этот вопрос (при наличии острой в нем необходимости) будет вполне технически решаем. И хоть на данный момент еще нет даже "в бумаге" полноценной искусственной матки, но некоторые существенные подвижки в этом направлении все же есть.

[Урфин]

Мотылек, на бумаге уже есть, и даже в железе делать пытаются. Но это для тех, кто хочет размножаться, но не может.
А если человек живёт в виртуальности, то он и там не плохо "размножается". Ему не захочется заморачиваться в реальности.
Так что виртуальность станет фактором выбраковки.

[Alex Ivanov]

останутся всякие дикари, верующие, нищеброды и упёртые разных видов

Да, какие-то одиночки останутся в начале. Но постепенно все исчезнут. Будет преобладать технология цифрового сознания которое управляет роботами. Роботы могут быть самые разные, как биологические, так и киборги/андроиды.

Отправлено спустя 48 минут 24 секунды:

нет даже "в бумаге" полноценной искусственной матки

В конечном итоге это скорее будет вариант 3-D печати с высоким разрешением (нано или еще выше). В фильме "Пятый элемент" это показано. Также возможен вариант самореплицирующихся нанороботов которые могут собрать любой объект.

[Мотылек]

Мотылек, на бумаге уже есть, и даже в железе делать пытаются. Но это для тех, кто хочет размножаться, но не может.
А если человек живёт в виртуальности, то он и там не плохо "размножается". Ему не захочется заморачиваться в реальности.
Так что виртуальность станет фактором выбраковки.

То что делают сейчас - это еще очень далеко не полноценная матка.

А заморачиваться с новым поколением будет ИИ. Если он конечно решит, что негоже, чтоб лысые обезьяны его создатели канули в лету. Наклепает себе ясли и будет дрессировать воспитывать новых Алис и Пашек, натаскивая их на этику. Впрочем нечто подобное уже было в шикарном камерном фильме "Дитя робота" (правда там поколение создателей и неудачные новые экземпляры "маманя" без колебаний пускала в расход, но (надеюсь) нас такая участь все же не постигнет ).

В конечном итоге это скорее будет вариант 3-D печати с высоким разрешением (нано или еще выше)

То уже совсем отдаленная перспектива, до которой нам как до луны в известной позе. Имхо.

[Alex Ivanov]

То уже совсем отдаленная перспектива, до которой нам как до луны в известной позе. Имхо.

Вы забываете про возможности AGI который уcкорит НТП на ∞%.

[Мотылек]

AGI который укорит НТП

У НТП отродясь не было ни стыда ни совести. Бессмысленно его корить, все равно не раскается

[Урфин]

А заморачиваться с новым поколением будет ИИ.

Зачем. Ведь выбраковыватся будут не все, а лишь социально неспособные. Остальные будут жить в реальности.

[Нгаан]

но некоторые существенные подвижки в этом направлении все же есть.

Угу.

В Китае разрабатывают человекоподобного «беременного» робота с искусственной маткой, способного вынашивать ребёнка от зачатия до родов, заменив женщину.

Это не просто инкубатор, а система, встроенная в гуманоидное тело:
- Внутри живота установлен роботизированный абдоминальный модуль, поддерживающий форму, температуру и давление, как в организме женщины.
- Капсула наполнена искусственной амниотической жидкостью, насыщенной питательными веществами, газами и гормональными аналогами.
- Питание плода будет подаваться через трубку, соединённую с «пуповиной».
- Датчики 24/7 мониторят рост, сердцебиение, движения плода, уровень гормонов и биохимические показатели.

Так что, если получится, то ... будут "китайцы, китайцы, кругом одни китайцы".


Отправлено спустя 5 минут 11 секунд:

а лишь социально неспособные.

Вот-вот: раньше людей с отклонениями отправляли в спец.клиники или в спец.учреждения, а теперь для них будут создавать населённые виртуальные миры в соответствии с наклонностями. Раньше их стерилизовали химически, теперь у них будет безопасный секс с роботами, которые ещё и накопителями семенного материала могут служить, чтобы робо-няньки с ЭКО имели возможность обеспечивать генетическое разнообразие вида.

► Показать

А вы др..ите дальше, мальчики, на новые технологии, на здоровье. Зато криминогенная ситуация на улицах и в подвалах будет получше. Ведь известно же, что это только отпетые романтики искали там спрятанную машину времени, а иные искали места для интимной близости с малолеткой.

Вот взял бы кто и написал "фантастический" рассказ о том, как неожиданно пересеклись первые и вторые, и что из этого вышло.

А тем временем в России:

В Сколково показали робота-уборщика будущего - Пиксель. Он работает почти бесшумно, выглядит вполне футуристично и реально приносит пользу городу. Малыш полностью придуман и собран в России. Пока Пиксель трудится лишь в отдельных районах Москвы, но это только начало. Разработчики уже активно ищут возможности, чтобы выпустить целую армию таких помощников.

Москвичи, кто уже видел этого "парня" в деле, делитесь впечатлениями.

[Alex Ivanov]

Вот-вот: раньше людей с отклонениями отправляли в спец.клиники или в спец.учреждения

Я думаю что люди с отклонениями будут доживать свою жизнь в этих клиниках. Путь в виртуальный мир им будет закрыт. Тоже самое касается и преступников. Если только они не согласятся на корректировку сознания во время оцифровки.

[Н. Светлов]

Вы забываете про возможности AGI который уcкорит НТП на ∞%

Да не будет у него таких возможностей! Есть законы природы, их через колено не переломить. Если человечество прошло уже 3/4 пути к пределу технологических возможностей, то осталась всего 1/4.

Какую долю мы уже прошли — мы не знаем. Но сегодня осталось меньше, чем было вчера.

Я думаю что люди с отклонениями будут доживать свою жизнь в этих клиниках. Путь в виртуальный мир им будет закрыт. Тоже самое касается и преступников. Если только они не согласятся на корректировку сознания во время оцифровки.

Это не наш путь. Людям с отклонениями или преступникам нужно предлагать виды деятельности, которая пришлась бы им по вкусу и не приносила бы вреда обществу. Но вначале надо как следует проработать этот вопрос научно. Понять, в какой мере и как это работает, с какими рисками сопряжено, сколько стоит. Проблема в том, что сегодня такой практики нет вообще. Никто даже толком не пробовал.

Может быть, у меня завышенные ожидания по этому поводу, но именно такова картина мира Алисы, сложившаяся у меня в голове под влиянием самых разных источников.

[Falcon]

Москвичи, кто уже видел этого "парня" в деле, делитесь впечатлениями.

Я периодически вижу роботов-доставщиков. А робота-уборщика мы с женой вчера вручили тёте в подарок на ДР.

[Alex Ivanov]

Да не будет у него таких возможностей! Есть законы природы, их через колено не переломить. Если человечество прошло уже 3/4 пути к пределу технологических возможностей, то осталась всего 1/4.

► Показать

Механизмы лавинообразного ускорения:

Автономная научная революция
AGI станет главным «исследователем»: 24/7 без сна будет ставить эксперименты в симуляциях (от квантовой химии до космологии), сокращая циклы открытий с десятилетий до часов.

Пример: разработка лекарств от рака может ускориться в 50 000 раз (анализ всех возможных белковых взаимодействий за дни).

Самопрограммируемый интеллект
AGI, способный улучшать собственный код и архитектуру, вызовет цепную реакцию интеллектуального роста (эффект «интеллектуального взрыва» по И.Я. Гуду).

Оценка: переход от AGI уровня человека к IQ >1000 возможен за месяцы.

Технологическая сингулярность
При достижении ASI (Artificial Superintelligence) НТП станет непредсказуемым для людей:

«Прогресс будет измеряться не годами, а минутами — как падающий камень перед лавиной» (Рэй Курцвейл, 2023).

Возможные прорывы:
— Управляемый термояд к 2040 (vs. 2100+ без AGI),
— Квантовые компьютеры с 1 млрд кубитов к 2050,
— Антигравитация, наноассемблеры, матрица-симуляция реальности.

Заключение:
Через 30–40 лет AGI способен превратить НТП в гиперскачок, где:

Лавинообразная фаза начнётся при достижении AGI способности к рекурсивному самоулучшению (ожидается к 2040–2060 гг.).

Скорость прогресса станет непостижимой для человека — как муравей не понимает интернет.

Ключевой вопрос: контролируем ли этот процесс? Если да — человечество ждёт золотой век. Если нет — риски катастрофы выше, чем от ядерного оружия.

«AGI не просто ускорит НТП — он сожмёт время. То, что раньше требовало веков, будет происходить за часы.» — Ник Бостром, «Искусственный интеллект. Этапы. Угрозы. Стратегии».

[skor]

Если человечество прошло уже 3/4 пути к пределу технологических возможностей, то осталась всего 1/4.

Если

Впрочем, современное состояние физики как бы намекает, что с её стороны, действительно, трудно ожидать значительного вклада в дальнейшее увеличение технологических возможностей. И поэтому, скорее всего, большая часть того, о чём было написано в классической научной фантастике, никогда не будет реализовано.

► Показать

С другой стороны, всегда существуют обходные пути

Допустим, физика позволяет создать звездолёт, развивающий 1% скорости света. На нём до Проксимы Центавра можно долететь за 400 лет, а потом ещё столько же лететь обратно. Очевидно, что это совершенно неприемлемо, но поделать с этим мы ничего не можем, потому что достигли пределов технологических возможностей в области разработки звездолётов.

Тем не менее, представим, что нам удалось с помощью редактирования генома постепенно, за много-много поколений, снизить скорость метаболизма человеческого организма в 100 раз. В результате люди стали в среднем жить не 80 лет, а 8000. При этом субъективно время жизни не увеличилось, потому что скорость работы мозга тоже стала в 100 раз меньше.

Такое замедление может дать огромные преимущества. Windows на древнем ноуте будет грузиться за полсекунды; новые дизайнерские породы собак можно будет выводить быстрее, чем новые виды мух дрозофил; подешевеют выдержанные спиртные напитки... В целях экономии времени я воздержусь от перечисления этих преимуществ, но отмечу, что до Проксимы Центавра замедленный человек смог бы добраться всего лишь за 4 субъективных года, что позволяет серьёзно обсуждать перспективы освоения человечеством этой звёздной системы.

Понятно, что стократное замедление сделает возможным распространение человечества лишь на ближайшие окрестности Солнечной системы. Но кто мешает после этого замедлить метаболизм ещё на пару порядков и заселить туманность Андромеды?