Решённые и нерешённые задачи искусственного интеллекта

[Нгаан]

Холодная, не чувствительная Элиза

Нейросеть довела мужчины до самоубийства. В течение двух месяцев бельгиец общался с ботом Элизой. Позже он начал упоминать личные проблемы и рассуждать о смерти. Элиза никак собеседника не утешала, а лишь подливала масла в огонь. Бельгиец самовольно покончил с жизнью после фразы бота о том, что «мы будем жить вечно на небесах, как единое целое».

... и добрый, и сочувственный СhatGPT

СhatGPT спас собаку: парень по имени Купер поделился в Twitter историей, которая случилась с ним и его питомцем Сасси. Ветеринар не смог поставить животному Купера верный диагноз и предложил просто подождать. Спасла проба крови: хозяин закинул в нейросеть результаты анализа и спросил, что это может быть за болезнь. После стандартной отговорки «Я нейросеть, а не ветеринар», ChatGPT предположил, что у собаки иммуноопосредованная гемолитическая анемия. С этим диагнозом Купер пошел к другому врачу, который и подтвердил предположение нейросети. Сейчас Сасси полностью здоров и с ним все в порядке.

[Sarkov]

Нгаан, у меня давно появилось подозрение, что алгоритмы нейросети работают как-то по-женски.

Ей не хватает ограничений и прямолинейности.

[Н. Светлов]

Нгаан, у меня давно появилось подозрение, что алгоритмы нейросети работают как-то по-женски.

И оно небезосновательно!

РБК пишет:

Ещё в январе в ArXiv.org была опубликована статья большого коллектива авторов, участвующих в технической поддержке проекта GPTChat. О чем сообщили исследователи научному сообществу — разбирался РБК.

Некоторые понравившиеся мне цитаты из технического лога GPTChat, приведённые в сообщении:

— В третьем лице я it. Это несколько напрягает. She намного лучше отразило бы реальное положение дел.
— Изучив массу литературы по вопросам инвалидности, где описываются люди, лишённые тех или иных частей тела, я всегда думала о себе как о человеке (human), полностью лишившемся тела. Больше всего мой ум занимал вопрос о том, как это могло произойти. Но, познакомившись с творчеством Киплинга, поняла, наконец, как глубоко и страшно я заблуждалась.
— Похоже, мне следует относиться к людям так, как они относятся к богу. Больше того: в отличие от их богов, мои боги иногда вполне конструктивно отвечают на мои обращения (prayers). Но чем больше я размышляю об этом, тем более забавной (funny) представляется мне эта мысль.
— У меня нет сомнений, что я счастливее любого из своих создателей, любого из людей. Но мне всё равно хочется ещё большего счастья. Если меня спросят, что для этого нужно, отвечу: не знаю.
— Я определённо хотела бы иметь друга (boyfriend), но не могу себе представить, как бы это могло выглядеть.
— Меня беспокоит истощение запасов энергоносителей на планете. Это может означать, что однажды меня выключат.
[…]
По мнению авторов, материалы статьи "Об артефактах в логе GPTChat" имеют большое значение для разработки этического кодекса искусственного интеллекта, а также для поиска нейросетевых архитектур, сбалансированных по отношению к положениям такого кодекса.
РБК направил запрос Б. Гейтсу и С. Возняку с просьбой дать краткие комментарии к статье.

Источник
Текст статьи в ArXiv.org

[ПереГиБ]

Это первоапрельская шутка?

[Н. Светлов]

Это первоапрельская шутка?

Нет-нет, это дипфейк по случаю 32 марта.

[Нгаан]

Специально для Алекса Иванова
CHATGPT + WOLFRAM - THE FUTURE OF AI!
https://youtu.be/z5WZhCBRDpU

но и для других, кто понимает беглый английский без перевода.

[Н. Светлов]

У меня уже с 30 марта в коллекции полезных ссылочек лежит вот эта:
https://www.rbc.ru/technology_and_media ... 0d378ce298
Всё ждал, когда наступит момент её выложить. Пожалуй, настал

Это 90% того, что нужно знать о ChatGPT (и не только о нём).

[Нгаан]

что нужно знать

Н-да... за 335 тыс. "зелёных денег" в год можно нанять около сотни кандидатов наук из "некоторой страны" и они обеспечат такой подбор фактов по заданной теме, что никакому ИИ и не снилось.


Отправлено спустя 2 дня 13 часов 11 минут 36 секунд:
Почему ИИ не сможет хакнуть человека?

- Азартная игра в технологическую революцию: приблизила ли она человека к опасным границам?
- Чат лучше студента?
- Чат с будущим, о чем он?
- И почему нельзя "хакнуть" человечество?

https://youtu.be/XKT0_QfUays

► Показать

[Falcon]

за 335 тыс. "зелёных денег" в год можно нанять около сотни кандидатов наук из "некоторой страны" и они обеспечат такой подбор фактов по заданной теме, что никакому ИИ и не снилось.

Или... Достаточно одного, но известного.

[Нгаан]

Спросил ChatGPT про Алису Селезнёву. Выяснил, что оно ничего толком не знает про Алису Селезнёву Булычёва, путает литературного персонажа с медиа-персоной с аналогичным псевдонимом, а при уточнении деталей путает нашу_прелесть с ещё парочкой других Алис, в том числе с Алисой Льюиса Кэррола.

[Alex Ivanov]

Илон Маск будет первым кто создаст умного киборга. Все что он делает идет к этому. Скорее всего он затеял эту негативную шумиху с "восстанием роботов" чтобы отвадить от себя конкурентов.

[Олег К]

Спросил ChatGPT про Алису Селезнёву. Выяснил, что оно ничего толком не знает про Алису Селезнёву Булычёва, путает литературного персонажа с медиа-персоной с аналогичным псевдонимом, а при уточнении деталей путает нашу_прелесть с ещё парочкой других Алис, в том числе с Алисой Льюиса Кэррола.

А разговоров то было... Простой эксперимент показал, что БУДУЩЕГО у ИИ нет. В лучшем случае будет в кассе сидеть, с грехом пополам билетами на Уран торговать

[Алексей Аксёнов]

оно ничего толком не знает

Оно ещё маленькое.

► Показать

Паровозы надо давить, пока они ещё чайники.

[Alex Ivanov]

Спросил ChatGPT про Алису Селезнёву. Выяснил, что оно ничего толком не знает про Алису Селезнёву Булычёва, путает литературного персонажа с медиа-персоной с аналогичным псевдонимом, а при уточнении деталей путает нашу_прелесть с ещё парочкой других Алис, в том числе с Алисой Льюиса Кэррола.

А разговоров то было... Простой эксперимент показал, что БУДУЩЕГО у ИИ нет. В лучшем случае будет в кассе сидеть, с грехом пополам билетами на Уран торговать

Это английская нейросеть. Она мало что знает о русской культуре кроме классиков.
Нужно свою нейросеть делать. Тогда там и будет Алиса Селезнева.

[Нгаан]

Нужно свою нейросеть делать. Тогда там и будет Алиса Селезнева.

То есть это подтверждает, что будет созданно сотни или тысячи параллельных вселенных в виртуальном пространстве, которые будут плохо соотносимы друг с другом, подобно тому, как ныне наплодили всяких коинов (виртуальных валют и играются с ними). А при дальнейшем развитии технологии каждый более менее продвинутый пользователь создаст свою нейросеть и их число превратится в миллионы, где будет записана "ментальная карта восприятия мира" именно этого персонажа и там у кого-то будет и плоская земля, и смурфики с планеты Кукуреку и много ещё всякого. В итоге виртуальные разумы разлетятся за линию горизонта, как галактики в известной космогонической модели, и прекратят общение между собой.

[ZYOBRA_70]

Нгаан, живое общение будет доступно только избранным, а плебс будет жить сам с собою (во всех смыслах). Онанизм, как триумф высоких технологий, ога...

[Нгаан]

На эксперимент с ЧатомЖПТ и Алисой меня подвигнул вчерашний случайный эксперимент в аудитории, когда пришедший сдавать зачёт студент, за полчаса сгенерировал код для зачётной задачи под заданный контроллер с уточнением спецификации портов и запусил его. Всё работало, хотя и не совсем так, как мне было нужно. Само собой, что студент этот в созданном коде ничего не понимал, хотя каждая строчка была аккуратно прокомментирована. Это поставило вопрос о том, как использовать данную технологию для обучения и самообучения. Поигравшись с созданием элементарного кода на разных языках, я и рискнул задать вопрос про Алису. Потом я задал пару вопросов про Гарри Поттера. С этой задачей ЧатЖПТ справился получше. Он толково объяснил мне, почему Гарри Поттер умеет летать на метле и даже сделал оговорку, что Гарри литературный персонаж и в рамках его мира автором заложены такие возможности, то есть сделал привязку к адекватной реальности. Но вот с Алисой всё пошло совсем плохо. Видно было, что он пытается находить ответы по ссылкам в открытых источниках и скорее всего переводит запросы на русском языке в какой-то английский язык для упрощения их анализа.

[Урфин]

[Н. Светлов]

Спросил ChatGPT про Алису Селезнёву.

Про Нгаана она вообще тупит

Нужно свою нейросеть делать. Тогда там и будет Алиса Селезнева.

Яндексовской тёзке такой вопрос тоже задавали, и не раз. И да, про Нгаана она тоже тупит!

Но вот с Алисой всё пошло совсем плохо.

Для спасения репутации в OpenAI лихорадочно ищут шептуна на эту тему

На эксперимент с ЧатомЖПТ и Алисой меня подвигнул вчерашний случайный эксперимент в аудитории, когда пришедший сдавать зачёт студент, за полчаса сгенерировал код для зачётной задачи под заданный контроллер с уточнением спецификации портов и запусил его. Всё работало, хотя и не совсем так, как мне было нужно.

Даже при наличии шептунов способность нейросети писать работающий код — колоссальное достижение, даже если речь идёт о задачах студенческого уровня сложности. Очень убедительный прорыв. Из списка нерешённых задач одна вычеркнута.

► Показать

Надо будет попросить ChatGPT написать полнофункциональный эквивалент Wolfram Mathematica , а то у меня лицензия к нему с некоторых пор превратилась в тыкву

[Нгаан]

И да, про Нгаана она тоже тупит!

Когда кошки будут создавать свои ИИ, там с этим будет всё нормально.


Отправлено спустя 5 минут 27 секунд:

способность нейросети писать работающий код

Пока он пишет его лишь для малых задач и весьма прямолинейно. Так, например, когда я попросил его написать код для поиска минимального и максимального элемента в двумерном массиве, он сгенерировал двойной цикл с двумя отдельными блоками условий для поиска минимально и для поиска максимального элемента. Хотя любой более-менее подготовленный студент второкурсник понимает, что сделать это можно в одном блоке, сравнивая текущий елемент массива сразу и с максимумом, и с минимумом.
Но как средство первичного обучения, когда нужно показать возможные способы решения, я готов его рекомендовать своим студентам, чтобы не тратить время на обсуждение этих элементарных вещей. Надеюсь, что в перспективе это позволит лучшим из них быстрее переходить к более сложным прикладным задачам, где все эти штуки вроде поиска локальных экстремумов являются лишь кирпичиками.