Решённые и нерешённые задачи искусственного интеллекта

[Лилия]

Угу, но без него "не работает".

Без всего остального тоже, не работает.

Вот были бы люди "хлорофильной" формой, тогда другой разговор.

Но не зародилось и не возникло.
И да, было бы иначе, был бы другой разговор.

[Alex Ivanov]

Нашли в конце концов.

Ну вот видите. Даже не потребовалось нескольких тысяч лет.

Я вот подумал возможно ли в принципе "достучаться до небес"? И сколько времени это займет?

[Pinhead]

Но возможно также, что именно проблема координации служит опорой стремлению доминировать.

Это совершенно точно не так. Даже в идеальных условиях доступности всего и вся желание утверждаться в глазах других не исчезнет. Собственно, только оно и даёт человеку удовлетворение, а вовсе не сами блага.
А искусственное подавление конкуренции приведёт к ситуации ашиклеков, т.е. животное вылезет с другой стороны.

В конце концов, многие другие импликации звериных качеств в основном преодолены уже сегодня.

Я бы так не сказал. Тут всё-таки есть существенная разница между маскировкой и сублимацией. Да и сублимация тоже бывает разная.

Но процессы организации присущи не только живым организмам.

Ну, насколько я знаю, в живых организмах - это континуальная самоорганизация, а в неживой природе - когерентная. Т.е. не просто сохранение устойчивости структуры, но сохранение устойчивости в виде изменения за счёт внутренних резервов - направленное приспособление.

[Лилия]

желание утверждаться в глазах других не исчезнет.
Собственно, только оно и даёт человеку удовлетворение,

Если только одно, здесь скорее о пиратах можно говорить, с их всепоглощающим желанием властвовать.
К счастью, у большинства в природе это не так выражено. Ашиклеки, в описании КБ, это скорее люди без целей и стремлений.
Зацикленные только на потребительстве и на удовлетворении сиюминутных желаний.
А так в мире ПД, скорее речь идет о самореализации. И как будто все понимают, что всем это важно и поэтому все предоставляют друг другу такую возможность.

[Falcon]

В последние годы стремительное развитие больших языковых моделей (LLM), таких как нашумевший ChatGPT, вызывает неподдельный интерес и восхищение. Их способность связно и грамматически корректно поддерживать диалог, переводить языки и даже писать программный код поражает воображение. В этой связи закономерно возникает вопрос: не являются ли LLM проявлением настоящего искусственного интеллекта, способного мыслить на уровне человека?

Исследователи из компании Apple решили подвергнуть эту гипотезу тщательной проверке, обратившись к фундаментальному атрибуту человеческого разума — способности к логическому мышлению. В своей работе, опубликованной на платформе препринтов arXiv, они представляют результаты исследования, которые ставят под сомнение «интеллектуальность» современных LLM, демонстрируя их уязвимость к простым, на первый взгляд, логическим ловушкам.

В основе исследования лежит предположение о том, что разумное существо обладает способностью дифференцировать информацию, отделяя существенное от второстепенного и концентрируясь на релевантных данных. Эта способность иллюстрируется классическим примером: ребенок спрашивает, сколько яблок в сумке, упоминая, что некоторые из них слишком малы. И ребенок, и взрослый понимают, что размер яблок не влияет на их количество — это элементарное логическое умозаключение, доступное любому человеку.

Исследователи из Apple поставили перед LLM аналогичную задачу. Они задавали им вопросы, которые уже использовались для оценки их способностей, но с добавлением нерелевантной информации, так называемого «информационного шума». Результаты оказались неожиданными: даже небольшое количество лишней информации способно сбить LLM с толку, приводя к неверным или даже абсурдным ответам на вопросы, на которые они ранее отвечали правильно.

Выводы, сделанные исследователями, наводят на мысль о том, что LLM, возможно, не «понимают» смысл задаваемых им вопросов в полной мере. Вместо этого они, вероятно, оперируют на уровне распознавания структуры предложения и генерируют ответ, основываясь на своем «обучении» на огромных массивах текстовых данных, не проводя глубокого семантического анализа.

Более того, исследователи отмечают, что LLM часто генерируют ответы, которые на первый взгляд кажутся правильными и убедительными, но при более внимательном рассмотрении оказываются ошибочными, нелогичными или даже бессмысленными. Например, на вопрос о своих «чувствах» LLM могут дать ответ, который создает иллюзию их эмоциональной осознанности, хотя на самом деле они лишены способности испытывать эмоции.

Работа исследователей Apple призывает нас к более осторожному и критическому осмыслению возможностей современного искусственного интеллекта. Возможно, мы склонны преувеличивать интеллектуальные способности LLM, приписывая им человекоподобные качества мышления и понимания, в то время как их «разум» все еще далек от настоящего понимания и логического мышления, свойственного человеку.

Это исследование представляет собой важный шаг на пути к созданию действительно интеллектуальных машин. Оно подчеркивает необходимость разработки новых подходов к обучению LLM, которые позволят им не только имитировать человеческий язык, но и осмысливать его содержание, строить логические цепочки и делать обоснованные выводы.

[skor]

Исследователи из Apple поставили перед LLM аналогичную задачу...

Добавлю ссылку на статью: https://arxiv.org/pdf/2410.05229v1.

Отмечу, что как методика проведения эксперимента, так и интерпретация его результатов оставляют желать лучшего. В частности, бывший сотрудник OpenAI Эндрю Мэйн слегка изменил формат запроса, используемый в эксперименте исследователей из Apple, и получил противоположные результаты: https://x.com/AndrewMayne/status/1847358597354901677 (ссылка на Твиттер, поэтому может потребоваться VPN).

[Alex Ivanov]

Apple решила создать лучшую нейросеть в мире
https://www.gazeta.ru/tech/news/2024/10 ... 1313.shtml

Компания Apple намеревается создать самый совершенный искусственный интеллект (ИИ) в мире. Об этом глава организации Тим Кук заявил в беседе с газетой Wall Street Journal (WSJ).

По словам Кука, нейросеть от Apple уже является наилучшей для пользователей техники компании, однако когда специалисты доработают ИИ, он станет «лучшим в мире».

«Как оказалось, создать действительно хорошую нейросеть действительно сложно. Это требует много итераций. Нужно беспокоиться о каждой детали», — заметил глава Apple, объясняя, почему компания не оказалась в числе первых на рынке ИИ.

Кук также поделился впечатлениями от использования «яблочной» нейросети, отметив, что благодаря ей стал сильно экономить время.

В октябре портал MacRumors сообщил, что Apple ведет подготовку к внедрению новых ИИ-функций Apple Intelligence в готовящуюся к выходу iOS 18.1 и последующие обновления.

Согласно источнику, в коде были обнаружены ссылки на интеграцию Siri с ChatGPT, а также параметры текстов и изображений, генерируемых нейросетью. Это подтверждает планы компании внедрить ChatGPT в iOS 18.2.

[Н. Светлов]

Ну вот видите. Даже не потребовалось нескольких тысяч лет.

В данном случае не потребовалось. И если бы характерная частота таких событий не была известна, то детектор даже и строить бы не начали. Но в данном случае событие хоть и редкое, хоть и непредсказуемое, но всё же на горизонте десятилетий случающееся неоднократно. А вот, допустим, для проверки какой-нибудь гипотезы потребуется зарегистрировать событие слияния чёрных дыр с массой порядка сотни тысяч солнечных. И волей-неволей придётся ждать миллионы лет (либо уповать на чертовское везение).

Даже в идеальных условиях доступности всего и вся желание утверждаться в глазах других не исчезнет.

Безусловно. Оно будет искать себе другие опоры. Если не повезёт — ещё более опасные. Если повезёт (или если человечество научится как-то контролировать этот процесс) — не столь опасные.

Я бы так не сказал. Тут всё-таки есть существенная разница между маскировкой и сублимацией. Да и сублимация тоже бывает разная.

Согласен. Но я о результате. Он всё же есть, хотя и далёк от желаемого.

Ну, насколько я знаю, в живых организмах - это континуальная самоорганизация, а в неживой природе - когерентная. Т.е. не просто сохранение устойчивости структуры, но сохранение устойчивости в виде изменения за счёт внутренних резервов - направленное приспособление.

Скорее всего, между ними нет непреодолимого барьера. В конце концов, природа его как-то преодолела, сделав шаг от неживого к живому. Нет причин отрицать другие варианты. В конце концов, всё, что мы знаем и умеем, относится к очень узкому интервалу энергий, температур, давлений и размеров. Что творится под землёй на глубине 100 км, а тем более 1000, какие там процессы организации идут (если идут) — мы понятия не имеем. А в атмосфере Юпитера на аналогичной глубине под облачным слоем? Не говоря уж о бо́льших глубинах? Там может и такое происходить, чего не снилось нашим мудрецам ©.

[Pinhead]

В конце концов, природа его как-то преодолела, сделав шаг от неживого к живому.

Ну, для этого требуется всего-ничего - огромный океан и миллиарды лет взаимодействия различных белковых молекул. При таком количестве вариантов что-нибудь непременно получится. Вспоминается анекдот про обезьян и печатную машинку.

[Нгаан]

Раку нет!

Учёные из Гарварда изобрели нейросеть, которая с точностью 96% диагностирует рак.

Модель очень гибкая: умеет работать с 19 видами рака, рекомендовать методы лечения, а также прогнозировать вероятность выживания по каждому из них.

Это большая революция - ИИ может видеть злокачественные клетки там, где их не видят люди. Тем не менее, ученые уже работают над улучшенной версией, которая сможет выявлять рак на суперранних стадиях, когда лечение наиболее эффективно.

Отправлено спустя 3 дня 23 часа 11 минут 14 секунд:


Создай себе помощника сам

Компания Microsoft анонсировала новые возможности для создания автономных помощников на основе ИИ в Copilot Studio. Функция будет доступна уже в следующем месяце. Виртуального ассистента можно будет настроить под конкретные задачи, причем для этого не понадобятся навыки программирования или другие технические знания. Эти агенты помогут автоматизировать процессы в продажах, обслуживании, финансах и логистике.

[Нгаан]

При таком количестве вариантов что-нибудь непременно получится

Есть версия, что существует некий градиент, который ускоряет этот процесс. Пока непонятно, какова его природа, но... перебор отнюдь не случайный. Так что ... "полведра" на мельницу оптимистов.

[Нгаан]

Ди-джей, пойди, погуляй.

Искусственный интеллект на замену настоящих радиоведущих.

Радиостанция OFF Radio Krakow заменила живых ведущих искусственным интеллектом. Теперь утреннее и новостное шоу будут вести три разных виртуальных персонажа.

Это вызвало недовольство среди сотрудников: они опасаются потери рабочих мест и сомневаются в способности ИИ полноценно освещать сложные темы.

[Нгаан]

Погода, которую мы знаем.

Компания Google выпустила GenCast - ИИ-модель для предсказывания погоды, которую обучили на погодных данных 1979 - 2018 года. Результаты тестов "убили" всех скептиков предсказания погоды: GenCast превзошел ведущую европейскую модель прогнозирования ENS в 97,2% случаев.

[Н. Светлов]

Погода, которую мы знаем

Посмотрим, сохранится ли это превосходство в ближайшие годика два-три. Ибо есть подозрение, что ИИ-модель обучали на данных 1979…2023 гг., только никому об этом не сказали. Ну, а потом на данных 2019-2023 гг. проверили.

Рынку не обязательно знать все нюансы информационных технологий

[Alex Ivanov]

"По мнению экспертов, самой прорывной сферой в 2025-м году останется искусственный интеллект."

https://360.ru/news/interesnoe/stali-iz ... hego-goda/

[Нгаан]

Гонконгское чудо.

Ученые из Гонконга создали искусственный нейрон, работающий на лазерной технологии, который имитирует сложные функции биологических нейронов.

Он обрабатывает сигналы со скоростью 10 гигабод - это в миллиард раз быстрее биологических нейронов. Открытие может стать прорывом в развитии ИИ.

[Нгаан]

Профессор, скажи формулу!

Всё чаще приходится слышать о том, что в самое ближайшее время, может быть уже 2025 году, системы искусственного интеллекта "прошерстят" весь Интернет и извлекут из него всю, более-менее значимую информацию, после чего наступит кризис этой технологии.

Понятно, что современный ИИ может проанализировать лишь те данные, которые находятся в открытом доступе. Он не может работать не только со специальными закрытыми хранилищами, но и с данными на устройствах отдельных пользователей, если таковые не подключены к всемирной информационной сети (физически или программно).

Теперь предположим такую ситуацию: существует некий учёный, назовём его условно "профессор С.", который разрабатывает некую теорию и у которого на ПК имеются данные для этой разработки, которые он по известным причинам не предоставляет в открытый доступ. С точки зрения существующих нейросетей это "неизвестное и тайное знание", которое они проанализировать не могут.

Вопрос: является ли профессор С. преступником с точки зрения системы общедоступного знания и не препятствует ли он своим поведением всемирному историческому прогрессу человечества?

[Н. Светлов]

Вопрос: является ли профессор С. преступником с точки зрения системы общедоступного знания и не препятствует ли он своим поведением всемирному историческому прогрессу человечества?

Собственно, об этом вот эта сказка. Disclaimer: чрезвычайно много букв.

Правда, ГГ там — не профессор С., а академик П.

[Нгаан]

"Звёздные врата" раскрываются ...

Президент США Дональд Трамп объявил о создании компании Stargate, которая в ближайшие несколько лет инвестирует 500 млрд долларов в развитие технологий искусственного интеллекта и инфраструктуру.

По его словам, в рамках проекта будет создано не менее 100 тысяч рабочих мест, также будут построены центры обработки данных по всей стране. Сейчас власти изучают потенциальные площадки для них.

Трамп назвал Stargate крупнейшим проектом в сфере ИИ в истории.

На брифинге в Белом доме также присутствовали руководители технологических компаний, которые будут участвовать в проекте — Ларри Эллисон из Oracle, Сэм Альтман из OpenAI, а также глава японского холдинга SoftBank Масаёси Сон.

Эллисон сообщил, что первый дата-центр уже строится в штате Техас.

(BBC News | Русская служба)

Отправлено спустя 14 часов 24 минуты 16 секунд:

... надувая пузыри.

Акции компаний, связанных с ИИ, выросли в среду после того, как администрация Трампа объявила о совместном предприятии стоимостью 500 миллиардов долларов с Oracle (ORCL), OpenAI и SoftBank, что вызвало оптимизм относительно растущей волны инвестиций в ИИ.

Для Oracle проект может означать «значительные возможности получения дохода, которые могут начаться потенциально в этом году», — сообщили аналитики Morgan Stanley клиентам в среду, при этом часть первоначальных инвестиций компаний в размере 100 миллиардов долларов, по-видимому, будет направлена в центры обработки данных Oracle в Абилине, штат Техас.

Аналитики говорят, что проект, известный как Stargate, также «читается позитивно» для Microsoft (MSFT) как спонсора OpenAI и партнера инициативы.

Акции Oracle подскочили почти на 8% на внутридневных торгах в среду, увеличив рост во вторник перед объявлением, в то время как акции Microsoft выросли почти на 4%.

Являясь ключевыми технологическими партнерами инициативы, Nvidia (NVDA) и Arm Holdings (ARM) также были среди компаний, чьи акции взлетели: акции Arm взлетели на 15%, а Nvidia поднялись почти на 5%.

Акции нескольких партнеров Nvidia и других компаний в экосистеме производителя чипов ИИ, включая Dell (DELL), TSMC (TSM) и Hewlett Packard Enterprise (HPE), также выросли.

Аналитики Wedbush заявили, что, по их мнению, проект также может представлять собой «начало волны масштабных инвестиций в ИИ в США», ожидая новых объявлений в ближайшие недели.

[Н. Светлов]

Президент США Дональд Трамп объявил о создании компании Stargate, которая в ближайшие несколько лет инвестирует 500 млрд долларов в развитие технологий искусственного интеллекта и инфраструктуру.

Он, случайно, не намекнул, на каком ксероксе компания-инвестор собирается наксерить 0,5 терабакса?

Могу себе представить, сколько народу зафиксировало прибыль на этом заявлении