Ограничения ИИ/LLM

Флейм, он и есть флейм. В общем, болтаем обо всем, что не попало в другие разделы.

Модератор: модераторы

Новая тема Ответить
Аватара пользователя

Автор темы
Bitman
Сообщений: 1261
Стаж: 12 лет 5 месяцев
Желаемая форма обращения: Как хотите к себе
Благодарил (а): 65 раз
Поблагодарили: 59 раз

Ограничения ИИ/LLM

Сообщение Bitman » 13.12.2024, 11:43

Я вижу такие ограничения современных LLM-систем, достаточно фундаментальные:
1) За два года разработчики Chatgpt не смогли научить его не врать (просто говорить что не может ответить). Хороший пример, что разработчики LLM сами не понимают как LLMы работают (и признаются в этом);
2) Ещё один пример заключается в том, что LLMы просто генерируют тексты, и при всей осмысленности этих текстов, их нельзя заставить действовать как-то иначе. Это значит, что теоретически если Chatgpt и будет вытеснять какие-то профессии, то скорее программистов чем вебмастеров. Я имею в виду, что программист часть времени сочиняет некий текст, а вебмастер должен выполнять более разнообразные действия: залогиниться в контрольную панель, закачать там файл, потом выставить этому файлу права и т.д. Эта тема близка к парадоксу Моравека.
Я ещё подозреваю, что когда говорят что сейчас ИИ отнимает работу у людей в низкоквалифицированном умственном труде, на самом деле это делают скорее не ИИ вроде LLMов, а обычные программы. Любому программисту понятно, что любую рутинную умственную работу можно хотя бы частично автоматизировать, написав подходящую программу.

Аватара пользователя

skor
Сообщений: 1094
Стаж: 21 год 2 месяца
Реальное имя: Сергей
Желаемая форма обращения: На "ты"
Откуда: Авксом
Благодарил (а): 42 раза
Поблагодарили: 143 раза
Возраст: 49
Контактная информация:

Ограничения ИИ/LLM

Сообщение skor » 15.12.2024, 17:45

Bitman писал(а): 13.12.2024, 11:43 За два года разработчики Chatgpt не смогли научить его не врать (просто говорить что не может ответить)
Всё, как у людей -- попробуйте научить людей не врать :D
Bitman писал(а): 13.12.2024, 11:43 Я имею в виду, что программист часть времени сочиняет некий текст, а вебмастер должен выполнять более разнообразные действия: залогиниться в контрольную панель, закачать там файл, потом выставить этому файлу права и т.д.
Как раз в данный момент ключевые игроки (OpenAI, Anthropic, Google) внедряют в свои продукты поддержку ИИ-агентов, которые способны в том числе и работать с графическим интерфейсом пользователя. Происходит это так -- на вход модели передаётся изображение экрана, а она решает, куда нужно ткнуть мышкой и на какие кнопки нужно нажать на клавиатуре для решения поставленной задачи.
Алиса в последний раз поглядела на всех, сказала тихо: "Прощайте, ребята", - и вышла из комнаты. Навсегда.

Аватара пользователя

Н. Светлов
В сети
Сообщений: 13544
Стаж: 21 год 2 месяца
Желаемая форма обращения: Всё равно
Откуда: Москва
Благодарил (а): 1325 раз
Поблагодарили: 2292 раза
Возраст: 58
Контактная информация:

Ограничения ИИ/LLM

Сообщение Н. Светлов » 15.12.2024, 17:54

skor писал(а): 15.12.2024, 17:45 Как раз в данный момент ключевые игроки (OpenAI, Anthropic, Google) внедряют в свои продукты поддержку ИИ-агентов, которые способны в том числе и работать с графическим интерфейсом пользователя. Происходит это так -- на вход модели передаётся изображение экрана, а она решает, куда нужно ткнуть мышкой и на какие кнопки нужно нажать на клавиатуре для решения поставленной задачи.
Мне одному кажется, что в этой цепочке графический интерфейс, сжирающий миллионы человеко-часов на его программирование, — явно лишнее звено? :mrgreen:
Воображаемые сущности не могут использоваться ни в одном истинном высказывании. Приписывается Бертрану Расселу
Все беды от романтики. Кир Булычёв

Аватара пользователя

skor
Сообщений: 1094
Стаж: 21 год 2 месяца
Реальное имя: Сергей
Желаемая форма обращения: На "ты"
Откуда: Авксом
Благодарил (а): 42 раза
Поблагодарили: 143 раза
Возраст: 49
Контактная информация:

Ограничения ИИ/LLM

Сообщение skor » 15.12.2024, 18:04

Н. Светлов писал(а): 15.12.2024, 17:54 Мне одному кажется, что в этой цепочке графический интерфейс, сжирающий миллионы человеко-часов на его программирование, — явно лишнее звено?
Дело в том, что эти миллионы человеко-часов уже потрачены, поэтому в текущей ситуации более рациональным является не разработка специального "агентского" интерфейса для всех приложений, а использование существующего графического пользовательского интерфейса.
Алиса в последний раз поглядела на всех, сказала тихо: "Прощайте, ребята", - и вышла из комнаты. Навсегда.

Аватара пользователя

Н. Светлов
В сети
Сообщений: 13544
Стаж: 21 год 2 месяца
Желаемая форма обращения: Всё равно
Откуда: Москва
Благодарил (а): 1325 раз
Поблагодарили: 2292 раза
Возраст: 58
Контактная информация:

Ограничения ИИ/LLM

Сообщение Н. Светлов » 19.12.2024, 16:08

skor писал(а): 15.12.2024, 18:04 Дело в том, что эти миллионы человеко-часов уже потрачены
Это-то как раз понятно. Я о будущем. Пытаюсь угадать, как будет выглядеть "desktop" Алисиного "ноутбука" :mrgreen: И чем, соответственно, будут заняты IT-специалисты вместо рисования окошечек и пиктограммок :mrgreen: .
Воображаемые сущности не могут использоваться ни в одном истинном высказывании. Приписывается Бертрану Расселу
Все беды от романтики. Кир Булычёв


максим
Сообщений: 4935
Стаж: 20 лет 11 месяцев
Реальное имя: Максим
Skype: maksim_romantik1
Желаемая форма обращения: Всё равно
Откуда: Снежное, Донбасс
Благодарил (а): 3353 раза
Поблагодарили: 1506 раз
Возраст: 53
Контактная информация:

Ограничения ИИ/LLM

Сообщение максим » 20.12.2024, 11:43

Н. Светлов писал(а): 19.12.2024, 16:08 Пытаюсь угадать, как будет выглядеть "desktop" Алисиного "ноутбука"
Возможно, как интерфейс сети "Нанотех"? Вообще без ноутбука...
► Показать
Славные были денечки в конце двадцатого века!

Новая тема Ответить

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 21 гость