Страница 1 из 1

Ограничения ИИ/LLM

Добавлено: 13.12.2024, 11:43
Bitman
Я вижу такие ограничения современных LLM-систем, достаточно фундаментальные:
1) За два года разработчики Chatgpt не смогли научить его не врать (просто говорить что не может ответить). Хороший пример, что разработчики LLM сами не понимают как LLMы работают (и признаются в этом);
2) Ещё один пример заключается в том, что LLMы просто генерируют тексты, и при всей осмысленности этих текстов, их нельзя заставить действовать как-то иначе. Это значит, что теоретически если Chatgpt и будет вытеснять какие-то профессии, то скорее программистов чем вебмастеров. Я имею в виду, что программист часть времени сочиняет некий текст, а вебмастер должен выполнять более разнообразные действия: залогиниться в контрольную панель, закачать там файл, потом выставить этому файлу права и т.д. Эта тема близка к парадоксу Моравека.
Я ещё подозреваю, что когда говорят что сейчас ИИ отнимает работу у людей в низкоквалифицированном умственном труде, на самом деле это делают скорее не ИИ вроде LLMов, а обычные программы. Любому программисту понятно, что любую рутинную умственную работу можно хотя бы частично автоматизировать, написав подходящую программу.

Ограничения ИИ/LLM

Добавлено: 15.12.2024, 17:45
skor
Bitman писал(а): 13.12.2024, 11:43 За два года разработчики Chatgpt не смогли научить его не врать (просто говорить что не может ответить)
Всё, как у людей -- попробуйте научить людей не врать :D
Bitman писал(а): 13.12.2024, 11:43 Я имею в виду, что программист часть времени сочиняет некий текст, а вебмастер должен выполнять более разнообразные действия: залогиниться в контрольную панель, закачать там файл, потом выставить этому файлу права и т.д.
Как раз в данный момент ключевые игроки (OpenAI, Anthropic, Google) внедряют в свои продукты поддержку ИИ-агентов, которые способны в том числе и работать с графическим интерфейсом пользователя. Происходит это так -- на вход модели передаётся изображение экрана, а она решает, куда нужно ткнуть мышкой и на какие кнопки нужно нажать на клавиатуре для решения поставленной задачи.

Ограничения ИИ/LLM

Добавлено: 15.12.2024, 17:54
Н. Светлов
skor писал(а): 15.12.2024, 17:45 Как раз в данный момент ключевые игроки (OpenAI, Anthropic, Google) внедряют в свои продукты поддержку ИИ-агентов, которые способны в том числе и работать с графическим интерфейсом пользователя. Происходит это так -- на вход модели передаётся изображение экрана, а она решает, куда нужно ткнуть мышкой и на какие кнопки нужно нажать на клавиатуре для решения поставленной задачи.
Мне одному кажется, что в этой цепочке графический интерфейс, сжирающий миллионы человеко-часов на его программирование, — явно лишнее звено? :mrgreen:

Ограничения ИИ/LLM

Добавлено: 15.12.2024, 18:04
skor
Н. Светлов писал(а): 15.12.2024, 17:54 Мне одному кажется, что в этой цепочке графический интерфейс, сжирающий миллионы человеко-часов на его программирование, — явно лишнее звено?
Дело в том, что эти миллионы человеко-часов уже потрачены, поэтому в текущей ситуации более рациональным является не разработка специального "агентского" интерфейса для всех приложений, а использование существующего графического пользовательского интерфейса.

Ограничения ИИ/LLM

Добавлено: 19.12.2024, 16:08
Н. Светлов
skor писал(а): 15.12.2024, 18:04 Дело в том, что эти миллионы человеко-часов уже потрачены
Это-то как раз понятно. Я о будущем. Пытаюсь угадать, как будет выглядеть "desktop" Алисиного "ноутбука" :mrgreen: И чем, соответственно, будут заняты IT-специалисты вместо рисования окошечек и пиктограммок :mrgreen: .

Ограничения ИИ/LLM

Добавлено: 20.12.2024, 11:43
максим
Н. Светлов писал(а): 19.12.2024, 16:08 Пытаюсь угадать, как будет выглядеть "desktop" Алисиного "ноутбука"
Возможно, как интерфейс сети "Нанотех"? Вообще без ноутбука...
► Показать