Модератор: модераторы
Нгаан писал(а): 14.07.2023, 14:41 Но собрать информацию из открытых источников и её прокомментировать (вероятно тоже мнениями из открытых источников), он уже может и это весьма полезное дело в процессе обучения неразумных котят и прочих "недорослей".
тут мне видится основное противоречиеНгаан писал(а): 14.07.2023, 14:41 Как можно заметить, "собеседник" весьма компетентен, хотя местами и завирает порой.
такой информации оно котятам насуёт, что...
Однако, учить "котят" тому, чтобы они с осторожностью относились к информации в Сети можно и на таких инструментах.
Да, за ним глаз да глаз нужен.
Люди опасней, чем ИИ.
Думаю, нет. У него нет своих собственных целей. Все цели, которым следует ИИ, — это цели его создателей.Sarkov писал(а): 16.07.2023, 21:16 ИИ будет часть людей использовать, а остальных стравливать и губить разными способами, чтобы не тратили ресурсы, которые ИИ решит для себя использовать.
Тут и придумывать ничего не надо. Всем известный антропный рысий мушиный принцип
И быть не может. Он же не наследует трём миллиардам лет естественной эволюции, не несёт в своих генах отпечатков вероятностей выживания и гибели простейших, кишечнополостных и ланцетников.
Принцип принципом, а вот образ хороший и я его раньше не встречал - весьма наглядный.
Если именно первая причина истинная, то это очень смешно.Стендфорские исследователи выяснили, что спустя 3 месяца пользования возможности чат-бота кардинально снизились. На данный момент явная причина «отупения» неизвестна, но исследователи приводят две причины. Первая: ИИ общается с людьми, учится у них и поэтому тупеет. Второй причиной называют снижение способностей самими OpenAl.
Эти риски нам известны: "В наше время, Штирлиц, верить нельзя никому..."человечество может столкнуться с новыми рисками.
...
Эта ситуация вполне сопоставима с той, что люди учат друг друга. Так что предмет опасений уже начался лет эдак миллиона полтора назад, а до нас только сейчас дошлоSarkov писал(а): 04.08.2023, 13:52 Мне кажется самый П начнëтся , когда сети начнут учить друг друга.
для начала им бы поругаться, как двум алисам яндексовнамSarkov писал(а): 04.08.2023, 13:52 Мне кажется самый П начнëтся , когда сети начнут учить друг друга.
Ты ещё про Кентавра забыл.
Поскольку, как было заявлено, что составление нового законодательства будет делом нелёгким, я думаю, что неплохой идеей было бы поручить это какой-нибудь продвинутой системе искусственного интеллекта.Руководители ведущих технологических компаний мира собрались в среду в Вашингтоне, чтобы за закрытыми дверями обсудить с американскими сенаторами бурный рост искусственного интеллекта и способы его регуляции. Их вывод был однозначным — ИИ нуждается в строгом контроле, однако в том, что касается методов этого самого контроля, мнения собравшихся разошлись.
Обсуждение под названием «Форум по безопасности ИИ», в котором приняли участие столь известные и успешные бизнесмены как Илон Маск (Tesla и X, бывший Twitter), Марк Цукерберг (Meta, признана в России «экстремистской организацией» и запрещена), Билл Гейтс (Microsoft), Сундар Пичаи (Google) и Сэм Альтман (OpenAI), а также ведущие разработчики Кремниевой долины, руководители профсоюзов, активисты защиты гражданских прав и представители правительства, стало очередной попыткой взять под контроль бурное развитие ИИ-технологий, от которых все больше зависит наша повседневная жизнь и работа.
...
Форум был созван по инициативе лидера сенатского большинства Чака Шумера, который назвал его «историческим» и заявил, что собравшиеся в целом одобрили идею регуляции, но при этом так и не смогли прийти к единому мнению о том, какими должны быть правила, определяющие деятельность ИИ-компаний и применение этих технологий.
По словам Шумера, он опросил всех присутствующих, как сторонников ИИ-технологий, так и скептиков, с целью выяснить, считают ли они, что правительство должно взять под контроль искусственный интеллект, и «все подняли руки „за“, даже если они придерживались диаметрально противоположных взглядов».
...
Отвечая на незаданный вопрос собравшихся, когда и к каким переменам следует готовиться, сенатор-республиканец Майк Раундс заметил, что ожидать от Конгресса быстрых решений не стоит.
«Готовы ли мы написать новое законодательство? Абсолютно нет!» — подчеркнул он.
Поддержал в этом вопросе коллегу и сенатор-демократ Кори Букер, по словам которого правительство, конечно же, не отказывается от роли регулятора, но составление нового законодательства будет делом нелегким.
Источник: BBC News | Русская служба
Мама 4-летнего мальчика обошла огромное количество врачей: её сын страдал от болей и задержки роста, но за 3 года никто из специалистов не поставил правильный диагноз.
Отчаявшаяся женщина обратилась к нейросети, которая верно определила расщепление позвоночника и порок развития спинного мозга. Диагноз вскоре подтвердил врач.
Новая система на основе искусственного интеллекта автоматически обнаруживает и классифицирует сверхновые без участия людей. Это позволяет значительно ускорить процесс исследования вспышек сверхновых и устранить возможные ошибки.
...
Разработанная международным проектом система Bright Transient Survey Bot (BTSbot) автоматизирует весь процесс поиска новых сверхновых по всей небесной сфере.
...
(подробнее)
ChatGPT генерирует поддельный набор данных для поддержки научной гипотезы.
В статье, опубликованной в журнале JAMA Ophthalmology 9 ноября , авторы использовали GPT-4 — последнюю версию большой языковой модели, на которой работает ChatGPT, — в сочетании с Advanced Data Analysis (ADA), моделью, включающей язык программирования Python и может выполнять статистический анализ и создавать визуализации данных. Данные, сгенерированные ИИ, сравнили результаты двух хирургических процедур и указали (ошибочно), что одно лечение лучше другого.
Способность ИИ фабриковать убедительные данные усиливает обеспокоенность исследователей и редакторов журналов по поводу честности исследований. «Одно дело, что генеративный ИИ можно использовать для генерации перефразировки текстов, которую невозможно было бы обнаружить с помощью программного обеспечения для выявления плагиата, но возможность создавать фальшивые, но реалистичные наборы данных — это следующий уровень беспокойства».
Сейчас этот форум просматривают: нет зарегистрированных пользователей и 9 гостей
