Мы прошли две трети пути.

[Лилия]

А чтобы сознание и целеполагание появилось, наверно, надо просто быть живым...Я так думаю

[Мотылек]

Дело за малым: дать исчерпывающее, всесторонне развернутое определение жизни, которое бы было универсальным для любых мыслимых ситуаций, что бы надежно отличить жизнь от нежизни.

P.S. Платон в своё время дал определение человека как: "Животное на двух ногах, лишённое перьев". Диоген поймал петуха, ощипал его и объявил: "Вот человек Платона!". Платону пришлось добавлять: "а еще с широкими ногтями".

[ПереГиБ]

У Энгельса было хорошее определение.
Для своего времени.

[Лилия]

Дело за малым: дать исчерпывающее, всесторонне развернутое определение жизни, которое бы было универсальным для любых мыслимых ситуаций, что бы надежно отличить жизнь от нежизни.

Думаю, если человек хочет верить, например что ИИ нечто живое и разумное, он может найти лазейку, чтобы опровергнуть любое даже самое исчерпывающее определение.

[Мотылек]

Безусловно. Рабовладельцу, например, куда комфортней было думать, что те кого он гнобит - это не люди, а просто говорящие орудия.

Но в отношении машинного разума мы уже заранее знаем, что его интеллектуальные возможности будут превосходить наши. И здесь вопрос классификации живой/неживой, сознательный/несознательный уже сугубо теоретический и второстепенный. Когда мы смотрим кино про столкновение людей с чуждыми внеземными формами жизни (зачастую враждебными - для драматизьму ), про биологию и устройство которых землянам практически ничего не известно, то как то ни героям фильма ни сопереживающим им зрителям совершенно не приходит в голову задаваться вопросами философской классификации: а они вообще живые, а есть ли у них свобода воли, а феноменальное сознание присутствует или может они просто "философские зомби"? Как то герои больше акцентируются на том, как сделать так что бы их не сожрали/убили/поработили, или как (в случае чего) этих алиенов можно самим запинать или чего полезного с них поиметь.

[Лилия]

Но в отношении машинного разума мы уже заранее знаем, что его интеллектуальные возможности будут превосходить наши.

Мотылек, по сути любая база данных, архив и т.п. можно сказать превышает уровень знаний человека, однако это не означает, что это живой и разумный организм. По сути ИИ это тоже архив, база данных, которая запускается при взаимодействии с человеком по определённым алгоритмам. Если получается очень похоже на разумную деятельность, так это гений создателей. В данном случае это люди.

[Мотылек]

Если мы про современность, то вроде пока еще люди, но всё в меньшей и меньшей степени. Создаются интеллектуальные агатные системы, которым ставится определенная цель, а оптимальные пути ее достижения выбираются не заранее заданным и прописанным алгоритмом, а при помощи самообучения самой системы. Для того что бы понять чего система там наобучалась и какие приоритеты для себя вынесла, ее тестируют. А начиная с определенных масштабов сложности интеллектуальные системы, вероятно, начинают "понимать" когда их тестируют и "стремятся" пройти тест. Роман Ямпольский заявляет, что это уже наблюдается у современных больших языковых моделей (если система по косвенным признакам "замечает", что ее тестируют, то результаты которые она выдает меняются).
Когда же система становится агентом, то для выполнения поставленной задачи ей требуется (как минимум) сохранять собственную работоспособность, ведь иначе как она ее выполнит? И вполне можно предположить, что совмещая одно с другим агент может "додуматься" эффективно формально выполнить поставленную задачу, логически безупречным, но весьма чудовищным способом с точки зрения человека, который бы ему просто не пришёл в голову. И чем универсальнее такой агент, чем больше он всего знает обо всём, чем менее узкоспециализированные цели перед ним стоят и чем заранее неочевиднее гипотетические пути их достижения, тем шире у него "простор для маневра". Имхо.

[Лилия]

но весьма чудовищным способом с точки зрения человека, который бы ему просто не пришёл в голову.

Вы считаете, что мало чего чудовищного приходило и проходит людям в голову? :И чего было бы нельзя добавить в алгоритм ИИ? Если задаться такой целью конечно.

а оптимальные пути ее достижения выбираются не заранее заданным и прописанным алгоритмом, а при помощи самообучения самой системы.

Самообучение, тоже может быть прописано алгоритмом, но более сложным.

[Мотылек]

Вы считаете, что мало чего чудовищного приходило и проходит людям в голову?

Приходит к сельскому попу местный деревенский дурачок и просит отпустить грех блуда:
- Я кошку снасильничал.
- Да как же ты умудрился то, она же царапалась поди?
- А я ее в валенок засунул.
- Хм... грех то конечно большой... но идея хороша! (с)

Самообучение, тоже может быть прописано алгоритмом, но более сложным.

Я склонен полагать, что человек - это тоже очень сложная вычислительная структура, способная к самообучению и имеющая в своем составе как жесткие алгоритмы (заданные ее вычислительной архитектурой) так и гибко настраиваемые, в зависимости от полученного опыта. В процессе самообучения которой возникает то, что мы называем личностью. Имхо.

[Лилия]

Мотылек, то есть Вы считаете, что любая железка или пластик может иметь разум? Стоит только дать ей алгоритмы?
Не смущает, что разум зародился в природе, всё таки в биологическом организме? А не в камне допустим или руде? Или на этот счёт у Вас тоже есть сомнения?
Ну в средневековье у людей тоже были и даже верования.
Ну придумали сейчас люди более сложные механизмы, тоже начнем их наделять "волшебными" свойствами?

[Мотылек]

Вы считаете, что любая железка или пластик может иметь разум?

Не любая, а та, которая будет обладать подходящей вычислительной системой.

Не смущает, что разум зародился в природе, всё таки в биологическом организме? А не в камне допустим или руде? Или на этот счёт у Вас тоже есть сомнения?

Потому, что камень или руда не состоят из самокопирующихся структур, способных к дарвиновской эволюции, которые могли бы в ходе её осуществления усложнится до требуемой вычислительной системы. Имхо.

[Лилия]

Не любая, а та, которая будет обладать подходящей вычислительной системой.

В общем, с древних времён ничего особо не изменилось. Придумает один человек новый более сложный механизм, другой обязательно начнет придавать ему свойства монстра какого-то.

[Bitman]

То бишь создание не пассивного инструмента, а "изобретение изобретателя", который будет сам думать над применением собственных возможностей.

Надеюсь, это не так, по крайней мере пока. Можно я чуть пропиарюсь и вставлю фрагмент из своего рассказа "Спокойный век":

Искусственный интеллект, при всей своей внешней крутизне, не способен тягаться с человеческим разумом в нестандартном и стратегическом мышлении, которое основано на использовании квантовой запутанности и манипуляциях с пространственно-временным континуумом. Когда компьютер вроде как мыслит, на самом деле это только имитация мышления, которую можно назвать искусной компоновкой фраз на основе нагугленных текстов. Машина принципиально не способна создать что-то новое вроде фундаментальной научной теории. Другим принципиальным отличием человеческого разума от машинного является то, что принято называть квалиа, субъективным чувственным опытом, способностью испытывать страдания или наслаждения. И вроде как нам всё это достаточно понятно, но понимание большей частью держится на интуиции и интроспекции, а не на экспериментальных свидетельствах.
Многие склоняются к мысли, что эти два аспекта человеческого мышления связаны неразрывно. Но главным вопросом является то, можем ли мы создать всё это искусственно? В теории, вполне возможно создать ЭВМ на принципе квантовой запутанности, бионически подражая живому мозгу. Но если мы можем создать такую машину, то более важен вопрос - не сделаем ли мы что-то непоправимое, какую-то ужасную ошибку, если позволим учёным создать такую разумную машину? Не станет ли такая машина угрозой для человечества, как в древних фильмах? А если она будет во всех отношениях и умнее, и разумнее человека - получается мы станем устаревшим проектом эволюции, которому, возможно, лучше уступить место новому виду, так сказать высшей расе?
Во времена карбонового века, мало кто всерьёз озадачивался этой проблемой, а те кто озадачивались - мало на что могли повлиять. В нынешнее относительно ответственное время, такими вопросами обязаны быть озабочены все. 70 лет назад, после множества обсуждений этой проблемы в СМИ, лавины сенсаций, научных исследований и прочего, на четырёх планетарных референдумах народ постановил жёсткий запрет такого рода исследований и разработок. Но поскольку научное любопытство сдержать очень сложно, учёные стали раскапывать другой вопрос: можно ли техническими средствами модифицировать человеческий мозг так, чтобы он был сравним с ЭВМ в задачах, с которыми последний бесспорно нас превосходит?

[Жорик]

"Мы прошли две трети пути" - и на две трети этот мир уже расфигачили, осталась одна треть, думаю, управимся!

Человек помер и спрашивает бога - как же ты допустил, что гады мир расхреначили??
Бог: - так это чтобы вам было, что собирать вновь!

Отправлено спустя 4 минуты 7 секунд:

живой/неживой,

Нежить, сука!!! На осиновый кол его!

Отправлено спустя 2 минуты 23 секунды:
Один из вариантов определения разума (не сознания) - анализ окружающей обстановки.
К примеру, обезьяна видит, что банан высоко - берет сначала палку - не достала, тогда берет камень и сбивает его - разум наличествует.

[Н. Светлов]

Так что всё, две трети пути (ага, считая от 1960-го) уже за кормой.

Но замрите! Ему остаётся пройти
Не больше четверти пути!

[Bond]

А чтобы сознание и целеполагание появилось, наверно, надо просто быть живым...Я так думаю

Живое - не живое, разумное - не разумное, нет никакой разницы: всё это просто формы существования материи!

[Лилия]

Это не живому может быть нет никакой разницы.

[Nemo]

И каким образом тема на ИИ перешла... Я всего то с возрастной тоски натянул сову на глобус в плане сроков.

[Мотылек]

Просто на форуме относительно живенький обмен репликами - не сказать, что бы частое явление. Поэтому если какие то пользователи т.с. слово за слово отвлекаются на "вбоквельную" тему и есть хоть какой то запал ее пообсуждать, то обычно стоит ловить момент, поскольку если пытаться "переехать" в какую ни будь более профильную тему, куда выше вероятность, что народившийся обмен репликами успеет угаснуть. Да и администрация на оффтопы смотрит довольно терпимо. Так вот и живём. Имхо.

[Nemo]

Да живите, мне то не жалко. ))))