19 мая 2019
Беседка №240. Разумные машины
Илья Субботин
Согласно популярному определению, разум – это осознание внешней и внутренней среды. А так как машины номинально отдают себе отчёт об окружающей обстановке, то, наверно, мы должны признавать это как разумность…
Оригинальный материал, автор – Джайшри Пандья
Несмотря на то, что нейробиология сделала большой шаг вперёд в своём развитии, происхождение сознания в людях, как и его природа и процессы, остаются по большей части неизвестными. Лежащие в его основе физиологические механизмы создания разумных существ до конца ещё не поняты. Но всё же, благодаря прогрессу в картировании головного мозга и науки в целом, мы можем быть намного ближе к окончательному пониманию фундаментальных основ разума в людях, чем когда-либо.
Считается, что мы неспособны создать то, чего не можем осознать. Пусть непросто понять саму природу человеческого разума, но прикладываются большие усилия к созданию компьютерного разума на базе нейроморфных компьютерных процессоров. По вполне понятным причинам растёт беспокойство и возникает масса вопросов касательно создания активного разума при помощи таких процессоров, ведь мало ясности о человеческом разуме и самой природе сознательности, что уж говорить о компьютерном разуме.
На данном этапе мы можем сформировать представление о человеческом мозге как о компьютере и сравнить его с функциональными компьютерными системами. Многие годы мы задавались вопросом: насколько машины осознают внешнюю и свою внутреннюю среду? Сознательны ли они по-настоящему? Существуют ли самосознательные машины? Ответы на эти вопросы порождают ещё больше непонятных моментов, ведь сравнение «сознания» компьютеров и разума людей намного сложнее, чем мы ожидали.
Сознание в машинах, по большому счёту, приравнивается к обладанию знаниями или поведению в фактических ситуациях. Кажется, что свойства сознания не обязательно относятся к биологическим процессам. Они – функциональные.
Взаимоотношения между вводом, выводом и самим состоянием компьютерной системы основываются на причинной связи. Именно эти функциональные свойства и способность знать и понимать собственные внутренние особенности и внешнюю обстановку и делают машины работоспособными, умными, сведущими в обстановке и самоосознанными.
Конечно, определения и понимание различаются, но самосознание является процессом оценки, включающим в себя сбор информации и навыки по её обработке. Сознание в машинах на сегодняшний день можно рассматривать как наличие понимания своего существования и мира вокруг: таких вещей, как восприятие, ощущения, чувства, воспоминания и так далее. Поскольку разум вписывается в психологию сознательности, можно говорить о том, что машины сознательны.
Разумные машины
Исследователи университета Колумбии заявляют о создании роботизированной руки, которая может воссоздать свой образ с нуля, что является определённым шагом в сторону самосознания. Давайте оценим сегодняшнюю реальность. Каждый компьютер и каждая машина с подключением к Интернету имеет идентификатор в виде IP-адреса, также как у людей есть домашний и цифровой адрес. Тот факт, что каждая машина «знает» о своей экосистеме, IP-адресе, местоположении и других параметрах, уже свидетельствует о разумности. Мы можем наблюдать, как развивающиеся голосовые ассистенты, такие как Siri, Alexa и Google, уже могут вести простейшие беседы с людьми.
Как и людям, машинам необходимо осознавать своё поведение. Как мы уже определили, компьютеры и машины а) осознают окружающую обстановку и б) в этом осознании – разумность, то есть вполне можно сделать вывод о самосознании компьютеров, ведь она не требует биологической осознанности.
Более того, осознанность касается способности думать, а самосознание – понимания факта мыслительного процесса. Компьютеры и машины обладают лучшей памятью по сравнению с людьми, ведь мы не всегда всё помним, а также не запоминаем абсолютно все действия и встречи. И это приводит нас к важному вопросу: если машины лучше справляются со сбором информации, обладают сравнительно лучшими аналитическими способностями, производительностью и памятью, то способны ли они думать лучше, чем люди?
Думающие машины
Ещё один немаловажный пункт: думают ли машины? С одной стороны, работает ли машина, просто выполняя задания путём контроля символов, которых она не понимает? А если машины и понимают, что делают, и отдают себе отчёт о выполняемых задачах, является ли это мышлением? Ответы на эти вопросы полностью зависят от того, как мы понимаем мышление, сознание и самосознание в машинах. Как бы то ни было, общепринятого понимания сознания человека или машины пока не существует, так что, наверно, пришло время начать обсуждение единой трактовки этих понятий, чтобы оценить и понять фундаментальные основы сознания.
Сознание машин
Как определять и понимать сознание в машинах? Стоит ли его сравнивать с человеческим? Как мы уже обсудили, нет централизованного понимания сознания. Пусть нейробиология строит гипотезы о том, что сознание в людях генерируется посредством взаимодействия различных частей мозга, сходное структурное взаимодействие компонентов машин или компьютеров можно использовать с целью предположения о наличии сознания в машинах.
Нам предстоит ответить на ряд важных вопросов:
- Каковы важнейшие диапазоны и механизмы сознания машин?
- Какова его функция?
- Как измерить машинный разум?
- Каковы механизмы проявления сознательности в машине?
- При каких условиях машина может называться разумной?
Оригинальный материал, автор – Джайшри Пандья
Само собой, лучше сначала разобраться с разумом человеческим и уже потом рассуждать об искусственном интеллекте. Налицо все признаки «разума», но вопросов пока что больше, чем ответов. Простого выполнения задач недостаточно, ведь компьютер это делает не по желанию, а по «приказу», команде, которую заложил человек, и критерии «понимания» и «сознания» могут и вовсе быть неприменимы в данном контексте, даже несмотря на кажущиеся логичными выкладки автора. И, на мой взгляд, ответы лучше искать не в философии, а в научном обосновании и теоретической базе.
А вообще, даже не слишком разумной машины достаточно, чтобы хорошенько попортить нервы по-настоящему разумному виду, это ни для кого не секрет.
Никакого сознания у машин нет, хватит уже херней страдать.
Какой самоуверенный кожаный уб**док !
При взгляде на первую картинку хочется взять в руки ружьё и разнести бошку роботу. Свободу гуманоидам!
Теория
я бы сменил парадигму. Мы люди думаем что мы особенные (у нас есть Сознание и прочие «божественные» прибамбасы), и отличаемся от животных. Т.е. есть некоторый разрыв Люди vs Животные, принципиальный, так сказать. и в попытке понять Что Это Такое (разрыв ака Сознание, Интеллект и прочее) — мы как бы попадаем в пропасть Непонимания. Не можем связать одно с другим. «Проще надо быть …»
Боюсь все еще хуже. Человек монополизировал обладание разумом и боится потерять статус «вершины эволюции». Поэтому будет крутится как червяк, переформулировать определения, выбирать из них удобные, но не допустит «обладания» разума другими видами.
И да, наличие разума у самого человека, тоже под вопросом)))
Не стоит обобщать сходу на всех человеков. Точка зрения, описанная Вами действительно крайне распространена, она веками насаждалась креационизмом, дабы подчеркнуть ту самую «богоподобность» и прочая, и прочая. Позже, когда мракобесы слегка переобулись, зазвучал лейтмотив про «вершину эволюции». Наука НЕ спекулятивная, реальная, давно пришла к выводу о том, что разумом (пусть и разного уровня) обладает далеко не один вид, и даже не два, и некое самосознание, соответственно, у них также имеется, другой вопрос, что оно ДОЛЖНО отличаться от человеческого. А уж как там оно ощущается другими видами, нам узнать пока не получается, а может и вообще не получится. Поэтому машины тоже будут нами непонимаемы в полном смысле — даже если мы попытаемся их максимально подогнать «под себя» — все равно субстрат разума и образ существования (не сказать «жизни») иные.
Какая нафиг богоподобность, какое мракобесие. Все приземленнее. Как только речь зайдет о правах и обязанностях, тут все и начнется. Чтобы ни говорила наука, у иных видов разума не будет, пока они нам не объяснят заблуждения на пальцах. На пальцах держащих дубину.
А, вот так даже… Просто Ваш посыл немного не так понял. Если так, чисто юридически, рассматривать, то да… Просто биология рассматривает-то разум не с юридической точки зрения, которая свойственна лишь человеку, у других разумов и критерии другие. Им человеческая возня с правами и обязанностями неинтересна, задачи, методы их реализации и база интеллекта совершенно иные.
Статья вообще-то про мнение человека. А оно, должно охватывать все стороны. Типа сказал а, говори и б. Вот про что был мой посыл. Нужно смотреть со всех точек зрения сразу, а не противопоставлять их друг другу. То мол наука, а это социология, а вот это ксеносоциология.
Статья не про мнение человека, как таковое, а про критерии определения разумности и сознания у машины. И даже наличие разума как таковон и признание его наличия человеками уже немного разные вещи. А уж права-обязанности тем более — наступление одного факта (признание разума) совсем не предполагает возникновения другого (прав и обязанностей). Люди в отношении своего же вида спокойно признавая разум такде спокойно прекрасно отрицали наличие каких-либо прав и/или обязанностей у/по отношению к другим людям. Начиная от рабовладения и заканчивая всяческими геноцидами. А уж к машинам-то… И смотреть сразу со всех точек — это хорошо, но до определенного момента совершенно бессмысленно. Сначала надо выработать критерии опознания наличия разума, а потом обсуждать побочные моменты того опознания. Потому как до того это просто спекуляции.
Наличия? То есть его нет, нет, нет, и вдруг есть? Тогда может надо начать еще раньше? С понимания, что разум непрерывен, а критериев наличия просто не существует.
Разум непрерывен? Что имелось ввиду? Какой именно разум? А что каксается нет нет и вдруг есть — так в биологии с разными признаками вида так и бывает — мутации создают некий тренд смещения ряда признаков в ту или иную сторону, их изменения, а потом срабатывает принцип эмерджентности и появляются новые свойства. Как это будет работать с интеллектом машины и будет ли (и может ли) в технических системах — не могу сказать, в таких тонкостях я не особо компетентен.
Непрерывный, означает отсутствие порога есть/нет. Существует разум в 1% от среднечеловеческого и в 1000% возможно где-то существует. Это все-равно разум. Поэтому, как и с любой другой величиной, просто нужна шкала. Шкала, а не триггер.
У любой шкалы есть 0, или иная условная точка отсчета. И вот она и есть триггер. Вы со таким подходом, как и многие философы, путаете и сваливаете в одну кучу разум и интеллект. Это не одно и то же. Биологи разделяют интеллект и разум. Сложное поведение и способность к обучению не есть разум — это интеллект. А разум — способность к абстрактному мышлению и принятию решения не на основе инстинкта или опыта, а на основе отвлеченного обобщения и/или на основе опыта или обобщения другого индивида. Даже многие высшие насекомые, особенно из перепончатокрылых, обладают примитивным интеллектом. Но не разумом. Так же и машины — они обладают интеллектом, но не разумом (пока?).
Wiki «Обучение обезьян речи» или вот там же из статьи «Канзи»: «Однажды на прямой вопрос Канзи ответил, что его соплеменники обезьяны, а он — человек.» Я полагаю, освоение символьного мышления доказывает, что у некоторых видов обезьян разум есть. Но без тренировки человеком он не проявляется понятным нам способом, потому мы часто приписываем им тот самый 0, про который Вы говорите
Перефразируя классика: Пожалуйста не читайте Википедию перед обедом! ?
Современная биология, вернее, этология, считает, что разумом как таковым, с разным уровнем абстракции и интеллекта, обладают не только обезьяны, а некоторые китообразные, неуоторые птиц (вороны, попугаи, и т.п.),
некоторые млекопитающие и в целом довольно много видов. И демонстрируют это они вполне себе и в естественной среде и БЕЗ тренировки человеком, просто это нужно наблюдать и распознавать. Уровень интеллекта у них разный, но к абстрактному мышлению они способны. Человек, между прочим, способность к таковому тоже приобретает не с рождения. В том и проблема шкалы и нахожления того пресловутого 0, что даже мы сами-то рождаемся не очень-то разумными. И где тот момент, когда стрелка качнулась от 0 в сторону «+» пока никем не установлено.
Я перестал понимать, с чем Вы спорите, но понял, что ранее понимал это неправильно. С Вашим предыдущим постом согласен, кроме ерничания на тему википедии.
Некоторая доля скепсиса в отношении статей Wiki необходима, не спорю. Делайте лучше — приводите цитаты Маркова, кто же Вам запретит. А вообще, словари надо любить — это хорошая привычка.
Ну и про 0 — вопрос высосанный из пальца, я считаю. Смысл есть только в обнаружении разума, результаты деятельности которого мы можем заметить и осознать сами. Можно представить себе существование разума, который мы не в состоянии заметить, как минимум, пока, из-за банального несовпадения по масштабу времени или размеров. Или разума настолько чуждого/сложного, что и факт существования результатов его деятельности нами не замечен.
Будет ли искусственный разум, который мы, возможно, создадим, проявляться понятным нам образом? Уверен, что да, рано или поздно, он должен развиться до очевидного нам, ведь общие ресурсы у нас всегда будут. «Встретимся у кассы». Вряд ли мы сразу сделаем такой разум, для которого сами будем выглядеть неподвижной геологией.
Да я не то чтоб спорю… 😉 Полемизирую. Рассуждаю по теме. Просто я тоже не совсем понял мысль уважаемого Lecron на тему непрерывности разума — это как, что он есть у всех существ что ли? Так нет. У амебы разума нет. И интеллекта тоже. Примитивный набор инстинктов. У существ посложнее, насекомых хотя бы, инстинктивный набор куда сложнее и примитивный интеллект встречается. Разума же там нет никак и никакого. Там в этом смысле все еще 0. там, где он появляется — уже не ноль. Получается этакий числовой луч. Сам по себе он непрерывен и бесконечен, да, но отдельные точки на нем вполне себе дискретны по отношению друг к другу, какая уж тут непрерывность. Еще одна беда (м.б. и главная) в том, что многие отождествляют интеллект и разум — а это неверно. И по отношению к искусственным тоже. Искусственный интеллект давно есть. Он пока на уровне насекомых, но для многих задач этого совершенно достаточно. А вот до искусственного разума нам ой как далеко.
А насчет проявлений искусственного разума, понятных для нас — поначалу однозначно да, будут понятны — создавать-то даже и невольно, будем «по образу и подобию» — так банально проще (если вообще не единственный путь — трудно пытаться создать то, чего не понимаешь и не представляешь). А вот во что это разовьется потом… Это вопрос.
P.S. По поводу Википедии — мои суждения складываются из ползания по Вики в статьях по моей профессиональной области. Там неточностей и ошибок — море морское. Часто грубых. И еще куча спекуляций. Где-то что-то поправишь, а до чего-то тупо не доберешься. И поэтому меня стойко терзают даже не смутные, а вполне конкретные сомнения, что там ВЕЗДЕ так. Во всех областях. Так что доверять можно только с большой оглядкой.
почему оно ДОЛЖНО отличаться от человеческого?
Если не лезть в дебри, то потому, что у животных, обладающих интеллектом, субстрат другой — иная среда обитания, образы поведения, иное устройство мозга, да иногда даже скорость метаболизма.
Когда машина сможет присоединиться к дискуссии, со словами «вы ничего не понимаете, разум это…», тогда и поговорим о наличии у них разума.
всего несколько слов для обхода спам фильтра
https://uploads.disquscdn.com/images/e6e15a708db812fbf8094593468af48aa40aacc9fa7de15092dd7a079cae0602.jpg
Способность к самоосознанию вовсе не является главным свойством разума, отличающим человека от всех остальных, это всего лишь «побочный эффект»…