10 марта 2019

Беседка №230. Билль о правах в эпоху AI

Грань между людьми и машинами стирается, машины становятся более человечными, а люди становятся более похожими на машины…

Оригинальный материал, автор — Джордж М. Чёрч

В 1950 году книга Норберта Винера «Человеческое использование человеческих существ» была в авангарде научной мысли, в частности, в ней описывалась вот такая концепция:

«..Подобная джинну машина, способная к научению и принятию решений на базе этого научения, никоим образом не будет вынуждена принимать такие решения, какие приняли бы мы или которые были бы приемлемы для нас. Мы доверим наши решения машине из металла или тем машинам из плоти и крови, которые представляют собой бюро, огромные библиотеки, армии и акционерные общества. Час уже пробил, и выбор между добром и злом у нашего порога»…

Но то была развязка книги, которая оставила нас в подвешенном состоянии на 68 лет, без каких-либо предписаний, запретов, да даже без просто хорошо сформулированной проблемы. С тех пор подобные предупреждения об угрозе машин неоднократно являлись нам в той форме, которая достигала больших слоев населения, например, фильмов, таких, как «Колосс: проект Форбина» (1970), «Терминатор» (1984), «Матрица» (1999) и «Из машины» (2015). Но теперь пришло время большого обновления на новые перспективы, которые, в частности, акцентированы на описании наших «человеческих» прав и наших экзистенциальных потребностей.

Опасения касаются в основном противостояния «мы против них» (роботов), «серой массы» (нанотехнологии) или «монокультуры клонов» (биология). Попробуем экстраполировать современные тренды: что, если мы сможем создать или вырастить практически что угодно и добиться любого желаемого уровня безопасности и эффективности? Любое разумное существо (составленное из атомов вне зависимости от их последовательности) смогло бы иметь доступ к любой технологии.

Наверно, нам стоило бы поменьше задумываться о противостоянии с роботами, а вместо этого обратиться к обсуждению прав разумных существ перед лицом грядущей беспрецедентной диверсификации умов. Мы должны ценить её с целью минимизировать глобальные угрозы для существования нашего вида, такие как супервулканы и астероиды.

Хоть мы и не знаем, на каком уровне био-, нано-, робо- и человекоподобные гибриды будут доминировать на каждом из этапов нашей ускоряющейся эволюции, мы можем стремиться к более продвинутому уровню гуманности, справедливости и безопасности по отношению друг к другу.

Равенство

Что хотел сказать 33-летний Томас Джефферсон в 1776 году, когда писал: «Мы считаем очевидными следующие истины: все люди сотворены равными, и все они одарены своим Создателем некоторыми неотчуждаемыми правами, к числу которых принадлежат: жизнь, свобода и стремление к счастью»? Спектр современных людей достаточно широк. В 1776 году к «людям» не относили женщин и небелокожее население. Даже сегодня наблюдается неравноценное (хоть и зачастую сочувствующее) отношение к людям, рожденным с наследственными когнитивными или поведенческими проблемами – синдромом Дауна, болезнью Тея-Сакса, Х-синдромом, ДЦП и так далее.

И по мере того, как мы меняем географическое положение и взрослеем, наши неравные права разительно меняются. Эмбрионы, груднички, дети, подростки, взрослые, пациенты, преступники, гендерная идентичность и гендерные предпочтения, очень богатые и очень бедные – все они сталкиваются с разными правами и социально-экономическими реалиями. Один из способов для таких «новых» типов мышления получить и сохранить сходные с большинством «элитных людей» права – сохранить компонент разумности, который станет сродни человеческому щиту или уподобится правителю, который одним росчерком подписывает огромные документы, делает важнейшие решения по части финансов, здравоохранения, дипломатии, безопасности и военных дел. Нам, наверно, будет очень сложно отключить, изменить или стереть компьютер и его «воспоминания», особенно если он подружится с людьми и представит в защиту своего существования чрезвычайно убедительные доводы (как поступили бы все выдающиеся учёные в борьбе за свою жизнь).

Радикально полярные правила для людей и нечеловекоподобных/гибридов

Отмеченное в заголовке разделение вариаций личностных прав внутри Homo sapiens выливается в бунт о неравенстве, как только мы принимаем во внимание сущности, которые перекрывают (или скоро перекроют) привычный спектр человечества. В Google Street View лица людей и номера машин замазаны. Видеоустройства исключены из многих локаций, таких как суды и заседания комитетов. Носимые и общественные камеры с распознающим лица программным обеспечением балансируют за гранью табу. Должны ли люди с гипертимезией или фотографической памятью исключаться из общих условий? Не должны ли люди с прозопагнозией (лицевой слепотой) или забывчивостью в любом месте извлекать выгоду из такого ПО и оптического распознавания графики? А если да, то почему только они, а не все? Если у нас у всех есть эти инструменты, то почему бы нам всем не воспользоваться ими?

Эти сценарии отражаются в рассказе Курта Воннегута «Гаррисон Бержерон» (1961), в котором выдающиеся способности подавляются в угоду посредственности и низшему общественному звену. Эксперименты над мышлением, такие как китайская комната Джона Серла и три закона робототехники Айзека Азимова, апеллируют к интуитивным представлениям, которые демонстрировали Даниел Канеман, Амос Тверски и другие. В эксперименте с китайской комнатой выдвигается гипотеза о том, что ум, составленный из механических и органических частей, не может быть разумен, каким бы смышлёным он ни был в общении с человеком на китайском. Человек должен установить источник сознания и «почувствовать» его. Применяемая в первом и втором законах Азимова привилегия относится к человеческому разуму, который ставится выше любого другого разума, едва присутствующего в третьем законе о самосохранении.

Если роботы не обладают в точности таким же сознанием, как люди, то это используется как повод для того, чтобы дать им другие права, как в ситуации со спорами, что другие племена или расы находятся на ступеньку ниже общепринятого понимания человека. Демонстрируют ли роботы свободу воли? Стали ли они, наконец, самоосознанными? Робот Qbo прошёл тест с зеркалом, смог узнать себя, а робот Nao прошёл схожий тест на узнавание собственного голоса и определение внутреннего состояния существования.

Для свободы воли у нас есть алгоритмы, которые не являются ни рандомными, ни полностью определёнными, но они направлены на практически оптимальный процесс вероятности принятия решения. Можно поспорить, что это практическое дарвиновское последствие теории игр. Для многих (не всех) игр или проблем справедливо утверждение, что мы, скорее всего, проиграем, если ведём себя полностью предсказуемо или полностью непредсказуемо.

Впрочем, чем же так привлекательна свобода воли? Исторически так сложилось, что она давала нам способ приписать вину в контексте вознаграждения или наказания в этой жизни или в загробной жизни. Цели наказания могут включать в себя изменение приоритета индивида с целью помочь выжить виду. В крайних случаях сюда включается заключение в тюрьму или другие ограничения, если позитивное/негативное подкрепление по Скиннеру не может помочь защитить общество. Совершенно ясно, что подобные инструменты могут быть применимы к свободе воли, а в более широкой перспективе – к любой машине, чьё поведение мы захотим исправить.

Мы можем поспорить, на самом ли деле роботы испытывают субъективные первичные ощущения свободы воли или самосознания, но то же самое применимо и к оценке человека. Как мы можем узнать, имеет ли социопат, пациент в коме, пациент с синдромом Уильямса или младенец ту же свободу воли или самосознание, что и мы? И значит ли это что-либо на деле? Если люди (любого типа) убежденно заявляют о том, что ощущают сознание, боль, веру, счастье, амбиции и/или принадлежность к обществу, то должны ли мы отказывать им в их правах по причине гипотетического отличия их гипотетических первичных ощущений от наших?

Тонкие красные линии запрета, которые мы, по идее, не должны никогда переступать, всё больше кажутся недолговечными и неразумными. Грань между людьми и машинами стирается, машины становятся более человечными, а люди становятся более похожими на машины. Это происходит не только потому, что мы всё чаще слепо следуем подсказкам GPS, воспроизводим твиты и цитируем образцы тщательно продуманного маркетинга, но также по мере того, как мы всё больше насыщаем наш мозг и наши механизмы генетического программирования информацией.

Различные запретные линии зависят от генетической исключительности, в которой генетика традиционно считается наследственной (хотя доказано, что она обратима), в то время как свободные (и летальные) технологии, такие как машины для любых целей и нужд, являются необратимым феноменом по причине социальных и экономических процессов. Внутри генетики линия запрета заставляет нас запрещать или избегать генетически модифицированной еды, но принимать существование генетически модифицированных бактерий для изготовления инсулина.

Говоря об «исследованиях на людях», мы опираемся на Хельсинкскую декларацию (19640) и держим в голове исследование сифилиса в Таскиги (1932-1972), самое печально известное биомедицинское исследование в истории США. В 2015 году организация Nonhuman Rights Project подала в суд на высший суд Нью-Йорка в интересах двух шимпанзе, которых держали для опытов в университете Stony Brook. Апелляционный суд постановил, что шимпанзе нельзя относить к субъектам права, ведь они «не имеют обязанностей и ответственности в обществе». И всё это произошло несмотря на многочисленные публичные заверения в обратном и споры о том, что такое решение можно применить к детям и людям с ограниченными физическими возможностями.

Что мешает перенести этот опыт на других животных, органоидов, машины и гибриды? По мере того, как мы (в лице Хокинга, Маска, Таллинна, Вильчека и Тегмарка) запретили автономное вооружение, мы также демонизировали один из видов безмолвных машин по отношению к другим, в то время как другие машины могут быть более смертельными и более бестолковыми.

А, может, транслюди уже ходят по Земле? Подумайте о «неконтактных народах»: сентинельцах и андаманцах из Индии, короваи из Индонезии, машко-пиро из Перу, пинтупи из Австралии, сурма из Эфиопии, рук из Вьетнама, химба из Намибии, а также десятках племён Папуа и Новой Гвинеи. Как бы ответили они или наши предки? Мы можем определить «транслюдей» как народность или культуру, которая непонятна людям, живущим в современной, но ещё не до конца технологичной культуре.

Современным людям каменного века будет чрезвычайно сложно понять, почему мы так рады недавнему доказательству существования гравитационных волн, что доказывает столетнюю общую теории относительности. Они в недоумении почешут в затылке, думая о причинах существования атомных часов или GPS-спутников, помогающих нам найти дорогу до дома, или почему мы решили расширить диапазон видимого нами спектра от небольшого диапазона до полного спектра с радио- и гамма-лучами. Мы можем двигаться быстрее, чем какой-либо живущий вид, мы можем набрать скорость, достаточную для того, чтобы покинуть орбиту Земли, и выжить в холодном космическом вакууме.

Если эти характеристики (а также сотни других) не обозначают трансгуманизм, то что обозначает? Если мы чувствуем, что судить о трансгуманизме должен современный человек (а не палеокультурный), то как же мы добьёмся статуса «трансчеловека»?

Мы, «новейшие люди», всегда сможем понимать технологический рост друг друга, но не удивимся тому моменту, когда «прибудем» в точку, на которой будет доступен переход на следующий этап развития. Вильям Гибсон, пророк из научной фантастики, сказал: «Будущее уже здесь, просто оно неравномерно распределено». Пусть это несколько недооценивает следующий этап «будущего», но миллионы из нас уже являются «транслюдьми», и многие требуют большего. Вопрос «кем были люди?» уже превратился в «какими были транслюди и какими правами обладали?».

Оригинальный материал, автор — Джордж М. Чёрч

Тематика искусственного интеллекта увлекала меня со времени знакомства с творчеством Брэдбери и Булычёва в начальной школе. Конечно, со временем интересы расширились и роботы на время выпали из кругозора. Но теперь все прочитанные книги один за одним всплывают в воспоминаниях при взгляде на то, как современный AI развивается со временем.

Отдельным вопросом будет распределение прав, и вот тут придётся потрудиться, дабы обосновать базовые понятия и понять границы разума и критерии разумного существа. Успешно пройденный тест с зеркалом — это более, чем серьёзно, как по мне. Что же человек? Будет ли он всецело контролировать эту эволюцию или неизбежно падёт жертвой, как нам это рисуют в фильмах и описывают в фантастических романах?

Читайте также