9 июня 2018

У меня зазвонил телефон. Кто говорит?..

Константин Иванов

По материалам theverge.com

Одним из самых впечатляющих моментов последней конференции Google I/O стал телефонный звонок в парикмахерскую для записи к мастеру. Звонок совершал не человек, а Google Ассистент, который прекрасно справился с задачей: задавал правильные вопросы, делал паузы в нужных местах и даже произнес совершенно уместное и реалистичное «мммм».

Аудитория была поражена. Но самым впечатляющим было то, что человек на том конце провода, казалось, даже не подозревал, что общается с искусственным интеллектом. Несомненно, это стало новым технологическим достижением для Google. Но, кроме того, с ним связан и комплекс этических и социальных проблем.

Например, должен ли Google сообщать людям, что они говорят с машиной? Может ли технология, которая имитирует человека, разрушить нашу веру в то, что мы видим и слышим? Или же это станет своего рода технологической привилегией, когда владеющие ей могут перекладывать на машину все эти скучные переговоры, в то время как те, кто принимает звонки (в основном низкооплачиваемые работники сервисов), должны будут иметь дело с тупым роботом?

Иными словами, зрители увидели типичную демонстрацию от Google, которая заставляет равно восхищаться и беспокоиться.

Но начнем с простейших вещей. Со сцены Google не особенно распространялась о подробностях того, как работает функция, названная Duplex. Но сопроводительный пост в блоге проясняет контекст. В первую очередь, Duplex – это не этакая футуристическая «умная говорилка», способная вести разговор без ограничений. Как объясняют специалисты Google, она может применяться только в «ограниченных пределах» — в ситуациях, когда разговор функционален и имеет четкие рамки того, что может быть сказано. «Хотите заказать столик? На сколько человек? В какой день? В какое время? Окей, спасибо, до свидания». Ничего сложного, не так ли?

Марк Ридл, ассоциированный профессор в области ИИ в Технологическом институте Джорджии, специализирующийся по компьютерным нарративам, сказал в интервью The Verge, что думал, что Google Ассистент будет «достаточно хорошо» работать только в формальных ситуациях. «Выход за пределы контекста в диалоге – большая проблема, — отметил Ридл. – Но есть и множество уловок, позволяющих скрыть непонимание со стороны ИИ или вернуть беседу в прежнее русло».

Одна из демонстраций Google отлично показывает, как работают такие уловки. ИИ оказался способен преодолеть последовательно возникающие моменты непонимания, но делал это, перефразируя и повторяя вопросы. Это обыденно для компьютерных программ, разработанных для общения с людьми.

Выдержки из их разговоров демонстрируют то, насколько они «умны», но, анализируя сказанное, вы понимаете, что имеете дело с запрограммированными шаблонами. В блоге Google есть ряд подробностей о том, какие приемы будет использовать Duplex: это подтверждение («В пятницу на следующей неделе, 18-го числа»), синхронизация («Вы меня слышите?»), прерывание («Номер 212-» — «Простите, вы не могли бы повторить с начала?»).

Важно отметить, что Google называет Duplex «экспериментом». Это не финальный продукт, и нет гарантии, что он получит широкое распространение в таком виде – или вообще его получит. Duplex в настоящее время работает только в трех сценариях: заказывает столик в ресторане, назначает поход к парикмахеру и узнает о времени работы различных заведений. Доступен он будет ограниченному (и неизвестно, какому) числу пользователей этим летом.

Есть и еще одна важная особенность. Если в разговоре что-то идет не так, вмешивается человек. По словам Google, у Duplex есть «способность самопроверки», которая позволяет распознать, когда разговор выходит за пределы его возможностей. В таких случаях поступает сигнал оператору, который может завершить общение. Похоже на персонального ассистента Facebook M: компания обещала, что использует ИИ для обслуживания клиентов, а в итоге вместо этого поручила людям неизвестно какую часть этой работы. (В январе Facebook закрыл эту часть сервиса)

Все эти дополнения дают более ясное представление о возможностях Duplex, но не отвечают на вопрос, а какой эффект вызовет его использование. И будучи первой компанией, продемонстрировавшей такую технологию, Google ответственна за возможные проблемы.

Очевидный вопрос заключается в том, должна ли компания уведомлять людей о том, что с ними общается робот. Йосси Матиас сказал в интервью CNET, что такое, похоже, произойдет. На вопрос The Verge в Google ответили более пространно: компания определенно наделена ответственностью, предполагающей информирование людей. Непонятно, почему об этом ни разу не говорилось со сцены.

Многие эксперты в данной области согласны с этим, но как именно вы скажете тому или иному человеку, что он разговаривает с ИИ? Если Ассистент начнет звонок со слов «Здравствуйте, я робот», на том конце могут просто повесить трубку. Если прибегать к менее прямым способам, то можно, например, ограничить степень реализма голоса ИИ или использовать в звонке специальный тон. Google сказала, что надеется на естественное развитие набора социальных нормативов, которые помогут выяснить, что звонящий – ИИ, а не человек.

We should make AI sound different from humans for the same reason we put a smelly additive in normally odorless natural gas. https://t.co/2dYmeb70AC

— Travis Korte (@traviskorte) May 8, 2018

Джоанна Брайсон, ассоциированный профессор Университета Бата, изучающий этику ИИ, заявила в интервью The Verge, что Google очевидно обязана предоставлять эту информацию. Если роботы смогут свободно изображать людей, спектр злоупотреблений становится невероятно велик: от телефонного мошенничества до серьезного подлога. Брайсон говорит, что позволить компаниям разбираться с этим самостоятельно явно недостаточно, и для того, чтобы защитить общество, нужны новые законы. «Пока мы не начнем это регулировать, любая компания, занявшая менее ответственную позицию, чем Google, сможет извлечь из этой технологии выгоду. Google, может, и ведет себя правильно, но не все последуют ее примеру».

И если эта технология получит широкое распространение, она окажет и другие, менее очевидные эффекты, с которыми нельзя будет справиться законодательно. В статье для The Atlantic Алексис Мадригал предполагает, что небольшой разговор, неважно, по телефону или на улице, имеет трудноуловимое социальное значение. Он цитирует урбаниста Джейн Джейкобс, что «повседневные публичные контакты на локальном уровне» создают «сеть общественного уважения и доверия». Что мы теряем, если даем людям еще один способ избегать социального взаимодействия?

Эффектом применения ИИ в разговорах может стать и более грубая реакция на звонки. Если мы не сможем определить разницу между людьми и машинами по голосу, не заставит ли это нас воспринимать все беседы заведомо подозрительно? Этак мы можем начать обрывать реальных людей словами «Заткнись и дай поговорить с человеком!». И если нам станет легче бронировать столик в ресторане, не начнем ли мы злоупотреблять бронированиями, не задумываясь, с какой вероятностью мы собираемся действительно посетить ресторан (Как сказали в Google, они ограничат количество звонков, которые может получить учреждение от Ассистента в день, а также количество звонков, которое может совершить Ассистент, чтобы помешать использовать сервис для спама).

Очевидных ответов на все вопросы нет, но, как справедливо заметила Брайсон, по крайней мере, Google оказывает миру услугу, привлекая внимание к данной технологии. Это не единственная компания, работающая над подобным сервисом, и не она одна будет его использовать. «Очень важно, что они это демонстрируют, — говорит Брайсон. – Важно, что они создают демо-ролики и видео, благодаря которым люди видят, что происходит […] Что нам действительно нужно, так это информированное общество».

Иными словами, нам надо обсудить все это между собой, пока за нас не начали говорить роботы.