9 июня 2018

У меня зазвонил телефон. Кто говорит?..

По материалам theverge.com

Одним из самых впечатляющих моментов последней конференции Google I/O стал телефонный звонок в парикмахерскую для записи к мастеру. Звонок совершал не человек, а Google Ассистент, который прекрасно справился с задачей: задавал правильные вопросы, делал паузы в нужных местах и даже произнес совершенно уместное и реалистичное «мммм».

Аудитория была поражена. Но самым впечатляющим было то, что человек на том конце провода, казалось, даже не подозревал, что общается с искусственным интеллектом. Несомненно, это стало новым технологическим достижением для Google. Но, кроме того, с ним связан и комплекс этических и социальных проблем.

Например, должен ли Google сообщать людям, что они говорят с машиной? Может ли технология, которая имитирует человека, разрушить нашу веру в то, что мы видим и слышим? Или же это станет своего рода технологической привилегией, когда владеющие ей могут перекладывать на машину все эти скучные переговоры, в то время как те, кто принимает звонки (в основном низкооплачиваемые работники сервисов), должны будут иметь дело с тупым роботом?

Иными словами, зрители увидели типичную демонстрацию от Google, которая заставляет равно восхищаться и беспокоиться.

Google Assistant makes calls

Google Assistant will be able to make actual phone calls for you.

Опубликовано Circuit Breaker 8 мая 2018 г.

Но начнем с простейших вещей. Со сцены Google не особенно распространялась о подробностях того, как работает функция, названная Duplex. Но сопроводительный пост в блоге проясняет контекст. В первую очередь, Duplex – это не этакая футуристическая «умная говорилка», способная вести разговор без ограничений. Как объясняют специалисты Google, она может применяться только в «ограниченных пределах» — в ситуациях, когда разговор функционален и имеет четкие рамки того, что может быть сказано. «Хотите заказать столик? На сколько человек? В какой день? В какое время? Окей, спасибо, до свидания». Ничего сложного, не так ли?

Марк Ридл, ассоциированный профессор в области ИИ в Технологическом институте Джорджии, специализирующийся по компьютерным нарративам, сказал в интервью The Verge, что думал, что Google Ассистент будет «достаточно хорошо» работать только в формальных ситуациях. «Выход за пределы контекста в диалоге – большая проблема, — отметил Ридл. – Но есть и множество уловок, позволяющих скрыть непонимание со стороны ИИ или вернуть беседу в прежнее русло».

Одна из демонстраций Google отлично показывает, как работают такие уловки. ИИ оказался способен преодолеть последовательно возникающие моменты непонимания, но делал это, перефразируя и повторяя вопросы. Это обыденно для компьютерных программ, разработанных для общения с людьми.

Выдержки из их разговоров демонстрируют то, насколько они «умны», но, анализируя сказанное, вы понимаете, что имеете дело с запрограммированными шаблонами. В блоге Google есть ряд подробностей о том, какие приемы будет использовать Duplex: это подтверждение («В пятницу на следующей неделе, 18-го числа»), синхронизация («Вы меня слышите?»), прерывание («Номер 212-» — «Простите, вы не могли бы повторить с начала?»).

Важно отметить, что Google называет Duplex «экспериментом». Это не финальный продукт, и нет гарантии, что он получит широкое распространение в таком виде – или вообще его получит. Duplex в настоящее время работает только в трех сценариях: заказывает столик в ресторане, назначает поход к парикмахеру и узнает о времени работы различных заведений. Доступен он будет ограниченному (и неизвестно, какому) числу пользователей этим летом.

Есть и еще одна важная особенность. Если в разговоре что-то идет не так, вмешивается человек. По словам Google, у Duplex есть «способность самопроверки», которая позволяет распознать, когда разговор выходит за пределы его возможностей. В таких случаях поступает сигнал оператору, который может завершить общение. Похоже на персонального ассистента Facebook M: компания обещала, что использует ИИ для обслуживания клиентов, а в итоге вместо этого поручила людям неизвестно какую часть этой работы. (В январе Facebook закрыл эту часть сервиса)

Все эти дополнения дают более ясное представление о возможностях Duplex, но не отвечают на вопрос, а какой эффект вызовет его использование. И будучи первой компанией, продемонстрировавшей такую технологию, Google ответственна за возможные проблемы.

Очевидный вопрос заключается в том, должна ли компания уведомлять людей о том, что с ними общается робот. Йосси Матиас сказал в интервью CNET, что такое, похоже, произойдет. На вопрос The Verge в Google ответили более пространно: компания определенно наделена ответственностью, предполагающей информирование людей. Непонятно, почему об этом ни разу не говорилось со сцены.

Многие эксперты в данной области согласны с этим, но как именно вы скажете тому или иному человеку, что он разговаривает с ИИ? Если Ассистент начнет звонок со слов «Здравствуйте, я робот», на том конце могут просто повесить трубку. Если прибегать к менее прямым способам, то можно, например, ограничить степень реализма голоса ИИ или использовать в звонке специальный тон. Google сказала, что надеется на естественное развитие набора социальных нормативов, которые помогут выяснить, что звонящий – ИИ, а не человек.

Джоанна Брайсон, ассоциированный профессор Университета Бата, изучающий этику ИИ, заявила в интервью The Verge, что Google очевидно обязана предоставлять эту информацию. Если роботы смогут свободно изображать людей, спектр злоупотреблений становится невероятно велик: от телефонного мошенничества до серьезного подлога. Брайсон говорит, что позволить компаниям разбираться с этим самостоятельно явно недостаточно, и для того, чтобы защитить общество, нужны новые законы. «Пока мы не начнем это регулировать, любая компания, занявшая менее ответственную позицию, чем Google, сможет извлечь из этой технологии выгоду. Google, может, и ведет себя правильно, но не все последуют ее примеру».

И если эта технология получит широкое распространение, она окажет и другие, менее очевидные эффекты, с которыми нельзя будет справиться законодательно. В статье для The Atlantic Алексис Мадригал предполагает, что небольшой разговор, неважно, по телефону или на улице, имеет трудноуловимое социальное значение. Он цитирует урбаниста Джейн Джейкобс, что «повседневные публичные контакты на локальном уровне» создают «сеть общественного уважения и доверия». Что мы теряем, если даем людям еще один способ избегать социального взаимодействия?

Эффектом применения ИИ в разговорах может стать и более грубая реакция на звонки. Если мы не сможем определить разницу между людьми и машинами по голосу, не заставит ли это нас воспринимать все беседы заведомо подозрительно? Этак мы можем начать обрывать реальных людей словами «Заткнись и дай поговорить с человеком!». И если нам станет легче бронировать столик в ресторане, не начнем ли мы злоупотреблять бронированиями, не задумываясь, с какой вероятностью мы собираемся действительно посетить ресторан (Как сказали в Google, они ограничат количество звонков, которые может получить учреждение от Ассистента в день, а также количество звонков, которое может совершить Ассистент, чтобы помешать использовать сервис для спама).

Очевидных ответов на все вопросы нет, но, как справедливо заметила Брайсон, по крайней мере, Google оказывает миру услугу, привлекая внимание к данной технологии. Это не единственная компания, работающая над подобным сервисом, и не она одна будет его использовать. «Очень важно, что они это демонстрируют, — говорит Брайсон. – Важно, что они создают демо-ролики и видео, благодаря которым люди видят, что происходит […] Что нам действительно нужно, так это информированное общество».

Иными словами, нам надо обсудить все это между собой, пока за нас не начали говорить роботы.

Читайте также

  • Roman Sofronov

    Не дурно

  • Damir

    Выглядело это на сцене просто завораживающе. Будущее уже на шаг ближе. С морально-этическими дилеммами конечно разберутся, а мы получим очень крутую технологию, которая действительно может изменить взаимодействие между людьми и сервисами на расстоянии.

  • survivor2007

    Есть мнение, что это фейк — звонящий АИ никак не представился и не оставил своих контактных данных, а сотрудник парикмахерской это не спросил и даже не удивился. На вопросы журналистов у алминистрации гугля, как такое может быть, Гугл ничего не ответил.

  • Damir

    Определенно это подозрительно, но в Америке общение ведется куда менее формально, чем в России. Если звонить в большую компанию, например в Делл, они конечно по своим скриптам сразу имя спросят. Но в примерах на презентации звонок был просто в обычную парикмахерскую (не сетевую), насколько я понял. Это как в рф зайти на обычную стрижку, выяснить когда есть свободное время и записаться. Администратор за стойкой не будет первым вопросом выпытывать ваше имя, просто будет живой диалог, а об имени спросят уже в конце, чтобы запись оставить в журнале. В этом плане звонок ассистента прошёл довольно логично.

  • Factum

    Да пофиг робот или нет, так даже проще,я голосом не люблю общаться,пусть это робот делает

  • Pavel

    И как, спросили в конце у робота имя?

  • GrishaTav

    Надуманная проблема — надо просто брать за бронирование 10 баксов и всем будет пофиг, кто тебе звонит — человек или робот.

  • A.N.

    Вот так выйдет из под контроля ассистент и поназаказывает красную Феррари, омаров, устрицы в винном соусе и билеты на Бали. =) Провернет пару грязных офшорных сделок с торговцами оружием и укатит. А ты останешься сидеть на диване в полном недоумении)))

  • Dimitrii_D

    Господин автор, если уж взялись переводить, переводите, пожалуйста.
    Ассоциированный профессор и компьютерные нарративы — это уже за гранью…

  • OC

    Кстати, это идеальный вариант, как в кино: бронируешь на сайте кафе нужный столик по схеме, вносишь залог (500р к примеру), пришёл в ресторан в итоге — залог включён в сумму счета, не пришёл — деньги списались как убыток заведения.
    Мы с вами только что придумали новую схему бизнеса, которая ещё пока нигде не внедрена

  • Витюша_1995

    Сидеть — да, только не на диване…

  • Давно используется при оплате услуг пэйпалом.

  • OC

    А где?

  • Viacheslav Novikov

    Элементарно — Гугл Ассистент просто спишет эти деньги с карты, привязанной к Гугл аккаунту.

  • Если бы речь шла о России, то был бы доцент. А в США — ассоциированный профессор.

  • П.Н.

    Осталось и в парикмахерской поставить робота, а за одно исключить избыточное в таком случае преобразование «цифра-голос-голос-цифра».

  • BanyGirlNebritus

    Угу.
    «Как вас зовут? Имя Лиза»

  • Scud Bee

    В США — либо «доцент», либо, в крайнем случае, «адъюнкт-профессор». А «ассоциированный профессор» — это имитация перевода, этим часто занимаются те, кто переводить не умеет.

  • Carmero

    А нафига вообще эти два робота? Зашёл на сайт парикмахерской, записался на свободное время и всех делов…

  • П.Н.

    В том и фишка — сказать колонке/смарту записаться и не ходить ни на какие сайты.

  • Ivan Ivanoff

    А как ассистент «укатит» на Бали, он же (ИИ) есть последовательность нулей и единиц?….разве только если укатит по оптоволоконному кабелю…:) и зачем ему красная Феррари? цифровых тёлочек привлекать?

  • A.N.

    В красных Ферарри все ИИ — девушки, это каждый знает))