В начале лета миллионы людей наблюдали демонстрацию GoogleDuplex — до жути реалистичный разговор между роботом и человеком, пишет вице-президент Genesysпо маркетингу продуктов Кристофер Коннолли на портале InformationWeek. Как сохранить человечность в мире систем, призванных ее подменить?

Развитие «умных» голосовых технологий началось после появления Apple Siri на iPhone 4S. И всего за два года взаимодействие с предметами посредством голоса получило широкое распространение. Выяснилось, что нам нравится говорить с роботами. Об этом свидетельствует продажа десятков миллионов «умных» колонок и то, что каждый пятый американец привычно произносит «Алекса, который час?» или «Гугл, расскажи шутку».

На то есть причины. Системы распознавания речи и обработки естественного языка в сочетании с огромным количеством данных о пользователях позволили адаптировать сложную технологию для использования людьми. Несравненно проще спросить о чем-то, чем читать многостраничные тексты и осваивать новое ПО. Усовершенствованная голосовая технология заставляет наши инструменты давать нам то, что мы хотим, и так, как мы хотим. В большинстве случаев удобнее пользоваться голосом.

По этой причине голосовая технология с опорой на искусственный интеллект начинает проникать на предприятия. Но здесь таится опасность.

Стоит ли бояться роботов

Представленный в мае на мероприятии Google I/O робот Google Duplex предназначен для ограниченных целей вроде заказа столика в ресторане. Google утверждает, что в данное время не тестирует голосовую технологию с какими-либо корпоративными клиентами и что при телефонных звонках робот представляется как ИИ. Тем не менее, голосовая технология уже вторгается и в бизнес, и в нашу жизнь. Ее распространение неизбежно, поскольку компании стремятся к автоматизации и снижению расходов.

Робот Microsoft Xiaoice уже звонил миллионам пользователей в Китае. Он способен прогнозировать следующие слова собеседника и сможет даже прерывать его на середине фразы, как это часто делают люди. А Amazon выпустила Lex для придания корпоративным call-центрам возможностей Alexa.

Люди привыкнут к общению голосом с роботами на предприятиях, как мы привыкли к нему у себя дома. Особенно, если это будет эффективно и доступно и если робот будет быстро реагировать. Никому не нравится при звонке в банк ждать ответа сотрудника лишь для того, чтобы узнать, что он не может решить ваш вопрос. Все сводится к удобству.

Но к удобству для кого? Общение посредством голоса должно быть в равной степени удобным и для компаний, и для потребителей. А для этого по мере созревания данной технологии необходимо учесть массу социальных, моральных и юридических аспектов. Как гарантировать соблюдение роботом этических норм? Как предотвратить манипулирование людьми во время разговора с помощью интонации и анализа эмоций? Что будут делать роботы с полученной информацией? Будут ли они запоминать номера кредитных карт, предпочитаемые блюда, выбранную парикмахерскую и периодичность ее посещения? Куда будет передаваться подобная информация, как она будет храниться, кто и что получат к ней доступ?

Важность ожиданий пользователей

Обращение с данными, необходимыми для работы наделенных голосом роботов, требует высочайшей ответственности. Организации должны знать, откуда данные поступают и как они объединяются. Смешиваются ли они с данными из других источников? Можно ли использовать эти данные для построения ИИ-моделей? Следует ли строить такие модели? Если скандалы последних месяцев по поводу использования данных социальных сетей хоть чему-то нас научили, так это тому, что компании не всегда учитывают негативные последствия новых популярных технологий и возможность злоупотребления ими.

Компании, развертывающие наделенных голосом роботов, должны быть также готовы удовлетворять огромные ожидания пользователей. Люди распознают голоса и инстинктивно определяют, как действовать по отношению к тем, кому они принадлежат. Если робот вашей компании говорит как Alexa, собеседник ожидает, что и вести себя он будет как Alexa. Несоответствие быстро вызовет у пользователей раздражение.

Хотя вскоре наделенные голосом роботы появятся повсюду, говорить с ними будет не всегда приятно. Они лучше всего подойдут для быстрых ответов на вопросы и выполнения простых заданий. Но их никогда нельзя будет полностью обучить ведению беседы о сложных человеческих материях. Компаниям по-прежнему будут нужны представляющие их люди, возможно, даже больше, чем когда-либо. Сложность человеческого дискурса, связанные с ним подлинные чувства и наша уникальная способность делиться опытом — такой вид голосового взаимодействия не может быть удовлетворительно синтезирован и автоматизирован.

При всех невероятно реалистичных поворотах разговора и высокой скорости обработки информации искусственным интеллектом наделенные голосом роботы все еще остаются неотлаженной новой технологией. Это подчеркивает важность контакта человека с человеком. Иногда вы звоните маме, чтобы просто поговорить. Никакой робот ее не заменит.