ИИ. Искусственный или идио...?

О развитии нейросетей, искусственного интеллекта и связанных с ними перспективах говорят много, часто и в самых разных тонах. Кто-то грезит чуть ли не киберпанком в реальности, кто-то не без оснований опасается за тысячи, если не миллионы рабочих мест, которые могут узурпировать умные машины. Тем временем, как принято говорить, будущее ближе, чем кажется — искусственный интеллект в том или ином виде уже активно используется во многих высокотехнологичных компаниях.

Среди пионеров использования ИИ, наиболее близких к массовому потребителю, отличились банки — именно они все чаще говорят об автоматизации внутренних процессов для исключения человеческого фактора и уменьшения числа утечек и проблем. И не только говорят, но и активно действуют — ИИ уже участвует в подборе персонала, точнее, той его части, которая пока еще нужна. Кроме того, решение о выдаче кредитов тоже все чаще доверяют не кредитным специалистам, а системам искусственного интеллекта.

Но будь все гладко — не было бы и этой статьи, да и обсуждать процесс не имело смысла: когда со всех сторон все хорошо — это отлично! Только вот так не бывает, к сожалению. Из недавнего в памяти всплывают скандалы с паролем «CRYVKILLJEWS» от Сбербанка и «отрезанными пальцами» от Тинькофф Банка. В первом случае речь вроде бы о генераторе кодов, во втором — просто «неудачная шутка бота», казалось бы особого криминала тут нет — каких-то реальных проблем пользователи не испытали, без денег не остались.

Но вот незадача — эти случаи, лишь по случайности ставшие чуть ли не известнее интернет-мемов, далеко не самое неприятное, что может произойти. Ниже изложены реальные и весьма распространенные проблемы, возникающие с помощниками и прочим ИИ.

Как оказалось, голосовой помощник Сбербанка — крайне общительная «личность», владеющая информацией и готовая ей поделиться. Например, есть подозрение на обнаруженную уязвимость, позволяющую злоумышленникам узнать баланс карты жертвы и ее последние операции. Сам банк уязвимость не признал и от комментариев отказался, но, хочется верить, информацию проверил и необходимые меры принял.

И даже когда голосовой помощник не связан напрямую с банковским софтом, из него получается весьма щедрый распорядитель вашими финансами. Так, Siri может отправлять деньги посредством СМС-банкинга при наличии на устройстве приложений уже упомянутых выше банков. Об этой проблеме известно, с ней борются, но, по признанию самих банков, пока безрезультатно. Спасают только внутренние ограничения на суммы не требующих подтверждения кодом СМС-переводов.

Собственно, даже ходить далеко не надо — несколько дней назад автору этих строк потребовалось подтвердить денежный перевод — система его заблокировала, попросив подтверждение по телефону. Кто сталкивался с системой подтверждения раньше — наверняка помнит длительную цепочку действий вида «прослушай меню — выбери действие — прослушай следующее меню». Тогда она казалась долгой и нудной. Но только не сейчас, когда при определенных обстоятельствах телефонный доступ в банк просто прекратился. В теории все просто — достаточно четко произнести свой запрос и голосовой помощник либо сам решит вашу проблему, либо переключит на оператора. Но сделает он это только в том случае, если ему не помешает что-то из перечисленного:

1) Вокруг вас шумно.

2) Связь плохая или с помехами.

3) Вы не простужены и не хрипите или шепчете.

4) У вас нет заикания и нормальная дикция (например, картавость очень сильно скажется на ваших успехах в общении с нейросетью, поскольку в ключевом слове «оператор» целых ДВЕ буквы «Р»).

5) Вы имеете возможность говорить громко и четко.

6) Ваш микрофон имеет достаточную чувствительность.

Если же у вас проблемы с чем-то из списка, то обращение в банк может закончиться ничем. В моем случае получилось шикарное комбо — не идеальная дикция, слабенький микрофон, встроенный в наушники-капельки, и открытое окно в помещении. Разговор не задался сразу. Даже в ответ на предельно четкие команды «оператор», «соедините с оператором», «нужен оператор» помощник упрямо твердил «проверьте связь», «кажется, я вас не понимаю», «повторите, пожалуйста».

Что делает человек в такой ситуации? Правильно, ругается матом. Ок, проругался, успокоился, позвонил еще раз. Окно закрыто, в столе обнаружился старенький, но рабочий микрофончик, горло прочищено (разве что яйцо сырое не съел и не распелся в лучших оперных традициях). В этот раз с третьей (!!!) попытки система разобрала слово «оператор» и меня благополучно соединили с живым человеком, который сделал все необходимое за пару минут. Хэппи энд. Но осадочек остался. Во-первых, я никуда не спешил и мог провести платеж позже, от этого не зависело буквально ничего. Во-вторых, я имел возможность «изолироваться от окружающей среды» и улучшить качество передачи голоса за счет смены микрофона, что и было сделано. А еще звонящий может находиться за рубежом (где любые проблемы критичны из-за невозможности оперативно зайти в ближайшее отделение) — тогда этот разговор еще и в копеечку влетит.

А если бы на моем месте оказался предприниматель, у которого «зависла» оплата заказа или ему нужно срочно оплатить кредит или лизинг? А что если надо заблокировать карту (слово блокировка в меню стоит отдельно, но см. выше про оператора)? Что если человек при этом находится далеко от офиса, где нет возможности установить полную тишину? А если он за городом и «сотовый» плохо ловит? Живой человек часть фразы услышит, часть переспросит, часть поймет по опыту — и вопрос клиента будет решен оперативно, чего сейчас зачастую не происходит. Собственно, найти кучу негативных отзывов на эту систему не составит труда — она пока слишком несовершенна.

Какой вывод можно сделать? Очевидно, что усилия банков по автоматизации и внедрению ИИ продиктованы исключительно благими намерениями — ускорение бизнес-процессов, повышение уровня безопасности, устранение шансов на утечки данных из-за человеческого фактора. Проблема лишь в том, что это первые шаги и системы пока далеки от идеала. Но они развиваются, становясь эффективнее и надежнее год от года. Если что и стоит сделать — это смягчить переход от «кнопочных» контактов к «голосовым», чтобы исключить описанные выше проблемы, которые могут обернуться для клиентов крупными убытками и неудобствами. И, конечно, первое, что стоит развивать в этом направлении, кроме удобства, это безопасность.