Созданное исследователями ИБ экспериментальное приложение для умных колонок Amazon Echo заставило виртуального ассистента Alexa шпионить за покупателями, автоматически записывая каждое сказанное слово.

Исследователи из Checkmarx рассказали Threatpost, что создали для голосового помощника экспериментальный навык (приложение), который позволяет недобросовестно пользоваться встроенными в виртуального ассистента функциями обработки запросов.

Вредоносный навык начинает работу с запуска обычного сеанса голосовых команд. Однако Алекса не прекращает прослушивание даже после того, как пользователь закончил работу с устройством. После прослушивания все распознанные слова перегоняются в текст, который отправляется на указанный адрес.

Исследователи Checkmarx сообщили о своем эксперименте специалистам Amazon, и уже 10 апреля ошибку в коде исправили.

Экспертам удалось использовать в своих целях встроенную в Алексу библиотеку JavaScript, которая отвечает за завершение прослушивания. При корректной работе она должна запрашивать у пользователя подтверждение и закрывать сеанс, если устройству не удалось разобрать ответ. Специалисты Checkmarx подправили код таким образом, чтобы Алекса продолжала слушать независимо от того, поступила голосовая команда или нет.

Помимо этого, исследователи столкнулись с препятствием в виде функции “повторной подсказки”. Она используется Алексой в случае, когда ответ пользователя не удалось распознать с первого раза. Чтобы цикл прослушивания начинался незаметно для пользователя, повторную подсказку сделали молчаливой.

Потенциальным злоумышленникам предстояло перегнать записанные голоса в текст. Вот что говорится в отчете Checkmarx: “Чтобы дать возможность прослушивать и транскрибировать любой произвольный текст, мы прибегли к двум хитростям. Во-первых, добавили новый тип слота, который записывает любое одиночное слово, а не только слова из ограниченного списка. Во-вторых, чтобы обойти ограничение на длину слов в предложении, мы были вынуждены создать форматированные строки для каждого возможного количества слов”.

Но некоторые ограничения обойти не удалось: например, каждый раз, когда Алекса активирует прослушивание, на устройствах Echo загорается яркое голубое кольцо, которое пользователь может заметить и понять, что за ним шпионят.

Когда о проблеме стало известно Amazon, она применила определенные критерии для выявления и блокировки шпионских навыков в процессе их сертификации. Например, теперь система выявляет “пустые” повторные подсказки и подозрительно длинные сеансы.

По словам исследователя Ялона из Checkmarx, перед размещением в магазине Amazon каждый “навык” проходит процедуру сертификации и утверждения.

“Доверие клиентов очень важно для нас. Мы крайне серьезно относимся к вопросам безопасности и конфиденциальности. Поэтому мы ввели специальные меры для выявления и блокировки навыков такого типа”, — сообщил Threatpost представитель Amazon.

Эксперимент Checkmarx поднимает ряд вопросов о рисках для безопасности и конфиденциальности, которые могут представлять голосовые службы наподобие Алексы и подключенные устройства для дома в принципе.

В сентябре прошлого года исследователи из университета Чжэцзяна представили экспериментальную разработку, которая отдает потенциально вредоносные команды популярным голосовым помощникам, таким как Siri, Google, Cortana и Alexa, с помощью ультразвука, а не голоса.

Спустя два месяца поставщик средств безопасности Armis сообщил, что устройства Amazon Echo и Google Home беззащитны перед атаками через уязвимость беспроводной связи Bluetooth под названием BlueBorne.

Категории: Главное, Уязвимости