Новые «старые» горизонты
В конце 2010-х один из боковых проектов DARPA выделился в изолированное коммерческое направление.
В целом с ними это происходит регулярно – любые инновации неплохо было бы окупать на этапе опытно-промышленной эксплуатации, да заодно и тестировать в условиях приближенных к боевым.
На этот раз речь шла о программном модуле голосовых команд, части куда более крупного робототехнического начинания.
Новинку решили тестировать на самом популярной платформе того времени, производимой Apple.
Так на свет появилась Siri.
Первый блин вышел комом, второй – тоже покатился со стола. Только с третьего релиза появилось хоть что-то интересное.
Впрочем до середины 2010-х никто особенно не ухватился за идею и количество реальных пользователей оставалось небольшим.
Вслед за этим экспериментом все остальные производители начали с диким энтузиазмом практиковаться в сфере virtual assistants.
В частности, несколько лет назад Amazon презентовал Alexa.
Надо заметить, что имеет место интересный дисбаланс: штат разработчиков и аналитиков вокруг этих инструментов растет быстрее их популярности, так сказать авансом.
Voice recognition да и вообще AI темы, конечно, горячие, но не до степени содержания 2-5 тысяч человек (!)
А объяснение тут очень простое, проливающее свет на их реальную функциональность.
Это не только и не столько разработка, а головоломная научно-исследовательская деятельность.
Вот недавний пример деятельности virtual assistant.
Муж с женой разговаривали у себя дома в Портленде, рядом лежал телефон в спящем режиме и заряжался. Через некоторое время позвонил коллега мужа и рассказал душещипательную историю: он получил на почту звуковые файлы записи разговора пары и текстовую расшифровку их беседы.
При последующем осмотре, Alexa не показала признаков сохраненных записей и журнал команд был пустым.
Однако, при расшифровке заголовка отправленного письма выяснилось, что это был все-таки «жучок».
Amazon сослался, как водится, на экстремальную программную ошибку и «чудовищное совпадение», при котором в разговоре были одновременно даны команды на включение, запись, отсылку конкретному контакту в записной книжке, удаление логов и выключение.
Практически случайный сценарий :-)
Всякое же бывает, в конце концов.
Да-да.
В апреле компания Checkmarx исследовала Alexa на предмет уязвимостей системы безопасности.
Корректный сценарий такой: при возникновении непонятных ситуаций система ничего не предпринимает без явной внешней команды, а переспрашивает пользователя дважды, а затем выключается. Всё.
Таким образом уже этапа записи беседы не могло быть, там нужно произнести абракадабру, которую невозможно декодировать из случайного разговора.
Однако, в системных настройках можно изменить (и сделать это удаленно при обновлении) один параметр и в этом случае после включения Alexa сможет выполнять серию команд подряд, не спрашивая пользователя.
Более того, вся информация о командах и ключевых словах каждого наивного подписчика, как выяснилось, хранится в облаке Amazon. Неопределенное время.
Не хотите – делайте официальный запрос на удаление самостоятельно.
Считается, что сохраняется только и исключительно персональные данные, а не разговоры, ведущиеся людьми на фоне Alexa.
Проверить это в лоб нельзя, НО в этом году компания заявила патент, демонстрирующий оптимальное хранение аудио-информации в целях улучшения «диалоговых функций».
Ох уж эти фокусы, ох уж эти фокусники.
https://telegram.me/mikaprok
May 27 2018, 07:00:47 UTC 1 year ago
- Да.
- Подай иск на саму себя пожалуйста.
А вообще, неплохая идея для стартапа: ставить на пути всего домашнего трафика коробку с wireshark, отслеживать, куда какие потоки идут, и автоматически генерировать судебные иски.