mikaprok (mikaprok) wrote,
mikaprok
mikaprok

Categories:

Большой У-у-у-х



Новые «старые» горизонты

В конце 2010-х один из боковых проектов DARPA выделился в изолированное коммерческое направление.

В целом с ними это происходит регулярно – любые инновации неплохо было бы окупать на этапе опытно-промышленной эксплуатации, да заодно и тестировать в условиях приближенных к боевым.

На этот раз речь шла о программном модуле голосовых команд, части куда более крупного робототехнического начинания.

Новинку решили тестировать на самом популярной платформе того времени, производимой Apple.

Так на свет появилась Siri.

Первый блин вышел комом, второй – тоже покатился со стола. Только с третьего релиза появилось хоть что-то интересное.

Впрочем до середины 2010-х никто особенно не ухватился за идею и количество реальных пользователей оставалось небольшим.

Вслед за этим экспериментом все остальные производители начали с диким энтузиазмом практиковаться в сфере virtual assistants.

В частности, несколько лет назад Amazon презентовал Alexa.





Надо заметить, что имеет место интересный дисбаланс: штат разработчиков и аналитиков вокруг этих инструментов растет быстрее их популярности, так сказать авансом.

Voice recognition да и вообще AI темы, конечно, горячие, но не до степени содержания 2-5 тысяч человек (!)

А объяснение тут очень простое, проливающее свет на их реальную функциональность.

Это не только и не столько разработка, а головоломная научно-исследовательская деятельность.

Вот недавний пример деятельности virtual assistant.

Муж с женой разговаривали у себя дома в Портленде, рядом лежал телефон в спящем режиме и заряжался. Через некоторое время позвонил коллега мужа и рассказал душещипательную историю: он получил на почту звуковые файлы записи разговора пары и текстовую расшифровку их беседы.

При последующем осмотре, Alexa не показала признаков сохраненных записей и журнал команд был пустым.

Однако, при расшифровке заголовка отправленного письма выяснилось, что это был все-таки «жучок».





Amazon сослался, как водится, на экстремальную программную ошибку и «чудовищное совпадение», при котором в разговоре были одновременно даны команды на включение, запись, отсылку конкретному контакту в записной книжке, удаление логов и выключение.

Практически случайный сценарий :-)

Всякое же бывает, в конце концов.

Да-да.

В апреле компания Checkmarx исследовала Alexa на предмет уязвимостей системы безопасности.

Корректный сценарий такой: при возникновении непонятных ситуаций система ничего не предпринимает без явной внешней команды, а переспрашивает пользователя дважды, а затем выключается. Всё.

Таким образом уже этапа записи беседы не могло быть, там нужно произнести абракадабру, которую невозможно декодировать из случайного разговора.




Однако, в системных настройках можно изменить (и сделать это удаленно при обновлении) один параметр и в этом случае после включения Alexa сможет выполнять серию команд подряд, не спрашивая пользователя.

Более того, вся информация о командах и ключевых словах каждого наивного подписчика, как выяснилось, хранится в облаке Amazon. Неопределенное время.

Не хотите – делайте официальный запрос на удаление самостоятельно.

Считается, что сохраняется только и исключительно персональные данные, а не разговоры, ведущиеся людьми на фоне Alexa.

Проверить это в лоб нельзя, НО в этом году компания заявила патент, демонстрирующий оптимальное хранение аудио-информации в целях улучшения «диалоговых функций».





Ох уж эти фокусы, ох уж эти фокусники.

https://telegram.me/mikaprok


Tags: #alexa, #виртуальный ассистент, #ит, #сша, #техника, alexa, amazon, humour, it, usa
7
- Алекса?
- Да.
- Подай иск на саму себя пожалуйста.

А вообще, неплохая идея для стартапа: ставить на пути всего домашнего трафика коробку с wireshark, отслеживать, куда какие потоки идут, и автоматически генерировать судебные иски.
Причем анализатор трафика будет производства Amazon. И никаких проблем.

Dmitri Kolevski

May 27 2018, 13:31:40 UTC 1 year ago Edited:  May 27 2018, 13:33:06 UTC

Мир Дикого Запада 2 на марше: устройства и машины не для нашего удовольствия, а для сбора маркетинговых данных и компромата
"И то, и другое, и третье"
На этот раз речь шла о программном модуле голосовых команд, части куда более крупного робототехнического начинания.

Что-то не видно этих роботов. Как Вы думаете, будет ли вообще их внедрение в среднесрочной перспективе? А то уже все устали ждать. :-)
Конечно будет. Следы этого явления повсюду. Если же говорить про андроидов в полной сборке, то это настолько комплексное и цивилизационное явление, что стоит подготовиться и подождать.

Терпение, кстати, сегодня самый дефицитный товар. И это не только источник бизнеса на несколько миллиардов $, но и одна из характеристик, отделяющих волков от овец.
>Терпение, кстати, сегодня самый дефицитный товар. И это не только источник бизнеса на несколько миллиардов $, но и одна из характеристик, отделяющих волков от овец.

Воспоследует ли развитие этого тезиса? Очень уж, так сказать по-шкурному, любопытно.
Мне кажется, я все раскрыл. Куда уж дальше? :-)

С одной стороны -- время главный и единственный ресурс человека. С другой -- необходима единая и последовательная система его планирования. Она требует терпения. Тот, кто умеет терпеть, сосредотачиваясь на главной, побеждает. Тот, кто не умеет, неизбежно проигрывает.
волков от овец?
"С одной стороны -- время главный и единственный ресурс человека. С другой -- необходима единая и последовательная система его планирования. Она требует терпения. Тот, кто умеет терпеть, сосредотачиваясь на главной, побеждает. Тот, кто не умеет, неизбежно проигрывает."

вот про это бы пост почитать...
Ох, напишу как-нибудь
Говоря о волках и овцах, Вы имели ввиду кого-то конкретных? :-)
Нет, конечно. Фигура речи. Есть те, для кого процесс это цели, а есть те для кого они сами цель.
Дык, и у нас с прошлого года та же петрушка. Обсуждали как-то во время обеда с коллегами печи для дачи, пришли на работу, у всех всплывает реклама буржуек.

Будущее уже наступило!
Дык, технологии-то одни и те же.
Известно, что прелюстрацией писем начали массово заниматься во время ПМВ. Появилась привычка не доверять важных вещей бумаге.
Потом начались прослушки телефона и появилось правило "не телефонных разговоров".

Интересно, как в этот раз человечество выкрутится? Начнет общаться жестами?
Есть видеокамеры и recognition.

Тут вопрос зачем и кому выкручиваться. У 90% наблюдаемых не может быть никаких секретов.
"Тут вопрос зачем и кому выкручиваться. У 90% наблюдаемых не может быть никаких секретов"

У Лема был рассказ о том, как в будущем тотальная слежка за всеми стала рутиной. Любой мог следить за кем угодно и знал, что кто-то постоянно следит за ним самим. В результате народ избавился от кучи неврозов, потому что стыдного или общественно недопустимого поведения больше не стало. Стало допустимым ковыряться в носу, испражняться на улице и т.д.

Кажется, нас ждёт именно эта версия будущего.
Вот не хотелось бы такого будущего