V minulém roce se objevila zranitelnost hlasových asistentů při předávání příkazů na vysoké frekvenci, pro lidské ucho neslyšitelné. Nyní výzkumníci z university v Berkeley dokáží příkazy s normální frekvencí skrýt v bílém šumu nebo také v běžném mluveném textu a hudbě.
Lidé příkaz neuslyší, zato Amazon Alexa nebo Apple Siri ano. Zranitelnosti lze zneužít například k vytočení čísla, zobrazení webové stránky, provedení nákupu nebo třeba otevření dveří. Více detailů v článku.
(zdroj: slashdot)
RC filtr řeší příkazy na vysokých frekvencích, ale ne to o čem píše zprávička.
To by se muselo vyzkouset, bez zverejnenych detailu to ani nemuzes poradne posoudit. Kdyby bylo pasmo omezene na frekvence nutne k rozpoznani reci (tedy nejakych par kHz, neco jako u telefonu, ktery ma tusim 3,5 kHz), mohlo by to ledacos omezit nebo by treba bylo slyset, ze se ve zvuku neco skryva.
Ale nekulhá. Oba jsou produkty k užití. Jesli je to SW nebo HW je úplně jedno - má fungovat. Může mít chyby, ale:
prostě ten komu se ještě něco podobného nestalo je dost (nemám přesné slovo), aby na ostatní lacině hodil bobek se světáckou cool hláškou ... a až mu třeba po tom selhání brzd řekne pojišťovna: no když si tak blbý a věříš mechanikovi někde bůhvíkde, tak ... tak už podobné kecy nepovede. Možná ...
Ale rozporoval jsi to jako srovnání mechanického a nemechanického systému a podle toho, kdo to kde řídí, nikoliv podle délky vývoje - zde:
"A autu řídí brzdy nějaký server bůhvíkde? Navíc je to zase srovnání mechanického a nemechanického systému......"
A srovnávat vývoj automobilu od plenek průmyslu v době kdy se i dopis vozil koněm nebo holubem s délkou vývoje "aplikace" dnes a korporacemi se zázemím v universitách a tučnými rozpočty taky není vůbec šťastné.
Musí odpovídat prinicip (samozřejmě) a do něho musí sedět stejně vlivy okolí - ale nemusí být stejné - jenom mít stejný/porovnatelný vliv ....
@sudovec
Jasně, proč ne? Ale srovnávat délku cesty automobilu k dokonalosti z dob "kamených" až sem a vrobu SW korporacemi v současné době není správné. Ani to předchozí porovnání není v pohodě. Ale to je jedno, šlo o to, že říct někomu jen tak si "blb" že sis to pořídil a trp je ... no minimálně nerozumné ...
Třeba já se mohu klidně přiznat, že za celou tu dobu kterou vím o těchto asistentech mě nenapadlo jestli slyší pod hranicí slyšitelnosti. Pravda, nepoužívám je, ale ani tak z obyčejné zvídavosti mě to nenapadlo a myslím že drtivou většinu ostatních evidentně taky ne. Nejspíš ani původního @Honza
@Ravise
Jak jinak ...
Přirovnání sedí. Ve finále nejde ani o srovnání toho prostredku, ale situace, že koupíš - očekáváš že nějak funguje - objeví se závada a nějaký rozumbrada ti řekne že si blb, protože sis to neměl kupovat.
Podobné výroky většinou mají takoví ti čerstvě už dospělí těsně před tím, než vyletí z hnízda na vlastní pěst. Pak je to jaksi záhadně přejde a je klid. No a ty sis radši vybral rozbor brzd, tedy zásupného pedmětu koupě v očekávání normální funkčnosti, místo zhodnocení samotného přirovnání situace.
Když jsme tak u toho, tak naprostá většina současných aut má plyn elektronický, takže existuje možnost sw zaseknutí plné rychlosti, u některých modelu je navíc natolik elektronické řízení převodovky, že zastavení bylo problémem (už se stalo včetně pár mrtvých).
Do brzd se elektronika hrabe taky (ABS a další věci), takže reálně je dnešní auto taky "nemechanický systém" a srovnání sedí víc, než by se zdálo :-(
Do brzd už elektronika hrabe dosti agresivně. V koncernových vozech se tomu říká "front assist", lze vypnout v menu "infotaiment system", ale potom na palubní desce svítí výstražný trojúhelník, aby bylo každému jasné, že je snížena bezpečnost silničního provozu. Je to velmi příjemná funkce, zvláště když vozidlo zabrzdí v okamžiku, kdy to řidič nečeká, protože chytristika usoudí, že to nemá pod kontrolou.
Až bude Alexa a jiné hračky testovaná podobně jako automotive elektronika, pak to srovnání možná tak kulhat nebude ;-)
v autech* dnes uz brzda neni ciste mechanicka vec (tedy HW), ale o brzdeni/nebrzdeni muze rozhodovat i SW
a ten se da nabourat
cely 'vtip' problemu je v tom, ze to vzdy na zacatku vypada jako naprosta hracka, kravina, malickost, co se 'logicky neda zneuzit', snad jenom v nejakem specifickem pripade, za urcitych podminek, za nestandardni situace.
a tak dnes a dene zazivame na netu radeni botnetu ...
dnes si nekdo vyzkousi, jak na to - jde to ztezka, primitivne, malem pokus selze, je to spis k smichu, nez k uzitku, ale co z toho vyplyne, to se uvidi casem.
* https://www.root.cz/zpravicky/auta-je-mozne-hacknout-pres-autoradio/
BTW: mne napada hned na vstup pouzit soft na hledani signalu emzaku v sumu univerza ... a verim tomu, ze 'asistenti' urcite maji neco podobneho, aby zachytily prikazy (signaly) v hluku z ruznych prostredi a dokazaly je odfiltrovat, vycistit a porozumet jim i ve ztizenych podminkach (hospodyne vedle vysava a ja potrebuji zjistit aktualni pocasi, protoze chci na golf).
Ne. Autům trvalo přes století vývoje, mrtvol, zraněných a materiálních škod, přes které se dostala z naprosto primitivních zařízení, u kterých byla každému naprosto zřejmá funkce a případná rizika byla zkušenému zřejmá postupně do složitého technického zařízení se spoustou opatření, která zajišťují akceptovatelnou bezpečnost.
"Asistenti" jsou velmi složití, naprostá novinka a všechna opatření se teprve tvoří. Takže bych jim teď svěřil jen jednoduché věci...
Legrace je ta "akceptovatelná bezpečnost", protože na auta se (při nehodách) umírá asi nejvíce na světě. 1 250 000 mrvých ročně je masakr hodný světových válek... A to těžko řící kolik je zdevastovaných přeživších, protože to číslo bude ročně násobkem mrtvých.
Ale pravda je, že pohodlí něco stojí. :-)
Základní funkcí brzd je brzdit. Pokud selžou, tak nebrzdí.
Základní funkcí Alexy nebo Siri je provádět mluvené příkazy. Pokud selžou, tak se příkaz neprovede.
Takže nelze nesouhlasit s:
"Každý, kdo si bazmekem jako Siri, nebo Alexa, nechá otevírat dveře, nebo objednat či zaplatit za objednané zboží/služby, si to zaslouží..."
Napsat pod přezdívku Logik tohle je ... odvážné?
Článek popisuje situaci, kdy zařízení funguje na základě příkazu, který není "obsluze" zřejmý. Příkaz je provede, protože zařízení rozpoznalo mluvený příkaz ukrytý v bílém šumu. Tak to s tou logikou zkusíme ještě jednou, ano?
"Článek popisuje situaci, kdy zařízení funguje na základě příkazu, který není "obsluze" zřejmý."
Spíše začneme s tím, že definujeme, kdo je v případě Siri, Alexy, atd "obsluha". Potom můžeme pokračovat.
Celé je to o tom, že složité zařízení s celou řadou funkcí, která ještě nejsou technologicky zcela ověřené co do robustnosti a zneužitelnosti (viz reakce asistentů na hlas z TV a podobně) s sebou přináší rizika. Podle mne není technologie ještě dostatečně zralá na to, abych ji svěřil ovládání vchodových dveří od domu a nebo svou peněženku (objednávky zboží). Toť vše.
@sudovec
Ale to je o pocitu, o vnímání. Intely tu byly dlouho, řeklo by se odaladěné - to ale přece není pravda - často nové typy, hacky a architektury - tzn. potenciální místa chyb. A taky se stalo, jenom se dobu žilo v tom, že je to v pohodě. Takže subjektivně vnímané riziko tam nebylo, za to potenciální skutečně ano a taky se bohužel jaksi naplnilo a nejspíš ještě není konec. Bez přehánění, závažné díry asi jako tady ti asistenti, konečném důsledku možná horší, protože by přes ně asi mohlo jít nakonec napadnout ty asistenty. Obráceně nejspíš ne. A rozdíl? Jenom vnímá skrze pocit.
"procesory Intel jsou (byly) dost zralé?"
Myslim ze ty jsou zrale uz davno --> http://www.majorgeeks.com/news/story/random_photo_nsa_inside.html
....do popelnice !!
BTW soudruzi od Intelu nam pripravili uplne novou varku prekvapeni ;o) zatim se o tom moc nemluvi...asi lidem jeste nedoslo co je to zase za pruser:
https://thehackernews.com/2018/05/intel-spectre-vulnerability.html
Enjoy!
bezne kazde zarizeni ma dve faze vyhodnoceni, jestli ma dany prikaz vykonat:
- nejdriv identifikuje osobu, ktera prikaz vydava (autentizace), jestli je vubec znam danemu systemu,
- pak nasleduje provereni, jestli dana osoba ma opravneni k danemu prikazu (autorizace)
Nekdy jsou tyto faze jeste rozsirene o treti: potvrzovaci. Nektere citlive operace jsou potreba potvrdit ejste jednou.
Muze to byt pomoci zvlastniho kodu (sms, mail, klavesnice, ...) pres zvlastni, odlisny kanal komunikace, nez byl zadan samotny prikaz, anebo musi byt potvrzen dalsi osobou (princip 4 oci).
Primo s asistenty zkusenost nemam, snad krome pripadu, kdyz kolega ho testoval a psal pomoci ni nejake texty. Nechal ji v kanclu zapnute, odskocil si na kafe, mezitim dalsi kolega mel telefonicky hovor. Jak se da domyslet, asistentka se snazila porozumet o cem je rec a snazila se neco udelat ... nemusim dodavat, ze to kafe poradne zhorklo.
Vic jsme asistentku v kanclu nevideli :)
(evidentne je to slabe zabezpecene)
A po teto zkusenosti (a nejakem hrani si s RPi a speech recognition) myslim, ze ani nechci.
Je dobre si uvedomit, ze veskera akusticka komunikace se posila 'nekam ven', kde se na vykonnych masinach se provadi rozpoznavani, nasledne se zpatky posila 'neco' (text, nebo binarni roma 'prikazu') ... pokud bych tu masinu mel u sebe ve sklepe, odriznutou od sveta - tak proc ne.
Ale takto absolutne nemaje tucha, kdo a co provadi se zvukovym zaznamem z me domacnosti (kanclu, ...), nemam o zkusenost s nima zadny zajem.
@logik
"Základní funkcí Alexy nebo Siri je provádět mluvené příkazy. Pokud selžou, tak se příkaz neprovede."
Osobne si myslim ze zakladnim poslanim techhle bazmeku je dostat se lidem do bytu a tam delat neco uplne jinyho nez lidem nakukavaji jejich vyrobci:
To co se tady v clanku popisuje je vyuziti tzv. Dolpnin Attack alias technika vyuzivana pro "ultrasonic cross device tracking"
Kdyz si clovek uvedomi co se s tim da delat tak mu naskoci husi kuze, zaroven je zrejme ze lidi kteri tohle vymysleji si budto vubec neuvedomujou dosah svych technologii (viz nadseni CEO v ty reklame firmy Lisnr) anebo jim to je jedno a jde jim jen o $, coz je jeste horsi.
https://noagendaplayer.com/listen/1028/1-23-29
Kazdopadne prosty netechnicky uzivatel nema sanci se proti tomuhle ubranit.
Je to idealni na identifikaci jednotliveho uzivatele, jeho lokalizaci, podsouvani mu personalizovanych reklam, sledovani jeho TV/web preferenci a ve finale i jeho de-anonymizovani pri surfovani s TOR browserem......
Jednim slovem nastoupil "next level of surveillance capitalism".
http://lisnr.com/
Data Over Audio Through LISNR | Startup Battlefield Disrupt NY 2017
https://www.youtube.com/watch?v=hrn24xE8y-0
Docela by me zajimal seznam tech 230ti appek ktery tohle svinstvo maj v sobe uz zabudovany....
PS: prozatim proti tomu existuje pouze obrana typu "vykastrovani telefonu" a pouzivani hands-free, tak jak to tady ukazuje Snowden a kterou (coz neni bez zajimavosti) pouziva cim dal vic novinaru a POLiTiKU v DK......
Dokonce v DK parlamentu se cim dal vic prosazuje (coz vypravela sama 1 poslankyne) pravidlo, ze na dulezita jednani se mobil nenosi, nechava se v osobnim kanclu pripadne se zavira do kovoveho shakeru na koktejly coz je podle toho co politikum poradili white-hat-hackeri dokonale odstineni......
Tim se zvyky politiku priblizily tomu co DK podsveti praktikuje uz roky :o))))
'State of Surveillance' with Edward Snowden and Shane Smith (VICE on HBO
https://www.youtube.com/watch?v=ucRWyGKBVzo
PS: tohle je taky hodne vyzivna prednaska:
USENIX Enigma 2018 - Stranger Things: Who’s Listening When the Device Is Always On
https://www.youtube.com/watch?time_continue=28&v=hOMy5DEi7Cs
1 hacker-aktivista tuhle slavnou "panenku pro deti" testoval pres Wireshark a nasledne rozebral a sel s tim do radia kde zpusobil solidni zdeseni kdyz popsal co to svinstvo vsechno sbira za data a jakej je dosah potencialniho zneuziti.....nasledne tahle "hracka" byla v zemi zakazana (v Nemecku zrovna tak) a zaclo se mluvit o tom zda je nutny zprisnit legislativu aby "firmy nelezly detem az do postele"......
...coz osobne moc nechapu kdyz pravo na skoukromi je primo zakotveny v Ustave, a vsechny tyhle varianty bazmegu maj jedinej cil= profilovat uzivatele a lezt mu do soukromi....
@Silhavy
"Asi jako každý řidič, který sedne do něčeho tak nebezpečného, jako je auto. Mohl přeci čekat, že brzdy selžou!"
Silhavy prober se!
Pokud VESKERE systemy v aute ridi elektronika ktera je navic mizerne zajistena a diletantsky chranena proti hacknuti zvenku (napr pres entertain/info-system) pak ANO pak muze naprosto jiste ocekavat ze mu nekdo ty brzdy vypne- viz tady:
Hackers Remotely Kill a Jeep on a Highway | WIRED
https://www.youtube.com/watch?v=MK0SrxBC1xs
Protoze to je demo a nechteli ho zabit tak mu jen vypnuli motor na dalnici, mohli ho zrovna tak ale nechat zabrzdit v plny rychlosti (coz demonstrovali bezpecne na tom parkovisti kdy ho poslali do prikopu) anebo seslapnout plyn na podlahu a brzdy odpojit- navic dokazali prevzit kontrolu nad volantem coz je uplne sileny....
Pokud jde o odpojeni brzd a plnej plyn tak by ti o tom moh neco povypravet tento pan:
http://www.foxnews.com/politics/2013/08/14/journalist-michael-hastings-reportedly-working-on-story-about-cia-chief-before.html
https://www.youtube.com/watch?v=PqLZ2Tf_o9U#t=23m
Teda vlastne nemohl-je uz po smrti.
Tohle je duvod proc v EU je ze zakona povinnost mit MECHANICKOU parkovaci brzdu, ne tak v USA.
Na druhou stranu EU tlaci do aut povinne ty slavne black-boxy "pro zajisteni pomoci v pripade nehody a bezvedomi ridice", coz je presne 1 z der primo do systemu auta..... cili klasicke "cesta do pekla je dlazdena dobrymi umysly" anebo lepe receno "kdyz hov.no smrdi je potreba ho hezky zabalit" aka zvasty o bezpecnosti na silnicich.
V USA na tyhle black-boxy a hlavne zabudovanej "kill-switch" v nich hodne tlacili policajti protoze "pak by bylo mozny na dalku vypnout auto s prchajicim zlocincem" :o)))
PS: Tesla je zas oblibena hracka hackeru v Cine:
Car Hacking Research: Remote Attack Tesla Motors by Keen Security Lab
https://www.youtube.com/watch?v=c1XyhReNcHY&feature=youtu.be
Takz asi tak ty selhavajici brzdo :o)))
Každý kdo si dá takovýho smiraka domu je hlupák. Na to nepotřebuješ nějaký srovnání s brzdami. Nebo není hlupák nýbrž nezná vůbec nic o historii. Tak dlouho se bojuje proti stenicim a odposlechum až si to lidi z lenosti dají sami. Myslet si že takové zařízení nelze zneužít může jen naivní blázen. Dneska cenzura na netu, zítra u dveří fizlove za špatné smýšlení napraskane takovým Uchem (to je nápověda k poučení)
Doba naštěstí pokročila a není třeba full-duplex modemů k výměně informací po telefonních linkách ;-)
https://ai.googleblog.com/2018/05/duplex-ai-system-for-natural-conversation.html
