Siri, Cortana či Alexa jsou vlastně hloupé, říká vývojář Facebooku

No, osobne mi to zase prijde tak ze si nejakej frajer stejne jak Dolph na Lzive.cz definoval co je AI a jak ma vypadat. Chapu ze se nekam dostal, ale rict ze sme se neposunuli od doby kdy se zpracovavali jen presne prikazy az do dnes kdy mame strojove uceni mi prijde kratko-zrake. Driv fungovalo spolehlive snad jen cteni SPZ za poziti OCR, protoze se slozite naprogramovalo, ktere tvary ma program v obrazu hledat, spolehlivost pak vychazela z toho jak dokazal autor implementovat ruzne deformace techto tvaru apod. Dnes zjednodusene receno, vezmu miliony vzorku ruznych veci a jsem z obrazku schopen vytahnout SPZ, barvu auta, pocet pasazeru(za predpokladu ze je videt dovnitr), jak bylo aktualne pocasi apod. Toto zaroven koliduje s tim tvrzenim ze neni mozne(nebo se pozivaji techniky kde se s timto nepocita) aby se AI naucila neco noveho a nezapomnela neco stareho. Priklad je treba Google Photos. Snad museli tu AI ktera mi umoznuje vyhledat auta v mych fotkach, zvirata, hory apod. naucit na milionech fotek jak vypadaji hory, jak vypada pes, auto apod. nebo ji to ucili najednou? Nicmene jde o uhel pohledu, mohu rict "Umi rozpoznat objekty na obrazku" coz tvrdi to ze umi jen jednu cinnost nebo mohu rict "Umi rozpoznat psa a taky umi rozpoznat kocku a taky umi rozpoznat jejich barvu" coz je zase definice vice dovednosti(hlavne v porovnani rozpoznani obrazu pred 10ti lety).

Jenže konvoluční neuronové sítě na zpracování obrazu jsou známé dlouho. Co se změnilo je dostupnost výkonného hardware pro paralelní výpočty. Algoritmy jsou (obecně) stejné jako před 20 lety, ale můžeme si dovolit počítat složitější a větší sítě.

To co popisujete ohledně rozpoznávání objektů na obrázku se jmenuje feature detection a ano, učili to všechno najednou. Stav přeučení sítě také opravdu existuje (to zapomínání nebo zkomolení).

Souhlasim, ale i ten HW je pokrok, ktery nam umoznil treba to ze jedna sit uci druhou apod. To co jsem popisoval bylo prirovnani, ktere melo tento pokrok zvyraznit. Take nic z toho nemeni fakt ze ten clovek si definoval sve vlastni hranice co neni a co uz je AI a co je hloupa AI a co je chytra. Myslim si ze pokud neprijde nejaka HW revoluce tak se algorytmy pro neuronove site moc nezmeni, maximalne se zrychli uceni nebo vyhodnoceni apod. Ty principy vsak zustanout a jedine co do budoucna bude revoluce je to ze se poradne a jednoduse vyresi to "preuceni".

Navic pokud chceme vychazet/porovnavat podle lidskeho mozku pak ani nevidim duvod preuceni resit. Dejme tomu v telefonu ci robotovi budeme mit nekolik neuronovych siti (rozpoznani obrazovych dat, rozpoznani zvuku, atd) pak uz staci i "hloupy" program ktery jednotlive site propoji tak ze telefon bude treba schopny syntetickym hlasem rict co prave natacite pres fotak. Pokud to budeme chtit dostat na vyssi divci, tak misto toho "hloupeho" programu pouzijeme dalsi neuronovou sit(ted me akorat nenapada na co by to bylo dobre).

S odpuštěním, připadá mi, že byste nevěřil ani nevinnému dítěti, že je císař nahý. Představy o tom, jak by měla opravdu vypadat inteligence a co to inteligence je, nemusí být pro každého úplně stejné, ale člověk nepotřebuje nic takového přesně definovat, aby dokázal chápat intuitivně a myslím si, že v článku zmíněné představy o tom, jak by měla umělá inteligence vypadat, aby dokázala působit lidsky, jsou docela srozumitelné a podle mého názoru i reprezentativní. Pokud bych měl já sám přiblížit, jak bych si představoval opravdovou inteligenci, která se dokáže učit komunikací s člověkem, uvedl bych například toto. Pokud bych dal AlphaGo (dnes už to asi nepotřebuje ale řekněme předtím, než bylo vytrénováno na úroveň alespoň danového hráče) přečíst Umění války od mistra Sun Tzu, dokázal by si něco z toho vzít a použít to pro zlepšení své hry. Například, "pokud chceš zaútočit od severu, zaútoč nejprve menším oddílem z jihu". Nebo třeba naopak některé principy/přísloví z go by dokázal aplikovat na jiný obor, například umění rétoriky. Jenže takového provázání různých oborů není dnešní AI schopno a právě to je myšlenka článku. AI vytrénované pro hru go, nedokáže nic z toho uplatnit třeba pro hraní šachů nebo třeba použít naučené principy pro sepsání studijní příručky jak hrát go lépe. Pokud by se mělo AI AlphaGo naučit hrát warcraft, bude se muset kompletně přeučit, nepoužije nic z toho, co se naučil o go a ještě navíc bude naučené vědomosti o go oslabovat, protože to pro hraní warcraftu nebude potřebovat a bude to považovat za zbytečná neuronová spojení, která mu s řešním aktuálního problému nepomáhají.

Jak já to vidím a co jsem vyčetl i v článku, současná AI se neumi chovat lidsky přirozeně, protože nedokážou využít naučené věci z jednoho oboru pro obor jiný a to souvisí s tím, co je zmíněno v článku a to je učení se od lidí prostřednictvím komunikace. Například vést filosofický rozhovor s někým (klidně i sám se sebou) a poznání, ke kterému dojde, využít v něčem úplně jiném.

Proč by měla umělá _inteligence_ působit lidsky? Typický člověk je úplně blbý, chytrá menšina schopná oprostit se od stereotypů je považována zbytkem společnosti za divnou či dokonce „nelidskou“.

Pokud chcete hledat nejake paralely mezi lidskou I a AI, tak selzete. Nejblizsi prirovnani bych nalezl az pokud bych v lidske I dosel ke konci autistickeho spektra, kde se nalezaji lide excelujici v reseni velmi komplikovanych a velmi specifickych problemu a neschopni ci neoochotni se adaptovat na okoli ci ignorovat nedulezite detaily. Jedinou paralellu vidim v urcite emergentnosti chovani ale to bych nenazyval inteligenci.
Jinak NN jsou vice mene jen komplexni reaktivni agenti a jejich vykon/presnos­t/fitness klesa velmi strme a velmi rychle k nule, pokud jsou nuceni existovat mimo ty vymezene pracovni podminky (definovane trenovaci sadou).

Pro mne soukromne (jako pro cloveka ktery se tim zivi) je paradoxne mnohem bliz urcite inteligenci (G)EM algoritmus a jeho odvozeniny, jelikoz dokaze najit struktury v raw datech bez nejakych dodatecnych informaci od ucitele.

Autonomni auta zpusobovat nehody budou. Bezpochyby!
Povazoval by jste napriklad 10 mrtvych denne vinnou AI za prijatelnou cenu za prechod na plne autonomni rizeni?
A co takhle 100 mrtvol denne?
A to je presne momentalni trend od lidi co autonomni rizeni prosazuji. Jinak receno AI bude ridit mizerne, presto se snadno muze stat, ze lepe nez clovek protoze napriklad netrpi slepotou z nepozornosti (invisible gorilla).
Lide za volantem totiz zabiji pri dopravnich nehodach pres 3200 lidi kazdy den.
To jen jako namet k zamysleni.

Autonomi auta jeste nemusi znamenat AI. To bude stejne nejspis nejaky velmi pokrocily automat, ktery budou neznali lide interpretovat jako AI (na zaklade dojmu), stejne jako pro "krovaky" letadlo jsou nebeske sane boha ktery k nim sestoupil .... ostatne v provozu neni zadna velka inteligence potreba, tam je potreba dodrzovat pravidla, mit tuny presnych rutin reakci.Ano, kusi to byt znacne sofistikovane, ale AI vlastne ani neni potreba, auta si nepotrebuji nezavisle vykladat, neco rozvijet nebo snad vymyslet ....

Viz niz, presne tohle nefunguje a nikdy nebude.

Nemůžu úplně souhlasit, v oblasti ML a AI se toho děje spousta, akorát si teď většina inzenyrsteji orientovaných lidí a podniků našla nové blyskave kladivo, které jim umožňuje nerozumet problemu, který řeší (což někdy je prostě realita a někdy amaterismus/ší­lenství těch lidí, když mysli, ze nukleární elektrárnu lze řídit pomocí neuronovky) a jednak se můžou svézt na hype. A druhak nepodceňujte problémy spjaté s trenovanim - backprop na papíře je jedna věc, ale stabilizace a eliminace katastrofickeho zapominani a podobných problémů je stále otevřený problém (jak vědecký, tak inzenyrsky).

Ano primitvna dnesna AI v zasade je, minimalne z pohladu inteligencie. Na druhu stranu aj na to aka je primitivna a nedokaze s informaciami komplexnejsie pracovat, uz teraz su niektore vysledky minimalne zaujimave a ukazuju ze dnesna spolocnost nieje moc dobre pripravena ani na tu dnesnu AI a nie este na nieco pokrokovejsie. A tym nemyslim len socialne/mentalne ale aj legislativne.

Ako tu uz bolo spomenute v zasade dnesna AI pouziva zaklady a teorie ktore boli popisane uz v 80tych rokoch. Iste nejaky vyvoj nastal ale hlavne to co umoznilo aplikovat tieto teorie do reality je pokrok vo vykone hw za posledne roky a tam ma clanok, respektive vyvojar pravdu.
Co je ale trochu zvlastne az znepokojive ze prakticky v ziadnom clanku o AI (teda hlavne tych co ju ospevuju) sa malo kedy spomenie ze samotna AI nikdy nebude 100% uz len z principu ucenia sa a teda nutnosti robit chyby. Chapem ze asi by sa moc dobre nepradavalo auto kde by bolo v popise ze autonomne riadenie fungje povedzme na 95% alebo 98%, ono chyby nastavaju aj v pevnych algoritmoch, respektive pri ich implementacii ale toto je nieco celkom ine.
Staci sa pozriet na nedavne prihody buraciek Tesly kedy auto napriklad z nejakeho dovodu nevyhodnotilo cervene hasicke auto ako prekazku.

Mě spíše děsí představa, že si autonomní auto bude v kritické situaci vybírat koho "sejme". Například že by si vybralo staršího muže na protější straně přechodu, který se choval podle pravidel silničního provozu, aby ušetřilo nezodpovědného puberťáka, který zahleděný do mobilu vstoupil na přechod přímo před auto už na červenou. http://moralmachine.mit.edu/

Samozřejmě, že ideální je se do takové situace vůbec nedostat a já vůbec nepochybuji o tom, že auto se bude snažit krizové situaci předejít. Ale můj příspěvek se týká něčeho jiného, můj příspěvek je o tom, jak se auto zachová, když se do takové situace přesto dostane ...
https://www.root.cz/zpravicky/opticke-klamy-pro-umelou-inteligenci/
http://blog.hysteria.sk/hackovanie-ai/

Ano, to je pochopitelně koncepčně chyba, protože zařvat má ten, kdo to posral. Mimochodem upozorňuju, že to tak nefunguje na silnicích ani dnes, je běžné, že čechozmrd zabije nevinného. Z toho pohledu by paradoxně mohlo dojít robotickým řízením k zlepšení.

Zadny auto nebude nikdy schopny nahradit ridice, pokud se zcela zasadne nezmeni infrastruktura. Je to proste nerealny.

Duvodu je spousta - uz jen to, ze ridici zcela vedome porusujou predpisy (denne a neustale) protoze kdyby to nedelali, tak nikam nedojedou. Vsude u silnic se ti valej zapomenuty znacky, na silnicich zustava prechodny znaceni atd atd ... coz by stroj respektoval a prave tim te zabil.

Naprosto bezne v nasich podminkach je na dalnici trebas omezeni, ale vztazeny jen na jeden pruh, takze v tom druhym/tretim/... si muzes valit tech 130 klidne az ke zuzeni ... ktery neni nasledne nijak ukonceny, takze dalsich 200km muzes jet vlastne predpisovych 60. Coz je presne to, co udela stroj.

O technickych ficurach, jako ze auto vidi prekazku tam, kde zadna neni, zato ji nevidi tam, kde je ani nemluve. Vsechny tyhle veciciky fungujou jen nekdy a za idealnich podminek, prestavaj fungovat v desti, mlze, snehu atd atd.