Si zjisti, jak vypada mechanika narazu do auta, a pak ti treba dojde, proc ze se snazi vsichni tvarovat predek auta tak, aby chodec pokud mozno pres auto preletel. Kdyz tam das aibag, tak ho srazis pod to auto.
Jinak sem si nevsim, ze by na vystreleni aibagu byl treba autopilot.
Ve finale, driv nebo pozdejs se bude predevsim u soudu resit, kdo za to muze. A tady je - driv nebo pozdejs, naprosto zrejmy na koho ta zodpovednost padne - na vyrobce. Presne stejne to totiz funguje treba v letectvi - pokud nejaky system zpusobi skody na zivotech, tak za to vzdy muze jeho vyrobce. Tzn v tomhle pripade je na automobilce, jestli si mysli, ze bude levnejsi resit pasazery vozu, nebo klidne i desitky lidi jim srazenych. A ver tomu, ze driv nebo pozdejs jim jednoduse vyjde, ze je zcela vzdy levnejsi resit tech maximalne 5 lidi uvnitr, nez potencielne klidne stovku lidi nekde na zastavce.
Ostatne, pokud tobe skoci chodec pod auto, tak za to stejne muzes ty (az na extremne vzacne vyjimky), protoze ti u toho soudu reknou, ze si mel a mohl predvidat, ze se v danem miste muze chodec vyskytnout a prizpusobit parametry jizdy tomu, abys strihl na takovou situaci reagovat. (a ano, tuhle picovinu ti klide reknou i vpripade, ze toho chodce sejmes na dalnici ...)
Porad je posadka vozu ta nejmene vhodna obet. Pokud tedy autopilot nebude mit vyhodnocovaci podminky typu "jestlize je chodci min nez 10 a nejmladsimu clenu posadky vice nez sedmdesat, sejmi posadku". Jake jine moznosti autopilot ma, je jina vec, ale mel jsem za to, ze hlavni tema zpravicky je "moralni dilema". Pricemz "sejmi misto ditete jeho nepozorny doprovod" neni obecne v zadani a technicky to je problematicke.
Ked si chodec za to moze sam, preco by sa mal sofer obetovat a riskovat svoj zivot, napriklad v takejto situacii: sofer ide predpisovo 50tkou v obci, do cesty mu skoci chodec 5 metrov pred auto, je jasne ze sofer nestihne ubrzdit a jedinou moznostou ako sa vyhnut zrazke je supnut sa pred oproti iduce auto ktore je taktiez v pohybe. Vo vysledku ma sofer riskovat svoj zivot a aj zivot ludi v oproti iducom aute, kde aj pri "blbej 50tke" sa clovek neraz zabije, najme ked to oprie do rovnako rychleho protiiduceho auta, alebo ma radej zrazit chodca ktory celu situaciu sposobil a je vinnikom nehody? Ja osobne volim zrazit chodca, predsa neskapem pre cudziu blbost
Na zapad a jich od nasi kotlinky je bezne, ze chodec klidne vstoupi na prechod i metr pred autem (protoze vi, ze vsechny vozidla uz davno stoji). A kdyz dojde ke srazce, vinen je ridic. Chodec ma na prechodu absolutni prednost, a ridic mel predvidat! V tomto smyslu musi byt naprogramovan i autopilot.
Ono to opravdu neni tak tezke: kdyz vidim cloveka jak jde k prechodu, je jasne ze bude chcit prejit na druhou stranu. Chodec udela ty 3 metry za ~5 vterin, to je dost casu na to abys bezpecne zastal z 50tky...
Blbost, je naprosto v poradku aby se lidi nemuseli bat na prechodu ze prijdou o zivot za jakychkoliv okolnosti. A doufam ze stroje prave tuhle lidskou predevsim emocionalne zalozenou debilitu vymiti. Neco jineho sou okrajove podminky, ale naprosta vetsina takovych pripadu je spech, arogance, bezohlednost, nepozornost, hloupost, unava.
Na to jsem přišel tak, že ty automatické auta umí rozpoznat hrozbu a začít optimálně brzdit, umí se pohybovat, ale chyba je v tomto případě v chodcích že tam lezou když nemají, ne v těch autech, protože ty jak chodce zaznamenají, tak brzdí a chodcovi ta sami nevlezou. Tudíž se problém musí řešit na straně chodce, ne na straně auta. Když můžou nakazovat reflezní vesty a proužky, proč by nemohl být pracházecí náramek, nebo by mohla zablikat silnice - napájení solnic solárem, kdy se tím dokonce odvádí teplo a míň se ničí silnice a ještě se to dá uchovat je už docela stará technologi, jenom se na to s.re . . .
Každopádně chyba není na straně auta, tudíž její vnik tam těžko řešit a odstraňovat - dokud nebude auto brzdit na 15 a méně metrech - záleží kdo tam kdy vleze.
1. tak v první řadě, kolik lidí by chtělo v automobilu systém, který to při vyhodnocení nějakých podmínek aktivně napere do zdi a zabije řidiče/majitele. I kdyby tam byl přepínač sebezáchovný/sebevražedný mód, tak spousta lidí nerozdýchá už představu, že to auto tu sebevraždu vůbec umí a má někde naprogramovanou
2. A pokud by v autě takový systém nebyl, protože bod 1 a řídil by ho člověk pod vlivem pudu sebezáchovy, tak ten chodec bude na placku tak jako tak.
Tohle morální dilema se neřeší u sebezáchovy lidských řidičů, proč by se mělo řešit u jejich autopilota.
Lidé se obvykle snaží. Proto se občas dočtete, že někde někomu někdo vběhl pod kola, ten to strhl do protisměru a při čelní srážce umřelo několik lidí. Případně jednou za pár let případ, že se snažil vyhnout, auto šlo do smyku, neovladatelné vjelo na chodník a mrzačilo tam.
Lidé mají právo říct "tomu už jsem se vyhnout nedokázal". Strojům to zatím upíráme.
90% ridicu to napali do ty zdi ve snaze se tomu chodci vyhnout. Protoze tak ti veli instinkt - vyhnout se srazce. Musis takovy situace trenovat a bejt na ne psychologicky pripravenej, abys programove neuhnul a toho chodce sejmul (totez plati o zviratech, videl sem bouracky kvuli jezkovi na silnici ...).
Je to stejny jako kdyz se podivas jak vypadaj bouracky, pro ridice je vzdy nejlepsi varianta celni naraz, mas nejvetsi deformacni zonu, vsechny systemy auta v tomhle smeru sou pripraveny pohltit nejvic energie. Presto se kazdej snazi uhnout, a protoze to prevazne nezvladne, nasleduje bocni naraz a totalni destrukce auta.
System by mel vyhodnotit sanci na preziti. Tu ma chodec radikalne mensi a tim padem ho chranit. Regovat na bezprostredni nebezpeci a strhnout to do lesa, jak se vyhnout stromu resi v dalsi itetaci. ve meste je to slozite, ale predpokladam, ze sleduje i okoli, vidi lidi na zastavce, tak si to spocita a zabije toho jednoho. Od Mercedesu je toto PR, aby uklidnil lidi, ze je jejich auto nezabije schvalne.
1. Celá podstata tkví v tom, že systém by měl zvládat vyhodnotit původce krizové situace (neříkám, že je to jednoduché) a tím zodpovědnost - posralo auto, musí ochránit nezúčastněné, tj. chodce (provozovatel nese následky). Koneckonců tak by to mělo fungovat i u živých řidičů. Předložený systém upřednostnění auta vytváří morálně nepřijatelnou situaci (stejně jako u lidských řidičů), že v případě, že krizovou situaci navodí auto (což se určitě občas stane), poškodí nevinného. Vaší logikou je možno úplně stejně, ale z druhé strany říci, že chodci nerozdýchají, že by něco takového mělo vůbec jezdit po silnicích a vynutí zákaz takových aut. Celý problém spočívá v tom, že výrobce přenáší svůj problém auta na ty druhé. Kdyby to udělal živý řidič, je z toho poprask.
2. Nesmysl, mnohokrát se stalo, že řidič upřednostnil chodce i přesto, že dle výše uvedeného bodu byl chodec původcem situace a mimo zákon.
Vizte výše - princip odpovědnosti.
2Tom: Pises peknou volovinu, behem toho okamziku co mas na rozhodovani rozhodne nikdy nevyhodnotis nasledky, naopak, je velice pravdepodobny, ze jakejkoli prudsi maevr povede naopak k tomu, ze predevsim TY budes ten, kdo to odsere, pricemz nikde neni receno, ze toho chodce nesejmes stejne. Naopak, prevazne je to tak, ze misto jednoho jich sejmes vic.
1. tak viník krizové situace se řeší v některých případech dlouhou dobu za pomoci mnoha různých indicií a vozidlo to najednou bezchybně zvládne za pomoci pár senzorů a rozpoznávání obrazu během pár milisekund? A že to bude umět rozpoznávat taková specifika, jako povinnost reflexních prvků mimo obec, změny v přednosti na přechodu a podobně?
2. tak je rozdíl, když se rozhoduju ze svobodné vůle nebo na základě vlastních reflexů a když nějaký technický systém zblbne nějakým prasátkem do kamery a napálí to do pilíře, aby někoho náhodou nepřejel.
1. Navíc se nebavíme o systému, který bude zasahovat řidiči do řízení a strhávat mu volant, ale o autopilotu, který by měl auto řídit tak, že v žádném okamžiku nesmí být viníkem nastalé krizové situace. Tedy jakékoliv vyhodnocení krizové situace autopilotem musí vždy detekovat, že viníkem krizové situace není vozidlo. Tedy pokud se bude pohybovat chodec podél vozovky a autopilot vyhodnotí, že by do ní mohl vstoupit a zároveň by za vzniklou krizovou situaci mohlo vozidlo, musí takový autopilot reagovat preventivně a nesmí očekávat, že chodec do vozovky nevstoupí a když vstoupí, tak zabije řidiče.
2lojza: Proto rikam, ze automatickej provoz nebude a nemuze nikdy fungovat bez zcela zasadniho prepracovani cely infrastruktury a to prave takovym zpusobem, aby naprosto nehrozila kolize s neautomatickym provozem.
Coz krasne dokazujou i ty googli auta, ktery zavinily uz nekolik desitek nehod. Podotykam - fakticky zavinily, po pravni strance to bylo prevazne naopak. On totiz ten clovek za volantem ocekava, ze ostatni se budou chovat ... tak jako vzdy. Vychazi predevsim ze zkusenosti a zkusenost treba rika, ze po prepnuti semaforu zcela vzdy 2-3 auta jeste projedou. Automat zcela predpisove dupne na brzdu ... a ridic za nim do nej napali.
Dtto prechod, kdzy vidim chodce, kterej vypada ze asi hodla prejit, a zaroven a zamou nikdo nejede, tak projedu - je to logicky, ekonomicky i ekologicky. Kdyz je zamnou kolona aut, tak zastavim a necham ho projit... jenze ... automat opet automaticky dupne na brzdu, to chodce vykoleji, protoze to neceka, zustane stat, automat se rozjede, a chodec mu skoci pod kola ... krasa.
Říkáte to správně, auto se snaží chovat tak, aby nevytvořilo krizovou situaci, tudíž nebylo viníkem, ale vzhledem k nemožnosti formalizace provozu vzhedem k nedomyšlenostem v zákonu a provedení komunikací v praxi se asi nepodaří zachovat čistotu auta (morální, právní a možná ani mechanickou).
vzorom je asi Lipšic z 19.9.2016
Ale autopilot sa nemôže vzdať postu poslanca parlamentu
. Politik Daniel Lipšic vtedy svojím autom spôsobil chodcovi Emilovi zranenia, ktorým krátko nato podľahol v ružinovskej nemocnici. Daniel Lipšic sa v nasledujúcich dňoch v dôsledku týchto udalostí vzdal poslaneckého mandátu.
Tu povinnost má. A všechno nahrává. Takže bude v případě nehody jasné rozhodnout, nakolik se tomu zabránit dalo.
Jinak policajti se po vás můžou vozit jak chtějí, poslední slovo má soudce. A zatím vždy rozhodli, že možnost "předvídat a proto vůbec nevyjet autem z garáže" není přijatelná. Vždy se nakonec posuzovala konkrétní situace.
Jak kdosi pozamenal k "matematicke paralympiade pro studenty humanitnich oboru": "stejne komicke jako inzenyri diskutujici trolley problemech".
Kdyby vsichni ucastnici silnicniho provozu zcela 100% respektovali vsechna pravidla, tak by nikdy nikdo nikam nedojel a ani nedosel. K tvymu prekvapeni ... trebas v Indii maji nejaky pravidla nahaku prakticky uplne vsichni, a ... presto tam vzhledem na pocet obyvatel dochazi k velmi malymu poctu nehod.
Schvalne, co ze mas udelat, pokud je na silnici vodorovny zluty znaceni? Nj, ono ma prednost pred tim bilym zejo ... takze ... na dalnici ... kde soudruzi cosi pred mesicem kutali ... a ten zlutej pruh svadejici provoz tam nechali (ale veskery ostatni znaceni odstranili) udela auomat predpisove presne to, co udelat ma - prudce vyboci z jizdniho pruhu (nebot rychlost omezena neni) a zpusobi hromadnou dopravni nehodu. Lidsti ridici ten zlutej pruh neprekvapive zcela vpohode ignorujou. A s nim i miliony jinych zcela nesmyslnych znacek.
Pamatuju si, ze po nejakym tom prazskym sklidnovani dopravy se soudruhum povedlo na Vinohradech vyrobit uzasnou vec ... system jednosmerek, do kteryho slo najet, ale uz z nej neexistovala zadna legalni cesta ven. Automat je v riti.
No nerikej...
Nemecko: < 7 umrti / 100000 motorovych vozidel
Indie: 130 umrti / 100000 motorovych vozidel
https://en.wikipedia.org/wiki/List_of_countries_by_traffic-related_death_rate
Nerad někomu něco přikazuji nebo důrazně doporučuji, ale pokud někdo nechápe, proč poměr
"130 umrti / 100000 motorovych vozidel" nijak nezávisí na počtu obyvatel ( krom nějakého nutného počtu vlastníků, aby se dala vůbec země označit za zemi s nějakým provozem ) a proč nezáleží kolik je v dané zemi aut, neměl by k tomu radši psát vůbec nic.
Mentální kondice obyvatelstva a tím přístup k věcem a dění se na statistice podepíše, ale "130 umrti / 100000 motorovych vozidel" to už prostě vyjadřuje v sobě. Je fakt, že optimální by byl celkový počet nehod na x aut rozdělený třeba na lehké, střední a těžké, jenomže evidentně je "počet úmrtní na počet aut" dostatečně složitý, resp. vyřerpávající, údaj.
No... řešíte tu dilema co se má stát, když na přechod vběhne dítě, jestli zařve řidič nebo dítě. Ale co udělá mercedes (třeba náklaďák) až se bude muset rozhodnout mezi tím zda to napálí do stojící kolony čtyřiceti aut nebo do mostovky?
Můžete namítat, že takovou situaci chytrý systém nedopustí a auto (robot) bude vždy přizpůsobovat rychlost viditelnosti a stavu vozovky.
To sice ano, ale i tak se může stát, že se například porouchají brzdy a 100 tunový kamion se bude řítit dolů z kopce 100 km v hodině do stojící kolony.
Co asi udělá chytrý mercedes pak?
strategie z dlouhodobého hlediska
1) Vždy zachraň posádku. Auto nesrazí chodce který na silnici není. Strategie nutí chodce k opatrnosti a neštěstí ubývá.
2) Vždy zachraň chodce. Chodci jsou stále bezohlednější, protože se cítí bezpečně. Neštěstí přibývá.
Z krátkodobého hlediska
Pro ostatní účastníky představuje přejetý chodec menší nebezpečí nežli uhýbající, stojící, nabouraný vůz.
Posádka vozu dopraví chodce do nemocnice. Chodec posádku ne.
Zatím co po přejetí chodce zůstává situace vcelku přehledná, při vyhýbání se chodec i ostatní účastníci chovají naprosto nepředvídaně.
Auto chránící posádku si povede lépe i vůči jiným překážkám. Například sněhulákovi, zvířeti, kusu letícího igelitu, nebo papírovému Alzákovi. Falešně pozitivní poplach vede k záchraně posádky na úkor neexistujícího chodce. Pokud by chránilo chodce, bezdůvodně ohrozí posádku.
Dle mého názoru je to jasné, auto s autopilotem musí jet jen tak rychle aby dokázalo vyhodnocovat jakékoliv možné scénáře a v případě potřeby vždy zastavit a tím se vyhnout kolizi. Předpokládám, že autopilot musí analyzovat široké okolí vozu, včetně chodníků a tedy i možnost vstoupení/pádu chodce do vozovky.
Pokud toto nebudou autoauta umět, nemají dle mého na silnici co dělat. Já bych je nechal jet maximálně padesátkou a až se prokáže, že jsou bezpečná = 0 smrťáků za řekněme 3 roky, postupně bych jim povoloval vyšší rychlost.
asi tak...
Podle me to ale je o necem jinem, nez ze skoci chodec do cesty.
Co tato jiz nekolikrat zminena situace.
Autonomni auto jede ve svem pruhu. na chodniku je chodec. proti se vyriti magor. Auto rozhoduje mezi celni srazkou s rychle jedoucim vozidlem nebo uhybny manerv smerem na chodnik kde jde chodec. V obou pripadech bude poskozena osoba nevinna. Muze za to magor jedouci vysokou rychlosti, ktery vyjel ze sveho pruhu.
Chodec muze jit jen po krajnici, nebyt protijedouciho vozu mimo svuj pruh automat by se chodci vyhnul a nic by se nestalo. Co v teto situaci?
Dle mého názoru autoauto nesmí NIKDY záměrně ohrozit jiného člověka. To by přece bylo porušení zákona robotiky. Navíc co když se pak idiotovi úspěšně vyhne a zabije toho chodce? Jednoznačně to bude vina toho majitele autopilota, to že jel někdo v protisměru nebude relevantní. Jak se posoudí, že zabití chodce odvrátilo situaci která nenastala?
Myslím že autopilot by měl prostě zabrzdit a připadně se snažit uhnout/natočit tak, aby minimalizoval následky.
.
Nejsou. Ale pokud stroj nějakým aktivním krokem zabije člověka, tak to společnost nerozdýchá, zejména pokud dojde k chybě a bude reagovat na neexistující nebezpečí. Stejně tak nerozdýchá, když si stroj bude na základě nějakého algoritmu vybírat, koho zabije. Navíc pro toto rozhodování nemá automobil dost informací a ani mít nemůže a rozhodování o vině případně menší škodě nebude fungovat (napálí to do protijedoucího auta, aby se vyhnul dítěti a v protijedoucím autě zabije tři děti o kterých neví). Jediné společensky přijatelné řešení imho je, že automobil zvolí akci, která neohrozí nikoho, nebo zůstane v pruhu a zkusí to ubrzdit .
"Dokonalou" AI bude vždy posuzovat "nedokonalý" člověk, nebo celky z lidí složené - až po populaci. Je to tedy to samé, jako kdyby měla třeba tlupa šimpanzů nebo psů posuzovat dokonalost rozhodnutí svého ošetřovatele a stanovit, jestli je dost "dokonalý" - v podstatě nemožné. Pokud ale AI nebude dokonalá, nebo bude jenom tak dobrá aby to člověk posoudil, tak zase není o nic lepší, bude dělat chyby a nebude možní ji nasadit.
Druhé hledisko je to, že rozhodnutí, které udělá člověk a dopadnou špatně, tak se prostě nedá nic dělat, je to člověk, dělá chyby a pokud nic fakt neposral, tak je to prostě nehoda nebo osud. Pokud tohle udělá/podělá AI, okamžitě začneš hodnotit její dokonalost - viz. 1. odstavec. Nehledě na to, že převzato z politiky: "Ať uděláš jakékoliv rozhodnut/čin, vždy někoho z oobčanů nasereš . . . " a to platí i pro tozhodování AI.
Proto podle mne mají spíše smysl expertní systémy a vysoce propracované algoritmy řízení, než uplatnění opravdové AI ve společnosti. Ale systém, který má předem definované i miliony rozhodnutí podle daného schématu není AI, jenom dokonalý "automat" a ten smysl má.
Ovážné a hlavně těžko průkazné. Už vidím automobilku, která pustí do světa auta, jejihž statistiky třeba nedání přednosti v jízde protijedoucímu vozidlu budou stejné jako u lidí, když z "blbého" falšování emisí byla celosvětová aféra.
K zamyšlení je, jak by vůbec autonomní auta mohla dělat stejné chyby jako člověk - viz 1. odstavec - buď program na odbočení vlevo má, nebo ne. A i kdyby občas selhal ( třeba zanesená čidla), tak by takové věci měly být zjištěny v rámci kontroly při jíz dě nebo před ní a jen těžko a velmi těžko by se i tak ta chybovost mohla rovnat lidské - protože prostě není.
No, ale nechal jsem se unést - v první řadě je totiž důležité, kdo to řekl . . .