Vlákno názorů ke zprávičce Morální dilema u autopilota Mercedesu: přejeď chodce od lojza - 1. tak v první řadě, kolik lidí by...

1. tak v první řadě, kolik lidí by chtělo v automobilu systém, který to při vyhodnocení nějakých podmínek aktivně napere do zdi a zabije řidiče/majitele. I kdyby tam byl přepínač sebezáchovný/se­bevražedný mód, tak spousta lidí nerozdýchá už představu, že to auto tu sebevraždu vůbec umí a má někde naprogramovanou
2. A pokud by v autě takový systém nebyl, protože bod 1 a řídil by ho člověk pod vlivem pudu sebezáchovy, tak ten chodec bude na placku tak jako tak.
Tohle morální dilema se neřeší u sebezáchovy lidských řidičů, proč by se mělo řešit u jejich autopilota.

Lidé se obvykle snaží. Proto se občas dočtete, že někde někomu někdo vběhl pod kola, ten to strhl do protisměru a při čelní srážce umřelo několik lidí. Případně jednou za pár let případ, že se snažil vyhnout, auto šlo do smyku, neovladatelné vjelo na chodník a mrzačilo tam.

Lidé mají právo říct "tomu už jsem se vyhnout nedokázal". Strojům to zatím upíráme.

Tak je rozdíl se v případě nevyhnutelné havárie sám za sebe snažit a vědět, že to v případě kritické situace auto schválně "chladnokrevně" napálí do pilíře mostu. Navíc když ten autopilot bude těžce placený doplněk. Sám bych to v autě nechtěl ani za slevu.

90% ridicu to napali do ty zdi ve snaze se tomu chodci vyhnout. Protoze tak ti veli instinkt - vyhnout se srazce. Musis takovy situace trenovat a bejt na ne psychologicky pripravenej, abys programove neuhnul a toho chodce sejmul (totez plati o zviratech, videl sem bouracky kvuli jezkovi na silnici ...).

Je to stejny jako kdyz se podivas jak vypadaj bouracky, pro ridice je vzdy nejlepsi varianta celni naraz, mas nejvetsi deformacni zonu, vsechny systemy auta v tomhle smeru sou pripraveny pohltit nejvic energie. Presto se kazdej snazi uhnout, a protoze to prevazne nezvladne, nasleduje bocni naraz a totalni destrukce auta.

System by mel vyhodnotit sanci na preziti. Tu ma chodec radikalne mensi a tim padem ho chranit. Regovat na bezprostredni nebezpeci a strhnout to do lesa, jak se vyhnout stromu resi v dalsi itetaci. ve meste je to slozite, ale predpokladam, ze sleduje i okoli, vidi lidi na zastavce, tak si to spocita a zabije toho jednoho. Od Mercedesu je toto PR, aby uklidnil lidi, ze je jejich auto nezabije schvalne.

Zadna dalsi iterace neni, jakmile manevr provedes, uz to nemuzes ani zmenit ani ridit.

Cely je to totiz postaveny na zcela neexistujicim predpokladu, ze lze provest nejaky manevr bezpecne - coz ale neni pravda, kdyby byla, nedojde k nehode.

1. Celá podstata tkví v tom, že systém by měl zvládat vyhodnotit původce krizové situace (neříkám, že je to jednoduché) a tím zodpovědnost - posralo auto, musí ochránit nezúčastněné, tj. chodce (provozovatel nese následky). Koneckonců tak by to mělo fungovat i u živých řidičů. Předložený systém upřednostnění auta vytváří morálně nepřijatelnou situaci (stejně jako u lidských řidičů), že v případě, že krizovou situaci navodí auto (což se určitě občas stane), poškodí nevinného. Vaší logikou je možno úplně stejně, ale z druhé strany říci, že chodci nerozdýchají, že by něco takového mělo vůbec jezdit po silnicích a vynutí zákaz takových aut. Celý problém spočívá v tom, že výrobce přenáší svůj problém auta na ty druhé. Kdyby to udělal živý řidič, je z toho poprask.
2. Nesmysl, mnohokrát se stalo, že řidič upřednostnil chodce i přesto, že dle výše uvedeného bodu byl chodec původcem situace a mimo zákon.
Vizte výše - princip odpovědnosti.

Blbost, prece nashval nezabijes nekoho, kdyz udelal chybu i kdyz tomu muzes zabranit nebo radikalne zmirnit nasledky za cenu poskrabaneho blatniku.
V prni rade jde o ochanu zdravi a zivota. Zbytek se pak soudi po pojistovnach.

2Tom: Pises peknou volovinu, behem toho okamziku co mas na rozhodovani rozhodne nikdy nevyhodnotis nasledky, naopak, je velice pravdepodobny, ze jakejkoli prudsi maevr povede naopak k tomu, ze predevsim TY budes ten, kdo to odsere, pricemz nikde neni receno, ze toho chodce nesejmes stejne. Naopak, prevazne je to tak, ze misto jednoho jich sejmes vic.

Obávám se, že jste nepochopil můj příspěvek. Jde pořád o dilema lidi v autě - lidi mimo auto, ne o dilema lidi kdekoliv - poškrábaný nárazník.

1. tak viník krizové situace se řeší v některých případech dlouhou dobu za pomoci mnoha různých indicií a vozidlo to najednou bezchybně zvládne za pomoci pár senzorů a rozpoznávání obrazu během pár milisekund? A že to bude umět rozpoznávat taková specifika, jako povinnost reflexních prvků mimo obec, změny v přednosti na přechodu a podobně?
2. tak je rozdíl, když se rozhoduju ze svobodné vůle nebo na základě vlastních reflexů a když nějaký technický systém zblbne nějakým prasátkem do kamery a napálí to do pilíře, aby někoho náhodou nepřejel.

1. Navíc se nebavíme o systému, který bude zasahovat řidiči do řízení a strhávat mu volant, ale o autopilotu, který by měl auto řídit tak, že v žádném okamžiku nesmí být viníkem nastalé krizové situace. Tedy jakékoliv vyhodnocení krizové situace autopilotem musí vždy detekovat, že viníkem krizové situace není vozidlo. Tedy pokud se bude pohybovat chodec podél vozovky a autopilot vyhodnotí, že by do ní mohl vstoupit a zároveň by za vzniklou krizovou situaci mohlo vozidlo, musí takový autopilot reagovat preventivně a nesmí očekávat, že chodec do vozovky nevstoupí a když vstoupí, tak zabije řidiče.

2lojza: Proto rikam, ze automatickej provoz nebude a nemuze nikdy fungovat bez zcela zasadniho prepracovani cely infrastruktury a to prave takovym zpusobem, aby naprosto nehrozila kolize s neautomatickym provozem.

Coz krasne dokazujou i ty googli auta, ktery zavinily uz nekolik desitek nehod. Podotykam - fakticky zavinily, po pravni strance to bylo prevazne naopak. On totiz ten clovek za volantem ocekava, ze ostatni se budou chovat ... tak jako vzdy. Vychazi predevsim ze zkusenosti a zkusenost treba rika, ze po prepnuti semaforu zcela vzdy 2-3 auta jeste projedou. Automat zcela predpisove dupne na brzdu ... a ridic za nim do nej napali.

Dtto prechod, kdzy vidim chodce, kterej vypada ze asi hodla prejit, a zaroven a zamou nikdo nejede, tak projedu - je to logicky, ekonomicky i ekologicky. Kdyz je zamnou kolona aut, tak zastavim a necham ho projit... jenze ... automat opet automaticky dupne na brzdu, to chodce vykoleji, protoze to neceka, zustane stat, automat se rozjede, a chodec mu skoci pod kola ... krasa.

Říkáte to správně, auto se snaží chovat tak, aby nevytvořilo krizovou situaci, tudíž nebylo viníkem, ale vzhledem k nemožnosti formalizace provozu vzhedem k nedomyšlenostem v zákonu a provedení komunikací v praxi se asi nepodaří zachovat čistotu auta (morální, právní a možná ani mechanickou).