Vlákno názorů ke zprávičce Služba hCaptcha chce po uživatelích identifikovat neexistující objekty od RRŠ - *CAPTCHA je pro mne téměř neřešitelný úkol -...

Robot, který nedodržuje tři zákony, mi nesmí do bytu - ani kdyby se převlékl za vysavač! ;oD

Jednoduché opravdu jsou, ale všeobsahující rozhodně ne. A především jsou nerealizovatelné.

Jsou spíš praktickou ukázkou nepochopení významu etiky a svědomí v lidské společnosti.

Největší problém je vůbec interpretace toho, co je to "ublížit člověku". Podle naprosto běžné interpretace by například nesměly vůbec existovat medicínské operační roboty. Ty člověku zcela jednoznačně ubližují, když do něho řežou a pálí tkáň. Že to v důsledku (pravděpodobně a při dodržení řady důležitých postupů a hojení) povede ke zlepšení stavu není vůbec jisté, že to je ubližování ve chvíli operace naopak jisté je.

Další zásadní problém je *kterého člověka* (nebo v upravené variantě které části lidstva) se toto omezení týká. Pokud na sebe navzájem míří dva vojáci, co má dělat robot? Když nebude dělat nic, minimálně jeden z vojáků zemře, pokud se rovnou nezabijí navzájem. Pokud jednoho (nebo oba) zabije či jinak odstaví, ublížil. A jak se má chovat v případě útoku dvojice na jednoho či jednoho na dvojici. Smí např. střelit jednoho útočníka se zbraní, aby osvobodil dva policisty, na které útočník mířil? A co když jsou policisté zkorumpovaní a útočník v civilu je tajný policista, který to šetří?

Správné řešení neexistuje a tudíž ho nelze algoritmicky popsat. Lze jen věřit, že mé konání je etické a pokud jsem se zmýlil, že mi Bůh odpustí. U robotů to nemůže být jinak.

I sám Asimov nakonec (ve Foundation and Earth) došel k tomu, že prvnímu zákonu nadřadil "nultý" (že nesmí být ublíženo lidstvu jako celku), a k poznání, že tam je ještě mnohem těžší poznat, co ta na první pohled jednoduchá formulace v konkrétních případech vlastně znamená.

jinejmuf:
Ech. Mozna by to chtelo precist par Asimovych povidek ci knih, kde se venuje ruznym problemovym pripadum. Jak by se robot mel chovat k cloveku v ruznych situacich. Problem medicinskeho robota je opravdu trivialni (z autorova pohledu). Misto toho rozepisovani staci cist dnes jiz klasickou tvorbu.
Jasne, Asimov nepsal nejake algoritmy, defacto jsou to knihy o tom, jake pravidla etiky by asi mohl clovek po robotovi pozadovat. Uvahy a cesticky proslapane jiz desitky let zpatky...

30. 5. 2023, 09:56 editováno autorem komentáře

Jo, šel na to tak, že jednotlivá porušení mají různou váhu. Akorát že tohle je utilitářský pohled na morálku se všemi známými filosofickými problémy.

Hlavně pak to chování není definované samotnými zákony robotiky, ale tou blíže nedefinovanou váhovací tabulkou. Kterou si autor doplňoval podle potřeby aby mu to sedělo do děje. Což si samozřejmě jako všemocný bůh svého universa může dovolit, ale nám je to na pendrek.

30. 5. 2023, 11:41 editováno autorem komentáře

Číst zdroje je určitě potřeba, ale v tomto případě to rozhodně nestačí - je to spíš důležitý krok k pochopení toho, že navržené zákony prostě nelze realizovat.

Asimov totiž na žádné řešení nepřišel. Pouze zabředával hlouběji a hlouběji do dalších nedefinovaných či nedefinovatelných pojmů, jako je tabulka vah rozhodnutí, na kterou upozornil JSH. To je ale řešení problému vzdáleno mnohem víc, než původní jednoduché tvrzení "neublížit", čehož si je zjevně v díle vědom i sám Asimov.

Pro mě samotného je spíš zarážející, že někdo s židovským původem vůbec přichází s návrhem řešit problém obecných zákonů (Božího desatera) přemírou konkrétních zákazů a příkazů (farizejským systémem práva), který zjevně nefungoval už před víc jak 2000 lety v židovské komunitě. Otázka medicínského robota je tady srovnatelná se známým biblickým podobenstvím o zbitém přepadeném člověku u cesty, kterému kněz nepomohl, protože se o sabatu nesměl znečistit prací, natož s krví. Kdyby bylo řešením vypsat seznam konkrétních případů, už dávno by to používaly právní systémy světa.