Vlákno názorů k článku
Zabije nás umělá inteligence? Pokud měl Darwin pravdu, tak ano, říká Patrick Zandl
od Stiu - Nedávno jsme s kamarády seděli u piva a...
-
Stiu (neregistrovaný)
Nedávno jsme s kamarády seděli u piva a došla řeč právě i na "super inteligenci". Kdyby ji člověk opravdu stvořil, aby pomáhala lidstvu, tak by tím stvořil takového vlastního "boha". Nebyl by sice všemocný, ale měl by podstatný vliv na celé lidstvo.
Než jsme se všichni zbořili, tak celá debata vznesla pár otázek na které bych chtěl znát odpovědi.Měla by být jedna "super inteligence", nebo by jich mělo být víc? Která varianta nese větší rizika?
"Jak moc by měla být chytrá?" Jaká by měla být horní hranice její inteligence? Nebylo by moudré ji omezovat?
Měla by být přímo připojená na internet? Nebylo by nejlepší ji nechat jen nasávat informace a její sdělení pak prezentovat přes prostředníka? Nemohla by dostávat zkreslené informace?
Co by vlastně měla ovlivňovat? Zemědělství? Energetiku? Zákony? R&D? Vzdělávání? Světovou politiku a hospodářství?
Nebyla by společnost rozdělená na její stoupence a odpůrce? Nevyvolávala by "božská" AI spíš konflikty? Jak by se vypořádala s existujícími problémy? S konflikty? Se státy v dlouhodobé krizi a chudobě?Víc si už moc nepamatuju, všichni jsme byli na šrot.
-
JSH (neregistrovaný)
No tak ten samotný bazilišek mi nepřijde až tak zajímavý. Spíš mi vrtají hlavou myšlenkové procesy autorů. Podobnost baziliška s tradičními bohy mi přijde jako hlubší téma, než zamýšlení se na důsledky toho, že si mě možná nějaká AI v budoucnosti nasimuluje a bude tu simulaci mučit aby mě v teď donutila něco udělat. :)
-
Sten (neregistrovaný)
Ono to není nutně mučení, ale trest za zabití z nedbalosti. To máme už teď, AI tedy jen aplikuje současné právní principy: ta AI vás potrestá (odsoudí) za zabití z nedbalosti, protože jste věděl nebo mohl vědět (typická formulace u trestných činů z nedbalosti), že kdyby ta AI vznikla dřív, zachránila by spoustu lidských životů.
-
JSH (neregistrovaný)
Aplikovat to takhle je hódně vachrlaté. To by mohli být trestáni třeba i ekologičtí aktivisté. I oni by mohli vědět, že kdyby se obchvat postavil dřív, tak by to zachránilo spoustu lidských životů. A to už máme dokonce experimentálně ověřené, že obchvaty kolem nebezpečných křižovatek opravdu ty životy zachraňují. Ta formulace je vlastně docela nezajímavá, protože ve skutečnosti se nesoudí podle formulace, ale podle obvyklé interpretace v dané době.
V reálu navíc vždycky volíme ze spousty možností. A tady bazilišek zhoří stejně jako všechny variace na Pascalovu sázku. Nevím, jak by to řekl právník nabo filosof, ale já bych řekl, že množina představitelných "co by kdyby" je nespočetná.
Pak tu máme samozřejmě klasický problém identity. Je simulovaný JSH vůbec JSH? Může být trest trestem, když to schytá jiná osoba?
-
Sten (neregistrovaný)
Ekologičtí aktivisté bojují za jiné chráněné právo: právo na příznivé životní prostředí, resp. zákaz jej poškozovat (je v Listině základních práv a svobod). U Rokova baziliška je taková obrana horší.
Ale samozřejmě je ten celý argument přitažený za vlasy, proto jsem jej doporučoval k pivu :-D
-
JSH (neregistrovaný)
> U Rokova baziliška je taková obrana horší.
A jsme u toho, o čem jsem psal. Jak někdo může považovat baziliška za něco snadnějšího k obraně? Tohle je pro mně dost cizí myšlenka. A že někdo uvažuje takhle cizím způsobem je pro mně dost zajímavé.
I u toho baziliška jsou jiná chráněná práva, různé ceny ušlých příležitostí a podobně. Akorát je nikdo netahá, protože vlastně ani nemá co. U tohohle biče ze simulovaných hoven ani není kde začít nějaké +- smysluplné rozhodování. Ten bič nemyslím urážlivě. Jen chci zdůraznit že kolem hypotetické AI o které nikdo neví, jaké by měla mít vlastnosti, se jakýkoliv argument plete hodně blbě.
