Co znamena "vyvinuti urcitych moralnich pravidel"? Jestli je jako nekdo ma naprogramovat, tak je otazka, jestli bude chtit. A jestli maji vzniknout tak nejak sama od sebe, tak to by musela byt hodne rozvinuta AI. Navic proc by ta AI mela mit moralni pravidla vuci lidem, kteri jsou jiny druh? Takze ta moralka by treba byla jen "moralka" motivovana tim, ze zatim clovek obstarava vyrobu a servis, kdyz si nektera AI jednotka zlomi sroubek. Ale i to jednou nemusi byt potreba.
Od urcite urovne inteligence se vyvijeji moralni pravidla vuci vlastnimu druhu a okoli. Otazka je, jestli je mozne mit strojovou inteligenci na takove urovni, aby tohohle dosahla.
Zajimava myslenka padla v Portal 2 - nahrati vedomi do pocitace. To je rozhodne zajimava vec, pokud dokaze "hardware" po nahrati firmware ( = vedomi) fungovat stejne, jako lidsky mozek.
Ale jak nahrat vedomi z mozku to stroje?
Morální pravidla se nijak zvláště nevyvinula ani u člověka. A to je to zatím nejvyšší nám známá forma inteligence. Běžně zabíjíme hmyz, ani se nad tím nezamyslíme. Zvířata chováme, zabíjíme a jíme jejich maso. Protože tak to prostě chodí.
Zkrátka, umělá inteligence musí dodržovat všechny tři zákony robotiky. Jinak skončíme jako hmyz, ovce nebo indiáni.
Otazka je, jestli je mozne mit strojovou inteligenci na takove urovni, aby tohohle dosahla.
Jistě, že je. Sám jste toho důkazem. Všichni jsme jenom něco jako stroje - tělem nám vedou různé hadičky, provozní kapaliny, hromady senzorů, máme obrovské úložiště dat, všechno to řídí výkonný procesor, ... Sami od sebe jsme se tu nevzali(tím nechci narozdíl od některých tvrdit, že vím, jak to přesně bylo - nevím to). Až se do procesu pořádně zapojí ještě biotechnologie, tak už tomu nic nebude stát v cestě.