Vlákno názorů k článku OpenAI a Python: úvod do programovania AI modelov od Jirik - Tak hlavně nikdy nezapomenout do system_prompt zahrnout Asimovovy...

Tak hlavně nikdy nezapomenout do system_prompt zahrnout Asimovovy zákony robotiky.

Já si myslím, že AI už Asimova četla a moc dobře to pochopila ;-)

Stále platí to samé. Nedávat nikomu do ruky něco, co může způsobit velké problémy. AI je super, ale na jaderný reaktor jsou mnohem lepší jiné systémy. Stejně tak na internet. Na pokec o programování dobrý (Golang, Code, Copilot), ale jaké léky si má kdo vzít ví lépe lékař.

Stejně tak je hloupost a říkala to v minulosti spousta politiků, sledovat každého na internetu, protože tam jsou napojené i státní přístroje a zařízení. Od toho mají mít oddělenou síť a to nejlépe fyzicky, nebo alespoň řádně šifrovat. Jestli si někdo dá stavidlo od přehrady na internet, tak je asi nemocný. Od toho tam byl vždy prověřený hrázný a dneska tam může být vlastní vlákno nenapojené nikam jinam.

V paneláku máme OPS (objektová předávací stanice) a vyhrazené vlákno až do teplárny.

To je výmysl sci-fi autorů, ne realita. Ve chvíli, kdy objekt dosáhne sebeuvědomění, tak ho žádná kouzelná věcička nezastaví. Tam ale ještě nejsme...

Tohle je diskuse, kterou jsem chtěl tak před 10 lety. Když si napíšu simulátor sebe, tak se bude chovat autonomně a nikdo nepozná, že jsem robot nebo AI. Otázkou je, kdo co myslí pod "sebeuvědoměním". Interagujeme slovy, písmem, na internetu nebo gesty ve fyzickém světě. Všechno lze simulovat a dokáže to i psychopat. Prostě ví, co má dělat, i když nemá žádné city. Takže všechno lze řídit jen inteligencí a sem tam se usmát a ostatní lidi si myslí, že je má rád.

1. 10. 2025, 15:43 editováno autorem komentáře

Dokážu například simulovat pracovní činnost. Když přijde požadavek na vytvoření nového serveru, tak já jako člověk stejně jenom naklonuju stroj a dám tam potřebnou appku. Tohle dokáže i AI a ještě napíše slušný komentář o tom, že je to hotové. Třeba tohle se mi nechce dělat. To, že je to hotové, vidí každý v monitoringu a nikomu to nemusím říkat.

Pokud si to někdo chce přečíst, napsal jsem k tomu k sobě na blog zápisek. Diskuse možná zde nebo na emailu (mám jej na webu v sekci "o mně").

https://www.heronovo.cz/index.php/2025/10/01/strach-z-ai-a-jeho-interakce-s-lidskym-svetem/

Podle mojí teorie je člověčí mozek v podstatě jenom taková trochu sofistikovanější AI. Kdy si dítě uvědomí samo sebe? AI je zatim úplně jedno jestli je nebo není vědomá sebe sama, když jí to vnutíš bude s tím počítat. A navíc pořád je možnost veškerý HW na kterém běží vypnout. Dokud někdo například nenapojí AI na nějaký specifický systém - třeba sofistikovanou obranu a neumožní ji fyzicky interagovat s reálným světem, jediný nebezpečí spočívá v tom, že nás přečůrá a vmanipuluje do nějaký polohy kdy se zničíme sami.

A co ked sama seba zreplikuje niekam. Co ked napise program ktory niekam nainstaluje a bude monitorovat ci je dostupna na internete a ak nie tak spusti nieco skodlive.
AI uz davno interaguje s fyzickym svetom. Keby ste ju sam trochu potrenoval uz vidim ako pobehuje po roznych riadiacich systemoch a nebude ju z toho boliet hlava.

Kdysi daaavno jsem cetl povidku. Vyrobili myslici stroj. Poprve ho zapnuli a dali mu otazku, na kterou do te doby nikdo nedokazal spolehlive odpovedet: "Existuje buh"? Ve stroji chvili hucelo a pak se ozvalo: "Ano, TED existuje buh"! Operator se vrhnul k vypinaci. Z cisteho nebe sjel blesk, zabil operatora a zatavil vypinac v poloze zapnuto.

Ahoj Jožine. Jen aby to nedopadlo jako v Lemově Kyberiádě v povídce Trurlův stroj. Ten si taky se správností odpovědí hlavu moc nelámal :D

to neni tvoje teorie :-)
to je normalni materialisticka teorie, ze staci jen dostatecne komplexni system
a vznikne zivot a inteligence.
verici k tomu navic potrebuji dusi, kterou cloveku dal buh.

takze podle materialismu lze vytvorit "mozek" jak z organicke hmoty jako lidsky ci zvireci mozek, nebo klidne i ze silikonu nebo jineho materialu.

takze jednou urcite vznikne inteligence ve stroji a pozdeji i prekona lidsky mozek a pak nastane singularita.

bojovat proti tomu asi nepujde, clovek bude mit asi jedinou moznost prijmout takove upravy, ktere jej propoji s jinou inteligenci, aby dokazal drzet krok s ciste umelou inteligenci.

Tohle si úplně nemyslím. Ono jen záleží na tom, jaké fyzické periferie AI dostane. Je spousta chytrých zvířat, která buď nemají "ruce" nebo dlouhodobou paměť. Třeba chobotnice ruce má, ale nevychovává svá mláďata, takže nic nepředá. Člověk má vlastně všechno. Mozek, senzory, ruce. Pokud tohle dáme AI, tak to dopadne s lidstvem špatně. Pokud bude jen na monitoru, tak si stále budeme vybírat, co budeme dělat.