Vlákno názorů k článku
Šestnáct Claude AI vytvořilo překladač jazyka C v Rustu
od jinejmuf - Plyne z toho dost děsivý závěr - jako...
-
Plyne z toho dost děsivý závěr - jako lidstvo vyvíjíme globálně používaný nástroj, u kterého jen stačí, aby *nějak* zkompiloval *něco*.
Zcela se tu rezignuje na kvalitu, zcela se rezignuje na pochopení souvislostí a nějakou koncepci nedej Bože zodpovědnost. Já vím, že je to trochu přístup test-driven development, který je tu už dlouho, ale ta míra, s jakou se tu ignoruje způsob a postup, jak se k výsledku došlo a tudíž jeho architektonické/základní vlastnosti, to je fakt děsivý.
Vlastně to je další krok v mém oblíbeném prorockém filmu Idiocracy. Rostliny milují Brawdo, protože obsahuje elektrolyty. Co jsou to elektrolyty? To z čeho dělají Brawdo. Ale proč? Protože to milují rostliny. Už to nebude trvat dlouho a budeme kácející se mrakodrapy svazovat lanem k sobě. Autoři Idiocracy se sekli o 450 let :-(.
9. 2. 2026, 13:55 editováno autorem komentáře
-
Z pohledu starych mazaku co psali ve strojovem kode jsi taky jen takovy matlal, co vubec nerozumi tomu jak ty procesory pracuji, a pises priserny neoptimalizovany kod a dohani to za tebe kompilatory, kterym vubec nerozumis jak funguji.
(mozna zrovna ty rozumis, ale vetsina programatoru ne).Cimz chci rict, ze mit nastroj ktery negeneruje dokonaly kod nemusi byt hned katastrofa a konec lidstva.
Navic, nikdo tu mozna ani na kvalitu nerezignuje. Treba ten projekt pojede dal a budou optimalizovat a optimalizovat.
-
No a kde je ta hranice kdy uz to idiokracie je? Vsichni znaji jen strojovy kod - to neni idiokracie. Vetsina pouziva kompilator a strojovy kod neznaji - to asi jeste neni idiokracie? Vetsina pouziva AI aby vytvorili software ktery potrebuji - to uz ale podle tebe je idiokracie? A jake najdes zduvodneni ze ta hranice lezi presne tady a ne kousek pred nebo kousek za?
Za me je dulezite kdyz pro kazdou cast procesu bude nekdo kdo tomu rozumi. Ale nelze ocekavat ze vsichni znaji vsechno. Podle mne idiokracie je tehdy kdyz nekdo ridi veci kterym nerozumi.
-
To, co tvoří svět okolo vás, od softwaru až po hard hardware (nábytek, domy, vaše vlastní tělo) má určitou kvalitu. Souhrn těchhle představ o kvalitě se nazývá kultura. Třeba kvalita hmotné kultury upadá už asi sto let jsouc nahrazována kvantitou. Ano, nepotřebujete kvalitní nábytek, kvalitní jídlo, kvalitní stavby. A ani kvalitní software. Ano, nic z toho nepotřebujete. Reálně se potřebujete nacpat dobře stravitelným odpadem a rozmnožit se.
Co z toho lidé považují a nepovažují za kulturnost nechám na vás.
-
Spíš zjevně neznáte. To opravdu nesouvisí s žádnou zelenější travou. Souvisí to s průmyslovou revolucí. Je to logický důsledek rozvoje masové produkce a zároveň masové poptávky. (Ostatně podobně jako v IT a začalo to postupně už tak před pěti deseti lety, nesouvisí to s AI.) Ale to opravdu neznamená, že je to ten úpadek správný a tím spíš je, logicky, vhodné se snažit, aby tomu tak nebylo.
Když už tedy hovoříte o racionálním pohledu. Vím co píši a proč.
10. 2. 2026, 09:29 editováno autorem komentáře
-
Patosu? Napsal jsem vám konkrétní věci. Ve volném čase se (občas i za peníze) věnuji historii. Kdyby mě neživilo IT a dalo se tím vydělat, zabývám se obecnými dějinami a dějinami umění. Podrobně rozebírat co ten úpadek hmotné kultury znamená by ale bylo dost off-topic.
To jediné, co se vám tím snažím říci je, že idiokracie není konec světa ani lidství, jen konec kulturnosti a že věci mají svou kvalitu, která v idiokracii obvykle trpí. Hranice tedy bude někde tam. A AI je skvělý nástroj, jak se tam dostat. (Sama o sobě za to ovšem nemůže.)
Asi byste se ale měl smířit s tím, že ne vše má jasně vymezené hranice a barvu buď černou nebo bílou a humanitní vědy zcela všeobecně velmi často nejde bez podrobné diskuze popsat v testovatelných tezích. Co vám přijde a nepřijde užitečné je zcela irelevantní.
10. 2. 2026, 14:10 editováno autorem komentáře
-
No ale to přirovnání jaksi nesedí... Já nepotřebuju vědět jak přesně funguje kompilátor, dokud vím, že má nějakou míru korektnosti. Dokud můžu důvěřovat autorům kompilátoru, že jejich postupy jsou validní, tak mám stabilní základy. Jasně, občas to není ideální a občas vznikne nepředpokládaná kolize, ale výsledek není zcela nahodilý tak, jako je tomu u výsledků z AI bez revize. To je něco, co tu dosud nebylo. Porušuje to hned několik dosud uznávaných vlastností, které se od kódu požadují. Determinismus, korektnost, hromadnost...
-
Jenže to přesně není žádný test. Jen říká, že mám program, který dokáže vzít konkrétní zdrojáky konkrétního jádra a vytvořit z nich binárku (na určitém železe), která něco dělá. Nevím, jestli to dělá dobře, nevím jestli by něco jiného přeložil dobře... Jasně, lidské výtvory taky musíme testovat. Ale tyhle výtvory vyžadují detailní validaci. A tu provede/vytvoří kdo?
-
Biktop: validacni testy muze taky delat AI. A povim ti jednu perlicku ze zakulisi - uz se to deje. A i u medicinskych pristroju. Uzij si pristi operaci! :) (a myslim to vazne).
Kdyz vezmes cernou krabici, ve ktere je programator, a vypadne z neho kod, tak musis overit jestli dela to co ma. A kdyz misto programatora das AI, z venci nepoznas kdo tam je, tak budes validovat a overovat uplne stejne. Akorat si mozna reknes ze ten kod je strasny, a at ti poslou nekoho lepsiho nez studenta z IT fakulty :)
-
Therac-25 nevidel AI ani z rychliku. To ze tehdy netestovali ma jaky prispevek do diskuze?
"The Therac-25 has become a case study in health informatics, software engineering, and computer ethics. The incidents highlight the dangers of engineer overconfidence[...]"
"validacni testy muze taky delat AI. A povim ti jednu perlicku ze zakulisi - uz se to deje. A i u medicinskych pristroju. Uzij si pristi operaci! :) (a myslim to vazne)."
To myslíte vážně, že nevidíte souvislost?
-
Ano, jaktože vám nefungují hodinky? Jsou zcela v pořádku, v poledne jsem se na ně díval a ukazovaly 12 (a o půlnoci taky)...
To co jste stále nepochopil na mých a dalších připomínkách je to, že dokazovat, že všechna lichá čísla jsou prvočísla stylem funguje mi to pro trojku (=kompilátor zvládal zkompilovat jádro a dvě jiné aplikace) není validní způsob práce. Ano, už delší dobu rezignujeme na validaci nekritických systémů (a proto se třeba jaderný arsenál řídí IBM ze 70. let), ale psaní kódu LLM je nový level ignorantství k ověřitelné kvalitě a samotné funkci. Ano, je spousta nekvalitních programátorů, kteří plodí ještě horší výsledky, než LLM. Ale řešením není je nahradit LLM.
Ještě horší je, když se pro demonstraci chování nějakého systému použije místo komplexní série testů (jako by tomu bylo u TDD) jen tupé přeložení jednoho konkrétního projektu.
-
jinejmuf: ale ja nerikam ze test "jede to" neni jediny mozny test. Testu musi byt samozrejme vic, poradnych, odshora dolu, zdola nahoru.
"Ano, je spousta nekvalitních programátorů, kteří plodí ještě horší výsledky, než LLM. Ale řešením není je nahradit LLM." - tak pokud LLM produkuje lepsi vysledky nez nejaka uroven programatoru, proc 'psaní kódu LLM je nový level ignorantství"? To prece nedava smysl.
"Ještě horší je, když se pro demonstraci chování nějakého systému použije místo komplexní série testů (jako by tomu bylo u TDD) jen tupé přeložení jednoho konkrétního projektu." - ocividne s tim kompilatorem teprve zacli. Treba ta serie testu teprve prijde - to te nenapadlo? Ale IMHO ten prekladac neni myslen jako vysledek pro realne pouziti, ale pro otestovani moznosti. A treba az pri dalsi iteraci toho pokusu pujde o to vytvorit neco hodnotneho, pridaji k tomu milion dalsich testu.
