Názory k článku
Projekt Speedrun: první počítač navržený AI za týden

Tohle uz neni legrace.
Doted jsme meli neduveru v cipy a uvazovali jestli tam neni nejaky backdoor od tajnych sluzeb. Dnes budou tajne sluzby uvazovat jestli tam neni backdoor od AI.

Jak by pomocník s návrhem plošňáku mohl zabudovat backdoor ? Zrovna využít AI pro návrh PCB mi přijde velice smysluplné. Navíc workflow toho nástroji se mi líbí - vývojář tam nahraje aktuální projekt ze svého PCB softu + zadá constrainty, AI vyrobí spoustu variant rozložení/tras a pomůže vývojáři vybrat/upravit nejlepší návrh. Pak si vývojář výsledek zase stáhne do původního softu a jede dál sám. Dovedu si představit, že podobná featura bude brzy v komerčních PCB softech/časem v kicadu. Návrh PCB je kombinatorická pakárna se spoustu opakovaných činností a AI tam rozhodně může pomoci.

Auto-routing existuje od devadesatek. Nektere softy maji i auto-placement.

Pokud v necem AI mohla pomoci - treba zapojeni schematu? Ale to bude takova vec co musite kontrolovat rucne, zda tam neudela zkrat/chybu, a hlavne ji to musite necim naucit - tj. vzit referenci board. A clovek to z referencniho boardu udela rychle tak (jsou li data v tom formatu jaky EDA tool pouziva - udela copy-paste).

Btw ten tistak vypada mega hnusne, je tam videt ze tomu dovolili velice drahy proces (tenke spoje, hdi, 8 vrstev), takze jednorazove naklady jdou na vrub drahe vyrobe.

Jako hw designer rikam, ze pokud to neni prvni projekt, tak to lze udelat za tyden taky, z copy-paste reuse bloku. Vetsina mych projektu neco hotoveho vyuziva = to jde rychle. Pokud je to neco, na co jsem nesahl, tak ano.. jde to pomaleji, ale nikdy to neni takova opici prace - ze by me AI jakkoliv pomohlo.

A "prvni" to opravdu neni ani pro AI - autori jaksi zamlcuji delku a cenu uceni a delku a narocnost kuratorstvi ucebnich materialu.

Oni jenom navrhli PCB a to dle referenčního schématu. Co si budem - návrh PCB je disciplína pro středoškoláka. Návrh PCB s kontrolovanou impedancí a length matchingem je disciplína pro .... středoškoláka, tedy pokud má ty správné nástroje. Třeba Altium ;).

altium lol

Technicky vzato máte pravdu - pro PCB skutečně existoval již v minulosti, ale tím to končí, protože dnes umí auto-routing spočítat kompletní větvení, kabelové trasy, zatížení, odpor ... a vlastně i jímací soustavu (Solidworks). Nicméně i dnes se musí výstupy pečlivě kontrolovat, protože s proměnnými si stále neporadí.

ad backdoor - viz debug konzoze a JTAG na type-C konektoru v iPhone / Apple Silicon macboocich skrze proprietarni mux chip

Backdoor (i kdyz asi nezamysleny) tam je - takove pouziti DF40 konektoru zpusobi, ze se muzou utrhnout, zvlast pri vibracich.

Jinak HW backdoor se v takovem designu udelat da docela snadno - napr. zvolite "vhodne" kondenzatory (keramicke) a aplikujete na ne dostatecne vysoke napeti. Da se pak statisticky naladit doba selhani.

Vámi zmiňovanému prvku návrhu se v češtině říká kurvítko, nikoliv backdoor.

Ale klidně může být i klasický backdoor.
Šikovně proražený kondenzátor může přepnout procesor s production do developer mode, zněnit boot source....

"Jak by pomocník s návrhem plošňáku mohl zabudovat backdoor"

Zeby uplne vpohode? Sak neni problem na HW urovni vyrobit treba sitovy stack. Nemusi umet nic moc, nebude zabirat moc mista, ale bude umet odesilat treba na nejakou vyzvu obsah registru/cache ...

V tomto případě by se jednalo o návrh čipů, nikoliv návrh PCB. S mírou integrace, jakou mají SoC si ven můžeš vystavit leda tak JTAG, SWD nebo jiné debugovací roz­hraní, popřípadě nějakou sběrnici.

hw sitovy stack - zrejme minen system s Wiznet W5500 .. pak staci pripojit swd/jtag procesoru na jeho gpio.. a razem tam je dira, kterou lze zneuzit. Protoze nemusite mit pod kontrolou fw toho "hw stacku".

Ale ta služba řeší plošný spoj dle schématu zadavatele, to nenavrhuje.

Ano, čeká nás krásná budoucnost ve stylu scény z Idiocracy/Absur­distanu, kde zdravotní sestřička s nepřítomným výrazem a slinou u koutku tupě pootevřených úst ťuká na obrazovce na jeden z obrázků - obvykle panáčka s otazníkem a lékař přehazuje v ruce tři kovové sondy se slovy "tuhle si strčte pod paži, tuhle do zadku a tuhle do pusy, ne sorry tuhle do pusy a tuhle do zadku", aby následně stroj optimisticky zahlásil "gratulujeme, asi máte žloutenku".

Budoucnost, kde budou rozhodovat poloodborníci na základě víry v to, že polovičaté a povrchní informace od všemocné AI jsou nějak kouzelně správné a pro ně nejlepší.

Společnost se zbavila víry v dobrotivého Boha, aby ji nahradila vírou v dobrotivou AI. Zásadní rozdíl je v tom, že tenhle AI bůžek je stejný jako to zlaté prase, které si odlili už ve Starém zákoně.

"Od té doby, co lidé přestali věřit v Boha, jsou ochotni věřit v jakoukoliv pitomost."
-- Gilbert Keith Chesterton

- nerekl to
- kdyz verili lide v bohy, tak take verili v pitomosti

ty ses ten s peti detma vid

Zlaté tele. Áron vytvořil sochu Hospodina v podobě zlatého telete. Pak z toho byly problémy...

Jakoze ze prompt bude "Vytvor tisteny spoj s backdorem"? Nebo, ze LLM omylem vygeneruje backdoor? Nebo, ze inzenyr pri "review" neodhali backdoor?

Co je na tom vsem co jsi napsal nepredstavitelneho?

Pořád nechápu, jak lze ze zadaného schématu (vstup pro AI) vytvořit plošný spoj tak, aby najednou obsahovat backdoor.

Dej tomu cas ;o)
PS: Pak ti to pripomenu.

Už jste si povykládal s DeepSeekem o Náměstí nebeského klidu a Medvídkovi Pú? Proč by AI nemohlo záměrně podvrhávat něco, na co bylo natrénované? Tedy backdoory pro svého "dobrého stvořitele Si, který zachrání prohnilý západ před jeho úpadkem i proti jeho vůli"... A proč by si toho měl všimnout někdo (dozírající inženýr), kdo bude mít sotva kvalifikaci na položení dotazu a čas tak maximálně na to, aby odpověď uložil, aniž by ji četl, natož pochopil?

Pro zajímavost, DeepSeek ani jiné LLM s tím nemají problém. Tyto věci, jako něco schovat případně nápad s backdoorem, se dělají nad LLM modelem. Když si stáhnete samotný model, tak ten nic nefiltruje. Např. v případě DeepSeeku blokování hesel bylo v první verzi jen pro hlavní jazyky a češtinu přidali až časem.

1) Proc by inzenyr pouzil nejaky cinsky model, nebo model natrenovany nad cinskymi daty?
2) Proc by inzenyr mel mit "sotva kvalifikaci" na polozeni dotazu?

Přesně z tohohle důvodu vznikají i evropské LLM modely.

Ad 1) protože je úplně jedno, jestli je ten model Čínský nebo Evropský nebo Googlovský. Každý z nich není zcela spolehlivý a každý z nich je ovlivnitelný. Na tom Čínském se to teď zrovna dobře demonstruje, protože Jediná správná rudá strana Číny nemá potřebu manipulace a překrucování historie nějak skrývat. Totéž může dělat model od OpenAI na žádost NSA, aniž by si toho někdo všiml.

Ad 2) Samozřejmě je to určitá nadsázka. Ale kde získá hluboký vhled do problematiky, když za něj veškerou práci udělá AI a on tak maximálně vybere z nabízených alternativ, jelikož na něj bude tlak, aby práce byla rychle odevzdána a není přece důvod, aby něco dlouho vymýšlel, když podle logu má AI řešení už týden připravené a "nějak" to funguje.

Už teď je zásadní problém, že firmy požadují seniorní developery, aniž by těm juniorním daly šanci získat zkušenosti a stát se seniory. Seniorní programátor nespadne z nebe, je potřeba ho vychovat. A když se ti nikomu nechce dělat, prostě nebudou. A stejně tak, pokud se inženýr nebude učit bez neustálého napovidání od AI, nic se nenaučí. Učitel, který nenechá žáka dělat chyby a hledat vlastní řešení je jen ke škodě. To je nadužívané AI z hlediska vzdělávání.

Takhle bude vypadat práce budoucnosti. Jeden inženýr + AI zastane práci celého týmu.

a z coho sa ta ai bude ucit nove veci ked vsetko bude robit ai a clovek bude len dozerat ci nerobi hluposti? a vacsinu roboty spravi ai tak to bude na zaklade minulych veci co urobili ludia a ona z toho spravila len kompilat alebo niektore veci len tupo ukradla, ale ak ludia nebudu tvorit nic nove tak nebudu nove vedomosti z ktorych by ai cerpala
a na to aby ai robila uplne nove veci a nie len kompilaty starych na to nestacia dnesne verzie ai a ani tie ktore budu z dnesnych vychadzat. to by musel byt uplne novy typ ai a to je hudba dalekej buducnosti

Z tej nove prace, co urobi spolu s tym clovekom.

Kolko z toho, co dnes urobia ludia je nieco nove? Minimum. Vo vecsine je to opakujuca sa praca a kopec ludi robi to iste.
A vecsina roboty ak nie vsetka je na zaklade minulych veci.

Aj dnesni ludia "tupo" kradnu. Robia v podstate to iste. Ludia sa tiez ucia na zaklade minulych veci co urobili iny ludia.
To zvysuje/urychluje progress. Bez toho by sa ludia museli ucit vsetko vzdy od zaciatku.
Pismo a nasledne knih tlac bol velky progress v nasej civilizacii preto, lebo sme vedeli uchovavat informacie a predavat dalsim generaciam, ktore nemuseli znovu vymyslat koleso.
Potom prisiel internet ako medium jednoduchej a rychlej vymeny informacii na globlanej urovni,co tiez posunulo ludstvo dopredu z pohladu ucenia a progressu, lebo informacie a znalosti sa stali znovu viacej dostupnejsie.
AI(strojove ucenie) je dalsi logicky krok a dalsi skok. Je to evolucia.

Z tych vzorov ktore clovek vybral ako tie dobre.

Supervised a Semi-supervised learning je dost malé procento AI úloh. A i u těchto úloh je potřeba odborníků, kteří dokáží systém připravit a natrénovat na míru problému. Ano, jsou tu pokusy o obecnou AI, ale to jsou spíš zbožná přání jedinců s napoleonsko-mesiášským komplexem.

Osobně mě fascinuje nadšená neochota učit se z předchozích technologických revolucí. Každá se maskovala za "zjednodušení práce lidem" a každá ve skutečnosti vedla jen k získávání mocenské výhody. Každá vedla k masovým ztrátám obživy těch, kteří neměli buď dostatek bezohledné dravosti nebo intelektu a štěstí. Ani tady nejde o to, aby člověku létali pečení holubi do huby v teple domova a bez práce, ale o novou modernější metodu zotročování davů a koncentrace moci k pár jedincům.

Použití AI je za mě srovnatelné s nástupem rychlopokladen a bezpersonálových obchodů. Urychluje to řešení úkolu za cenu odlidštění, v určitých oblastech to přináší i nějaké výhody zákazníkovi, ale zaměstnanci to práci neušetří. Jen ji změní v důsledku k většímu tlaku a ušetřené peníze za vyhozené lidi si stejně nechá firma. A lidi zase musí hledat, kde si vydělají.

"clovek bude len dozerat ci nerobi hluposti? "
Odpověděl jste si sám.

AI má co nabídnout.
Říkáme tomu sice halucinace a snažíme se to potlačit.
Ale ono si to jaksi žije vlastním životem.
Stačí algoritmus který bude v miliardě halucinací hledat správnou myšlenku.

Jak funguje evoluce?
Miliardy náhodných mutací DNA + Přírodní výběr = vyšší druh.

Problém je, že ten algoritmus bude halucinovat taky.

Tak protože AI není nic jiného než použití už existujích dat (a jejich vyhledání), tak to v podstatě je parazitování na práci někoho jiného. Samozřejmě bez jakékoliv invence, jen opakování.

A neděje se na studiu VŠ to samé? Celé učení je bohužel postavené na faktu, že jsme smrtelní. To u ai se nakonec může změnit a po načtení všech znalostí může nastat to, co u promile vědecké populace. Progres.

Nastane díky AI přesný opak - stagnace. "Progres" roste z nějakého podhoubí, které se díky lenosti lidí používajících AI velmi zmenší. Výsledek bude, že méně a méně lidí bude problémům do hloubky rozumět a něco dál posune.

Toto je staré dobré - Tí moderní inžinieri nie sú ako tí starí inžinieri a sú hlúpejší, lebo veciam nerozumejú do hĺbky, my sme museli vedieť, ak sa robí XY a dnes sa na to použije len inštrument AB, lebo sú všetci pohodlní.

Podobné som počúval už dobrých 30 rokov.

Za tohle nemuze AI, ale hlavne soucasna podoba statu a socialniho systemu.
Lamat si kouli nad problemy se fakticky nevyplati, zvlaste v Evrope vam to casto neprinese prilis vyssi zivotni uroven ve srovnani s temi, co to nedelaji.

Naopak, AI muze neprosto brutalne znasobit schopnosti tech, co to delaji a maji vnitrni motivaci. Dava jim do ruky nastroj, jak individualne nahradit praci az desitek lidi a tu orchestrovat.

"Single man corporation"

Jako treba aplikace referencniho designu?
Co delaji lide jinak?

On tam ten inzenyr bude, ale bude stacit jeden.
On uz ted staci jeden, kdyz je nekorporatni a produktivni.

Proste se zvedne produktivita.

Za posledny pol rok som mal sancu validovat architektonicku viziu viacerych financnych institucii (dokonca statnych aj nestatnych). Neviem ako to robia ale vsetky boli rovnake.

Protoze predstava ze soukrome firmy jsou efektivni je mytus. Hodne stary mytus. Soukrome firmy jsou jenom eliminovany kdyz jsou totalled neschopne jinak prezivaji jako jakokoliv statni firma.

Soukromé firmy nemusí být efektivní, stačí být efektivnější než státní.

Presne tak. Ja jen narazel na to ze je tady jakesy presvedceni ze soukrome firmy jsou best.

Pritom takove rodinkarstvi tam buji ... ;-)
Napriklad v jedne jsem zjistil ze uklizecka bere vic nez ja jako programator ....
Pak jsem zjistil ze uklizecka je sefova maminka.

Raspberry Pi - na prvých modeloch pracovalo jadro asi 4–6 ľudí, neskôr sa tím rozšíril na 10–15. Vývoj trval približne 5–6 rokov, z toho 3–4 roky intenzívnej práce. Odhadom to predstavuje 50 000–80 000 človekohodín.

Pravda byli průkopníci - ovšem pokud by takovou produktivitu měli čínští výrobci SBCs, pak by zkrachovali na prvním projektu. Jestli to trochu nesouviselo se statutem britské neziskovky...

To do toho ale počítáte nejspíš i marketingový tým a uklízečky. Na Raspberry 1 bylo pro hardwaráře práce tak na půl roku až rok pro jednoho člověka.
Nebo tam maj lidi, co víc pijí kafe než sedí u kompu.

To bych za tyden dal cca take.

Navic tam maji docela chybu, ty DF40 konektory se takto pouzivat nemaji, coz primo Hirose pise (a ano, RPI to dela take). Ma tendenci se to ve vybrach urthnout, kvuli silam, ktere vznikaji nepresnosti osazeni.

Sice nejsem expert, ale tyhle konektory se používají i ve 3D tiskárnách ... A že tam jsou vibrace poměrně velké narozdíl od normálního použití. A drží to léta (u mě rok ale prakticky jsem od nikoho neslyšel že by s tím někdo měl problém -- tedy pokud desku správně usadil při buildu)

Problém těhle konektorů je, že při přetavení můžou kousek odplavat. Když jich pak máte víc na jedné desce, snadno se stane, že se špatně sejdou tolerance a na zapojený konektor pak působí docela velké síly.
Zdaleka se to netýká všech (mnoho z nich má vystřeďovací piny, nebo jsou částečně floating a toleranci kompenzují), ale těchto DF40 ano, Hirose to přímo uvádí v nějakém svém dokumentu.

Nedalo by se to kompenzovat montážním přípravkem který je při pájení podrží ve správné poloze?

Stejným způsobem je používá Raspberry Pi Compute Module a kompatibilní desky, tak předpokládám že to řešitelné je.

RPi CM vam nedava zaruky, hned na strance 2 mate vysvetleno, ze se to nehodi do narocneho provozu, natoz ze zadna zaruka neni na to, kdyz to pouzijete s necim jinym nez RPi produktem - coz je tedy vychcanost u CM, pro ktery delate vetsinou vlastni base board.

https://pip-assets.raspberrypi.com/categories/944-raspberry-pi-compute-module-5/documents/RP-008180-DS-6-cm5-datasheet.pdf?disposition=inline

Prakticky tedy - RPI spoleha na to, ze za spatnou funkci designu (vicero DF40 per modul) jste spoluzodpovedni, i kdyz nemate na vyber.

K tomu maji nektere konektory prave ty vodici trny.
Eventuelne se delaji ty floating verze, kterym to nevadi.

Setkal ses někdy s tím, že by se to opravdu utrhlo? Nikde online jsem nenašel žádný takový report, ale může být.

21. 12. 2025, 13:57 editováno autorem komentáře

Ano, v rámci vývoje několikrát (méně než deset, více než dvakrát). V praxi ne, protože to je vždy důsledně prošroubované.

Treba v ty ponorce co bouchla se toho utrhlo az az :)

https://data.ntsb.gov/Docket/Document/docBLOB?ID=18741602&FileExtension=pdf&FileName=Underwater%20Camera%20-%20Specialist%27s%20Factual%20Report-Rel.pdf

Strana 6, Figure 4 ... oba B2B propoje selhali. Muzeme argumentovat, ze to dostalo vetsi nez normalni naraz.. ale je videt ze se to trha hlavne v mistech s konektory.