Vlákno názorů k článku
Projekt Speedrun: první počítač navržený AI za týden od Zdeno Sekerák - Tohle uz neni legrace. Doted jsme meli neduveru v...

Tohle uz neni legrace.
Doted jsme meli neduveru v cipy a uvazovali jestli tam neni nejaky backdoor od tajnych sluzeb. Dnes budou tajne sluzby uvazovat jestli tam neni backdoor od AI.

Jak by pomocník s návrhem plošňáku mohl zabudovat backdoor ? Zrovna využít AI pro návrh PCB mi přijde velice smysluplné. Navíc workflow toho nástroji se mi líbí - vývojář tam nahraje aktuální projekt ze svého PCB softu + zadá constrainty, AI vyrobí spoustu variant rozložení/tras a pomůže vývojáři vybrat/upravit nejlepší návrh. Pak si vývojář výsledek zase stáhne do původního softu a jede dál sám. Dovedu si představit, že podobná featura bude brzy v komerčních PCB softech/časem v kicadu. Návrh PCB je kombinatorická pakárna se spoustu opakovaných činností a AI tam rozhodně může pomoci.

Auto-routing existuje od devadesatek. Nektere softy maji i auto-placement.

Pokud v necem AI mohla pomoci - treba zapojeni schematu? Ale to bude takova vec co musite kontrolovat rucne, zda tam neudela zkrat/chybu, a hlavne ji to musite necim naucit - tj. vzit referenci board. A clovek to z referencniho boardu udela rychle tak (jsou li data v tom formatu jaky EDA tool pouziva - udela copy-paste).

Btw ten tistak vypada mega hnusne, je tam videt ze tomu dovolili velice drahy proces (tenke spoje, hdi, 8 vrstev), takze jednorazove naklady jdou na vrub drahe vyrobe.

Jako hw designer rikam, ze pokud to neni prvni projekt, tak to lze udelat za tyden taky, z copy-paste reuse bloku. Vetsina mych projektu neco hotoveho vyuziva = to jde rychle. Pokud je to neco, na co jsem nesahl, tak ano.. jde to pomaleji, ale nikdy to neni takova opici prace - ze by me AI jakkoliv pomohlo.

A "prvni" to opravdu neni ani pro AI - autori jaksi zamlcuji delku a cenu uceni a delku a narocnost kuratorstvi ucebnich materialu.

Oni jenom navrhli PCB a to dle referenčního schématu. Co si budem - návrh PCB je disciplína pro středoškoláka. Návrh PCB s kontrolovanou impedancí a length matchingem je disciplína pro .... středoškoláka, tedy pokud má ty správné nástroje. Třeba Altium ;).

altium lol

Technicky vzato máte pravdu - pro PCB skutečně existoval již v minulosti, ale tím to končí, protože dnes umí auto-routing spočítat kompletní větvení, kabelové trasy, zatížení, odpor ... a vlastně i jímací soustavu (Solidworks). Nicméně i dnes se musí výstupy pečlivě kontrolovat, protože s proměnnými si stále neporadí.

ad backdoor - viz debug konzoze a JTAG na type-C konektoru v iPhone / Apple Silicon macboocich skrze proprietarni mux chip

Backdoor (i kdyz asi nezamysleny) tam je - takove pouziti DF40 konektoru zpusobi, ze se muzou utrhnout, zvlast pri vibracich.

Jinak HW backdoor se v takovem designu udelat da docela snadno - napr. zvolite "vhodne" kondenzatory (keramicke) a aplikujete na ne dostatecne vysoke napeti. Da se pak statisticky naladit doba selhani.

Vámi zmiňovanému prvku návrhu se v češtině říká kurvítko, nikoliv backdoor.

Ale klidně může být i klasický backdoor.
Šikovně proražený kondenzátor může přepnout procesor s production do developer mode, zněnit boot source....

"Jak by pomocník s návrhem plošňáku mohl zabudovat backdoor"

Zeby uplne vpohode? Sak neni problem na HW urovni vyrobit treba sitovy stack. Nemusi umet nic moc, nebude zabirat moc mista, ale bude umet odesilat treba na nejakou vyzvu obsah registru/cache ...

V tomto případě by se jednalo o návrh čipů, nikoliv návrh PCB. S mírou integrace, jakou mají SoC si ven můžeš vystavit leda tak JTAG, SWD nebo jiné debugovací roz­hraní, popřípadě nějakou sběrnici.

hw sitovy stack - zrejme minen system s Wiznet W5500 .. pak staci pripojit swd/jtag procesoru na jeho gpio.. a razem tam je dira, kterou lze zneuzit. Protoze nemusite mit pod kontrolou fw toho "hw stacku".

Ale ta služba řeší plošný spoj dle schématu zadavatele, to nenavrhuje.

Ano, čeká nás krásná budoucnost ve stylu scény z Idiocracy/Absur­distanu, kde zdravotní sestřička s nepřítomným výrazem a slinou u koutku tupě pootevřených úst ťuká na obrazovce na jeden z obrázků - obvykle panáčka s otazníkem a lékař přehazuje v ruce tři kovové sondy se slovy "tuhle si strčte pod paži, tuhle do zadku a tuhle do pusy, ne sorry tuhle do pusy a tuhle do zadku", aby následně stroj optimisticky zahlásil "gratulujeme, asi máte žloutenku".

Budoucnost, kde budou rozhodovat poloodborníci na základě víry v to, že polovičaté a povrchní informace od všemocné AI jsou nějak kouzelně správné a pro ně nejlepší.

Společnost se zbavila víry v dobrotivého Boha, aby ji nahradila vírou v dobrotivou AI. Zásadní rozdíl je v tom, že tenhle AI bůžek je stejný jako to zlaté prase, které si odlili už ve Starém zákoně.

"Od té doby, co lidé přestali věřit v Boha, jsou ochotni věřit v jakoukoliv pitomost."
-- Gilbert Keith Chesterton

- nerekl to
- kdyz verili lide v bohy, tak take verili v pitomosti

ty ses ten s peti detma vid

Zlaté tele. Áron vytvořil sochu Hospodina v podobě zlatého telete. Pak z toho byly problémy...

Jakoze ze prompt bude "Vytvor tisteny spoj s backdorem"? Nebo, ze LLM omylem vygeneruje backdoor? Nebo, ze inzenyr pri "review" neodhali backdoor?

Co je na tom vsem co jsi napsal nepredstavitelneho?

Pořád nechápu, jak lze ze zadaného schématu (vstup pro AI) vytvořit plošný spoj tak, aby najednou obsahovat backdoor.

Dej tomu cas ;o)
PS: Pak ti to pripomenu.

Už jste si povykládal s DeepSeekem o Náměstí nebeského klidu a Medvídkovi Pú? Proč by AI nemohlo záměrně podvrhávat něco, na co bylo natrénované? Tedy backdoory pro svého "dobrého stvořitele Si, který zachrání prohnilý západ před jeho úpadkem i proti jeho vůli"... A proč by si toho měl všimnout někdo (dozírající inženýr), kdo bude mít sotva kvalifikaci na položení dotazu a čas tak maximálně na to, aby odpověď uložil, aniž by ji četl, natož pochopil?

Pro zajímavost, DeepSeek ani jiné LLM s tím nemají problém. Tyto věci, jako něco schovat případně nápad s backdoorem, se dělají nad LLM modelem. Když si stáhnete samotný model, tak ten nic nefiltruje. Např. v případě DeepSeeku blokování hesel bylo v první verzi jen pro hlavní jazyky a češtinu přidali až časem.

1) Proc by inzenyr pouzil nejaky cinsky model, nebo model natrenovany nad cinskymi daty?
2) Proc by inzenyr mel mit "sotva kvalifikaci" na polozeni dotazu?

Přesně z tohohle důvodu vznikají i evropské LLM modely.

Ad 1) protože je úplně jedno, jestli je ten model Čínský nebo Evropský nebo Googlovský. Každý z nich není zcela spolehlivý a každý z nich je ovlivnitelný. Na tom Čínském se to teď zrovna dobře demonstruje, protože Jediná správná rudá strana Číny nemá potřebu manipulace a překrucování historie nějak skrývat. Totéž může dělat model od OpenAI na žádost NSA, aniž by si toho někdo všiml.

Ad 2) Samozřejmě je to určitá nadsázka. Ale kde získá hluboký vhled do problematiky, když za něj veškerou práci udělá AI a on tak maximálně vybere z nabízených alternativ, jelikož na něj bude tlak, aby práce byla rychle odevzdána a není přece důvod, aby něco dlouho vymýšlel, když podle logu má AI řešení už týden připravené a "nějak" to funguje.

Už teď je zásadní problém, že firmy požadují seniorní developery, aniž by těm juniorním daly šanci získat zkušenosti a stát se seniory. Seniorní programátor nespadne z nebe, je potřeba ho vychovat. A když se ti nikomu nechce dělat, prostě nebudou. A stejně tak, pokud se inženýr nebude učit bez neustálého napovidání od AI, nic se nenaučí. Učitel, který nenechá žáka dělat chyby a hledat vlastní řešení je jen ke škodě. To je nadužívané AI z hlediska vzdělávání.