Vlákno názorů k článku AI mění svět open source: zahlcení, inflace projektů a klesající motivace od SoongVilda - Já vlastně nevím, na čí straně jsem. Nedávno...
-
Já vlastně nevím, na čí straně jsem. Nedávno jsem v práci hledal jeden bug. Po 30 minutách marného procházení jsem si řekl, že zkusím štěstí s AI.
No, našlo to rovnou 3 bugy: ten hlavní, co jsem hledal, jak vzniká, a další 2, co mě mohly vypéct někdy v budoucnu.
Ona je to novinka, uklidní se to, přirozeným výběrem se to vyřeší a s tím, jak modely budou silnější a silnější, tak to vůbec vlastně nebude problém.
Možná jsem moc optimista, takhle to vidím.
-
> Proč myslíte, že zrovna u AI by tomu mělo být jinak?
Dojdou nápady. AI se viditelně zlepší, když se objeví nějaká průlomová myšlenka (jako třeba transformer nebo attention nebo chain of though). Jinak se věří, že pro neuronové sítě platí, že aby se model viditělne zlepšil (= log loss se zlepšil lineárně), tak počet parametrů musí vzrůst multiplikativně (pokud zůstane stejná architektura modelu).
-
protože už první modely byly trénovány na všech datech, co byla dostupná. Nové modely prostě nedostanou další data, protože není kde brát - možná jen slop vygenerovaný předchozími modely (poisoning).
A na okraj: právěže většina technologií narazí na svůj sweet spod (někdy hodně brzo) a potom se jen paběrkuje, nebo se vymýšlí různý nebezpečný nebo drahý ohejbáky (například většina vulnerabilities v CPU je jen důsledek ohejbáků, stejně jako hnusný hack v Boeingu 737 Max).
-
Předpokládám, že aktuálně už nové modely mají v podstatě všechna veřejná data na internetu. Pokud jediné, co zásadně ovlivňuje kvalitu AI, je množství vstupních dat, pak to znamená, že jsme dosáhli vrcholu? Nic už v budoucnu nijak řádově nepřekoná Mythos 5?
Nerozumím tomu, ale přijde mi zvláštní, že AGI nevznikne, protože na internetu není dostatek komentářů pod články.
-
Hnusný hack v 737 Max, podľa toho ako to ja chápem, nebol nejaký nedostatok technológie, ale bol spôsobený konfliktom byrokracie/regulácií s prirodzenou honbou po zisku.
Cieľom bolo, aby sa lietadlo ovládalo presne tak, ako predošlý typ, a teda nebolo potrebné drahé, resp. kurva drahé preškoľovanie pilotov. A ani sa nemohlo príliš užívateľsky dokumentovať to "udělátko", ktoré to zaisťovalo, resp. nejaká manipulácia s ním, lebo tým by sa opäť priznalo, že sa ten nový typ ovláda ináč. A tam už bol len krôčik od toho, že sa tam vyskytne chyba, a na tú potvoru pilotom chýbalo práve povedomie o tom "udělátku".
-
ono kdyz se napise "byrokracie", tak to ma hodne negativni podton. Ale pozadavek v teto oblasti byl a je jasny - zmena rychlosti nesmi zpusobit zmenu sklonu letadla (ve smeru letu) - to prece dava smysl, protoze treba pilot potrebuje zrychlit, aby zabranil "stallu, takze kdyz se mu zrovna u tohoto manevru zvedne nos, ma uz malo moznosti, co s tim.
Podobne jako u aut zmena rychlosti nesmi zpusobit zataceni (neprojde technickou, ale ani do vyroby). To do jiste miry urcuje, kde mohou byt umisteny motory.
Technologie tady narazila na sva maxima (ano, umisteni motoru niz ma vliv na spotrebu) a chteli to obejit (slusne receno) softwarem, tedy hackem. No a stalo to nekolik set zivotu.
-
"Cieľom bolo, aby sa lietadlo ovládalo presne tak, ako predošlý typ"
To si ovsem vubec nic nepochopil.
Airbus navrhl novy stroj s vetsim vetrakem = uspornejsim na palivo. Boing zadny novy stroj ktery by v prislusnem casovem horizontu dodal na trh nemel. Tak vzal existujici stroj a namontoval na nej taky vetsi vetraky.
Civilni letadla se ovsem navrhuji jako stabilni = kdyz nesahas na rizeni, letadlo leti a to rovne a ve stabilni vysce. Samo. Ciste dle zakonu fyziky. Jenze MAX s vetsima vetrakama stabilni nebyl. Pokud by tenhle neduh chteli vyresit, musela by se zmenit konstrukce draku, protoze ty vetsi vetraky se nevesly pod kridla a tak je posunuli dopredu, cimz zaridili to, ze to letadlo prirozene padalo nahubu.
A zmena kontrukce === cas. Mezi tim by nebylo komu ten max prodat. Takze to vyresili tak, ze tam dali SW kterej sam hejbal ridicima plochama aby to letadlo tlacil smerem nahoru ... ale nikomu o tom nerekli ani to nijak neotestovali ... nejaka mrtvola sem nebo tam ... a !vyplatilo se jim to!
Mimochodem, tohle (ne)reseni ve skutecnosti prinasi jeste jeden hezkej problem. Ony totiz ty ridici plochy maji nejakou finalni plochu a tim padem i finalni vztlak. Pokud se znacna cast toho vztlaku pouzije na kompenzaci nevyvazeni letadla, tak pak uz v ruznych letovych rezimech (specielne v nizkych rychlostech) nemusi byt k dispozici dost sily na to aby se to letadlo dalo vubec nejak ovladat ... proste bych to toho nevlez ani kdyby mi za to nekdo platil.
-
"Nové modely prostě nedostanou další data"
Nove modely maji spoustu dat ze sve vlastni zkusenosti s obrovskou interakci s uzivateli.
Dale jde zvysovat rychlost a kontextove okno, optimalizovat zapominani, tedy lepe rozlisovat co je dulezite a co ne, na coz je prave idealni ta masivni zkusenost z interakce s uzivateli. Ja vidim hodne prostoru k vylepsovani.
-
To, co jste napsal je víceméně nesmysl. Třeba železnice dnes nefunguje o moc jinak než v roce 1930. U každé technologie dojde nejdříve k expanzivnímu zlepšování aby se ta křívka postupně zploštila a následně se už příliš nevyvíjí. To je normální a přirozené. Občas do toho samozřejmě může přijít nějaká černá labuť, o tom žádná.
Myslet si, že se jakákoliv technologie včetně AI bude zlepšovat donekonečná je naprosto naivní.
-
Železnice dnes funguje jako v roce 1930 z vyspělého světa asi jen v USA, kde se do ní sto let neinvestovalo (po druhé světové se rozšířila letecká doprava - zbyla spousta válečných pilotů a strojů předělaných na civilní). Např. elektrifikace umožňuje rychleji akcelerovat a brzdit (při stejné maximální dovolené rychlosti zvládnete trasu rychleji). Digitální zabezpečovací prvky zas zkracují povolené vzdálenosti/časy mezi vlakovými soupravami. Plus samozřejmě modernizujeme i ty koleje a stavíme tunely a mosty.
-
Elektrizace začala už někdy na konci předminulého století - Kandó, Brown, Siemens, Křižík... Zabezpečovací systémy ještě dříve, digitalizace není žádná kvalitativní změna - a dokonce bych byl velmi opatrný, jestli je to robustnější a spolehlivější systém než třeba elektromechanika, vyvinutá na konci předminulého století a na mnoha místech fungující dodnes, někde dokonce na původním železe. Koleje, tunely a mosty patří k železnici tak nějak od začátku. To, co popisujete, je přesně ten "kosmetický" vývoj v ploché části vývojové křivky, o níž mluví váš předřečník. Ono třeba na takovém kladivu také už není moc co vyvíjet.
-
Pavel TišnovskýZlatý podporovatelDovolím si technickou k těm rychlostem a co bylo a je možné:
Trasa Bratislava-Praha vlakem
Rok 1936 (!!!!) Slovenska Strela: 4h 18minut.
Současnost o 90 let později:
Metropolitan: 4h 25 minut,
RegioJet: 4h 32 minut
Leo express: 5h 50 minut(naprostý souhlas s tím, že třeba u nás příměstské vlaky jsou teď naprostý luxus. Ale žádná technologická novinka to není, prostě jen máme víc peněz)
-
L.Stříbrný podporovatel
A kdy byla tedy podle vás ta strmá část vývojové křivky? Vždyť takhle můžu klidně říct, že železnice v roce 1930 byla vlastně skoro stejná jako v roce 1830 a byl to jen kosmetický vývoj (lepší zabezpečení, jiná trakce, ...).
-
L.Stříbrný podporovatel
S tím právě nesouhlasím. Za mě je míra vývoje v těch staletích zhruba podobná. Jak píše předřečník, ta strmá část byla položení prvních kolejí - a možná ani tam ne vždyť kolejové vozíky se používaly v dolech už nějakou dobu a lokomotiva je jen takové kosmetické vylepšení koní...
-
Mimochodem, železnice je ještě docela flexibilní v tomhle ohledu. Tam teoreticky pořád můžete výrazně zrychlovat, jakkoliv za naprosto nepřiměřené náklady a za cenu mnoha negativních externalit. Ale vezměte si, že když práce slušného vývojáře tvoří psát kód řekněme 30 % času a 80 % toho času zoptimalizujete pomocí AI, jistě si povšimnete, že nárůst mezního užitku při každé další iteraci vylepšení modelu velmi rychle klesá.
A jsme u té křivky...
-
L.Stříbrný podporovatel
V roce 1835 se to bude fakt blbě počítat, protože první trať do Prahy byla zavedená až roku 1845 a to ještě vedla na Olomouc a ne směrem na České Velenice.
No, alespoň jsi potvrdil moje podezření, že toho o historii železnice moc nevíš a jen tady bullshituješ.
-
Výborně! Takže jste na to přišel. V roce 1835 jste se v tomhle směru nedostal do Vídně vůbec. Gratuluji. Zařadil jsem to tam zcela úmyslně. Takže mezi rokem 1835 a 1875 je docela velký rozdíl, že? A to jde o čtyřicet let. Co dalších šedesát let do roku 1935?
Nějaké bullshitování si nechte od cesty a obtěžujte se s logikou.
24. 7. 2026, 22:13 editováno autorem komentáře
ČLÁNKY DO MAILU