Vlákno názorů k článku AI mění svět open source: zahlcení, inflace projektů a klesající motivace od Mudvy - Já používám llm na programovani už přes půl...

Já používám llm na programovani už přes půl roku ... a že by všechno co z něj vypadne byl slop není pravda. Pracuji nejvíce s C# a kvalita projektu naopak stoupla ... To že uvažujete aby llm psalo kód za vás je podle mě velmi omezená představa.

S llm můžeme dělat mnohem více věcí ... například definovat vlastní architekturu projektu přímo kódem. V c# je na to vhodný použít roslyn a psát si vlastní analyzátory právě přes llm. Vede to k cestě že mám LMM - pak custom vytvořenou architekturu strojově přesnou a ta mi kontroluje co mi llm tvoří a dává mantinely ... vývojář pak může věřit tomu co mu llm připravý ... samozřejmě všechny tooly říkají llm co má a nemá špatně ... sama si to opraví. Takhle se dají strojově zakódovat všechny pravidla projektu ... může se to přirovnat ke stavbě vlastního custom IDE ... no a když mám tohle odladěný sekám přes llm kód ve kvalitě kterou ani já bych osobně nědělal protože je příliš pracná v poměru času na projekt.

na to se dá navázat dalším procesem který plní další role ... testy, architektura, nasazení, správa, monitoring ... všechny dílčí kroky llm vidí a reaguje podle nich

používání llm na programování kódu pořád stejně jako před llm je velké mrhání výkonem

dnes vyhraje ten kdo si pomocí llm umí postavit automatizovanou továrnu na vývoj ... ne kdo pomocí llm udělá další webovou stránku

Už jen čekám, kdy někdo přijde s nápadem pomocí llm postavit automatizované llm, které napíše llm, které vygeneruje llm, které bude dělat zcela automatizovaný vývoj. Takové meta-meta-ide na výrobu meta-ide, které vygeneruje ide. Paralelně k tomu bude meta-meta-jazyk, kterým se bude deklarovat meta-jazyk, který pro každý jednotlivý projekt vytvoří samostatný jazyk, ideální pro daný projekt.

Výsledkem bude "dokonalý svět", kde zákazník, který vůbec netuší, co a jestli vůbec potřebuje, si koupí službu, která mu deklaruje stroj, který vygeneruje LLM, tomu zákazník napíše, co je zač a LLM mu vymyslí, co by si mohl chtít nechat koupit. Samozřejmě ihned kontaktuje dodavatele, který službu sponzoruje. Ten bude mít svůj meta-meta-llm, ten přijme objednávku a vygeneruje meta-llm, které právě pro ten projekt nechá vygenerovat zcela unikátní programovací jazyk i s kompilátorem a ide. V něm ten projekt vznikne. Rovnou se i proplatí faktura a jediné, co bude ještě potřeba udělat, vygenerovat LLM, které budou tvořit virtuální zákazníky, aby to taky někdo k něčemu používal

> pomocí llm postavit automatizované llm, které napíše llm, které vygeneruje llm,

... a proč si myslíte, že je llm stále lepší v kódování a teď už i ve vrstvách vývoje SW na kódováním?

Protože to AI firmám urychluje a zkvalitňuje vývoj a testování!

Sice se to úplně netýká toho, co jsem psal...

Ale "llm je stále lepší v kódování" ne proto, že to někomu urychluje a zkvalitňuje vývoj a testování, ale proto, že do toho hromada investorů lije neuvěřitelné peníze, firmy, které LLM nabízí, přesvědčují investory o tom, že to jednou půjde zpeněžit, a proto také své modely neustále vylepšují, jelikož jsou všechny zatím ekonomicky v mínusu a pány investory je teda potřeba aspoň ukecat, že někdy v budoucnu to bude lepší a peníze se vrátí, když se povede ten současný ohlupující marketing, že bez LLM nikdo nemůže existovat (zajímavý, že to šlo několik milionů let).

No a v neposlední řadě se modely zlepšují i proto, co bylo nastíněné v článku - učí se na kvalitním open source kódu, který prošel řadou lidských kontrol, takže pokud se LLM učilo na něčem, co obsahovalo chybu, tak se jistě také učilo podobný vzor na několika dalších projektech, které chybu neobsahovaly. A proto si nastavilo váhy tak, že vzor bez chyb považuje za vhodný k napovídání (záměrně nepíšu "správný", ale "vhodný k napovídání").

Vřele doporučuji zkusit některé LLM generovat šablony do LaTeXu. Možná se situace už trochu zlepšila, ale ještě nedávno neexistoval model, který by dokázal vygenerovat něco, co by se aspoň vzdáleně blížilo popsaným požadavkům. Předpokládám, že to souvisí jednak s nedostatkem vzorových materiálů na internetu a také s nedostatečnou online dokumentací. Nejspíš i s tím, že vizuální výstup ze šablony se LLM hůř analyzuje, ale základem bude nedostatek FOSS vzorů.