Vlákno názorů k článku Postřehy z bezpečnosti: masivní kompromitace balíčků npm od Jirik - Krásný příklad jak AI generuje náhledové obrázky, které...

Krásný příklad jak AI generuje náhledové obrázky, které při bližším pohledu nedávají žádný smysl.

Njn, AI není neužitečná, ale její výstup je třeba pečlivě a systematicky kontrolovat (člověkem).

Někdy skutečně není snadné z toho vyrazit to, co chcete. Navíc je někdy vůbec těžké vymyslet, co má být obsahem toho obrázku. V tomhle případě po řadě variant nakonec zadání znělo: „násilím otevřený poštovní balík hoří na louce“.

A můžu se zeptat, co má ten prompt znamenat? Ta klíčová slova v tom vidím, ale nějak nejsem schopný dekódovat, co se snažil autor říct.

Pockat.. to jako znamena ze nejlepsi grafik ceskeho internetu (tedy ten co kreslil i obrazky pro root), byl nahrazen AI?

Kde jsou ty doby kdy jsme se tesili na komix v sobotu.

Vida, kazdou sobotu by mohl cron polozit nejaky mu modelu "rekni mi IT vtip" a pak jinymu modelu, aby na ten vtip nakreslisl komix.... :) ..no a radsi by se mel ptat anglicky...Coz znamena ze it en komix bude anglicky, ale ptat se toho cesky je o zivot.

Aspon budeme moct nadavat jak je to AI marny:)

Existuje na moderny ai šum nejaky aiBlock Origin ?

A když se tomu podhodí celý článek, tak to nevygeneruje nic použitelného?

Vetsiou to z delsiho vstupu generuje lepsi veci nez z jednoslovnych, ale cely clanek.. to bude halucinovat...

No, halucinovat možná bude ale úplně nevím, jestli výsledek nebude zhruba stejný jako takhle... Pokud pak teda nevygeneruje bílé myši a růžové slony.

15. 9. 2025, 16:41 editováno autorem komentáře

Zkusil jsem to na celý článek:
https://imgur.com/a/w9RiG9i

a varianta s kratším promptem vygenerovaným podle obsahu článku:
https://imgur.com/a/VezBgrH

Mám zajímavou zkušenost, že čím víc člověk upřesňuje zadání, tím horší výsledek AI produkuje. (A neplatí to jen pro obrázky.)
Typický postup je, že na jednoduché prvotní zadání přijde odpověď, která je skoro správná. Pokusím se tedy AI nasměrovat k drobné opravě - a výsledkem je úplně nová odpověď, která se od té správné vzdaluje, ovšem s reflektovanou připomínkou.

Co se týče obrázků, tak to byla vždy hotová věda, v StableDiffusion rozhodovalo všechno, jak má vypadat prompt, pozice v promptu, váhy, parametry, co do negativního promptu, co dělat pomocí LORA, co pomocí textual embeedingu... Pak přišla SD2.0, ... SDXL, SVD a další desítky a u každého modelu to je úplně jinak, a pak jsem to přestal takhle podrobně sledovat a jen občas vyzkouším, co vyšlo nového...