Názory k článku
AI hlášení chyb jako DoS útok na správce open-source projektů

Moc hezky preklep :) Byl zasazen stokou hlaseni =)

Stroje holt utoci po vzoru liberalu :-)

Prvni faze, zahltit a diskreditovat lidske autory hlasenim chyb.
Druha faze, nabidnout jejich strojove zpracovani.
Treti faze, resit chyby primou upravou kodu agentem
Faze 4, prohlasit cloveka za zdroj chyb a bezpecnostni riziko
Faze 5, v ramci lepsich zitrku a zvyseni bezpecnosti eliminovat a zakazat lidske zasahy do zdrojoveho kodu

"utoci po vzoru liberalu"
Povedal by som že po vzore ľavičiarov :-) Asi sa ti tie dva pojmy zlievajú.

Plus nahradit lidskou sílu roboty je sen pravičáků :-)

Mnooo...

Pravica : nahradi pracovnikov robotmi -> prachy z vyplat si ponecha majitel, ktory zaplatil za roboty
Lavica: nahradi pracovnikov robotmi -> prachy z vyplat rozdeli (helicopter money) a majitela ktory za roboty zaplatil prinajlepsom ignoruje, v horsom pripade z neho urobi triedneho nepriatela.

Obe strany maju svoj dovod nahradit pracovnikov robotmi.

26. 8. 2026, 12:15 editováno autorem komentáře

Majiteľa šupne za rozvracanie republiky do basy, robotov nebude nikto udržiavať, systém sa rozpadne, nastane občianska vojna, nakoniec sa všetko usadí a pokračujeme ďalším kolom.

Copak to nejde u té ai ty chyby nejdřív shrnout a poslat pak v 1 příspěvku třeba? Určitě to pomůže s odstraňováním chyb, vale ne posílat každou chybu zvlášť.

Par stovek hlášeni které nenarušili provoz ještě není DoS. Jen AI flood.

Nejspíš to bylo myšleno jako DoS na toho člověka co to spravuje :-)....

Nemela by ta zpravicka spis znit - spravci Quemu jsou jelita protoze nedokazkou zablokovat jednoho uzivatele a jeste o tom vsem vykladaji?

tam je jiný problém, co kdyby ty hlášení byla skutečná a zranitelnost by tam opravdu existovala? Dokážeš si představit ten problém, kdyby se to ignorovalo a nechala otevřená díra?

A v tom je nejaky problem? Dira tam je se 100% jistotou. To ze o ni nekdo vi je taky 100% jisty. Takze jestli tam bude jeste druha nebo treti ... jakej je v tom rozdil?

Proto se libovolna bezpecnost cehokoli resi jako nezavisle vrstvy a je tudiz jedno ze ty vrstvy (kazda jedna) maji diry. Predpoklad je, ze kdyz tech vrstev bude dost, nebudou se ty diry prekryvat.

Jinak se tomu rika vyhnivaci hromadka. Kdyz nekdo neco chce, das to navrch hromadky a nic s tim nedelas ... jednou za cas (treba mesic) spodni 1/3 hodis do kose. Problem vyhnil, mozna existuje, ale nikoho to nezajima.

Kdyz se dotycny ozve s dotazem, kdy se to pripadne bude resit ... presunes to navrch ... a kdyz se ozve potreti, zacnes to resit.

Efektivne tak eliminujes kolem 80-90% presudoproblemu a pseudopozadavku na veci, ktery vlastne nikoho nezajimaj a pokud je realizujes, stejne to nikdo nebude pouzivat. Zbytecna prace.

Dokazu a celkem bezne se to take deje. IMHO kazdy vetsi projekt ma interne otevrene security bugy ktere nejsou opravene (z ruznych duvodu).

> Dokážeš si představit ten problém
Ano dokazem, ziadny problem by nenastal. Nekvalitne hlasenie = ziadne hlasenie.

> Dokážeš si představit ten problém
Ano dokazem, ziadny problem by nenastal. Nekvalitne hlasenie = ziadne hlasenie.
Jasně a pak to první script-kiddie hodí do AI ať mu na to napíše exploit. Tohle není řesení a nebylo ani za doby kdy AI neexistovalo -- třeba jako uživatel jsem si mohl všimnout nějakého problému či chyby a nemít čas na to dělat důkladnou analýzu...

Tak nech to do toho ai hodi ten co to tam posiela. Myslim ze s jasnym exploitom s tym nebude mat nikto problem.

Nevidel by som to zas tak zhave.

Nekonecne mnozstvo opic mlatiacich do terminalov na ktorych bezi Emacs v konecnom case napise Shaekspeara.

Nekonecne mnozstvo AI sekuritakov odklikavajucich prompty do LLMiek tiez v konecnom case najde nejaku realnu zranitelnost.

Ale ani v jednom pripade to nie je ten najefektivnejsi sposob ako to spravit.

To vobec nie je pravda. Opica na klavesnici je random zalezitost. AI nie, ta si stale ide svoje stitisticky priemerne kolaje.

> Opica na klavesnici je random zalezitost.

Dokonale kulová opice ve vakuu možná. Nebo aspon ta imaginární opice která existuje jen v tom myšlenkovém experimentu. Reálná opice náhodná určitě nebude. Ta si pojede svoje koleje, které jí dávají smysl.

"Nekonecne mnozstvo opic mlatiacich do terminalov na ktorych bezi Emacs v konecnom case napise Shaekspeara."
Toto neplati.
Ziadne nahodne javy nemozu vygenerovat usporiadany system. Mozte si to vyskusat napr. s pinmenkami do polievky. Nepodari sa vam vygenerovat ani abeceda. Nieto este Shaekspear.

To není pravda. Ten shakespeare je jeden z možných stringů. Náhodný proces, který střílí stringy náhodně jeden po druhém (nebo paralelně jako u těch imaginárních opic) ho dříve či později trefí. Jediná podmínka je aby opravdu mohl nagenerovat jakýkoliv možný string.

Jen to bude trvat nechutně dlouho. Což je ale v případě myšlenkových experimentů úplně jedno.

Tohle je přesně věc, kdy při setkání s nekonečny "common sense" selhává, a vznikají z toho velmi zajímavé paradoxy.

Přátelské připomenutí - nekonečno není jen "hodně mnoho", nekonečno je nekonečno, když se tím třeba vynásobí libovolně malá, ale nenulová pravděpodobnost (klidně exponenciálně klesající), tak je výsledek se limitně blíží jedné.

Pokud mám nekonečně času a uzavřený pokoj, tak v obrovském, ale konečném čase dojde k fluktuaci že vznikne černá mikrodíra, která se následně vypaří (mnohem dříve dojde ale k fůzi všeho tam na železo...).

Pokud mám do nekonečna expandující Vesmír ve stádiu tepelné smrti (T=10^-30K), tak je mnohem pravděpodobnější, že to, co jsme tady je jen fluktuace kdy jsme vznikli z ničeho, než že jsme skuteční, ještě před tepelnou smrtí (ten paradox má jméno Botlzman brain paradox https://www.physicsoftheuniverse.com/blog/the-boltzmann-brain-paradox )

Nebo, k našemu oboru blíž, prakticky jakýkoli teorém z computer science (třeba ten slavný obecně nerozhodnutelný halting problem) má v sobě nějak zakomponovanou nějakou vlastnost nekonečna v důkazu (obvykle se používají Turingovy stroje s páskou, která je nekonečná - pokud by nebyla, tak by řešení bylo triviální počkat tolik kroků, kolik je maximální počet stavů, ale do tohohle právě to nekonečno efektivně hází vidle)

(je tam sice technikálie, že i u n-stavového Turingova stroje, existuje funkce Busy beaver, která udává maximální počet kroků (jinde zápisů), které jakýkoli stroj co se zastaví v konečném čase dokáže projít. Člověk by řekl, že halting problém vyřešíme tak, že necháme stroj běžet BB(n)+1 kroků, a pokud se nezastaví, tak se nezastaví nikdy. Problém je, že lze dokázat, že BB(n) samu nelze z ZFC dokázat pro n>=432 (existuje 432stavová TM, která zastaví právě tehdy, pokud je ZFC sporný))

A to jsme se ještě ani nedostali k mohutnostem nekonečen, hierarchii kardinálů a ordinálů, trasnfinitní indukci apod. ale jen k pár základním vlastnostem spočetného nekonečna.

Edit: Nedoporučuji nad tím ale moc přemýšlet, traduje se, že dokonce pan Cantor se z toho ve finále zbláznil.

27. 8. 2026, 18:52 editováno autorem komentáře

V čem je abeceda uspořádanější systém než libovolná jiná kombinace těch písmen? Jediný důvod proč je pro nás uspořádaná je ten, že jsme se to kdysi rozhodli seřadit takhle.

Nevyhnutelně nastane doba, kdy první fáze verifikace ohlášeného problému bude taky přes AI. Až potom přijde na řadu lidský programátor. Možná.

Si tady odložim myšlenku která mi nedá usnout:

Šel by jazykový model použít jako generátor náhodných čísel?

1:23 spím.
Dobrou noc.

Samozřejmě jsem nemyslel promt:
Řekni náhodné číslo.
Claude nejspíš odpoví 42
Což přivede k smíchu čtenáře Stopařova průvodce po galaxii.

Výstup na stejnou otázku je pokaždé jiný.
Když se nastaví parametr 'temperature' na něco velkého.
Z toho náhodného šumu (halucinací) by mělo jít vygenerovat náhodné číslo.

Grok to dělá tak, že spustí subproces v bashi s "echo $RANDOM"

Edit: Na random realne cislo zase "python3 -c "import random; print(random.u­niform(-100, 100))""

27. 8. 2026, 06:57 editováno autorem komentáře