Fedora AI-Assisted Contributions Policy
Návrh politiky, který už měsíc visí na komunitním blogu projektu Fedora doznal za ty poslední týdny poměrně dost změn do podoby finální verze. Aktuálně poslední komentář je shrnující je k dispozici v příslušné diskusi.
Návrh ve finální podobě byl schválen. Podívejme se tedy krátce, co vlastně Fedora plánuje, protože na jednu věc nesmíme zapomenout: mnoho z toho, co vznikne v rámci Fedory, je poté převzato dalšími distribucemi.
Co s AI ve Fedoře možno jest
Návrh říká, že přispěvatel může použít AI asistence pro příspěvky do Fedory, pokud při tom dodrží následující stanovené podmínky.
Odpovědnost: za kód z AI systému musí nést odpovědnost daný přispěvatel, který jej do projektu vkládá. Má při tom sledovat kvalitu, vyhovění licencím apod. Všechny příspěvky, ať už od člověka, či velkého jazykového modelu (LLM) a dalších generativních AI nástrojů musí splňovat standardy projektu pro začlenění. Přispěvatel je vždy autorem a je plně zodpovědný za celý příspěvek do projektu.
Transparentnost: přispěvatel musí uvést, jaké AI nástroje použil, je-li významná část příspěvku vzniklá s takovým nástrojem bez následných úprav. Přispěvatel by měl uvést také další případy použití AI nástrojů, bude-li tato informace ku prospěchu. Rutinní užívání asistenčních nástrojů pro opravy gramatiky či překlepů či vyjasnění jazyka není nutné uvádět. Uvedení informací pomůže projektu vyhodnotit jejich dopad a připravit nejlepší praktiky pro jejich používání, plus upravit existující procesy.
Zveřejnění takové informace o autorství bude provedeno na obvyklém místě. Pro příspěvky na Gitu je doporučena standardní metoda „Assisted-by: commit message trailer“, pro jiné příspěvky například v preambuli dokumentu, metadatech či poznámkách k překladu. Například tedy:
- Assisted-by: generic LLM chatbot
- Assisted-by: ChatGPTv5
Příspěvky a evaluace komunity: AI nástroje lze použít jako asistenty pro lidské hodnotitele, pro poskytování analýz a návrhů. Takový člověk ale nesmí použít AI jako jediného či konečného hodnotitele, na jehož základě bude o daném příspěvku rozhodnuto, ať již po věcné, nebo subjektivní stránce. Stejně tak se nesmí používat AI nástrojů v hodnocení postojů osob z komunity (např. kolem financování, vedoucích rolí či věcí týkajících se Code of Conduct).
Toto nezakazuje použití automatizovaných nástrojů pro objektivní technické validace jako CI/CD pipelines, automatizované testování či filtrování spamu. Finální zodpovědnost za akceptování příspěvku, i kdyby využívalo automatizovaný systém, vždy leží na lidském rozhodnutí, které autorizuje danou akci.
Rozsáhlé iniciativy: politika nepokrývá velké věci, rozsáhlé iniciativy, které mohou významně měnit to, jak projekt funguje, vést k exponenciálnímu růstu příspěvků do projektu či některých jeho částí. Takové iniciativy budou řešeny individuálně a je potřeba je diskutovat s Fedora Council.
Obavy ohledně případných porušení této politik by měly být reportovány privátní cestou Fedora Councilu.
Jak to mají jiné distribuce
Linuxových distribucí je asi tak miliarda, takže si zmiňme jen pár těch velkých.
V rámci Debianu nad tímto tématem rozjímali také a před rokem a půl dospěli k jasnému „ne“. Jak správně doplňuje LWN, Debian v rámci svého konzervativního přístupu zatím zaujal zamítavé stanovisko.
Podobně to má s AI příspěvky Gentoo. Jeho politika jasně zakazuje AI příspěvky do projektu. Zmiňuje přitom obavy kolem autorských práv, kvality a etičnosti takového konání.
Z podobných projektů vzpomeňme jarní přehled novinek v projektu FreeBSD, kde se správci také jasně vyjádřili: „ne“. AI hodnotí jako dobrý nástroj pro překlady, hledání chyb či urychlení chápání velkých zdrojáků, ale z hlediska generování kódu projektu jsou zde licenční obavy. Diskuse nadále pokračuje, ale zatím platí, že ne.
Zase ta Pandořina skřínka
Už jsem tu jeden článek, který dává AI do souvislosti se zvědavou Pandorou napsal. Před necelými třemi lety, v době boomu ChatGPT jsem tvrdil, že nejsme připraveni na tak rychlé tempo, s jakým nám AI vplouvá do životů. Za tím si i nadále stojím. Spíše skeptický ostatně nejsem sám.
V souvislosti s rozhodnutím týmu Fedory mě napadá jedna myšlenka: nikde není řečeno, čeho všeho se tato politika týká. Ano, je to jen má lenost, zkoumat, co vše spadá pod Fedoru a co naopak Fedora sama využívá z jiných projektů: GNOME? systemd? DNF? RPM? Kde je hranice? Tato hranice totiž bude podstatná pro další distribuce, které by se snadno mohly dostat do pozice projektů přebírajících AI kód, aniž by chtěly. A nepropíše se tato politika časem i do dalších, Red Hatem sponzorovaných projektů, které jsem zmínil?
Další rovina této věci je to, co jsem naznačoval už před lety a co zmiňuje i Marian Kechlibar. Dovolím si to lehce parafrázovat: nebude výsledkem povolení AI generovaného kódu skutečnost, že vývojáři časem zjistí, že s AI jsou efektivnější / produktivnější / dává jim to více volného času? A nebude následným důsledkem těchto zjištění pomalé zakrňování schopností vývojářů? Kdy komplexnost AI příspěvků dosáhne míry, že už se v tom nikdo živý nevyzná a dílčí přispěvatelé s AI generovaným kódem ani nebudou mít tucha, že by měli domýšlet souvislosti v přesazích do širších částí projektu?
Ty podmínky užití AI nejsou vymyšleny špatně, vypadá to celé logicky. Ale za prvé tak trochu pokrytecky ve stylu „nebudeme řešit, kdo má práva k tomu kódu, přeneseme to na přispěvatele prostým prohlášením že musí to či ono“. Ale to může mít výhledově negativní reálné dopady. Ale to je ten menší problém.
Větší problém je, že to celé trochu připomíná mikro-management, kde chybí velká krycí myšlenka, která by posunula danou věc k dobrému cíli. Připomíná to Trumpa, který zkouší „majkro-menežovat“ na střídačku Zelenského a Putina. Něco zkusí na Putina, ten slíbí a nedodrží. Pak zkusí něco na Zelenského a ve výsledku se jen promarní další měsíce.
John Fitzgerald Kennedy byl jinej frajer. Když byly objeveny rakety na Kubě, tak během několika dnů vystoupil před národ s jasným prohlášením: „Od této chvíle je politikou Spojených států považovat jakoukoli nukleární raketu vystřelenou z Kuby proti jakékoli zemi na západní polokouli za útok Sovětského svazu na Spojené státy vyžadující plnou odvetnou reakci proti Sovětskému Svazu. Vyzývám předsedu Chruščova, aby odstranil tuto bezohlednou a provokativní hrozbu pro světový mír…“.
Toto bylo ono vidění širších souvislostí a síla postavit se vzrůstajícímu problému čelem. Fedora do tohoto bodu dle mého nedošla. Řešení není ani polovičaté, je vlastně tak trochu alibistické. Ale je asi nejlepší možné v tuto chvíli. Budu velice rád, pokud do roka a do dne vzejde z Fedory něco méně „Trumpovského“, ale o to více „Kennedyovského“. Svět to setsakra potřebuje a včera bylo pozdě.
