Názory k článku
Je možné použít AI k automatickému naladění výkonu jádra?

Pěkně se ta spirála směřující k singularitě roztáčí.
AI poladí jádro => bude mít víc výkonu pro sebe. => bude moc lépe ladit jádro.

V tomto případě bych řekl, že nejvyšší možný dostupný výkon se nutně limitně bliží nějaké hodnotě ať budete optimalizovat jak chcete, takže se moc roztáčet nemá co.

V tomto případě ano.
Ale AI může zvýšit i ten nejvyšší možný dostupný výkon.

V každom programe existuje jeden zbytočný riadok.

Dirichletův holubníkový princip říká něco jiného.

Rozhodně ne takhle.

nechcem take jadro!

Tak ale vysledek je -11.6 az +12.6 procent v oblasti latence. To je opravdu zanedbatelne zlepseni vuci rucni optimalizaci.

Ale jako nechapu jak muze mit na vliv *latence* cokoliv z danych parametru. Vzdyt prijde dotaz po netu a ten se zodpovi. Pokud to chci mit rychlejsi, tak potrebuji hledat "kde to vysi" a ne nahodne tocit cudlikama na mixu :D

Ale jo, zase ony ty čudlíky dokážou dost. Takovej /proc/sys/vm/­dirty_ratio sám o sobě dokáže udělat dost užitku (USB2.0 flashka) i škody (většina RAMěti dirty zrovna po kopii fajlu (nejlépe na velkej SMR disk), když zrovna potřebuju naloaovat větší LLM), o to víc v kombinaci s swappiness etc.
Takže si dokážu představit, že místo těch ručních optimalizací, co zapomínám dělat, se o ně pokusí neuronka. Doufám jen, že jako userspace process.

21. 11. 2023, 00:09 editováno autorem komentáře