Vlákno názorů k článku
Open source editor Zed používá AI od Bel Shamharoth - Používal jsem zed s Github Copilotem. Jednou jsem...

Používal jsem zed s Github Copilotem. Jednou jsem byl překvapený, že mi nějak drtí disk. Z audit.log vylezlo, že skenuje celý FS včetně připojených médií. Nevím, co všechno prolezl, než jsem ho vypnul, ale už jsem ho víc nepoužil.

A nedělal jen nějakou indexaci? Pochybuji, že by gigabajty proháněl přes AI, to by byla drahá sranda.
Mě takhle drtilo Baloo po nové instalaci s KDE.

Zajímal by mě jediný rozumný důvod, proč by si měl editor dělat indexaci FS resp. vůbec něčeho jiného než projektu v něm otevřeném a knihoven.

Nevím jak přesně copilot funguje, ale odhaduji, že umí odpovídat i na "obecné" otázky, takže si vytvářel lokální databázi, aby vám pak nehalucinoval, když se zeptáte třeba "kde mám nainstalovaný python?".

tak hlavne aby se nepripravoval na dotaz "jake mam heslo do mailu" ;-)

github copilot != copilot ve woknech..

No, to asi těžko, on šel od / soubor po souboru a každý se pokusil otevřít. To je trochu mimo scope...

Je to divné, když je zdroják na githubu, to by přece někdo našel.

Taky jsem si říkal, ale zkoušel jsem to párkrát v sandboxu se stejným výsledkem. Zajímavé bylo, že to začal dělat až s otevřeným souborem, prázdný editor nic takového nedělal.
Možná to byla jen chyba, možná to s copilotem nesouviselo, ale prostě tomu už nevěřím.

Je to dokumentované chování. Zed skenuje všechno co je vidět pod "workspace" stromem, zase ve jménu UX (globální fuzzy search čehokoliv). Nejen že si projde filesystem, ale i na něj drží inotify watches, takže je informován o změnách.

Když např. otevřete ~/something.py, Zed si naskenuje celý ~/ pro případ, že bude uživatel něco chtít. Když tam někde vede symlink vejš (typicky ~/.wine/dosde­vices/z: -> /), tak se holt dostane i do rootu, a prošmejdí úplně všechno.

Není na to nějaké nastavení, kde to uživatel schválí? Nevěřím, že by to dělal bez vědomí uživatele (byť jakoby pro jeho prospěch při dalším používání).

Dik za info, takhle uz to nemusim zkouset sam, usetril jsi mi cas. Aby mi nejaka frikulinska vec prochazela cely disk od /, na to uz jsem proste stary.

Tak jako celý disk prochází i starý locate. Co je důležité je spíš to, vědět a mít kontrolu nad tím, co se se získanými metainformacemi děje, jestli zůstávají v zařízení nebo kam jsou posílané a jak je pak s nima nakládáno a k čemu slouží.

To znamená jak budou zpracované, jestli budou zdrojem jen pro lokální dotazy uživatele zařízení nebo se využijou v cloudu pro dotazy ostatních uživatelů (tj.trénování aplikace nebo modelu), v jaké míře a z kterých souborů nebo typů souborů atd..

V každé této fázi bych chtěl určitě mít možnost to předem odsouhlasit, anebo naopak zrušit souhlas přes nějaký checkbox s tím, že v případě zrušení souhlasu by se získané informace (tedy mimo ty, které jsou z principu zpracování zcela anonymní) odstranily. A taktéž mít související, aktualizovaný přehled, jaký objem informací každého druhu byl zpracovaný a k čemu.

Pokud toto tvůrce aplikace není schopen doložit, tak určitě nepoužívat, protože je to pak v podstatě jakýsi trojan, který má možnost třeba krást intelektuální vlastnictví... byla by to vlastně postaru řečeno taková průmyslová špionáž. Dovedu si navíc i představit, že mohou existovat ekluzivní smlouvy pro organizace, které si to zaplatí, aby měly k datům na serveru exkluzívní přístup a mohly využívat data pak jinak než k AI účelům přes aplikaci tj.těžily je přímo přes své AI z databází.

Ještě jsem zapomněl na to, že by v takovém případě měla být možnost nastavit, které cesty a složky budou úplně ignorované. To by měla být taková první možnost, aby to neprocházelo třeba osobní dokumenty atp.