Vlákno názorů k článku
OpenClaw začal mazat inbox ředitelce pro bezpečnost AI v Metě
od ROOO - Základ bezpečnosti, dávno před AI, je nevěřit článkům...
-
Jak je pravděpodobné, že je to pravda ve smyslu "nebezpečí" a replikace té situace. To je jako příběh, jak někdo jel a 100km mu praskla pneumatika. To samo o sobě nic neříká, jde o okolnosti. Už XX let platí situace, že významné % ztráty dat, třeba archivu fotek, mailů je při činnosti typu "promazání" a "konsolidace" archivu. To je příhoda úplně k ničemu. Já jsem takto jako ona přišel o data (jestli o ně přišla) 2x, naštěstí omezeně, poprvé někdy 1999 a podruhé 2005, pustil jsem skript, který mi rozházel foldery podle nějaké logiky a nakonec jsem měl archivované náhledy 600*480 a originály fotek jsem si smazal. Pustit jakoukoli rutinu "vyzkouším co to udělá" na 120G dat v mailové schránce je smrtící v roce 2000 i 2026. Jestli to někdo vyhodnocuje jako riziko, tak je riziková spíš ta naivita.
-
Základní pravidlo třeba knihovníků a archivářů už nejméně tak sto let: nikdy, nikdy, pokud možno fakt nikdy nepřevádějte katalogové záznamy z jednoho formátu do druhého. Proto se dnes taky stále běžně používá k popisu knihovních záznamů MARC 21 což je formát vyvinutý někdy v polovině šedesátých let založený na Z39.2; v dnešní době opravdu těžký anachronismus.
-
"AI začala mazat" je asi něco jako "Disk Cleaner který naprogramoval Láďa" smazal 500 důležitých souborů, pracovnice pustila program a když se vrátila z oběda tak XY.... toto jsou clickbaity. V https://openclaw.ai/ něco naprogramovali a posrali to. Tak jako se to mohlo stát u CCcleaneru v roce 1999, zálohovacího SW v roce 2010. Další clickbait je podprahová informace "ani šéfové security labů AI nezvládají". Na těchto pozicích mohou být lidé jako Schillerová, Kalousek, protože mají některé předpoklady tuto funkci vykonávat a matematiku měli naposledy na střední. Za mě je největší alert, z jakého důvodu toto víme. "Screenshoty z jejího chatu" ... ona pracuje na vysoké pozici ve firmě, kde je základ reputace a důvěryhodnost při práci s daty a pak pustí i s dokumentací takovýto incident? Má IQ 89 nebo se to nikdy nestalo?
-
Rámcově ano, ale dovedu si představit implementaci, že mi to připraví logiku "čištění" a nabídne to k verifikaci. A pak konvenčně napsaná rutina to provede. Tedy pustím LLM na analytiku, nechám vizualizovat co našel a co udělá, když řeknu krleš. Dám krleš a něco napsané v "cobolu" to provede a na konci je velké tlačítko s unrollem po dobu 30 dnů. Pustit Copilota na excelový soubor je loterie a to je jejich core business. A Meta je firma, která si zakládá na tom, že mají vysoké standardy práci s daty. Například ostré data nepoužívají interně na testy, nepoužívají je na prezentace obchodním partnerům a nedej bože si manažer nedovolí vypracovat příběh jak něco posral a i s dokumentací to zveřejní všem. Co se asi děje, když poserou něco závažnějšího? Neudělají z toho blogový zápise, ale pošlou to mailem všem partnerům, aby se mrkli co se stalo? Nechce se mi to kontrolovat, ale skoro bych čekal, že ta ženská má sice tu funkci tak je napsána, ale prakticky je to nějaký politruk a přišla na pozici do rozjetého vlaku a není v žádném produkčním řetězci a proto má čas a energii takto prezentoval nějaký fail.
-
Třeba toto takto na první dobrou prakticky nemůže fungovat. Nebo jenom v nějakém inkubátoru. Chodím po fimách a lidi se logují na sdílená hesla, posílají zcela zmatené pokyny, nic nesouhlasí, prakticky třetina energie jde na řízení okolností. Že něco AI najde v excelu v příloze a pošle mail... to je teoretické flow. Na stránkách banky je služba, která je z roku 2017 a v roce 2018 ji přestali nabízet. Popsané procesy aby výklad byl jednoznačný nemá prakticky nikdo. Firma má vygenerovat přepravní štítek mail a ten poslat jako PDF někam jinam. Tam jinde má ženská out of office, je nemocná celý měsíc a má v zástup, kam se to má posílat. Prakticky ale pracuje a ten mail zpracuje. Na 99% firemního prostředí to nemůžete pustit. Tady ty věci musí být úzce specializované, jasné API, jasné procesy. Tedy opak "dotahování věcí". https://www.lupa.cz/aktuality/cupr-nabizi-ai-agenty-ze-sveho-noveho-projektu-maji-dotahnout-praci-za-lidi-do-konce/
ČLÁNKY DO MAILU