Vlákno názorů k článku
ChatGPT časem odpovídá jinak od TomasX - Tak v tomhle je zrovna ChatGPT nepoužitelný. Odpoví mi...

Tak v tomhle je zrovna ChatGPT nepoužitelný.
Odpoví mi špatně, doplňujícími komentáři ho dovedu ke správné odpovědi.
Pak se v rámci jedné komunikace znovu zeptám na tutéž otázku a zase odpoví špatně, ignoruje předchozí kontext.

ChatGPT neumí odpovídat správně - vždycky dodá jen odpověď, která se mu zdá jako nejvhodnější podle natrénovaných dat. V podstatě je to jen takový vyhledávač odpovědí.
O správnosti odpovědi se ale musí člověk přesvědčit sám.

Mozna kdyby dokazal i vygenerovat testy a na nich overit kod?

Profesor Steven Hsu a jeho startup vyvyjeji AI, ktera se vice zameruje na bezchybnost. Je presvedceny, ze je to mozne. Doporucuji si poslechnout jeho podcast manifold1.

Nemůže nic ověřit, protože nerozumí otázce. K takové "inteligenci" je zatraceně daleko. Jak už bylo napsáno výše, je to jen generátor slov na základě odkoukaného modelu.

22. 7. 2023, 23:09 editováno autorem komentáře

Tiez absolutne nechapem o com ti ludia pisu. Pri drobnej zmene parametrov im ten model bude klamat od rana do vecera. Pouzivat to namiesto vyhladavaca je uplny nezmysel. Je to 'inteligentny' generator textu.

Konkretne https://www.manifold1.com/episodes/artificial-intelligence-large-language-models-oxford-lecture-35

Tiez ho tak vnimam a pouzivam.
Pouzivam ho ako rychlejsi vyhladavac. Nemusim klikat na odkazy vo vyhladavaci a skusat, kde je to, co hladam.

Je velmi dobry na vysvetlenie zakladnych veci. Pouzivam napriklad pri programovani a mne neznamom kode/jazyku. Je to rychlejsie ako to rucne hladat na internete. Zlozitejsie veci uz nedava. To by musel mat ine schopnosti. Aj to asi raz bude ale to est enejaky cas potrva.

Ja to beriem ako nieco co viem porovnat s clovekom, co ma nacitane vela/pozna teoriu ale bez praxe. Absolvent. Ten zlozite veci tiez nedava a az praxou sa nauci ako tu teoriu vyuzit a dostat sa hlbie v danej problematike. Vela veci nieje a je tazko zdokumentovatlenych a clovek sa ich len praxou ma sancu naucit.

Já ho používám běžně přesně opačně, ve chvíli, kdy klasický vyhledávač selže (např na otázku na nějaký technický detail sveřepě vrací hromadu odpovědí stylem indického L1 supportu, případně v něčem hodně novém pro mě neznám správný termín, kterým se zeptat).
Málokdy je odpověď správná, ale obvykle z ní vypadne pár pro mě nových výrazů, které pak když dám do kachny, tak už hledá správně.

Hej, to som aj ja zistil, že ak je niečo veľmi ťažko dohľadatelné, vtedy chatboty proste klamú. Včera som napríklad hľadal svetlo na bicykel, ktoré by sa dalo použiť ako power banka. Miesto toho, aby chatbot povedal, že nemá také informácie, poradil mi samozrejme úplné blbosti :)

Alebo moja 72 ročná manka potrebovala nájsť originál do angličtiny preloženej básne. Napísalo jej to, že je to Mandragora od Františka Hrubína. Taká báseň samozrejme, že nie je, ale znelo to presvedčivo, chvíľu som ju jej pomáhal hľadať :) Odvtedy s mankou tieto halucinácie voláme Mandragora.

Na vyhladavanie v prikazovom riadku pouzivam oi... v spojeni s TTS je to bomba ... https://github.com/PureArtistry/oi

Nie je to vyhľadávač, tak to nefunguje, to je generatívna AI, ChatGPT to proste všetko "vie". A keď nevie, tak proste hovorí hlúposti, ako každý bežný človek.(Nebudem menovať)

Tu je paper o transformer modeli, na ktorom je ChatGPT založený:
VASWANI, Ashish, et al. Attention is all you need. Advances in neural information processing systems, 2017, 30.

Konkretne na tu otazku s prvocislom by som ocakaval konzistentnu odpoved. To je asi chyba pristupu ze taketo veci nemaju v modeli vyriesene.

Neurónka, aj keď je schopná simulovať ľubovoľný algoritmus, občas trepe blbosti. Hento konkrétne prvočíslo pravdepodobne nie je v trénovacích dátach, trošku pomenia parametre siete, holt sa to prestane triafať. (Podľa mňa optimalizácie, aby žrala menej zdrojov)

Ja nič v tom také hrozné nevidím. Skôr vidím problém v tom, ak je to považované za ultimátny zdroj pravdy. Zdravá skepsa je vhodná pri všetkom.