Vlákno názorů k článku pgvector, embedding a sémantické vyhledávání: sofistikovanější indexy a různé typy vektorů od Pavel Tišnovský - Autor článku: docela bojujeme s tím, jakou implementaci...

Autor článku: docela bojujeme s tím, jakou implementaci RAG použít. pgvector a Faiss fungují, ale mají každá své problémy (imho je pgvector mnohem lepší, hlavně na hybrid search). Na scéně je Milvus, ale popravdě už je trošku unavující každých pár měsíců měnit technologie. Co se osvědčilo nebo naopak neosvědčilo ostatním?

Teď se toho rojí hodně (jako další mě napadá třeba Qdrant). Z tohoto hlediska se jako produkční scénář jeví zůstat u pgvector (protože stabilita API) a počkat, kdo přežije test časem :)

Díky. Qdrant mám taky v hledáčku, ale tato oblast je už jak svět JS frameworků - každý týden něco nového. Ten pgvector je fajn mj.i proto, že se kromě jedné knihovny může používat produkční DB a je to (zatím) hodně stabilní.

Pro Open WebUI mame opensearch, funguje dobre.