Názory k článku pgvector, embedding a sémantické vyhledávání: sofistikovanější indexy a různé typy vektorů

Při nasazování je dobré si dát pozor nejenom na počet dimenzí, ale i na celkovou velikost jednoho záznamu. Nesmí překročit jeden blok (ten je někde v PG zadrátován), takže například při hybridním vyhledávání (vedle vektoru musí být uložen i text), nebo pokud se do tabulky ukládají i tagy, skóre apod. to už může být na limitu. Hlavně když se použije float32 (ale to zase není tak často).

Autor článku: docela bojujeme s tím, jakou implementaci RAG použít. pgvector a Faiss fungují, ale mají každá své problémy (imho je pgvector mnohem lepší, hlavně na hybrid search). Na scéně je Milvus, ale popravdě už je trošku unavující každých pár měsíců měnit technologie. Co se osvědčilo nebo naopak neosvědčilo ostatním?