RAG sistemlerinde doğru doküman parçalama ve arama stratejileri nasıl belirlenir?

Merhaba,

RAG sistemlerinde dokümanları doğru parçalara ayırmanın (chunking) ve uygun arama stratejisini seçmenin cevap kalitesini doğrudan etkilediğini biliyorum. Ancak farklı doküman türleri ve kullanım senaryoları için bu kararların nasıl sistematik şekilde verildiğini daha iyi anlamak istiyorum.

Şu ana kadar sabit token/karakter uzunluğuna göre chunking, overlap kullanımı, başlık ve paragraf sınırlarını koruyan semantic chunking gibi yöntemleri biliyorum. Ayrıca vector search, keyword/BM25 search, hybrid search ve reranking yaklaşımlarının yaygın olduğunu da biliyorum. Fakat örneğin teknik dokümanlar, PDF’ler, SSS içerikleri veya uzun prosedür dokümanlarında hangi yöntemin daha uygun olacağını kestirmekte zorlanıyorum.

Özellikle şu konularda yardım rica ediyorum:

– Chunk boyutu ve overlap oranı nasıl belirlenmeli?
– Ne zaman sabit boyutlu, ne zaman yapısal veya semantik chunking tercih edilmeli?
– Hybrid search hangi durumlarda saf vector search’e göre daha avantajlı olur?
– Metadata filtreleme, query rewriting ve reranking gibi adımlar retrieval pipeline’a nasıl eklenmeli?
– Bu seçimlerin retrieval metrikleri ve LLM’in ürettiği nihai cevap kalitesi üzerinden nasıl test edilip iyileştirilebileceğine dair pratik bir yaklaşım var mı?

Mümkünse yaygın senaryolar üzerinden best practice’ler ve dikkat edilmesi gereken hatalarla açıklayabilir misiniz?

Teşekkürler.