📐 Matematiksel Formül ve Hesaplama Mantığı
RAM_{GB} = \frac{N_{vec} \times \left( D \times B_{elem} + M_{HNSW} \times 8 + \text{Meta}_{bytes} \right) \times 1.15}{10^9} 🔬 Mühendislik Metodolojisi ve Sektör Kıyaslaması
Milisaniyelik semantik arama (RAG) performansı için HNSW (Hierarchical Navigable Small World) indekslerinin RAM üzerinde tutulması gerekir.
10 milyon adet 1536 boyutlu Float32 vektör tek başına 61.4 GB yer kaplarken, HNSW graf düğümleri ve metadata ile birlikte toplam RAM ihtiyacı 75 GB’ı aşar. INT8 kuantalama ile bu maliyeti %75 oranında düşürebilirsiniz.
🛠️ Adım Adım Hesaplama ve Simülasyon Rehberi
- Toplam Vektör / Doküman Parçası (Milyon Adet): "Toplam Vektör / Doküman Parçası (Milyon Adet)" parametresini girin (varsayılan referans değer: 10).
- Embedding Vektör Boyutu (Dimension): "Embedding Vektör Boyutu (Dimension)" parametresini girin (varsayılan referans değer: 1536).
- Vektör İndeks Kuantalama Modu: "Vektör İndeks Kuantalama Modu" parametresini girin (varsayılan referans değer: 4).
- Vektör Başına Bellek İçi Metadata Boyutu (Byte): "Vektör Başına Bellek İçi Metadata Boyutu (Byte)" parametresini girin (varsayılan referans değer: 256).