📐 Mathematische Formel & Herleitung
RAM_{GB} = \frac{N_{vec} \times \left( D \times B_{elem} + M_{HNSW} \times 8 + \text{Meta}_{bytes} \right) \times 1.15}{10^9} 🔬 Methodik, Richtwerte & Fachanalyse
Moderne Vektordatenbanken nutzen HNSW-Graphen (Hierarchical Navigable Small World) im Arbeitsspeicher (RAM), um Suchanfragen im Millisekundenbereich zu beantworten.
Durch Scalar Quantization (INT8) lässt sich der RAM-Bedarf um bis zu 75 % reduzieren, ohne die Suchqualität (Recall) nennenswert zu beeinträchtigen.
🛠️ Schritt-für-Schritt-Anleitung zur Berechnung
- Gesamtanzahl der Vektoren / Chunks (in Millionen): Legen Sie den Parameter „Gesamtanzahl der Vektoren / Chunks (in Millionen)“ fest (Standardwert: 10).
- Embedding-Dimensionen (d): Legen Sie den Parameter „Embedding-Dimensionen (d)“ fest (Standardwert: 1536).
- Vektor-Quantisierungsmodus: Legen Sie den Parameter „Vektor-Quantisierungsmodus“ fest (Standardwert: 4).
- Metadaten-Payload pro Vektor im RAM (Bytes): Legen Sie den Parameter „Metadaten-Payload pro Vektor im RAM (Bytes)“ fest (Standardwert: 256).