Source: https://www.astrmira.com/de/research/papers/covariance-binary-quantization/
Language: de

[Startseite](https://www.astrmira.com/de/)/[Forschung](https://www.astrmira.com/de/research/)/2605.17524

REPRESENTATION GEOMETRY / ARXIV:2605.17524

# Was bleibt bei einem oder zwei Bits erhalten?

Covariance Structure and Coordinate Heterogeneity Govern Binary Quantization of Contrastive Embeddings

Erklärt Rangverhalten bei niedriger Bitbreite durch Kovarianz und unterschiedliche Koordinatenskalen, einschließlich der unterschiedlichen Wirkung eines zusätzlichen Betragsbits und zufälliger Rotation auf verschiedene Repräsentationen.

[Auf arXiv lesen](https://arxiv.org/abs/2605.17524)[PDF dieser Version öffnen](https://arxiv.org/pdf/2605.17524v2)

Angaben zum Artikel

**Autoren**: Wenxuan Xiao

**Erstmals eingereicht**: 2026-05-17

**Zuletzt überarbeitet**: 2026-05-29

**Öffentliche Version**: arXiv 2605.17524v2

Repräsentationsgeometrie · Binäre Quantisierung · Kovarianz

Koordinatenskalen und Beziehungen zwischen Koordinaten bestimmen gemeinsam, welche Ranginformation die Kompression übersteht.

## Warum können gegensätzliche Entwürfe beide funktionieren?

Einige binäre Quantisierungssysteme rotieren Vektoren zufällig, andere behalten die ursprünglichen Achsen. Bei gleicher Bitbreite variiert die Suchqualität zwischen Repräsentationen stark. Der Artikel untersucht diese Beobachtungen anhand der Statistik kontrastiver Embeddings.

## Kovarianz und Koordinatenheterogenität trennen

Im gaußschen Modell beeinflusst die gesamte Kovarianzstruktur die Rangtreue. Randvarianzen allein erfassen das aufsummierte Signal zwischen Koordinaten nicht. Ungleiche Koordinatenvarianzen bestimmen, wie viel ein Betragsbit beiträgt und ob zufällige Rotation hilft oder nützliche Struktur entfernt.

Rotation gleicht Varianzen an und kann eine isotrope Distanzkorrektur ermöglichen. Sie kann aber auch Heterogenität auslöschen, die ein anderer Code nutzt. Die Arbeit leitet Näherungen für die Rangtreue und empirische Skalierungsbeziehungen über Modelle und Dimensionen hinweg her.

## Repräsentationsstruktur als Entwurfshinweis nutzen

Experimente mit neun Embedding-Familien und achtzehn Datensätzen untersuchen Kovarianz, Betragsbits und Rotation. Die Ergebnisse geben statistische Orientierung für Kodierung und Vorverarbeitung unter den angegebenen gaußschen Annahmen und Näherungsbedingungen.

Lesen und zitieren

## Im Originalartikel weiterlesen.

Vollständige Herleitungen, Versuchsaufbau und Ergebnisse finden Sie im öffentlich zugänglichen Manuskript.

[Zusammenfassung und Versionsverlauf ↗](https://arxiv.org/abs/2605.17524)  
[Vollständiger Artikel als PDF ↗](https://arxiv.org/pdf/2605.17524v2)

Verwandte Artikel

VECTOR SEARCH · 2026.09

### Wann treffen komprimierte Vektoren dieselben Entscheidungen?

Wenxuan Xiao · Xu Cao

Forschung im Überblick

When Does Low-Bit Quantization Preserve the Decisions of Vector Search?

Untersucht Quantisierungsfehler in den tatsächlichen Rang- und Graphbeschneidungsentscheidungen der Vektorsuche und verbindet deren Zuverlässigkeit mit Vergleichsmargen, korrelierten Residuen und Ausführungsspuren.

Vektorsuche · Entscheidungsstabilität

[Diese Forschung entdecken](https://www.astrmira.com/de/research/papers/low-bit-decisions/)

[arXiv](https://arxiv.org/abs/2609.09854)

SEARCH SYSTEMS · 2026.05

### QuIVer: den Suchgraphen direkt im binären Raum aufbauen

Wenxuan Xiao · Peidong Zhu · Zhiyou Wang · Chengcheng Li

Forschung im Überblick

QuIVer: Rethinking ANN Graph Topology via Training-Free Binary Quantization

Baut, beschneidet und durchsucht einen ANN-Graphen in einem trainingsfreien Zweibit-Raum. Vollständige Vektoren werden nur zur abschließenden Neusortierung gelesen; die Arbeit zeigt, für welche Daten diese kompakte Topologie geeignet ist.

Approximative nächste Nachbarn · Graphindizes

[Diese Forschung entdecken](https://www.astrmira.com/de/research/papers/quiver/)

[arXiv](https://arxiv.org/abs/2605.02171)