Source: https://www.astrmira.com/ja/research/papers/covariance-binary-quantization/
Language: ja

[ホーム](https://www.astrmira.com/ja/)/[研究](https://www.astrmira.com/ja/research/)/2605.17524

REPRESENTATION GEOMETRY / ARXIV:2605.17524

# 1～2 ビットにしても、何が残るのか？

Covariance Structure and Coordinate Heterogeneity Govern Binary Quantization of Contrastive Embeddings

共分散構造と座標の不均一性から低ビットでの順位付けを説明し、追加の大きさビットやランダム回転の効果が表現ごとに異なる理由を探ります。

[arXiv で読む](https://arxiv.org/abs/2605.17524)[指定バージョンの PDF](https://arxiv.org/pdf/2605.17524v2)

論文情報

**著者**: Wenxuan Xiao

**初回投稿**: 2026-05-17

**最終改訂**: 2026-05-29

**公開バージョン**: arXiv 2605.17524v2

表現の幾何 · 二値量子化 · 共分散

座標の尺度と座標間の構造が、圧縮後に残る順位情報を共に決めます。

## 反対の設計が、どちらも機能するのはなぜか

二値量子化には、ベクトルをランダムに回転する方式と元の軸を保つ方式があり、同じビット幅でも表現によって検索品質は大きく変わります。本論文は、対比学習による埋め込みの統計からこれらを調べます。

## 共分散と座標の不均一性を分けて考える

ガウスモデルの下では、共分散構造全体が順位の忠実度に影響し、周辺分散だけでは座標間に蓄積した信号を見落とします。座標分散の不均一性は、大きさビットの情報量や、回転が有用な構造を助けるか失わせるかを左右します。

回転は分散を均等化して等方的な距離補正を助ける一方、別のコードが利用する不均一性を消す場合もあります。論文は忠実度の近似式と、モデルや次元をまたぐ経験的なスケーリング関係を導きます。

## 表現の構造を、設計の判断材料にする

9 系統の埋め込みと 18 データセットで、共分散、大きさビット、回転の効果を検証します。明示したガウスモデルと近似条件の下で、符号化や前処理を選ぶ統計的な根拠を示します。

原文と引用

## 論文の原文へ。

導出の詳細、実験設定、結果は公開論文をご覧ください。

[要旨とバージョン履歴 ↗](https://arxiv.org/abs/2605.17524)  
[論文全文 PDF ↗](https://arxiv.org/pdf/2605.17524v2)

関連論文

VECTOR SEARCH · 2026.09

### ベクトルを圧縮しても、同じ判断は保たれるか？

Wenxuan Xiao · Xu Cao

研究の概要

When Does Low-Bit Quantization Preserve the Decisions of Vector Search?

量子化誤差を検索の順位付けやグラフ枝刈りの判断に位置づけ、比較マージン、相関した残差、実行軌跡から信頼性を考察します。

ベクトル検索 · 判断の安定性

[研究の詳細へ](https://www.astrmira.com/ja/research/papers/low-bit-decisions/)

[arXiv](https://arxiv.org/abs/2609.09854)

SEARCH SYSTEMS · 2026.05

### QuIVer：二値空間で検索グラフを直接構築する

Wenxuan Xiao · Peidong Zhu · Zhiyou Wang · Chengcheng Li

研究の概要

QuIVer: Rethinking ANN Graph Topology via Training-Free Binary Quantization

学習不要の 2 ビット空間で ANN グラフを構築、枝刈り、探索し、最後の再順位付けでのみ完全なベクトルを読みます。コンパクトなトポロジーが機能するデータ条件を明らかにします。

近似最近傍検索 · グラフ索引

[研究の詳細へ](https://www.astrmira.com/ja/research/papers/quiver/)

[arXiv](https://arxiv.org/abs/2605.02171)
