Production Quantization
2022-01-28 本文已影响0人
汉江岳
参考资料
- https://www.pinecone.io/learn/product-quantization/
- http://www.fabwrite.com/productquantization
- http://kaiminghe.com/cvpr13/cvpr13opq_ppt.pdf
个人心得
Product Quantization的本质是将原始高维空间分解为有限数量的低维子空间，然后分别量化。具体可以参考资料1和2
image.png
image.png
image.png
image.png
PQ的动机来源
image.png
image.png
如上图红框所示，可以类比成：两个小组，组员之间的差异，可以用两个小组组长之间的差异来近似
Optimized PQ 试图寻找一个旋转矩阵，该旋转矩阵是正交矩阵，只旋转角度，不改变长度，将原始矩阵旋转后再进行PQ量化，以使量化后的向量重建后，其误差最小。旋转矩阵是通过EM方法，可以通过主成分分析（PCA）来理解。动机见下图
image.png
image.png
