Faiss编译遇到的各种问题(通过go调用Faiss)
2022-08-23 本文已影响0人
greastate
提前喷几句:辣鸡faiss团队,不注重文档维护,简直折磨死人
再提前说下,笔者的系统是centos-7,有些问题可能不具有共性,没准在ubuntu等其他系统下就没有这些乱七八糟的事情,情选择性观看
- faiss官方仓库:https://github.com/facebookresearch/faiss/releases
- 一个封装得很好的go-faiss库:https://github.com/DataIntelligenceCrew/go-faiss
cmake \
-DCMAKE_BUILD_TYPE=Release \ # release版本剔除debug相关能力,性能会更好,
-DBUILD_SHARED_LIBS=ON \ # go只能用共享库,无法直接使用编译出的静态库
-DFAISS_OPT_LEVEL=avx2 \ # avx2性能会更好,开启后会同时编译出两个库,一个avx2的,一个通用的
-DFAISS_ENABLE_GPU=OFF \ # 不使用gpu能力
-DFAISS_ENABLE_PYTHON=OFF \ # 不使用python接口
-DFAISS_ENABLE_C_API=ON \ # 开启c api的编译,golang的cgo只支持c,不支持c++,不要单独前往c_api目录编译
-B build .
make -j -C build #开始编译
按照上面的编译参数,或go-faiss给的文档很可能仍然无法跑起来,还有不少需要注意的点
- 需要提前安装好openblas(mkl也可以,faiss会优先使用mkl,如果找得到的话)
https://centos.pkgs.org/7/epel-x86_64/openblas-devel-0.3.3-2.el7.x86_64.rpm.html
- 安装或升级gcc,centos7安装的gcc为4.8.5版本,编译出的faiss无法正确运行(faiss用到正则特性,至少需要4.9),需升级GCC,
相关升级文档
# 安装7系列工具包
sudo yum install centos-release-scl
sudo yum install devtoolset-7-gcc* #默认不会马上生效。zsh不支持匹配符,需要使用bash
scl enable devtoolset-7 bash #临时生效命令
which gcc
gcc --version
- 将编译产物移动到正确位置
- faiss的
make -C build install
会将编译产物移动到/usr/local/lib
/usr/local/include
下 - 但在我系统里,
/usr/local/lib
这个目录并不是默认的lib目录,需将其移动到/usr/lib64/
下
- faiss的
QA:
-
cgo: inconsistent definitions for xxxx
问题
升级gcc版本可解决,参考上面升级gcc版本部分