移植TensorFlow Lite到ARM板LC1860C上

下面都在linux主机上操作

安装交叉编译工具

sudo apt-get install g++-arm-linux-gnueabihf
sudo apt-get install -y gcc-arm-linux-gnueabihf

下载TensorFlow

https://github.com/tensorflow/tensorflow
我用这个的树莓派编译版会报错NNAPI的错误：

/tensorflow/tensorflow/lite/tools/make/gen/rpi_armv7l/lib/libtensorflow-lite.a(nnapi_delegate.o): In function tflite::NNAPIAllocation::~NNAPIAllocation()': nnapi_delegate.cc:(.text+0x2c): undefined reference to NnApiImplementation()'
/tensorflow/tensorflow/lite/tools/make/gen/rpi_armv7l/lib/libtensorflow-lite.a(nnapi_delegate.o): In function tflite::NNAPIAllocation::NNAPIAllocation(char const*, tflite::ErrorReporter*)': nnapi_delegate.cc:(.text+0x110): undefined reference to NnApiImplementation()'
/tensorflow/tensorflow/lite/tools/make/gen/rpi_armv7l/lib/libtensorflow-lite.a(nnapi_delegate.o): In function tflite::NNAPIDelegate::~NNAPIDelegate()': nnapi_delegate.cc:(.text+0x190): undefined reference to NnApiImplementation()'
nnapi_delegate.cc:(.text+0x1b4): undefined reference to NnApiImplementation()' /tensorflow/tensorflow/lite/tools/make/gen/rpi_armv7l/lib/libtensorflow-lite.a(nnapi_delegate.o): In function tflite::addTensorOperands(tflite::Subgraph*, ANeuralNetworksModel*, unsigned int*, std::vector<long long, std::allocator >*)':

根据TensorFlow github上的issue： https://github.com/tensorflow/tensorflow/issues/25120 中大家的说法，把NNAPI屏蔽了就可以，但是我屏蔽了还是不行。。。
于是，只好下载了老版本的TensorFlow，用的v1.12.0： https://github.com/tensorflow/tensorflow/tree/bcdc3cd17aec1e062928cb994d06499f9a62efd5/tensorflow

下载依赖库

这个文件的位置好像一直在变。网络上参考的位置与我找到的位置不同。最新版的位置也与我用的v1.12.0的位置不同。
最新版的位置可以参考：https://tensorflow.google.cn/lite/guide/build_rpi

./tensorflow/contrib/lite/tools/make/download_dependencies.sh

编译TensorFlow Lite

文件位置与前面依赖库文件位置一致。

./tensorflow/contrib/lite/tools/make/build_rpi_lib.sh

生成的静态库位置为

./tensorflow/contrib/lite/tools/make/gen/rpi_armv7l/lib/libtensorflow-lite.a

编译模型

可以在./tensorflow/contrib/lite/tools/make/gen/rpi_armv7l/bin/下面生成可执行文件label_image

下面都在 LC1860C板子上操作

把生成的label_image拷贝到板子上，
拷贝图片./tensorflow/examples/label_image/data/grace_hopper.jpg到板子上
从./tensorflow/contrib/lite/g3doc/models.md下载模型mobilenet_v1_1.0_224.tflite
拷贝模型mobilenet_v1_1.0_224.tflite到板子上
下载模型所需文件：

$ curl -L "https://storage.googleapis.com/download.tensorflow.org/models/inception_v3_2016_08_28_frozen.pb.tar.gz" |
  tar -C tensorflow/examples/label_image/data -xz

拷贝标签文件./tensorflow/examples/label_image/data/imagenet_slim_labels.txt到板子上

运行label_image

 ./label_image -v 1 -m ./mobilenet_v1_1.0_224.tflite  -i ./grace_hopper.jpg-l ./imagenet_slim_labels.txt

报错：

[root@dtvl3000 ~/TensorFlowLite]#./label_image -v 1 -m ./mobilenet_v1_1.0_224.tflite -i ./grace_hopper.jpg -l ./imagenet_slim_labels.txt
-sh: ./label_image: not found

经过排查是因为编译器不一致导致的。重定向：

[root@dtvl3000 /lib]#ln -s ld-linux.so.3 ld-linux-armhf.so.3

再次运行报错：

[root@dtvl3000 ~/TensorFlowLite]#./label_image -v 1 -m ./mobilenet_v1_1.0_224.tflite -i ./grace_hopper.jpg -l ./imagenet_slim_labels.txt
./label_image: /lib/libm.so.6: version `GLIBC_2.27' not found (required by ./label_image)
./label_image: /lib/libstdc++.so.6: version `GLIBCXX_3.4.21' not found (required by ./label_image)
./label_image: /lib/libstdc++.so.6: version `GLIBCXX_3.4.22' not found (required by ./label_image)

本来后面还要再继续更新GLIBC库的，但是发现真的是无穷无尽了。
于是我重新换了块更新的板子，再没有这个问题了，所以其实移植到LC1860C上是失败了。。
换了另一块新的板子后，又遇到了新的问题，不过这就是下一篇文章的内容了。
当然，如果后续公司还是坚持要在LC1860C上跑，那我只能来继续这篇文章了。