我发现使用Tensorflow c++ API的一个替代方案是使用cppflow。

它是一个围绕Tensorflow C API的轻量级c++包装器。你得到非常小的可执行文件，它链接到libtensorflow。已经编译好的文件。还有一些使用的例子，您使用CMAKE而不是Bazel。

首先，您应该按照这里的说明从Github下载源代码(您需要Bazel和最新版本的GCC)。

The C++ API (and the backend of the system) is in tensorflow/core. Right now, only the C++ Session interface, and the C API are being supported. You can use either of these to execute TensorFlow graphs that have been built using the Python API and serialized to a GraphDef protocol buffer. There is also an experimental feature for building graphs in C++, but this is currently not quite as full-featured as the Python API (e.g. no support for auto-differentiation at present). You can see an example program that builds a small graph in C++ here.

c++ API的第二部分是用于添加新的OpKernel的API，这是一个包含CPU和GPU的数值内核实现的类。在tensorflow/core/kernels中有许多如何构建这些操作的示例，以及在c++中添加新操作的教程。

如果你想在一个独立的包上使用Tensorflow c++ api，你可能需要tensorflow_cc。还有一个c api版本的tensorflow。所以)构建c++版本，你可以使用:

bazel build -c opt //tensorflow:libtensorflow_cc.so

注1:如果你想添加intrinsic支持，你可以添加这样的标志:——copt=-msse4.2——copt=-mavx

注2:如果你想在你的项目中也使用OpenCV，当同时使用两个库时(tensorflow问题)，你应该使用——config=monolithic。

构建库后，需要将其添加到项目中。 要做到这一点，你可以包括以下路径:

tensorflow
tensorflow/bazel-tensorflow/external/eigen_archive
tensorflow/bazel-tensorflow/external/protobuf_archive/src
tensorflow/bazel-genfiles

并将库链接到您的项目:

tensorflow/bazel-bin/tensorflow/libtensorflow_framework.so (unused if you build with --config=monolithic)
tensorflow/bazel-bin/tensorflow/libtensorflow_cc.so

当你构建你的项目时，你还应该指定你的编译器，你将使用c++11标准。

附注:相对于tensorflow版本1.5的路径(您可能需要检查您的版本中是否有任何更改)。

这个链接也帮助我找到了所有这些信息:链接

首先，在安装了protobuf和eigen之后，你想要构建Tensorflow:

./configure
bazel build //tensorflow:libtensorflow_cc.so

然后复制以下include头文件和动态共享库到/usr/local/lib和/usr/local/include:

mkdir /usr/local/include/tf
cp -r bazel-genfiles/ /usr/local/include/tf/
cp -r tensorflow /usr/local/include/tf/
cp -r third_party /usr/local/include/tf/
cp -r bazel-bin/libtensorflow_cc.so /usr/local/lib/

最后，使用一个示例编译:

g++ -std=c++11 -o tf_example \
-I/usr/local/include/tf \
-I/usr/local/include/eigen3 \
-g -Wall -D_DEBUG -Wshadow -Wno-sign-compare -w  \
-L/usr/local/lib/libtensorflow_cc \
`pkg-config --cflags --libs protobuf` -ltensorflow_cc tf_example.cpp

Tensorflow本身只提供了关于c++ api的非常基本的示例。 这是一个很好的资源，包括数据集的例子，rnn, lstm, cnn等 Tensorflow c++的例子

如果你不想自己构建Tensorflow，而且你的操作系统是Debian或Ubuntu，你可以下载带有Tensorflow C/ c++库的预构建包。这个发行版可以用于CPU的C/ c++推理，GPU支持不包括在内:

https://github.com/kecsap/tensorflow_cpp_packaging/releases

这里有一些关于如何在Tensorflow (TFLearn)中冻结检查点的说明，并使用C/ c++ API加载这个模型进行推理:

https://github.com/kecsap/tensorflow_cpp_packaging/blob/master/README.md

注意:我是这个Github项目的开发者。