如果你不想自己构建Tensorflow，而且你的操作系统是Debian或Ubuntu，你可以下载带有Tensorflow C/ c++库的预构建包。这个发行版可以用于CPU的C/ c++推理，GPU支持不包括在内:

https://github.com/kecsap/tensorflow_cpp_packaging/releases

这里有一些关于如何在Tensorflow (TFLearn)中冻结检查点的说明，并使用C/ c++ API加载这个模型进行推理:

https://github.com/kecsap/tensorflow_cpp_packaging/blob/master/README.md

注意:我是这个Github项目的开发者。

首先，您应该按照这里的说明从Github下载源代码(您需要Bazel和最新版本的GCC)。

The C++ API (and the backend of the system) is in tensorflow/core. Right now, only the C++ Session interface, and the C API are being supported. You can use either of these to execute TensorFlow graphs that have been built using the Python API and serialized to a GraphDef protocol buffer. There is also an experimental feature for building graphs in C++, but this is currently not quite as full-featured as the Python API (e.g. no support for auto-differentiation at present). You can see an example program that builds a small graph in C++ here.

c++ API的第二部分是用于添加新的OpKernel的API，这是一个包含CPU和GPU的数值内核实现的类。在tensorflow/core/kernels中有许多如何构建这些操作的示例，以及在c++中添加新操作的教程。

为了补充@mrry的帖子，我整理了一个教程，解释如何用c++ API加载TensorFlow图。它非常简单，应该帮助您理解所有的部分是如何组合在一起的。这是它的核心:

要求:

巴泽尔安装 克隆TensorFlow回购

文件夹结构:

tensorflow tensorflow / | | /项目名称 Tensorflow / Tensorflow /|项目名称|/|项目名称|。Cc(例如https://gist.github.com/jimfleming/4202e529042c401b17b7) tensorflow / tensorflow / | |项目名称/构建

构建:

cc_binary(
    name = "<project name>",
    srcs = ["<project name>.cc"],
    deps = [
        "//tensorflow/core:tensorflow",
    ]
)

有两点需要注意，但可能有变通办法:

现在，构建需要在TensorFlow回购中进行。 编译后的二进制文件很大(103MB)。

https://medium.com/@jimfleming/loading-a-tensorflow-graph-with-the-c-api-4caaff88463f

如果你不想自己构建Tensorflow，而且你的操作系统是Debian或Ubuntu，你可以下载带有Tensorflow C/ c++库的预构建包。这个发行版可以用于CPU的C/ c++推理，GPU支持不包括在内:

https://github.com/kecsap/tensorflow_cpp_packaging/releases

这里有一些关于如何在Tensorflow (TFLearn)中冻结检查点的说明，并使用C/ c++ API加载这个模型进行推理:

https://github.com/kecsap/tensorflow_cpp_packaging/blob/master/README.md

注意:我是这个Github项目的开发者。

我使用了一种hack/workaround来避免自己构建整个TF库(这节省了时间(3分钟即可完成设置)、磁盘空间、安装开发依赖项以及生成二进制文件的大小)。它是官方不支持的，但如果你只是想快速上手，效果很好。

Install TF through pip (pip install tensorflow or pip install tensorflow-gpu). Then find its library _pywrap_tensorflow.so (TF 0.* - 1.0) or _pywrap_tensorflow_internal.so (TF 1.1+). In my case (Ubuntu) it's located at /usr/local/lib/python2.7/dist-packages/tensorflow/python/_pywrap_tensorflow.so. Then create a symlink to this library called lib_pywrap_tensorflow.so somewhere where your build system finds it (e.g. /usr/lib/local). The prefix lib is important! You can also give it another lib*.so name - if you call it libtensorflow.so, you may get better compatibility with other programs written to work with TF.

然后创建一个你习惯的c++项目(CMake, Make, Bazel，任何你喜欢的)。

然后，您就可以链接到这个库，以便为您的项目提供TF(您还必须链接到python2.7库)!在CMake中，你只需要添加target_link_libraries(target _pywrap_tensorflow python2.7)。

c++头文件位于这个库附近，例如/usr/local/lib/python2.7/dist-packages/tensorflow/include/。

再次强调:这种方式是官方不支持的，您可能会遇到各种问题。这个库似乎是静态链接的，例如protobuf，所以你可能会在奇怪的链接时间或运行时问题中运行。但是我能够加载存储的图形，恢复权重并运行推理，这是我在c++中最想要的功能。

如果你想在一个独立的包上使用Tensorflow c++ api，你可能需要tensorflow_cc。还有一个c api版本的tensorflow。所以)构建c++版本，你可以使用:

bazel build -c opt //tensorflow:libtensorflow_cc.so

注1:如果你想添加intrinsic支持，你可以添加这样的标志:——copt=-msse4.2——copt=-mavx

注2:如果你想在你的项目中也使用OpenCV，当同时使用两个库时(tensorflow问题)，你应该使用——config=monolithic。

构建库后，需要将其添加到项目中。 要做到这一点，你可以包括以下路径:

tensorflow
tensorflow/bazel-tensorflow/external/eigen_archive
tensorflow/bazel-tensorflow/external/protobuf_archive/src
tensorflow/bazel-genfiles

并将库链接到您的项目:

tensorflow/bazel-bin/tensorflow/libtensorflow_framework.so (unused if you build with --config=monolithic)
tensorflow/bazel-bin/tensorflow/libtensorflow_cc.so

当你构建你的项目时，你还应该指定你的编译器，你将使用c++11标准。

附注:相对于tensorflow版本1.5的路径(您可能需要检查您的版本中是否有任何更改)。

这个链接也帮助我找到了所有这些信息:链接