TensorFlow 2.16.2 Lite C++ library build.

2. deploy
とりあえず、必要なファイルを~/usr/local/ へコピーします。
~/usr/local/
  lib
  include

注) include ファイルは、自分でコピーしないといけないみたい。
後、FlatBuffers 、 Abseil も必要とのこと。
同じ様に、copy shell を作った。
~/local/tensorflow/deploy-lite-nishi.sh
#!/bin/bash -eu # -*- coding: utf-8 -*- # Referece: # [copy_tensorflow_headers.sh](https://gist.github.com/saitodev/3cde48806a32272962899693700d9669) # $ sudo ./deploy-lite-nishi.sh VER=2.16.2 #DIST_DIR=/home/nishi/usr/local/share/libtensorflow-cpu-${VER} DIST_DIR=/home/nishi/usr/local #HEADER_DIR=${DIST_DIR}/include/tensorflow-${VER}-lite/tensorflow HEADER_DIR=${DIST_DIR}/include/tensorflow-${VER}-lite LIB_DIR=${DIST_DIR}/lib/tensorflow-${VER}-lite ROOT_DIR=./tensorflow-${VER} SRC_DIR=./tensorflow-${VER}/tensorflow if [ ! -e $HEADER_DIR ]; then mkdir -p $HEADER_DIR fi if [ ! -e $HEADER_DIR/tensorflow ]; then mkdir -p ${HEADER_DIR}/tensorflow fi if [ ! -e $LIB_DIR ]; then mkdir -p $LIB_DIR fi find ${ROOT_DIR}/build-nishi/ -name "lib*.a" | xargs -i cp -af {} ${LIB_DIR} #cp -af ${ROOT_DIR}/build-nishi/libtensorflow-lite.a ${LIB_DIR} #cp -af ${ROOT_DIR}/build-nishi/_deps/flatbuffers-build/libflatbuffers.a ${LIB_DIR} pushd $SRC_DIR find lite -follow -type f -name "*.h" -exec cp --parents {} ${HEADER_DIR}/tensorflow \; popd pushd ${ROOT_DIR}/build-nishi/ pushd abseil-cpp find absl -follow -type f -name "*.h" -exec cp --parents {} $HEADER_DIR \; find ci -follow -type f -name "*.h" -exec cp --parents {} $HEADER_DIR \; popd pushd flatbuffers/include find flatbuffers -follow -type f -name "*.h" -exec cp --parents {} $HEADER_DIR \; find flatbuffers -follow -type f -name "*.inc" -exec cp --parents {} $HEADER_DIR \; popd popd
注) 中のパスは、自分の PC に合せて変えとうせ。
注2) flatbuffers のコピー元が、最初間違っていたみたい。
build-nishi/flatbuffers <--- NG
build-nishi/flatbuffers/include <-- OK

$ cd ~local/tensorflow
$ chmod 755 deploy-lite-nishi.sh
$ ./deploy-lite-nishi.sh

3. lite/examples/label_image をビルドして試す。
$ cd ~/local/tensorflow/tensorflow-2.16.2/build-nishi
$ cmake --build . -j -t label_images

./examples/label_image/ 下に実行ファアイルができる。
$ cd examples/label_image
実行の前に、 mobilenet_quant_v1_224.tflite , labels.txt , grace_hopper.bmp が必要。
上記ファイルを、集める。
tensorflow-2.16.2/tensorflow/lite/examples/ios/download_model.sh を叩くか、
tensorflow/lite/examples/label_image
の、Download sample model and image を参考にする。

image データは、tensorflow/lite/examples/label_image/testdata/grace_hopper.bmp
あるのでそれを使うそうな。
$ ./label_image --image ../../../tensorflow/lite/examples/label_image/testdata/grace_hopper.bmp
INFO: Loaded model ./mobilenet_quant_v1_224.tflite INFO: resolved reporter INFO: Created TensorFlow Lite XNNPACK delegate for CPU. INFO: invoked INFO: average time: 6.902 ms INFO: 0.796078: 653 military uniform INFO: 0.0901961: 907 Windsor tie INFO: 0.0156863: 458 bow tie INFO: 0.0117647: 466 bulletproof vest INFO: 0.00392157: 922 book jacket
動くみたい。結構早い。

3. Cmake でのビルド。
自分のプログラムをビルドするにも、Cmake を使うみたい。
TensorFlow Lite C++ minimal example
を参考に、自分用の Cmake を作る必要がある。

CMakeLists.txt
を自分のプログラムデイレクトリーへコピーして、変更して試してみる。

下記、デイレクトリーに、
/home/nishi/Documents/VisualStudio-CPP/tflite/opp_tflite
  predict-test.cpp
  CMakeLists.txt
を用意して、
$ mkdir build
$ cd build
$ cmake ..
$ cmake --build . j3

CMakeLists.txt
cmake_minimum_required(VERSION 3.16) project(opp_tflite C CXX) set(TENSORFLOW_SOURCE_DIR "" CACHE PATH "Directory that contains the TensorFlow project" ) if(NOT TENSORFLOW_SOURCE_DIR) get_filename_component(TENSORFLOW_SOURCE_DIR #"${CMAKE_CURRENT_LIST_DIR}/../../../../" "/home/nishi/local/tensorflow/tensorflow-2.16.2" ABSOLUTE ) endif() add_subdirectory( "${TENSORFLOW_SOURCE_DIR}/tensorflow/lite" "${CMAKE_CURRENT_BINARY_DIR}/tensorflow-lite" EXCLUDE_FROM_ALL ) set(CMAKE_CXX_STANDARD 17) add_executable(predict-test predict-test.cpp ) target_link_libraries(predict-test tensorflow-lite )
これで、
predict-test ができるが、
この方法だと、全て再コンパイルになる。
先に作った、Tensorflow lite static Library が、まるきり使われない。

どうやら、下記箇所みたい。
CMake を使用した TensorFlow Lite の構築
インストール可能なパッケージのビルド

しかし、cmake 自体が、エラーになる。

とりあえず、opp_tflite の Cmake で作られる、 build.make と link.txt を参考にMakefileを作ってみた。
FILE = predict-test.cpp HDIR = -I /usr/include/opencv4 -I/home/nishi/usr/local/include/tensorflow-lite -I /home/nishi/usr/local/tflite-test/include LIBDIR = -L/home/nishi/usr/local/lib/tensorflow-lite -L/home/nishi/usr/local/tflite-test/lib OPT0 = -ltensorflow-lite CXX_FLAGS = -DEIGEN_NEON_GEBP_NR=4 -DTFLITE_BUILD_WITH_XNNPACK_DELEGATE -DXNNPACK_DELEGATE_ENABLE_QS8 -DXNNPACK_DELEGATE_ENABLE_QU8 -DTFL_STATIC_LIBRARY_BUILD -pthread CXX_DEFINES = -DCPUINFO_SUPPORTED_PLATFORM=1 -DPTHREADPOOL_NO_DEPRECATED_API=1 CC=/usr/bin/c++ opt = -labsl_flags -labsl_flags_internal -labsl_flags_marshalling \ -labsl_flags_reflection -labsl_flags_config -labsl_flags_program_name \ -labsl_flags_private_handle_accessor -labsl_flags_commandlineflag \ -labsl_flags_commandlineflag_internal -labsl_raw_hash_set \ -labsl_hashtablez_sampler -labsl_hash -labsl_city -labsl_low_level_hash \ -labsl_status -labsl_cord -labsl_bad_optional_access -labsl_cordz_info \ -labsl_cord_internal -labsl_cordz_functions \ -labsl_exponential_biased -labsl_cordz_handle \ -labsl_crc_cord_state -labsl_crc32c -labsl_crc_internal -labsl_crc_cpu_detect \ -labsl_str_format_internal -labsl_strerror -labsl_synchronization -labsl_stacktrace \ -labsl_symbolize -labsl_debugging_internal \ -labsl_demangle_internal -labsl_graphcycles_internal \ -labsl_kernel_timeout_internal -labsl_malloc_internal \ -labsl_time -labsl_strings -labsl_string_view -labsl_strings_internal \ -labsl_throw_delegate -labsl_base -labsl_spinlock_wait -lrt -labsl_int128 \ -labsl_civil_time -labsl_time_zone -labsl_bad_variant_access -labsl_raw_logging_internal \ -labsl_log_severity -lfarmhash -lfft2d_fftsg2d -lfft2d_fftsg \ -lm -lflatbuffers -leight_bit_int_gemm -lruy_context_get_ctx -lruy_context \ -lruy_frontend -lruy_kernel_arm -lruy_kernel_avx -lruy_kernel_avx2_fma \ -lruy_kernel_avx512 -lruy_apply_multiplier -lruy_pack_arm -lruy_pack_avx \ -lruy_pack_avx2_fma -lruy_pack_avx512 -lruy_prepare_packed_matrices -lruy_trmul \ -lruy_ctx -lruy_allocator -lruy_prepacked_cache -lruy_system_aligned_alloc \ -lruy_have_built_path_for_avx -lruy_have_built_path_for_avx2_fma \ -lruy_have_built_path_for_avx512 -lruy_thread_pool \ -lruy_blocking_counter -lruy_wait -lruy_denormal -lruy_block_map \ -lruy_tune -lruy_cpuinfo -lruy_profiler_instrumentation \ -pthread -ldl -lXNNPACK -lpthreadpool -lm -lcpuinfo .PHONY: link link: predict-test $(CXX) predict-test.o -o predict-test $(LIBDIR) $(OPT0) $(opt) predict-test: $(FILE) $(CXX) -c -Wall -std=c++17 $(CXX_FLAGS) $(CXX_DEFINES) $(FILE) $(HDIR) -o predict-test.o

$ make
$ ./predict-test
一応、動いた。

参考にしたのは、
build/CMakeFiles/predict-test.dir
  build.make
  link.txt

やはり、最終的には、cmake でビルドできるようにしないと、ROS2 の中で使えない。