Google发布面向生产环境的TensorFlow Serving

谷歌于日前发布了TensorFlow Serving，这是个旨在帮助开发者将机器学习模型加入产品中的开源项目。

如TensorFlow这样的项目更易于构建机器学习算法，并为某些特定类型的数据输入做适应学习，而TensorFlow Serving则专注于让这些模型能够加入到产品环境中。开发者使用TensorFlow构建模型，然后使用TensorFlow Serving的API从客户端对输入做回应。谷歌同时还表示，TensorFlow Serving能够利用GPU资源加速处理过程。

有了这样的系统并不仅仅意味着开发者能够将其构建的模型更快地应用到产品中，而且还能够实验不同的算法和模型，并且仍保持稳定的结构。开发者还能够基于新的数据改善模型或者其输出，而架构的其它部分仍保持稳定。

谷歌表示，TensorFlow Serving采用C++编写，在性能上有所优化，在16核至强设备上，每核每秒能够处理超过10万个请求。当前TensorFlow Serving的code以及教程已经能够在GitHub获取到。（洪蕾）