TensorFlow r1.4では、keras が core APIになりました。
また、tf.keras.estimator.model_to_estimator にて、keras のモデルを Estimator へ変換もできます。
これにより、Kerasにてモデルを開発して、Estimator で訓練できます。
Estimatorで訓練できるのであれば、TPU Estimator にて、Google TPU で訓練できます。
で、CLOUD TPUが利用できます。
TPU Estimatorでは、訓練では複数のTPUを使えるようですが、推論は1つのTPUでのみ利用可能のようです。
てか、推論にそんなにいっぱいのTPUは必要無いと思いますが。。
あたし的には、モデル開発は、Kerasでいいと思っています。。。書くのが楽ちんだからです。。。