ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

如何在tf.estimator的input_fn中使用tf.data的可初始化迭代器?

2019-10-07 19:54:57  阅读:489  来源: 互联网

标签:python tensorflow tensorflow-datasets tensorflow-estimator


我想用tf.estimator.Estimator来管理我的训练,但是在使用tf.data API时遇到一些麻烦.

我有这样的事情:

def model_fn(features, labels, params, mode):
  # Defines model's ops.
  # Initializes with tf.train.Scaffold.
  # Returns an tf.estimator.EstimatorSpec.

def input_fn():
  dataset = tf.data.TextLineDataset("test.txt")
  # map, shuffle, padded_batch, etc.

  iterator = dataset.make_initializable_iterator()

  return iterator.get_next()

estimator = tf.estimator.Estimator(model_fn)
estimator.train(input_fn)

因为我不能在我的用例中使用make_one_shot_iterator,我的问题是input_fn包含一个应该在model_fn中初始化的迭代器(这里,我使用tf.train.Scaffold初始化本地操作).

另外,我知道我们不仅可以使用input_fn = iterator.get_next,否则其他ops将不会添加到同一个图形中.

初始化迭代器的推荐方法是什么?

解决方法:

从TensorFlow 1.5开始,可以使input_fn返回tf.data.Dataset,例如:

def input_fn():
  dataset = tf.data.TextLineDataset("test.txt")
  # map, shuffle, padded_batch, etc.
  return dataset

c294fcfd.

对于以前的版本,您可以在tf.GraphKeys.TABLE_INITIALIZERS集合中添加迭代器的初始化程序,并依赖于默认的初始化程序.

tf.add_to_collection(tf.GraphKeys.TABLE_INITIALIZERS, iterator.initializer)

标签:python,tensorflow,tensorflow-datasets,tensorflow-estimator
来源: https://codeday.me/bug/20191007/1868725.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有