环境

Python: 3.6
Tensorflow-gpu: 2.1.0

错误信息

something error in training. ValueError(“Unable to save the object ListWrapper([‘Algorithm’, ‘ACC’, ‘MAE’, ‘MAPE’, ‘MSE’, ‘RMSE’, ‘R2’, ‘ME’, ‘Spearman’]) (a list wrapper constructed to track trackable TensorFlow objects). The wrapped list was modified outside the wrapper (its final value was [‘Algorithm’, ‘ACC’, ‘MAE’, ‘MAPE’, ‘MSE’, ‘RMSE’, ‘R2’, ‘ME’, ‘Spearman’], its value when a checkpoint dependency was added was None), which breaks restoration on object creation.\n\nIf you don’t need this list checkpointed, wrap it in a tf.contrib.checkpoint.NoDependency object; it will be automatically un-wrapped and subsequently ignored.”,)
Traceback (most recent call last):

tf.contrib.checkpoint.NoDependency object
NoDependency also works with tf.keras.Model, but only for checkpoint dependencies: wrapping a Layer in NoDependency will assign the (unwrapped) Layer to the attribute without a checkpoint dependency, but the Model will still track the Layer (so it will appear in Model.layers, and its variables will appear in Model.variables).

分析

简单来说，就是在变量(记为param)的值在model training 过程中发生了变化，从而导致在执行保存模型(即，checkpoint.save)时出现无法保存的情况。

代码的逻辑是这样的:

argparser: argparseclass build_model():''' model builder class'''def __init__(parser,....):if build:super().__init__(*self.init_model())def init_model():passdef  train_model(parser, data)params = parse_argument(parser)eval_metric_name = hparams['eval_metric_name']pp = [x for x in eval_metric_name]**pp.insert(0, 'Algorithm')**for i in np.arange(num_iterations):train_batch(data)checkpoint.save(model)  # the place error reported...parser = argparse.ArgumentParser()
parser.add_argument('--eval_metric_name', type=list, default=['ACC', 'MAE', 'MAPE', 'MSE', 'RMSE', 'R2', 'ME', 'Spearman'], help='please set eval_metric_name')// define model
model = build_model(parser)// load data
data = dataloader.load_data()// model train
model.train_model(parser, data)

如上， tractable variable 在training过程中发生变化：pp.insert(0, ‘Algorithm’)，从而导致save model时出现问题，

解决问题

insert操作会修改变量内存本身的值
pp = [‘Algorithm’] + pp

总结

这个问题也是偶然碰到的，之前一直没有问题，起因在更换了model的定义方式。
之前model 的定义基于Functional 的方式：模型类的call方法中最终返回的是tf.keras.Model 对象，
因为一些其他原因，将模型的定义方式改为了基于Model subclass 的方式，然后就出现了这个问题，莫名其妙。

Bug: tf.contrib.checkpoint.NoDependency object相关推荐

重磅 | TensorFlow 2.0即将发布，所有tf.contrib将被弃用
作者 | 阿司匹林出品 | AI科技大本营(公众号ID:rgznai100) 上周,谷歌刚刚发布了 TensorFlow 1.10.0 版本(详见<TensorFlow 版本 1.10.0 发 ...
TF学习——TF之API：TensorFlow的高级机器学习API—tf.contrib.learn的简介、使用方法、案例应用之详细攻略
TF学习--TF之API:TensorFlow的高级机器学习API-tf.contrib.learn的简介.使用方法.案例应用之详细攻略目录 tf.contrib.learn的简介 tf.contr ...
TensorFlow 2.0要来了，tf.contrib要砍了 | 有什么意见你说啊
圆栗子发自凹非寺量子位报道 | 公众号 QbitAI TensorFlow 2.0要来了. 昨天,谷歌大脑的Martin Wicke在一封公开邮件里,给这座即将造好的里程碑,做了个预告 ...
tf.nn，tf.layers， tf.contrib模块介绍
一.tf.nn,tf.layers, tf.contrib概述我们在使用tensorflow时,会发现tf.nn,tf.layers, tf.contrib模块有很多功能是重复的,尤其是卷积操作,在 ...
TensorFlow-4: tf.contrib.learn 快速入门
学习资料: https://www.tensorflow.org/get_started/tflearn 相应的中文翻译: http://studyai.site/2017/03/05/%E3%80% ...
tensorflow兼容处理 tensorflow.compat.v1 tf.contrib
20201130 问题提出: v1版本中tensorflow中contrib模块十分丰富,但是发展不可控,因此在v2版本中将这个模块集成到其他模块中去了.在学习tensorflow经常碰到tf.con ...
第十六节，使用函数封装库tf.contrib.layers
目录一 tf.contrib.layers中的具体函数介绍 1.tf.contrib.layers.conv2d()函数的定义如下: 2.tf.contrib.layers.max_pool2d() ...
tf.contrib.layers.fully_connected详解
博主 https://www.jianshu.com/p/673fd07954e9 tf.contrib.layers.fully_connected(F, num_outputs,activatio ...
TensorFlow高层次机器学习API (tf.contrib.learn)
TensorFlow高层次机器学习API (tf.contrib.learn) 1.tf.contrib.learn.datasets.base.load_csv_with_header 加载csv格 ...
tf.nn.softmax_cross_entropy_with_logits 和 tf.contrib.legacy_seq2seq.sequence_loss_by_example 的联系与区别
文章目录 0.函数介绍 1.区别联系 1.1 tf.nn.softmax_cross_entropy_with_logits 1.2 tf.nn.sparse_softmax_cross_entrop ...

Bug: tf.contrib.checkpoint.NoDependency object

环境

错误信息

分析

解决问题

总结

Bug: tf.contrib.checkpoint.NoDependency object相关推荐

最新文章

热门文章