时间:2021-05-22
一:需重定义神经网络继续训练的方法
1.训练代码
import numpy as npimport tensorflow as tfx_data=np.random.rand(100).astype(np.float32) y_data=x_data*0.1+0.3weight=tf.Variable(tf.random_uniform([1],-1.0,1.0),name="w")biases=tf.Variable(tf.zeros([1]),name="b") y=weight*x_data+biases loss=tf.reduce_mean(tf.square(y-y_data)) #lossoptimizer=tf.train.GradientDescentOptimizer(0.5)train=optimizer.minimize(loss) init=tf.global_variables_initializer() sess=tf.Session()sess.run(init)saver=tf.train.Saver(max_to_keep=0)for step in range(10): sess.run(train) saver.save(sess,"./save_mode",global_step=step) #保存 print("当前进行:",step)第一次训练截图:
2.恢复上一次的训练
import numpy as np import tensorflow as tf sess=tf.Session()saver=tf.train.import_meta_graph(r'save_mode-9.meta')saver.restore(sess,tf.train.latest_checkpoint(r'./')) print(sess.run("w:0"),sess.run("b:0")) graph=tf.get_default_graph() weight=graph.get_tensor_by_name("w:0") biases=graph.get_tensor_by_name("b:0") x_data=np.random.rand(100).astype(np.float32)y_data=x_data*0.1+0.3y=weight*x_data+biases loss=tf.reduce_mean(tf.square(y-y_data))optimizer=tf.train.GradientDescentOptimizer(0.5)train=optimizer.minimize(loss)saver=tf.train.Saver(max_to_keep=0)for step in range(10): sess.run(train) saver.save(sess,r"./save_new_mode",global_step=step) print("当前进行:",step," ",sess.run(weight),sess.run(biases))使用上次保存下的数据进行继续训练和保存:
#最后要提一下的是:
checkpoint文件
meta保存了TensorFlow计算图的结构信息
datat保存每个变量的取值
index保存了 表
加载restore时的文件路径名是以checkpoint文件中的“model_checkpoint_path”值决定的
这个方法需要重新定义神经网络
二:不需要重新定义神经网络的方法:
在上面训练的代码中加入:tf.add_to_collection("name",参数)
import numpy as npimport tensorflow as tfx_data=np.random.rand(100).astype(np.float32) y_data=x_data*0.1+0.3weight=tf.Variable(tf.random_uniform([1],-1.0,1.0),name="w")biases=tf.Variable(tf.zeros([1]),name="b")y=weight*x_data+biases loss=tf.reduce_mean(tf.square(y-y_data))optimizer=tf.train.GradientDescentOptimizer(0.5)train=optimizer.minimize(loss) tf.add_to_collection("new_way",train)init=tf.global_variables_initializer()sess=tf.Session()sess.run(init)saver=tf.train.Saver(max_to_keep=0) for step in range(10): sess.run(train) saver.save(sess,"./save_mode",global_step=step) print("当前进行:",step)在下面的载入代码中加入:tf.get_collection("name"),就可以直接使用了
import numpy as npimport tensorflow as tfsess=tf.Session()saver=tf.train.import_meta_graph(r'save_mode-9.meta')saver.restore(sess,tf.train.latest_checkpoint(r'./'))print(sess.run("w:0"),sess.run("b:0"))graph=tf.get_default_graph()weight=graph.get_tensor_by_name("w:0")biases=graph.get_tensor_by_name("b:0") y=tf.get_collection("new_way")[0] saver=tf.train.Saver(max_to_keep=0)for step in range(10): sess.run(y) saver.save(sess,r"./save_new_mode",global_step=step) print("当前进行:",step," ",sess.run(weight),sess.run(biases))总的来说,下面这种方法好像是要便利一些
以上这篇tensorflow如何继续训练之前保存的模型实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
使用tensorflow训练模型时,我们可以使用tensorflow自带的Save模块tf.train.Saver()来保存模型,使用方式很简单就是在训练完模型
1.检查点保存模型并不限于在训练模型后,在训练模型之中也需要保存,因为TensorFlow训练模型时难免会出现中断的情况,我们自然希望能够将训练得到的参数保存下
TensorFlow模型保存/载入我们在上线使用一个算法模型的时候,首先必须将已经训练好的模型保存下来。tensorflow保存模型的方式与sklearn不太一
使用Tensorflow进行深度学习训练的时候,需要对训练好的网络模型和各种参数进行保存,以便在此基础上继续训练或者使用。介绍这方面的博客有很多,我发现写的最好
从tensorflow训练后保存的模型中打印训变量:使用tf.train.NewCheckpointReader()importtensorflowastfre