时间:2021-05-22
最近在使用Tensorflow 实现DNN网络时,遇到一些问题。目前网上关于Tensorflow的资料还比较少,现把问题和解决方法写出来,仅供参考。
(1)将两个子模型的输出合并到一个通道,例如同时连接到一个全连接层如图
合并方法为 tf.concat()函数。此函数需要两个个参数 concat(0或1,[合并节点1,合并节点2] )。0 或 1 代表节点合并的方式:0 代表合并后列相同,行增加;1 代表合并后行相同,列增加。
上图所示合并方法为: X_20 = tf.concat(1, [X_top, X_down]);
(2)加载预训练好模型的部分参数。例如训练完成了一个五层网络,现在需要训练好一个七层网络,使用已训练好的五层网络参数初始化七层网络的前五层。
首先,五层网络保存模型时的参数变量名要和七层网络的需要初始化的参数变量名保持一致。
然后,定义加载指定变量名的 tf.train.Saver()。
例如:
Saver在restore模型时就会只加载 W_fc1_I, W_fc2_I, b_fc1_I, b_fc2_I 这四个参数,并且初始化当前模型中变量名相同的变量。需要注意的是,其他参数也是需要初始化的,一种避免遗漏初始化变量的方法是首先使用 initialize_all_variables() 函数对所有参数进行初始化之后再调用 restore 函数初始化需要的部分参数。
此方法只是其中一种解决方法,仅供参考。
以上这篇Tensorflow 合并通道及加载子模型的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
盒子模型是CSS中一个重要的概念,理解了盒子模型才能更好的排版。其实盒子模型有两种,分别是IE盒子模型和标准W3C盒子模型。盒子模型是CSS中一个重要的概念,理
一、TensorFlow常规模型加载方法保存模型tf.train.Saver()类,.save(sess,ckpt文件目录)方法参数名称功能说明默认值var_l
网页盒子模型存在两种:1:标准W3C盒子模型;2:IE盒子模型(IE浏览器默认的模型)。在两种不同模型网页里,定义了相同CSS属性的元素显示效果是不一样的,下面
盒子模型是指CSS盒子模型,CSS盒子模型就是在网页设计中经常用到的CSS技术所使用的一种思维模型。 CSS假定所有的HTML文档元素都生成一个描述该元素在H
熟练掌握Div和CSS的布局方法,首先要对盒模型有足够的了解。盒子模型是CSS布局网页时非常重要的概念,只有很好地掌握了盒子模型以及其中每个元素的使用方法,才能