求助:双隐层神经网络隐层单元数的确定,欢迎高手加入讨论!
欢迎各位高手加入此问题的探讨!本人建立了一个神经网络,输入神经单元数为7个,输出神经单元数为22个,为了避免单隐层神经网络过于复杂,本人采用了双隐层神经网络。在双隐层神经单元数的确定上想听听有经验人士的建议,本人暂时根据下面的确定方法将第一隐层数定为15,第二隐层数定为11。试问
1.这样的神经网络是否可靠?
2.若想多试几个隐层单元数进行比较,当第一隐层数增加时第二
隐层数是否得随之增加,增加的幅度是否相同?
在阅读文献的过程中,见过这样一种确定方法:
第一隐层节点数:mR2(R2代表R的平方)
第二隐层节点数:mR。其中(R=(n/m)的开3次方,n为输出层神经元数
目,m为输入层神经元数目)
请问这种方法是否可靠?还有什么理论或是经验的方法?
[ 本帖最后由 miniducky 于 2006-7-7 09:55 编辑 ] 帮你顶一下
好久没看到你的帖子了~~ 简短的一句话或许就是某个灵感的来源!
各位,快点加入你的看法啊! 1987年R.P.Lippmann利用他对多层两络功能的几何解释,提出了对隐含层节点数的估算。对于一个图形识别问题,假设输出判别边界是任意的形状,那么平均来说,由于每个非凸域的输出边界是靠组合第二隐含层的两个凸子域形成的,所以,第二隐含层的节点数应为M*2 ,这里M为输出层的节点数。在模式分类中,隐含节点数是训练输入模式数的一个函数。1988年Kuarycki根据其实验发现,在高维输入时,第一隐含层对第二隐含层的最佳节点数的比例为3 : 1 。例如,由两个隐含层的bp算法的神经元网络实现图形识别时,设输入节点为20和输出节点为8时,按Lippmann的关系,第二隐含层的节点数为M*2 = 8*2=16,根据Kuarycki的推论,第一隐含层的节点数应为3 *(M*2)=48。 不是说单隐层网络就已经能满足要求,隐层增加的效果不如神经元数的增加?
页:
[1]