[讨论]非线性控制与神经网络

xmwhit

从线性到非线性，表明了科学研究从简单到复杂的一个过程，研究非线性是必然的，因为他最接近现实，以系统论的观点来看一切事物的运动，只有用非线性系统来刻画才是最合理的。当然这里面还有一个随机和混沌的问题，单单非线性还不能去诠释整个宇宙。我觉得，就非线性控制系统的研究来说，人们正试图从两个不同角度看待和解决具体问题：
        其一，直接研究非线性系统的特性，以足够精确的数学建模为基础，以非线性常/偏微分方程的定性（定量）理论为手段，研究对系统实现控制目的的控制策略。
       其二，不考虑系统的具体的结构特性，从系统功能的角度将其看做从输入信号到输出信号的函数，在不了解该函数具体形式的前提下，利用特殊的手段去刻画，典型的例子是神经网络。
       顺便提个问题：
       从理论角度来讲，任何非线性函数都可以用某个神经网络以任意给定的精度来逼近，因此上面的第二种做法是有一定的根据的。然而就如同模糊数学里面的隶属度函数一样，神经网络的结构很大程度上都是靠经验来选择的，理论上还没有给出具体的解决方案！
       另外想了解一下，关于神经网络，有哪些具体的，实际当中正在用的工程应用实例？望了解的前辈或兄弟们指点一二！我想关于这方面的情况不只我一个人感兴趣！

[ 本帖最后由 cao 于 2006-11-9 11:23 编辑 ]

gxumwl

楼主说得有道理，本人也正想了解这方面的情况

cao

这方面的论文与实例也不少吧！
就是不敢说产品中有多少真正用的是神经网络！

xmwhit

曾经听到两位老师提到过这样的事，一个说神经网络根本没什么用，没见过谁真正在实际中用这种技术；
另一个因为曾经担任过神经网络这门课，所以立刻加以反驳，说有什么基于神经网络的芯片。但也没说得很清楚！

cao

原帖由 xmwhit 于 2006-11-12 08:59 发表
曾经听到两位老师提到过这样的事，一个说神经网络根本没什么用，没见过谁真正在实际中用这种技术；
另一个因为曾经担任过神经网络这门课，所以立刻加以反驳，说有什么基于神经网络的芯片。但也没说得很清楚！

已经有商业神经网络芯片！见下图：
引自周伟雄等《模拟神经元电路实现研究现状与进展》论文，在中文数据库中可以下载。一般的高校图书馆网站应该都有。

[ 本帖最后由 xinyuxf 于 2006-12-23 09:19 编辑 ]

abing_98

也正想了解这方面的情况,如果有什么所得能否分享一下吗？

xmwhit

因为对神经网络不是特别了解，正在学习，不是搞这个方向的，只是想了解一下。cao主任找到的资料正在看，想看看神经网络到底在芯片上用到什么程度。

cao

1)该问题非常值得关注!
2)用神经网络模拟人脑结构这一思想,本人认为是对的,但是在实际过程中遇到了一系列的问题.
3)制造应用于神经网络计算(技术)的芯片,就是将神经网络技术硬件化.当然是一个解决途径.
4)神经网络技术应用于各种行业,可用于信号处理\模式识别\控制算法等.
5)本人以为,不久将来,能成功且将获得广泛的实际应用!

请指正,请讨论!

xmwhit

用神经网络模拟人脑结构这一思想,本人认为是对的,但是在实际过程中遇到了一系列的问题.

        我觉得这些问题都是基本的，却又很难解决的。
        神经网络吸引人就在于人脑的神秘性！
        神经网络思想具有仿生学的观点，其初衷就是想模拟人脑建立某种模型实现某种程度上的人工智能。神经网络开始提出时火得不得了，如今方兴未艾，从主任提供的资料来看，实际应用确实存在，但也可以看得出来，这距离人工智能还差得很远。除了我开始提到的结构问题（实际上也是一个很基本的有待解决的问题），我认为还有个基本问题没有解决，那就是知识表示和学习。
         人脑之所以是智能的，是因为其可以由学习到记忆再形成经验，最终表现为自主处理问题的能力。再抛开记忆和自主性不谈，神经网络的学习或曰训练，主要是靠人为地将某些特定的信息转化为计算机可以操作的数据样本，将样本作为输入然后以期望的输出为约束不断进行试验调整网络内部的参数。然而从目前的技术水平来看，这种能够用来训练神经网络的数据样本，其所包含的信息是简单的，现实生活中需要处理的信息却是复杂的，常常是不确定的或者模糊的。尤其对于模糊信息来说，如何从数学角度正确地描述模糊信息是很难操作的，“模糊数学”的诞生就是想尝试解决这个问题，其中隶属度函数是个关键，不幸的是这个隶属度函数也只能由人通过经验来判断和选取，一旦人过多地参与神经网络的运作过程，那只能说明神经网络还处于初级阶段！
        如今的神经网络，与其说是一种实现智能的手段，倒不如说是一种辩识或者逼近的方法，以这种方法为基础所形成的算法理论上可以解决诸如系统辩识，自适应控制之类的问题，但离智能还差得很远，需要很长的路要走。
         以上仅代表个人看法，大家多多指正！

[ 本帖最后由 xmwhit 于 2006-11-17 21:09 编辑 ]

cao

1）不仅结构问题（实际上也是一个很基本的有待解决的问题），不仅知识表示和学习等等问题，还有一系列问题有待解决。
2）不过，本人认为方向是明确的，进步与进展是有目共睹的。如神经网络直接控制机械设备等，人脑（或动物脑）直接与外界相联系等。
3）由于本人现在所处地方，查阅不到国外著名数据库，如IEEE等等。哪位方便的话，并且从事这方面研究，烦请看看国内外最近这方面的努力与动向如何？谢谢！

jidiangaopei

用神经网络结合专家系统是否可以解决一部分工程问题呢？
我在尝试统计工作中的相关数据后使用，可是样本数量不足以达到让网络满足实际的工作需要。
有什么办法可只用小样本，就可满足推理需要

xmwhit

用神经网络结合专家系统是否可以解决一部分工程问题呢？
我在尝试统计工作中的相关数据后使用，可是样本数量不足以达到让网络满足实际的工作需要。
有什么办法可只用小样本，就可满足推理需要

         用神经网络可以解决一些问题，但是样本数据的获取和神经网络的训练是个棘手的问题。一方面样本数据不足会让网络的适用性大大降低，另一方面样本数据较多会造成神经网络训练时间过长，如果网络结构选择的不合理，会造成训练失败。以前我也想过这样的问题，没有找到答案。后来偶然看了一些有关信息论的东西，上面介绍说当多个信息源所提供的信息互不相关时，总的信息量是最大的。所以我就想是不是可以利用这个思想，在采集样本的时候尽量让样本之间的关联度小，那么在总的信息一定的情况下，样本的数量应该是最小的。

lvray

神经网络的应用应该是很有前景的
现在理论上很成熟了，应用似乎不是很多吧
复杂系统的逼近解决不是很理想吧 还存在收敛、自身稳定性的问题
以前看过的一点综述，印象中是这样

xmwhit

神经网络的应用应该是很有前景的

         这一点我表示同意。控制系统的智能化一直是人们所追求的目标，神经网络作为智能控制中一种重要的方法会继续完善和发展，应用领域也会不断扩大。

现在理论上很成熟了，应用似乎不是很多吧

         理论上存在的问题还有很多，上面就提到两个根本性的问题。应用方面，cao主任找到的资料上可以了解一些，但网上公布的有关资料确实不容易找到。

复杂系统的逼近解决不是很理想吧 还存在收敛、自身稳定性的问题

         对复杂系统的研究历史不长，本身非线性系统的分析与控制就已经给人们提出了很大的挑战，复杂性还要比非线性更难一些。关于复杂系统的逼近不是很了解，我的印象里有一种方法称为逼近自适应控制，好像在复杂系统的控制里面应用较多。不知道神经网络在复杂系统的控制方面有何独到之处，大家继续发表高见！

liljx_2008

由于神经网络能够任意精度的逼近非线性函数，因此得到的广泛的应用，同时也极大的促进了智能控制的发展。
但是目前确实在研究神经网络方面存在这许多的问题，如楼主所说，尤其是复杂性系统，对于一个未知的非线性系统，要想应用神经网络建立一个模型，网络的结构怎么定，似乎还只是经验获得，或是试着来。再一个就是所建立系统的实时性问题，这也与网络的结构，隶属函数的选取，参数初始化等都有关系，为解决这一问题，引进了模糊逻辑或其他，结合神经网络。还有一个问题就是对所建立神经网络系统或模糊神经网络（或者其他）系统的稳定性证明，尤其是指数稳定的证明，众所周知，研究控制的如果系统不能稳定，那一切都免谈了。
目前，有许多将神经网络应用到其他控制策略上，比如预测控制等，由于神经网络不依赖系统模型，所以对于参数未知的非线性系统，神经网络能够得到很好的应用，但是，如上所说，他的实时性不能得到很好的解决，那就很难应用到快速系统上，更难解决的它的稳定性证明。如那位高手在此方面有何解决办法，望请赐教。
以上是鄙人之拙见。