基于可生长结构的自组织神经网络研究

在可生长结构网络(Growing When Required Network,简称GWRN)的基础上,提出了有监督可生长结构网络(Supervised Growing When Required Network,简称SGWRN)模型。该模型引入线性输出层,将GWRN与径向基函数结合,构成有监督自组织神经网络学习模型。该模型能快速生长,可广泛用于监督学习。倒立摆平衡控制仿真实验结果表明该模型有效。

维普资讯 http://www.wendangwang.com

第1 9卷第 1 期 6

20 年 8 07 月

仿

报@

V . 9N o 1 1 .6 Au . 2 0 g, 0 7

J u n l f y tm i u a in o r a se Sm lto o S

基 于可生长结构 的 自组织 神经 网络研 究

亮 ,谢艳 辉 ,于乃功

( 京工 业大 学 电子信 息与 控制 工程 学 院, 京 102 ) 北 北 00 2

要 :在可生长结构 网络 ( rwn e eur e ok G o i WhnR q i dN t r,简称 G N 的基础上 ,提 出了 g e w WR )

有监 督可生长结构 网络 (uev e rwn e eu dN tok 简称 S WR ) S pri dG o i WhnR q i e r, s g e r w G N 模型 。该

模 型引入线性输 出层 ,将 GWR 与径向基函数结合 ,构成有监督 自组织神 经 网络学习模型 。该模 N 型能快速 生长,可广泛用于监督 学习。倒立摆平衡控制仿真 实验结果表 明该模型有效 关键词: 自组织;生长 网络;拓扑保持性 ;监督 学习

中图分类 号 :T 13 P 8 文献标识码 :A 文 章编 号:10 —3 X(0 7 1-7 90 0 47 1 2 0 ) 63 4 —3

S u yo e f0 g n zn t r s d o o n t u t r t d fS l_ r a ii gNe wo k Ba e n Gr wi g S r c u e

SUN Li n XI Y — i a g, E an hu ,YU Naig g — on

( l t n fr t n&C nrl n ie r gC l g , e igU ies y f e h o g , e ig1 0 2 , hn ) E e r i I o ma o co cn i o t gn ei o e e B in nv ri c n l y B in 0 0 2 C ia oE n l j to T o j

Ab t a t A mo e c l d S p ri d Gr w n e e urd Ne o k( G N a rp sd b sd o r w Wh n s c: d l al u e v e o ig Wh n R q i t r S WR )w sp o o e a e n G o e r e s e w R q i d N t o k( e u r e r GWR ) W i h d a o d ig a l e r up t a e o GWR n o iig w t Ra i ai e w N . t t ie fa dn i a tu y rt h e n o l N a d c mbnn i

d lB s h a s

Fu c i n ton,a s e vie e fo ga i i eu a et up r s d s l- r n zng n r ln wor k was f r e o m d.Thi od lg o sr pi l d C i l e n sm e r w a d y an a be w dey us d i n

s p r ie an n . s l fsmu ai n t o to v re e d l m h w a GW RN d l sa a lb e u e v s d l r i g Re u t o e s i l t c nr l n e td p n u u s o t t o o i h S mo e v i l. i a

Ke y wor :s l- r n zng; r w i t o k;t ol y p es r to ds e fo ga i i g o ngnew r op og r e vai n;s pe ie e r n u r s d l ani g v

引 言

在 人 眼 的 视 网膜 、 脊 髓 和 海 马 中 存 在 一 种 侧 抑 制 现 象 。

生长 结构 网络可 以更精确地估计输入分布 , 而且 能够 处理动 态输入 空间_。但是 ,上述可生长结构 网络加入 神经 元的过 4 l

程 根 据 累 积 误 差 来 确 定 ,使 得 网络 生长 缓 慢 。所 以,Se hn t e p Mas n 等 人 提 出 了 另 一 种 可 生 长 结 构 ( rw W hn rld a G o e

由于侧抑制 的作用 ,各神经元之间产生相互竞争,使得人脑 通过感官接受外界的特 定时空信 息时, 大脑皮层 的特 定区域 兴奋 , 即人脑神 经细胞 的不同区域对各 自的输入信息模式 的

不 同特 征 敏 感 。 脑 皮 层 中神 经 元 的这 种 响应 特 点是 通 过 后 大

R qid eur ,简称 G e WR)自组织网络 _。GWR 网络可 以在无 4 】 监督情况下很好地反映输入 向量 的分布特性和拓扑结构, 但

是 ,当 要 求 网络 的 不 同功 能 区 域产 生不 同 的 响应 时 ,就 需 要

天的竞争学习 自组织完成的…。 1 8 年, K h nn根据人脑 的 自组织特性 , 出了 自 9 1 T o o e 提

网络在有监督条件下学 习刺激与 响应 的潜在关系 。 本文在无监督可生长结构GWR的基础上, 出了用于监 提

督 学 习 的有 监 督可 生长 结构 网络 (u e i d G o ig W hn S pr s rw n e v e R q i dN tok e u e ew r,简 称 S WR 模 型 ,并将 该 S W R 模 型 r G N) G N

组织特征 映射 ( ef

ra i n etr p S l O g n igF aueMa,简称 S M) - z OF

网络 。S M 网络采用无监督竞争学习规则 ,调整输入空间 OF 与映射 空问神经元 的权值 , 从而形成能够反映样本模式类分 布情况 的有序特征 图。但是 ,S F 网络需要预先定义网络 OM 的结构和规模 ,这使得产生 的映射受到 限制 _。1 9 2 9 3年 , l

B adFi k rn rze在 自组 织 映 射 网 络模 型 基 础上 提 出 了具 有 k维 t

用于倒立摆仿真实验,实验结果表明 了该模型的有效性 。

1 基于可生长结构的 自 组织网络( G N 简称 WR )

G R W N主 要 采 用 SehnMas d等 提 出 的生 长 结 构_。 t e r l p n a 4 】

单形拓 扑结构的神经元生长结构 ( o ig C l Srcue, Grwn el t t s u r 简称 G S)模 型[。19 C 2 9 7年,GC ] S又发展 为不受严格拓 扑

结 构 限制 的 G o igN ua G s ( NG)模 型 _。在 自组 织 rw n e rl a G 3 】

1 WR .G 1 N结构

GWR 的结 构 如 图 1 N 所示 。 WR 由输 入 层( p t ae G N I u yr n L

简称 I ) L 和竞争层( o e t e ae 简称 C ) C mp ti y ̄ iv L L组成 。L神经 I

元 个 数 与 输 入 数 据 维 数 —i 相 同 , L插 入 和 删 除 神 经元 , dm) C

的过程 中, 能够适 时生长 出神经元 的能力使 自组织 网络有 了 更大 的应用潜力。2 0 ,Seh nMas n 0 2年 t e r ad等人认 为,可 p l

收稿 日期:2 0—61 060—9

基金 (0 5 0 5 0 ) 20 00 02。

并调节权值 的过程 即为网络 的生长 。

1 . GWR 2 N算法

修回日期:20 —82 0 60—9

基金 项 目: 国家 自然科 学基 金 (07 07;教育 部 博 士学科 点专项 科 研 6 35 1)

G R 的生 长 过 程 由最 佳 匹配 神 经 元 ( et thn W N B s Macig U i B U)的激 活 值 (cii ) 启 动 计数 ( r g o ne) nt M . at t 和 vy inc fi ut r

作者 简介 :孙 亮(9 1 ,男,北京 人,副教 授,硕 导,研究 方 向为 学习 控 15 一 ) 制,智 能系统 ; 艳辉 (9 1) 女 , 北 人,硕士 , 究 方 向为计 算智 能, 谢 18 一 , 河 研 智 能控 制,生 物信 息 学 ; 乃 功(96) 于 16 一 ,男,山东人 ,博 士,副 教授

,硕 导. 究方 向为复 杂系 统智 能建 模 与控制 。 研

控制 。当其 中一个参数超 出阈值 时,网络便开始生长 。生长 算法 ( rwi loi m,简 称 G G o n gr h gA t A)_记述 如下: 4 ]

3 9 74

基于可生长结构的自组织神经网络研究

你可能喜欢

  • bp神经网络
  • 人工神经网络
  • 卷积神经网络
  • RBF神经网络
  • MATLAB神经网络
  • 小波神经网络
  • 广义回归神经网络
  • 递归神经网络

基于可生长结构的自组织神经网络研究相关文档

最新文档

返回顶部