基于一種進(jìn)化模型的rbf網(wǎng)絡(luò)參數(shù)優(yōu)化
張剛林，劉光燦
（長沙學(xué)院電子與通信工程系，湖南長沙410003）
摘 要：優(yōu)化rbf網(wǎng)絡(luò)中的參數(shù)是一個(gè)非常復(fù)雜的問題，因?yàn)槠淠繕?biāo)函數(shù)包含大量的局部****點(diǎn)。提出一種基于群的算法發(fā)生器模型來優(yōu)化rbf網(wǎng)絡(luò)中的中心和寬度，并同時(shí)用最小二乘法優(yōu)化其線性權(quán)重：該進(jìn)化模型的優(yōu)勢在于把搜索任務(wù)進(jìn)行功能分解。一種****的mackey-glass混沌時(shí)間序列被用來檢驗(yàn)算法的性能。無驗(yàn)結(jié)果表明，提出的算法要優(yōu)于其他一些算法，如^均值算法、遺傳算法或粒子群算法的預(yù)測結(jié)果。
關(guān)鍵詞：rbf神經(jīng)網(wǎng)絡(luò)；參數(shù)估計(jì)；進(jìn)化模型
中圖分類號(hào)：tp 27 文獻(xiàn)標(biāo)識(shí)碼：a
1引言
由于可以以任意精度逼近任何函數(shù)，前饋人工神經(jīng)網(wǎng)絡(luò)一直是學(xué)術(shù)界研究和應(yīng)用的熱點(diǎn)，在這一點(diǎn)上，rbf神經(jīng)網(wǎng)絡(luò)已經(jīng)從理論下被證明。由于其簡單的結(jié)構(gòu)、非線性逼近的精度和快速學(xué)習(xí)的能力，它已成為最流行的前饋神經(jīng)網(wǎng)絡(luò)之一。然而，由于目標(biāo)函數(shù)包含大量的局部****點(diǎn)，估計(jì)神經(jīng)網(wǎng)絡(luò)模型中的參數(shù)是一個(gè)非常困難的優(yōu)化問題。以往的研究表明，rbf網(wǎng)絡(luò)中心的選擇對(duì)模型的性能有著重大的影響，它也是優(yōu)化的主要任務(wù)。日前，比較常用的優(yōu)化rbf網(wǎng)絡(luò)中心的方法有遺傳算法、群蟻算法及粒子群等。本文提出了一種基于群的算法發(fā)生器模型來優(yōu)化rbf神經(jīng)網(wǎng)絡(luò)中的中心和寬度，并同時(shí)用最小二乘法優(yōu)化其線性權(quán)重。為其他一些算法比較，rbf神經(jīng)網(wǎng)絡(luò)被用來預(yù)測一種標(biāo)準(zhǔn)的時(shí)間序列。實(shí)驗(yàn)結(jié)果表明提出的算法要優(yōu)于現(xiàn)存的一些算法。
2 rbf神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
rbf神經(jīng)網(wǎng)絡(luò)是一種特殊的3層的前饋網(wǎng)絡(luò)，包括輸入層、隱含層和輸出層。不失一般性，圖l含一個(gè)輸出結(jié)點(diǎn)的rbf網(wǎng)絡(luò)框架圖，如圖l所示。
其輸入輸出關(guān)系可表示為
式中，w0稱為偏差；wk(k=l，2，…，m)為連接隱含結(jié)點(diǎn)和輸出結(jié)點(diǎn)的權(quán)重；m為隱含層結(jié)點(diǎn)數(shù)目；φ(x，zi)為基函數(shù)，表示第i個(gè)結(jié)點(diǎn)輸入向量x和其中心zi的距離：
最常用的徑向基函數(shù)是高斯形式的：
式中，σ為寬度
結(jié)合方程(1)和(2)，高斯rbf神經(jīng)網(wǎng)絡(luò)可表示為
3 rbf神經(jīng)網(wǎng)絡(luò)的參數(shù)估計(jì)算法
估計(jì)rbf網(wǎng)絡(luò)中的參數(shù)是非常困難的，因?yàn)槠淠繕?biāo)函數(shù)有大量的局部****點(diǎn)。進(jìn)化算法是模仿自然界中生物群體的選擇、雜交、變異等行為而發(fā)展起來的一種優(yōu)化算法，它是建立在自然選擇和適者生存機(jī)理基礎(chǔ)上的迭代概率性搜索算法。利用進(jìn)化算法可以在解空間內(nèi)對(duì)解進(jìn)行多點(diǎn)隨機(jī)搜索，并找出****解，由于進(jìn)化算法的隨機(jī)特性，所有解都有被搜索的可能，因而可以找到全局****解。而且進(jìn)化算法作為一種全局搜索的算法有目標(biāo)函數(shù)不需可微或連續(xù)、易執(zhí)行和穩(wěn)健性等優(yōu)點(diǎn)。最近d提出了一種實(shí)數(shù)編碼的基于群的算法發(fā)生器。這種方法把搜索分為4個(gè)獨(dú)立的策略：選擇策略；生成后代策略；替換策略；更新策略。基于這種基于群的算法發(fā)生器本文提出了一種進(jìn)化模型來優(yōu)化rbf網(wǎng)絡(luò)參數(shù)。
算法的具體執(zhí)行步驟如下：
stepl 記rrf網(wǎng)絡(luò)的線性權(quán)重為
記中心和寬度為
為表述方便，把模型(3)寫成如下兩種形式：
step2在可能解空間初始化規(guī)模為n的群體來表示可能的rbf網(wǎng)絡(luò)中心和寬度向量記為：x1，x 2，…，xn。
|
