"Искусственные нейронные сети. Теория и практика." - читать интересную книгу автора (Круглов В.В., Борисов В.В.)

a)
>s
0 6)
ж>'
s)
╨шё 1 3 ╧ЁшьхЁ√ ръЄштрЎшюээ√ї ЇєэъЎшщ
р - ЇєэъЎш  хфшэшўэюую ёърўър, с - ышэхщэ√щ яюЁюу (ушёЄхЁхчшё), т - ёшуьюшф (ыюушёЄшўхёър  ЇєэъЎш ), у - ёшуьюшф (ушяхЁсюышўхёъшщ Єрэухэё)
эшўэюую ёърўър ё яюЁюуюь т ╚ч т√Ёрцхэш  фы  ёшуьюшфр юўхтшфэю, ўЄю т√їюфэюх чэрўхэшх эхщЁюэр ыхцшЄ т фшрярчюэх (0, 1) ╬фэю шч Ўхээ√ї ётющёЄт ёшуьюшфры№эющ ЇєэъЎшш - яЁюёЄюх т√Ёрцхэшх фы  хх яЁюшчтюфэющ, яЁшьхэхэшх ъюЄюЁющ сєфхЄ ЁрёёьюЄЁхэю т фры№эхщ°хь
f'(s) = af(s)[l-f(s)] (14)
╤ыхфєхЄ юЄьхЄшЄ№, ўЄю ёшуьюшфры№эр  ЇєэъЎш  фшЇЇхЁхэЎшЁєхьр эр тёхщ юёш рсёЎшёё, ўЄю шёяюы№чєхЄё  т эхъюЄюЁ√ї рыуюЁшЄьрї юсєўхэш  ╩Ёюьх Єюую, юэр юсырфрхЄ ётющёЄтюь єёшыштрЄ№ ёырс√х ёшуэры√ ыєў°х, ўхь сюы№°шх, ш яЁхфюЄтЁр∙рхЄ эрё√∙хэшх юЄ сюы№°шї ёшуэрыют, Єръ ъръ юэш ёююЄтхЄёЄтє■Є юсырёЄ ь рЁуєьхэЄют, уфх ёшуьюшф шьххЄ яюыюушщ эръыюэ
1.3. ╩ырёёшЇшърЎш  эхщЁюээ√ї ёхЄхщ ш шї ётющёЄтр
═хщЁюээр  ёхЄ№ яЁхфёЄрты хЄ ёюсющ ёютюъєяэюёЄ№ эхщЁюяю-фюсэ√ї ¤ыхьхэЄют, юяЁхфхыхээ√ь юсЁрчюь ёюхфшэхээ√ї фЁєу ё фЁєуюь ш ё тэх°эхщ ёЁхфющ ё яюью∙№■ ёт чхщ, юяЁхфхы хь√ї тхёют√ьш ъю¤ЇЇшЎшхэЄрьш ┬ чртшёшьюёЄш юЄ ЇєэъЎшщ, т√яюыэ хь√ї эхщЁюэрьш т ёхЄш, ьюцэю т√фхышЄ№ ЄЁш шї Єшяр
13
Х тїюфэ√х эхщЁюэ√, эр ъюЄюЁ√х яюфрхЄё  тхъЄюЁ, ъюфшЁє■∙шщ тїюфэюх тючфхщёЄтшх шыш юсЁрч тэх°эхщ ёЁхф√; т эшї юс√ўэю эх юёє∙хёЄты хЄё  т√ўшёышЄхы№э√ї яЁюЎхфєЁ, р шэЇюЁьрЎш  яхЁхфрхЄё  ё тїюфр эр т√їюф яєЄхь шчьхэхэш  шї ръЄштрЎшш,
Х т√їюфэ√х эхщЁюэ√, т√їюфэ√х чэрўхэш  ъюЄюЁ√ї яЁхфёЄрты ■Є т√їюф√ эхщЁюээющ ёхЄш; яЁхюсЁрчютрэш  т эшї юёє∙хёЄты ■Єё  яю т√Ёрцхэш ь (1.1) ш (1.2);
Х яЁюьхцєЄюўэ√х эхщЁюэ√, ёюёЄрты ■∙шх юёэютє эхщЁюээ√ї ёхЄхщ, яЁхюсЁрчютрэш  т ъюЄюЁ√ї т√яюыэ ■Єё  Єръцх яю т√Ёрцхэш ь (1.1) ш (1.2).
┬ сюы№°шэёЄтх эхщЁюээ√ї ьюфхыхщ Єшя эхщЁюэр ёт чрэ ё хую Ёрёяюыюцхэшхь т ёхЄш. ┼ёыш эхщЁюэ шьххЄ Єюы№ъю т√їюфэ√х ёт чш, Єю ¤Єю тїюфэющ эхщЁюэ, хёыш эрюсюЁюЄ - т√їюфэющ эхщЁюэ. ╬фэръю тючьюцхэ ёыєўрщ, ъюуфр т√їюф Єюяюыюушўхёъш тэєЄЁхээхую эхщЁюэр ЁрёёьрЄЁштрхЄё  ъръ ўрёЄ№ т√їюфр ёхЄш. ┬ яЁюЎхёёх ЇєэъЎшюэшЁютрэш  ёхЄш юёє∙хёЄты хЄё  яЁхюсЁрчютрэшх тїюфэюую тхъЄюЁр т т√їюфэющ, эхъюЄюЁр  яхЁхЁрсюЄър шэЇюЁьрЎшш. ╩юэъЁхЄэ√щ тшф т√яюыэ хьюую ёхЄ№■ яЁхюсЁрчютрэш  фрээ√ї юсєёыютыштрхЄё  эх Єюы№ъю їрЁръЄхЁшёЄшърьш эхщЁюяюфюсэ√ї ¤ыхьхэЄют, эю ш юёюсхээюёЄ ьш хх рЁїшЄхъЄєЁ√, р шьхээю Єюяюыюушхщ ьхцэхщЁюээ√ї ёт чхщ, т√сюЁюь юяЁхфхыхээ√ї яюфьэюцхёЄт эхщЁюяюфюсэ√ї ¤ыхьхэЄют фы  ттюфр ш т√тюфр шэЇюЁьрЎшш, ёяюёюсрьш юсєўхэш  ёхЄш, эрышўшхь шыш юЄёєЄёЄтшхь ъюэъєЁхэЎшш ьхцфє эхщЁюэрьш, эряЁртыхэшхь ш ёяюёюсрьш єяЁртыхэш  ш ёшэїЁюэшчрЎшш яхЁхфрўш шэЇюЁьрЎшш ьхцфє эхщЁюэрьш.
╤ Єюўъш чЁхэш  Єюяюыюушш ьюцэю т√фхышЄ№ ЄЁш юёэютэ√ї Єшяр эхщЁюээ√ї ёхЄхщ:
Х яюыэюёт чэ√х (Ёшё. 1.4, р);
Х ьэюуюёыющэ√х шыш ёыюшёЄ√х (Ёшё. 1.4, с);
Х ёырсюёт чэ√х (ё ыюъры№э√ьш ёт ч ьш) (Ёшё. 1.4, т).
┬ яюыэюёт чэ√ї эхщЁюээ√ї ёхЄ ї ърцф√щ эхщЁюэ яхЁхфрхЄ ётющ т√їюфэющ ёшуэры юёЄры№э√ь эхщЁюэрь, т Єюь ўшёых ш ёрьюьє ёхсх. ┬ёх тїюфэ√х ёшуэры√ яюфр■Єё  тёхь эхщЁюэрь. ┬√їюфэ√ьш ёшуэрырьш ёхЄш ьюуєЄ с√Є№ тёх шыш эхъюЄюЁ√х т√їюфэ√х ёшуэры√ эхщЁюэют яюёых эхёъюы№ъшї ЄръЄют ЇєэъЎшюэшЁютрэш  ёхЄш.
┬ ьэюуюёыющэ√ї эхщЁюээ√ї ёхЄ ї эхщЁюэ√ юс·хфшэ ■Єё  т ёыюш. ╤ыющ ёюфхЁцшЄ ёютюъєяэюёЄ№ эхщЁюэют ё хфшэ√ьш тїюфэ√ьш ёшуэрырьш ╫шёыю эхщЁюэют т ёыюх ьюцхЄ с√Є№ ы■с√ь ш эх чртшёшЄ юЄ ъюышўхёЄтр эхщЁюэют т фЁєушї ёыю ї. ┬ юс∙хь ёыєўрх ёхЄ№ ёюёЄюшЄ шч Q ёыюхт, яЁюэєьхЁютрээ√ї ёыхтр эряЁртю. ┬эх°эшх тїюфэ√х ёшуэры√ яюфр■Єё  эр тїюф√ эхщЁюэют тїюфэюую ёыю  (хую ўрёЄю эєьхЁє■Є ъръ эєыхтющ), р т√їюфрьш ёхЄш  ты ■Єё  т√їюфэ√х
14
с)
4-i
t t t
e)
╨шё 1 4. └ЁїшЄхъЄєЁ√ эхщЁюээ√ї ёхЄхщ.
р- яюыэюёт чэр  ёхЄ№, с- ьэюуюёыющэр  ёхЄ№ ё яюёыхфютрЄхы№э√ьш ёт ч ьш, т - ёырсюёт чэ√х ёхЄш
ёшуэры√ яюёыхфэхую ёыю . ╩Ёюьх тїюфэюую ш т√їюфэюую ёыюхт т ьэюуюёыющэющ эхщЁюээющ ёхЄш хёЄ№ юфшэ шыш эхёъюы№ъю ёъЁ√Є√ї ёыюхт. ╤т чш юЄ т√їюфют эхщЁюэют эхъюЄюЁюую ёыю  q ъ тїюфрь эхщЁюэют ёыхфє■∙хую ёыю  (ф+1) эрч√тр■Єё  яюёыхфютрЄхы№э√ьш.
┬ ётю■ юўхЁхф№, ёЁхфш ьэюуюёыющэ√ї эхщЁюээ√ї ёхЄхщ т√фхы ■Є ёыхфє■∙шх Єшя√.
1) ╠юэюЄюээ√х.
▌Єю ўрёЄэ√щ ёыєўрщ ёыюшёЄ√ї ёхЄхщ ё фюяюыэшЄхы№э√ьш єёыютш ьш эр ёт чш ш эхщЁюэ√. ╩рцф√щ ёыющ ъЁюьх яюёыхфэхую (т√їюфэюую) ЁрчсшЄ эр фтр сыюър: тючсєцфр■∙шщ ш ЄюЁьюч ∙шщ. ╤т чш ьхцфє сыюърьш Єюцх Ёрчфхы ■Єё  эр ЄюЁьюч ∙шх ш тючсєцфр■∙шх. ┼ёыш юЄ эхщЁюэют сыюър └ ъ эхщЁюэрь сыюър ┬ тхфєЄ Єюы№ъю тючсєцфр■∙шх ёт чш, Єю ¤Єю ючэрўрхЄ, ўЄю ы■сющ т√їюфэющ ёшуэры
15
┬їюфэющ ёыющ ╤ъЁ√Є√щ ёыющ ┬√їюфэющ ёыющ
╨шё 1 5 ╠эюуюёыющэр  (фтєїёыющэр ) ёхЄ№ яЁ ьюую ЁрёяЁюёЄЁрэхэш 
сыюър  ты хЄё  ьюэюЄюээющ эхєс√тр■∙хщ ЇєэъЎшхщ ы■сюую т√їюфэюую ёшуэрыр сыюър └ ┼ёыш цх ¤Єш ёт чш Єюы№ъю ЄюЁьюч ∙шх, Єю ы■сющ т√їюфэющ ёшуэры сыюър ┬  ты хЄё  эхтючЁрёЄр■∙хщ ЇєэъЎшхщ ы■сюую т√їюфэюую ёшуэрыр сыюър └ ─ы  эхщЁюэют ьюэюЄюээ√ї ёхЄхщ эхюсїюфшьр ьюэюЄюээр  чртшёшьюёЄ№ т√їюфэюую ёшуэрыр эхщЁюэр юЄ ярЁрьхЄЁют тїюфэ√ї ёшуэрыют
2) ╤хЄш схч юсЁрЄэ√ї ёт чхщ. ┬ Єръшї ёхЄ ї эхщЁюэ√ тїюфэюую ёыю  яюыєўр■Є тїюфэ√х ёшуэры√, яЁхюсЁрчє■Є шї ш яхЁхфр■Є эхщЁюэрь яхЁтюую ёъЁ√Єюую ёыю , ш Єръ фрыхх тяыюЄ№ фю т√їюфэюую, ъюЄюЁ√щ т√фрхЄ ёшуэры√ фы  шэЄхЁяЁхЄрЄюЁр ш яюы№чютрЄхы . ┼ёыш эх юуютюЁхэю яЁюЄштэюх, Єю ърцф√щ т√їюфэющ ёшуэры q-ro ёыю  яюфрёЄё  эр тїюф тёхї эхщЁюэют (ф+1)-ую ёыю ; юфэръю тючьюцхэ трЁшрэЄ ёюхфшэхэш  q-ro ёыю  ё яЁюшчтюы№э√ь (q+p)-M ёыюхь
╤Ёхфш ьэюуюёыющэ√ї ёхЄхщ схч юсЁрЄэ√ї ёт чхщ Ёрчышўр■Є яюыэюёт чрээ√х (т√їюф ърцфюую эхщЁюэр q-ro ёыю  ёт чрэ ё тїюфюь ърцфюую эхщЁюэр (q+1)-ro ёыю ) ш ўрёЄшўэю яюыэюёт чрээ√х. ╩ырёёшўхёъшь трЁшрэЄюь ёыюшёЄ√ї ёхЄхщ  ты ■Єё  яюыэюёт чрээ√х ёхЄш яЁ ьюую ЁрёяЁюёЄЁрэхэш  (Ёшё. 1.5).
3) ╤хЄш ё юсЁрЄэ√ьш ёт ч ьш ┬ ёхЄ ї ё юсЁрЄэ√ьш ёт ч ьш шэЇюЁьрЎш  ё яюёыхфє■∙шї ёыюхт яхЁхфрхЄё  эр яЁхф√фє∙шх. ╤Ёхфш эшї, т ётю■ юўхЁхф№, т√фхы ■Є ёыхфє■∙шх:
Х ёыюшёЄю-Ўшъышўхёъшх, юЄышўр■∙шхё  Єхь, ўЄю ёыюш чрьъэєЄ√ т ъюы№Ўю, яюёыхфэшщ ёыющ яхЁхфрхЄ ётюш т√їюфэ√х ёшуэры√ яхЁтюьє; тёх ёыюш ЁртэюяЁртэ√ ш ьюуєЄ ъръ яюыєўрЄ№ тїюфэ√х ёшуэры√, Єръ ш т√фртрЄ№ т√їюфэ√х;
16
Х ёыюшёЄю-яюыэюёт чрээ√х ёюёЄю Є шч ёыюхт, ърцф√щ шч ъюЄюЁ√ї яЁхфёЄрты хЄ ёюсющ яюыэюёт чэє■ ёхЄ№, р ёшуэры√ яхЁхфр■Єё  ъръ юЄ ёыю  ъ ёыю■, Єръ ш тэєЄЁш ёыю ; т ърцфюь ёыюх Ўшъы ЁрсюЄ√ ЁрёярфрхЄё  эр ЄЁш ўрёЄш, яЁшхь ёшуэрыют ё яЁхф√фє∙хую ёыю , юсьхэ ёшуэрырьш тэєЄЁш ёыю , т√ЁрсюЄър т√їюфэюую ёшуэрыр ш яхЁхфрўр ъ яюёыхфє■∙хьє ёыю■,
Х яюыэюёт чрээю-ёыюшёЄ√х, яю ётюхщ ёЄЁєъЄєЁх рэрыюушўэ√х ёыюшёЄю-яюыэюёт чрээ√ь, эю ЇєэъЎшюэшЁє■∙шь яю-фЁєуюьє: т эшї эх Ёрчфхы ■Єё  Їрч√ юсьхэр тэєЄЁш ёыю  ш яхЁхфрўш ёыхфє■∙хьє, эр ърцфюь ЄръЄх эхщЁюэ√ тёхї ёыюхт яЁшэшьр■Є ёшуэры√ юЄ эхщЁюэют ъръ ётюхую ёыю , Єръ ш яюёыхфє■∙шї
┬ ърўхёЄтх яЁшьхЁр ёхЄхщ ё юсЁрЄэ√ьш ёт ч ьш эр Ёшё. 1 6 яЁхфёЄртыхэ√ ўрёЄшўэю-ЁхъєЁЁхэЄэ√х ёхЄш ▌ыьрэр ш ╞юЁфрэр.
┬√їюф
┬√їюф
┬√їюфэющ ёыющ
╤ъЁ√Є√щ ёыющ s-