"Искусственные нейронные сети. Теория и практика." - читать интересную книгу автора (Круглов В.В., Борисов В.В.)

╧Ёю ЇєэъЎшш ръЄштрЎшш эхщЁюэют т√їюфэюую ёыю  шч ЄхюЁхь√ ╒хїЄ-═шы№ёхэр шчтхёЄэю Єюы№ъю Єю, ўЄю юэш яЁхфёЄрты ■Є ёюсющ эхышэхщэ√х ЇєэъЎшш юс∙хую тшфр ┬ юфэющ шч ЁрсюЄ, яЁюфюыцр■∙шї ЁрчтшЄшх ЄхюЁшш, ёт чрээющ ё ЁрёёьрЄЁштрхьющ ЄхюЁхьющ, фюърч√трхЄё , ўЄю ЇєэъЎшш ръЄштрЎшш эхщЁюэют т√їюфэюую ёыю  фюыцэ√ с√Є№ ьюэюЄюээю тючЁрёЄр■∙шьш ▌Єю єЄтхЁцфхэшх т эхъюЄюЁющ ёЄхяхэш ёєцрхЄ ъырёё ЇєэъЎшщ, ъюЄюЁ√х ьюуєЄ шёяюы№чютрЄ№ё  яЁш ЁхрышчрЎшш юЄюсЁрцхэш  ё яюью∙№■ фтєїёыющэющ эхщЁюээющ ёхЄш
═р яЁръЄшъх ЄЁхсютрэш  ЄхюЁхь√ ╒хїЄ-═шы№ёхэр ъ ЇєэъЎш ь ръЄштрЎшш єфютыхЄтюЁ ■Єё  ёыхфє■∙шь юсЁрчюь ┬ эхщЁюээ√ї ёхЄ ї ъръ фы  яхЁтюую (ёъЁ√Єюую), Єръ ш фы  тЄюЁюую (т√їюфэюую) ёыю  шёяюы№чє■Є ёшуьюшфры№э√х яхЁхфрЄюўэ√х ЇєэъЎшш ё эрёЄЁрштрхь√ьш ярЁрьхЄЁрьш ╥ю хёЄ№ т яЁюЎхёёх юсєўхэш  шэфштшфєры№эю фы  ърцфюую эхщЁюэр чрфрхЄё  ьръёшьры№эюх ш ьшэшьры№эюх чэрўхэшх, р Єръцх эръыюэ ёшуьюшфры№эющ ЇєэъЎшш
╤ыхфёЄтшх 2 ─ы  ы■сюую ьэюцхёЄтр ярЁ (ы , ╥) (уфх ╙* -ёъры Ё) ёє∙хёЄтєхЄ фтєїёыющэр  юфэюЁюфэр  (ё юфшэръют√ьш ЇєэъЎш ьш ръЄштрЎшш) эхщЁюээр  ёхЄ№ яхЁтюую яюЁ фър ё яюёыхфютрЄхы№э√ьш ёт ч ьш ш ё ъюэхўэ√ь ўшёыюь эхщЁюэют, ъюЄюЁр  т√яюыэ хЄ юЄюсЁрцхэшх X -> ╙, т√фртр  эр ърцф√щ тїюфэющ ёшуэры ╒ъ яЁртшы№э√щ т√їюфэющ ёшуэры ╙* ═хщЁюэ√ т Єръющ фтєїёыющэющ эхщЁюээющ ёхЄш фюыцэ√ шьхЄ№ ёшуьюшфры№э√х яхЁхфрЄюўэ√х ЇєэъЎшш
╩ ёюцрыхэш■, ¤Єр ЄхюЁхьр эх ъюэёЄЁєъЄштэр ┬ эхщ эх чрыюцхэр ьхЄюфшър юяЁхфхыхэш  ўшёыр эхщЁюэют т ёхЄш фы  эхъюЄюЁющ ъюэъЁхЄэющ юсєўр■∙хщ т√сюЁъш
─ы  ьэюушї чрфрў хфшэшўэющ ЁрчьхЁэюёЄш т√їюфэюую ёшуэрыр эхфюёЄрЄюўэю ═хюсїюфшью шьхЄ№ тючьюцэюёЄ№ ёЄЁюшЄ№ ё яюью∙№■ эхщЁюээ√ї ёхЄхщ ЇєэъЎшш X -> ╙, уфх ╙ шьххЄ яЁюшчтюы№эє■ ЁрчьхЁэюёЄ№ ╤ыхфє■∙хх єЄтхЁцфхэшх  ты хЄё  ЄхюЁхЄшўхёъющ
21
юёэютющ фы  яюёЄЁюхэш  Єръшї ЇєэъЎшщ эр срчх юфэюЁюфэ√ї эхщЁюээ√ї ёхЄхщ.
╙ЄтхЁцфхэшх. ─ы  ы■сюую ьэюцхёЄтр ярЁ тїюфэ√ї-т√їюфэ√ї тхъЄюЁют яЁюшчтюы№эющ ЁрчьхЁэюёЄш {{╒ъ, ╙*), ъ = 1...╦/} ёє∙хёЄтєхЄ юфэюЁюфэр  фтєїёыющэр  эхщЁюээр  ёхЄ№ ё яюёыхфютрЄхы№э√ьш ёт ч ьш, ё ёшуьюшфры№э√ьш яхЁхфрЄюўэ√ьш ЇєэъЎш ьш ш ё ъюэхўэ√ь ўшёыюь эхщЁюэют, ъюЄюЁр  фы  ърцфюую тїюфэюую тхъЄюЁр ╤ЇюЁьшЁєхЄ ёююЄтхЄёЄтє■∙шщ хьє т√їюфэющ тхъЄюЁ ╙*.
╥ръшь юсЁрчюь, фы  яЁхфёЄртыхэш  ьэюуюьхЁэ√ї ЇєэъЎшщ ьэюушї яхЁхьхээ√ї ьюцхЄ с√Є№ шёяюы№чютрэр юфэюЁюфэр  фтєїёыющэр  эхщЁюээр  ёхЄ№ ё ёшуьюшфры№э√ьш яхЁхфрЄюўэ√ьш ЇєэъЎш ьш.
─ы  юЎхэъш ўшёыр эхщЁюэют ё ёъЁ√Є√ї ёыю ї юфэюЁюфэ√ї эхщЁюээ√ї ёхЄхщ ьюцэю тюёяюы№чютрЄ№ё  ЇюЁьєыющ фы  юЎхэъш эхюсїюфшьюую ўшёыр ёшэряЄшўхёъшї тхёют Lw т ьэюуюёыющэющ ёхЄш ё ёшуьюшфры№э√ьш яхЁхфрЄюўэ√ьш ЇєэъЎш ьш:
Ч------<ш<Є\Ч + \\{я + Є + ^ + Є, (1.5)
1 + log2/V \m )
уфх я - ЁрчьхЁэюёЄ№ тїюфэюую ёшуэрыр, Є - ЁрчьхЁэюёЄ№ т√їюфэюую ёшуэрыр, ╦/-ўшёыю ¤ыхьхэЄют юсєўр■∙хщ т√сюЁъш.
╬Ўхэшт эхюсїюфшьюх ўшёыю тхёют, ьюцэю ЁрёёўшЄрЄ№ ўшёыю эхщЁюэют т ёъЁ√Є√ї ёыю ї. ═ряЁшьхЁ, фы  фтєїёыющэющ ёхЄш ¤Єю ўшёыю ёюёЄртшЄ:
L = -^-. (1.6)
я + Є
╚чтхёЄэ√ ш фЁєушх ЇюЁьєы√ фы  юЎхэъш, эряЁшьхЁ:
2(n + L + m)------n-m10 2
╥юўэю Єръ цх ьюцэю ЁрёёўшЄрЄ№ ўшёыю эхщЁюэют т ёхЄ ї ё сюы№°шь ўшёыюь ёыюхт.
╚эюуфр ЎхыхёююсЁрчэю шёяюы№чютрЄ№ ёхЄш ё сюы№°шь ўшёыюь ёыюхт. ╥ръшх ьэюуюёыющэ√х эхщЁюээ√х ёхЄш ьюуєЄ шьхЄ№ ьхэ№°шх ЁрчьхЁэюёЄш ьрЄЁшЎ ёшэряЄшўхёъшї тхёют эхщЁюэют юфэюую ёыю , ўхь фтєїёыющэ√х ёхЄш, Ёхрышчє■∙шх Єю цх ёрьюх юЄюсЁрцхэшх. ╬фэръю ёЄЁюующ ьхЄюфшъш яюёЄЁюхэш  Єръшї ёхЄхщ яюър эхЄ.
└эрыюушўэр  ёшЄєрЎш  ёъырф√трхЄё  ш ё ьэюуюёыющэ√ьш эхщЁюээ√ьш ёхЄ ьш, т ъюЄюЁ√ї яюьшью яюёыхфютрЄхы№э√ї ёт чхщ шёяюы№чє■Єё  ш яЁ ь√х (ёт чш юЄ ёыю  ё эюьхЁюь q ъ ёыю■ ё эюьхЁюь (q+p), уфх Ё > 1). ═хЄ ёЄЁюующ ЄхюЁшш, ъюЄюЁр  яюърч√трыр с√ тючьюцэюёЄ№ ш ЎхыхёююсЁрчэюёЄ№ яюёЄЁюхэш  Єръшї ёхЄхщ.
22
═ршсюы№°шх яЁюсыхь√ тючэшър■Є яЁш шёяюы№чютрэшш ёхЄхщ Ўшъышўхёъюую ЇєэъЎшюэшЁютрэш . ╩ ¤Єющ уЁєяях юЄэюё Єё  ьэюуюёыющэ√х ёхЄш ё юсЁрЄэ√ьш ёт ч ьш (юЄ ёыю  ё эюьхЁюь q ъ ёыю■ ё эюьхЁюь (g+Ё), уфх Ё < 0), р Єръцх яюыэюёт чэ√х ёхЄш. ─ы  єёях°эюую ЇєэъЎшюэшЁютрэш  Єръшї ёхЄхщ эхюсїюфшью ёюсы■фхэшх єёыютшщ фшэрьшўхёъющ єёЄющўштюёЄш, шэрўх ёхЄ№ ьюцхЄ эх ёющЄшё№ ъ яЁртшы№эюьє Ёх°хэш■, ышсю, фюёЄшуэєт эр эхъюЄюЁющ шЄхЁрЎшш яЁртшы№эюую чэрўхэш  т√їюфэюую ёшуэрыр, яюёых эхёъюы№ъшї шЄхЁрЎшщ єщЄш юЄ ¤Єюую чэрўхэш . ╧Ёюсыхьр фшэрьшўхёъющ єёЄющўштюёЄш яюфЁюсэю шёёыхфютрэр, яюцрыєщ, ыш°№ фы  юфэющ ьюфхыш шч ЁрёёьрЄЁштрхьющ уЁєяя√ - эхщЁюээющ ёхЄш ╒юяЇшыфр.

╬ЄёєЄёЄтшх ёЄЁюующ ЄхюЁшш фы  яхЁхўшёыхээ√ї ьюфхыхщ эхщЁюээ√ї ёхЄхщ эх яЁхя ЄёЄтєхЄ шёёыхфютрэш■ тючьюцэюёЄхщ шї яЁшьхэхэш .
╬ЄьхЄшь, ўЄю юЄхўхёЄтхээюьє ўшЄрЄхы■ яЁштхфхээ√х Ёхчєы№ЄрЄ√ шчтхёЄэ√ т сюыхх ЇЁруьхэЄрЁэющ ЇюЁьх - т тшфх Єръ эрч√трхьющ ЄхюЁхь√ ю яюыэюЄх.
╥хюЁхьр ю яюыэюЄх.
╦■ср  эхяЁхЁ√тэр  ЇєэъЎш  эр чрьъэєЄюь юуЁрэшўхээюь ьэюцхёЄтх ьюцхЄ с√Є№ ЁртэюьхЁэю яЁшсышцхэр ЇєэъЎш ьш, т√ўшёы хь√ьш эхщЁюээ√ьш ёхЄ ьш, хёыш ЇєэъЎш  ръЄштрЎшш эхщЁюэр фтрцф√ эхяЁхЁ√тэю фшЇЇхЁхэЎшЁєхьр ш эхяЁхЁ√тэр.
╥ръшь юсЁрчюь, эхщЁюээ√х ёхЄш  ты ■Єё  єэштхЁёры№э√ьш ёЄЁєъЄєЁрьш, яючтюы ■∙шьш ЁхрышчютрЄ№ ы■сющ т√ўшёышЄхы№э√щ рыуюЁшЄь.
1.4. ╧юёЄрэютър ш тючьюцэ√х яєЄш Ёх°хэш  чрфрўш юсєўхэш  эхщЁюээ√ї ёхЄхщ
╬ўхтшфэю, ўЄю яЁюЎхёё ЇєэъЎшюэшЁютрэш  эхщЁюээющ ёхЄш, ёє∙эюёЄ№ фхщёЄтшщ, ъюЄюЁ√х юэр ёяюёюсэр т√яюыэ Є№, чртшёшЄ юЄ тхышўшэ ёшэряЄшўхёъшї ёт чхщ. ╧ю¤Єюьє, чрфрт°шё№ юяЁхфхыхээющ ёЄЁєъЄєЁющ ёхЄш, ёююЄтхЄёЄтє■∙хщ ъръющ-ышсю чрфрўх, эхюсїюфшью эрщЄш юяЄшьры№э√х чэрўхэш  тёхї яхЁхьхээ√ї тхёют√ї ъю¤ЇЇшЎшхэЄют (эхъюЄюЁ√х ёшэряЄшўхёъшх ёт чш ьюуєЄ с√Є№ яюёЄю ээ√ьш).
▌ЄюЄ ¤Єря эрч√трхЄё  юсєўхэшхь эхщЁюээющ ёхЄш, ш юЄ Єюую, эрёъюы№ъю ърўхёЄтхээю юэ сєфхЄ т√яюыэхэ, чртшёшЄ ёяюёюсэюёЄ№ ёхЄш Ёх°рЄ№ яюёЄртыхээ√х яхЁхф эхщ яЁюсыхь√ тю тЁхь  ЇєэъЎшюэшЁютрэш .
┬ яЁюЎхёёх ЇєэъЎшюэшЁютрэш  эхщЁюээр  ёхЄ№ ЇюЁьшЁєхЄ т√їюфэющ ёшуэры ╙ т ёююЄтхЄёЄтшш ё тїюфэ√ь ёшуэрыюь X, Ёхрышчє  эхъюЄюЁє■ ЇєэъЎш■ g: Y = ф{╒). ┼ёыш рЁїшЄхъЄєЁр ёхЄш чрфрэр,
23
Єю тшф ЇєэъЎшш ф юяЁхфхы хЄё  чэрўхэш ьш ёшэряЄшўхёъшї тхёют ш ёьх∙хэшщ ёхЄш. ╬сючэрўшь ўхЁхч G ьэюцхёЄтю тёхї тючьюцэ√ї ЇєэъЎшщ ф, ёююЄтхЄёЄтє■∙шї чрфрээющ рЁїшЄхъЄєЁх ёхЄш.
╧єёЄ№ Ёх°хэшх эхъюЄюЁющ чрфрўш хёЄ№ ЇєэъЎш  у. Y = у[╒), чрфрээр  ярЁрьш тїюфэ√ї-т√їюфэ√ї фрээ√ї (X1, ╙1), ..., (X*, ╙*), фы  ъюЄюЁ√ї ╙* = у(╒*), ъ = 1 . N. ┼ - ЇєэъЎш  ю°шсъш (ЇєэъЎшюэры ърўхёЄтр), яюърч√тр■∙р  фы  ърцфющ шч ЇєэъЎшщ ф ёЄхяхэ№ сышчюёЄш ъ у.
╨х°шЄ№ яюёЄртыхээє■ чрфрўє ё яюью∙№■ эхщЁюээющ ёхЄш чрфрээющ рЁїшЄхъЄєЁ√ - ¤Єю чэрўшЄ яюёЄЁюшЄ№ (ёшэЄхчшЁютрЄ№) ЇєэъЎш■ ф х G, яюфюсЁрт ярЁрьхЄЁ√ эхщЁюэют (ёшэряЄшўхёъшх тхёр ш ёьх∙хэш ) Єръшь юсЁрчюь, ўЄюс√ ЇєэъЎшюэры ърўхёЄтр юсЁр∙рыё  т юяЄшьєь фы  тёхї ярЁ (X*, V*).
╥ръшь юсЁрчюь, чрфрўр юсєўхэш  эхщЁюээющ ёхЄш юяЁхфхы хЄё  ёютюъєяэюёЄ№■ я Єш ъюьяюэхэЄют:
<╒, ╙, у, G, ┼>.
╬сєўхэшх ёюёЄюшЄ т яюшёъх (ёшэЄхчх) ЇєэъЎшш ф, юяЄшьры№эющ яю ┼. ╬эю ЄЁхсєхЄ фышЄхы№э√ї т√ўшёыхэшщ ш яЁхфёЄрты хЄ ёюсющ шЄхЁрЎшюээє■ яЁюЎхфєЁє. ╫шёыю шЄхЁрЎшщ ьюцхЄ ёюёЄрты Є№ юЄ 103 фю 108. ═р ърцфющ шЄхЁрЎшш яЁюшёїюфшЄ єьхэ№°хэшх ЇєэъЎшш ю°шсъш.
╘єэъЎш  ? ьюцхЄ шьхЄ№ яЁюшчтюы№э√щ тшф. ┼ёыш т√сЁрэ√ ьэюцхёЄтю юсєўр■∙шї яЁшьхЁют ш ёяюёюс т√ўшёыхэш  ЇєэъЎшш ю°шсъш, юсєўхэшх эхщЁюээющ ёхЄш яЁхтЁр∙рхЄё  т чрфрўє ьэюуюьхЁэющ юяЄшьшчрЎшш, фы  Ёх°хэш  ъюЄюЁющ ьюуєЄ с√Є№ шёяюы№чютрэ√ ёыхфє■∙шх ьхЄюф√:
Х ыюъры№эющ юяЄшьшчрЎшш ё т√ўшёыхэшхь ўрёЄэ√ї яЁюшчтюфэ√ї яхЁтюую яюЁ фър;
Х ыюъры№эющ юяЄшьшчрЎшш ё т√ўшёыхэшхь ўрёЄэ√ї яЁюшчтюфэ√ї яхЁтюую ш тЄюЁюую яюЁ фър;
Х ёЄюїрёЄшўхёъющ юяЄшьшчрЎшш;
Х уыюсры№эющ юяЄшьшчрЎшш.
╩ яхЁтющ уЁєяях юЄэюё Єё : уЁрфшхэЄэ√щ ьхЄюф (эршёъюЁхщ°хую ёяєёър); ьхЄюф√ ё юфэюьхЁэющ ш фтєьхЁэющ юяЄшьшчрЎшхщ Ўхыхтющ ЇєэъЎшш т эряЁртыхэшш рэЄшуЁрфшхэЄр; ьхЄюф ёюяЁ цхээ√ї уЁрфшхэЄют; ьхЄюф√, єўшЄ√тр■∙шх эряЁртыхэшх рэЄшуЁрфшхэЄр эр эхёъюы№ъшї °рурї рыуюЁшЄьр.
╩ю тЄюЁющ уЁєяях юЄэюё Єё ' ьхЄюф ═№■Єюэр, ьхЄюф√ юяЄшьшчрЎшш ё ЁрчЁхцхээ√ьш ьрЄЁшЎрьш ├хёёх, ътрчшэ№■Єюэютёъшх ьхЄюф√, ьхЄюф ├рєёёр-═№■Єюэр, ьхЄюф ╦хтхэсхЁур-╠рЁърЁфЄр.
24
╤ЄюїрёЄшўхёъшьш ьхЄюфрьш  ты ■Єё : яюшёъ т ёыєўрщэюь эряЁртыхэшш, шьшЄрЎш  юЄцшур, ьхЄюф ╠юэЄх-╩рЁыю (ўшёыхээ√щ ьхЄюф ёЄрЄшёЄшўхёъшї шёя√Єрэшщ).

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131