Біологічні і штучні нейронні мережі кора головного мозку складається з величезної кількості
Кора головного мозку складається з величезної кількості простих елементів-тов - нейронів, число яких приблизно дорівнює 10 - кількості зірок Чумацького Шляху. Кожен нейрон пов'язаний з декількома ти-сячамі інших нейронів за допомогою нервових волокон, через які передаються електричні імпульси. Таким чином, мозок людини со-тримає приблизно 10 взаємозв'язків. Надзвичайно складна структура зв'язків між відносно простими елементами якраз і є одним з найважливіших «ноу-хау» людського мислення.
Кожен нейрон має відростки нервових волокон двох типів: дендрити, за якими в кліткунадходять входять електричні си-ли, і єдиний аксон, що передає вихідний сигнал іншим ній-ронам. Аксон пов'язаний з дендритами інших нейронів через спеціальні освіти - синапси, які здатні збільшувати або зменшувати силу переданого імпульсу. Схематично це зображено на малюнку:
Вхідні імпульси від аксонів інших нейронів проходять через сі-Напсо на дендрити, змінюючи свою силу, і надходять в тіло нейрона. Ес-ли сумарний сигнал перевищує деякий критичний поріг, «зало-ваний» в тілі нейрона, воно активується і передає вихідний імпульс по аксону до наступних нейронам. Принципово важливо, що «пропускна здатність» синапсів - здатність підсилювати або ос-лаблять сигнал - може змінюватися з часом, що змінює і поведінку нейрона в цілому. Саме «настройка» пропускної здатності синап-сов є основним механізмом навчання в людському мозку.
Зазначений механізм можна представити в формалізованому вигляді, перевести на мову математики. Позначимо входять імпульси, по-ступають від аксонів інших нейронів, символами х1 х2, х2. хп. Сі-Напсо в такому випадку будуть грати роль вагових коефіцієнтів w1 w2, w2. wn. Проходячи через синапси, що входять сигнали змінюють свою силу і утворюють сумарний сигнал х = w1x1 + w2x2 + w2x2 +. + W "x".
Тепер нейрона слід «вирішити», перевищує сумарний входячи-щий сигнал певне порогове значення. Математично це можна уявити як перетворення вхідного сигналу відповідно до певної функцією / СГФ Сила вихідного сигналу у = f (x) =
f (w, c, + І / 1 / Л + і / А +. +. + w "x") 1
Окремі Штучні (формальні) нейрони об'єднуються в штучну нейронну мережу. Сигнал, що отримується на виході мережі (іноді його називають «відповіддю мережі»), буде визначатися не тільки вагами і функціями входять до неї нейронів, а й тим, як нейро-ни пов'язані між собою. Структура зв'язків між нейронами називаючи-ється архітектурою мережі.
Існує два основні класи нейромережевих архітектур:
1. Шаруваті мережі (мережі прямого поширення). Як випливає з назви даної архітектури, нейрони в ній розташовані в декілька шарів. Нейрони першого шару отримують вхідні сигнали, перетворюють їх і передають нейронам другого шару. Далі спрацювання-ет другий шар і так далі до останнього шару до, який видає остаточний «відповідь мережі» для користувача. Як правило, кожен нейрон шару / (попереднього) з'єднаний з кожним нейроном шару і + 1 (наступного). Число нейронів в кожному шарі індивідуально і ніяк заздалегідь не пов'язане з числом нейронів в інших шарах. Найбільш рас-розлогий тришарові мережі, що складаються з вхідного, прихованого і вихідного шарів. Принципова схема такої мережевої архітектури показана на малюнку.
2. Мережі повної зв'язку. У такій мережевій архітектурі все нейрони свя-зани між собою: кожен з них передає вихідний сигнал всім нейронам мережі, включаючи самого себе. Відповіддю мережі є виходячи щие сигнали декількох або всіх нейронів після кількох тактів функціонування мережі.
При практичній роботі з нейронними мережами на персональному комп'ютері немає необхідності будувати мережу «з нуля». У спеціальних програмах вже є стандартний набір архітектур, що відповідають різним типам завдань. Зазвичай буває досить вибрати стан-дротяні архітектуру і скорегувати її (як правило, шляхом видалити-ня зайвого) відповідно до розв'язуваної завданням.
Як вже говорилося, в основу концепції нейронних мереж поло-дружин постулат, що вся складність мозку визначається зв'язками між нейронами, які можна моделювати за допомогою простих авто-матів. Відомо, що кількість інформації, що передається між нейронами, є дуже незначним (декілька біт), а ско-кість передачі сигналу в мільйони разів нижче, ніж в сучасних електронних процесорах. Тому: 1) мозок вирішує завдання не шляхом послідовної серії взаємодій, а запускаючи кілька па-паралельно програм; 2) основна інформація не передається безпосередньо, а захоплюється і розподіляється в зв'язках між нейронами. З деяким перебільшенням можна сказати, що в нейромережевому підході реалізований принцип «структура зв'язків - все, властивості елементів - ніщо».
Саме це властивість дозволило реалізувати на практиці спосіб-ність машини до навчання на прикладах. Унікальність нейронних се-тей полягає в тому, що вони вирішують різні завдання у відповідності не з самого початку закладеними в них програмними алгоритмами, а з алгоритмами, які виробляють вони самі, навчаючись на безлічі прикладів.
Відмінності між «класичної» електронно-обчислювальною машиною (машиною фон Неймана) і біологічними нейронними се-тями, принципи організації яких були взяті на озброєння ІНС, систематизуються в наступній таблиці:
Біологічна нейронна система