Նեյրոցանց

Առանջընթաց արհեստական նեյրոցանցի պարզեցված պատկերում։

Նեյրոցանց կամ նյարդային ցանց, կենսաբանական նեյրոններից կազմված ցանց (երբեմն կոչվում է նաև կենսաբանական նեյրոցանց) կամ արհեստական նեյրոնների և հանգույցների ցանց (երբեմն կոչվում է նաև արհեստական նեյրոցանց)[1]։ Արհեստական նեյրոցանցերը կիրառվում են արհեստական բանականության (ԱԲ) խնդիրները լուծելու համար՝ մոդելավորելով կենսաբանական նեյրոնները հանգույցների միջև կշիռների տեսքով։ Դրական կշիռները ցույց են տալիս դրդող միացումներ, իսկ բացասական կշիռները՝ արգելակիչ միացումներ։ նեյրոցանց ներմուծվող բոլոր մուտքերը փոփոխվում են համապատասխան կշիռով և, ապա, գումարվում են։ Այս երևույթը կոչվում է նաև գծային համադրություն։ Վերջապես, ելքերի ամպլիտուդը կարգավորվում է ակտիվացման ֆունկցիայով։ Սովորաբար, ելքերի թույլատրելի արժեքները տատանվում են 0-ի և 1-ի կամ -1-ի և 1-ի միջև։

Այսպիսի արհեստական ցանցերը կարող են նաև կիրառվել կանխատեսական մոդելավորման, հարմարողական կառավարման և այն հավելվածներում, որոնք «սովորում» են տվյալների բազայից։ Ցանցերում կարող է տեղի ունենալ փորձառությունից հանգող ինքնուսուցում, որի շնորհիվ նեյրոցանցը կարող է հանգել եզրակացությունների միմյանց հետ թվացյալ կապ չունեցող տեղեկատվությունները վերլուծելիս[2]։

Ակնարկ

[խմբագրել | խմբագրել կոդը]

Կենսաբանական նեյրոցանցը կազմված է մի խումբ նեյրոններից, որոնք միմյանց կապված են քիմիական սինապսներով կամ ասոցացված են գործառութորեն։ Մեկ նեյրոնը կարող է կապվել մի շարք այլ նեյրոնների, իսկ ցանցում նեյրոնների և սինապսների ընդհանուր թիվը կարող է լինել բավականին մեծ։ Սինապսները ձևավորվում են աքսոնից դենդրիտ միակցումների արդյունքում, չնայած հնարավոր են դենդրոդենդրիտային[3] և այլ տիպի սինապսներ։ Բացի էլեկտրական ազդակներից, գոյություն ունեն նաև քիմիական ազդակներ, որոնք ծագում են նեյրոտրանսմիտերների դիֆուզիայից։

Արհեստական բանականությունը, կոգնիտիվ մոդելավորումը և նեյրոցանցերը տեղեկատվությունը մշակող պարադիգմներ են, որոնք ոգեշնչված են կենսաբանական նյարդային համակարգերի տվյալները մշակող մեխանիզմներից։ Արհեստական բանականությունը և կոգնիտիվ մոդելավորումը փորձում են նմանակել կենսաբանական նյարդային համակարգերի որոշ հատկություններ։ Արհեստական բանականության ոլորտում արհեստական նեյրոցանցերը հաջողությամբ կիրառվում են խոսքի ճանաչման, պատկերների վերլուծության և հարմարողական կառավարման մեջ ծրագրային ագենտներ (համակարգչային և վիդեո խաղերում) կամ ինքնավար (ավտոմատ) ռոբոտներ կառուցելու համար։

Պատմականորեն, թվային համակարգիչները ձևավորվել և զարգացել են վոն Նյումանի մոդելից և գործում են հստակ հրահանգների կատարումով, որոնք պահպանված են հիշողության մեջ և հասանելի են մի շարք պրոցեսորների միջոցով։ Մյուս կողմից, նեյրոցանցերի ի սկզբանե հիմնվել կենսաբանական համակարգերում տեղեկատվության մշակումը մոդելավորելու փորձերի վրա։ Ի տարբերություն վոն Նյումանի մոդելի, նեյրոցանցերը չեն տարանջատում հիշողությունը և տվյալների մշակումը։

Նեյրոցանցերի տեսությունը թույլ տվեց ավելի լավ հասկանալ, թե ինչպես են գործում նեյրոնները գլխուղեղում, և տրամադրեց հիմք արհեստական բանականություն ստեղծելու բազմաթիվ փորձերի համար։

Պատմություն

[խմբագրել | խմբագրել կոդը]

Ժամանակակից նեյրոցանցերի նախնական տեսական հիմքը իրարից անկախ առաջարկել են Ալեքսանդր Բեյնը[4] (1873) և Վիլիամ Ջեյմսը[5] (1890)։ Իրենց աշխատություններում և՛ մտքերը, և՛ մարմնի գործառույթները իրականանում են գլխուղեղում նեյրոնների միջև փոխազդեցությունների արդյունքում։

Բրգաձև նեյրոնների դենդրիտների ճյուղավորման համակարգչային սիմուլյացիան[6]։

Ըստ Բեյնի[4]՝ յուրաքանչյուր գործողություն հանգեցնում է նեյրոնների որոշակի խմբի ակտիվացման։ Գործողությունների կրկնությունը հանգեցնում էր այդ խմբի նեյրոնների միջև կապերի ուժգնացմանը։ Ըստ նրա տեսության հենց այս կրկնությունն է ձևավորում հիշողությունը։ Ժամանակի գիտական համայնքը թերահավատորեն մոտեցավ Բեյնի տեսությանը, քանի որ համաձայն նրա տեսության գլխուղեղում պետք է լինեին չափից շատ նյարդային կապեր։ Ներկայումս հայտնի է, որ գլխուղեղը չափազանց բարդ համակարգ է, և գլխուղեղի նույն «մոնտաժը» կարող է գործարկել բազմաթիվ խնդիրներ և մուտքեր։

Ջեյմսի[5] տեսությունը նման է Բեյնի[4] տեսությանը, սակայն ըստ Ջեյմսի՝ հիշողությունները և գործողությունները առաջանում են գլխուղեղում նեյրոնների միջև գործող էլեկտրական հոսանքների արդյունքում։ Նրա տեսությունը, որը կենտրոնանում էր էլեկտրական հոսանքների հոսքի վրա, չէր պահանջում առանձին նյարդային կապ յուրաքանչյուր հիշողության կամ գործողության համար։

Չ․ Շերինգտոնը[7] (1898) փորձեր իրականացրեց, որպեսզի ստուգի Ջեյմսի տեսությունը։ Նա առնետների ողնուղեղները ենթարկեց էլեկտրական հոսանքի ազդեցությանը։ Սակայն այս փորձի արդյունքում ողնուղեղում էլեկտրական հոսանքը չուժեղացավ ի հակադրություն Ջեյմսի տեսությանը, այլ հոսանքի ուժը նվազեց ժամանակին զուգընթաց։ Այս աշխատանքը նպաստեց հաբիտուացիա հասկացության բացահայտմանը։

Վիլհելմ Լենցը (1920) և Էրնստ Իզինգը (1925) ստեղծեցին և վերլուծեցին Իզինգի մոդելը[8], որը ըստ էության չսովորող արհեստական հետադարձ նեյրոցանց (ՀՆՑ) է՝ բաղկացած նեյրոնանման շեմքային տարրերից[9]։ 1972 թվականին Շունիչի Ամարին այս կառույցը դարձրեց հարմարողական[9][10]։ 1982 թվականին Ջոն Հոփֆիլդը հանրահռչակեց Շունիչիի սովորող ՀՆՑ-ը[11]։ Մակկալոքը և Փիթսը[12] (1943) ստեղծեցին մաթեմատիկայի և ալգորիթմների վրա հիմնված համակարգչային մոդել՝ նախատեսված նեյրոցանցերի համար։ Այն կոչվեց շեմքի տրամաբանություն։ Այս վաղ մոդելները, ի վերջո, ուղորդեցին նեյրոցանցերի հետազոտությունները երկու հիմնական ուղություններով, որոնցից առաջինը կենտրոնացավ գլխուղեղի կենսաբանական գործընթացների վրա, իսկ մյուսը՝ արհեստական բանականության մեջ նեյրոցանցերի կիրառման վրա։

Ուշ 1940-ական թվականներին հոգեբան Դոնալդ Հեբը[13] ստեղծեց սովորելու վարկած՝ հիմնված նյարդային պլաստիկության վրա, որն այժմ հայտնի է որպես հեբիան տեսություն։ Այն համարվում է տիպիկ չվերահսկվող սովորելու կանոն, և դրա հետագա տարբերակները հանդիսանում էին երկարաժամկետ պոտենցիացիայի մոդել։ Այս մտքերը սկսեցին կիրառվել համակարգչային մոդելներում 1948 թվականից սկսած Թյուրինգի B տիպի մեքենաներ։

Ֆարլին և Կլարկը[14] (1954) առաջին անգամ Մասաչուսեթսի տեխնոլոգիական ինստիտուտում կիրառեցին հաշվողական մեքենաները (հետագայում կոչվեցին հաշվիչներ) հեբիան ցանց սիմուլացնելու նպատակով։ Նեյրոցանցի վրա հիմնված այլ հաշվողական մեքենաներ ստեղծեցին նաև Ռոչեսթերը, Հոլամդը, Հեբիթը և Դուդան[15] (1956)։

Ֆրանկ Ռոզենբլատը[16] 1958 թվականին ստեղծեց պերսեպտրոնը։ Սա երկշերտ սովորող համակարգչային ցանցի վրա հիմնված ալգորիթմ է, որը կիրառում է պարզ գումարում և հանում։ Ռոզենբլատը նկարագրեց էլեկտրական շղթաները ոչ թե հասարակ պերցեպտրոնի կոնտեքստում, այլ exclusive-or էլեկտրական շղթայում։

Համաձայն որոշ կարծիքների, նեյրոցանցերի հետազոտությունը լճացավ Մարվին Մինսկիի և Սեյմուր Փեյփերթի մեքենայական ուսուցման մասին աշխատության հրապարակումից (1969) հետո[17]։ Նրանք երկու հիմնական խնդիր պարզեցին նեյրոցանցեր օգտագործող հաշվողական մեքենաների աշխատանքում։ Առաջինը․ միաշերտ նեյրոցանցերը չեն կարող մշակել exclusive-or շղթաներ։ Երկրորդը․ համակարգիչները ի զորու չէին դիմանալ խոշոր նեյրոցանցերի գործունեության երկարատևությանը։ Սակայն մինչ այդ գրքի հրապարակումը արդեն գոյություն ունեին բազմաշերտ պերսեպտրոնների (ԲՇՊ) ուսուցման մեթոդներ։ Առաջին խոր ուսուցման ԲՇՊ-ը հրապարակվել են Ալեքսեյ Իվախնենկոն և Վալենտին Լապան 1965 թվականին[9][18][19]։ Այն խոր ուսուցման ԲՇՊ-ն, որը «սովորել» է ստոխաստիկ գրադիենտային դեսանտից[20], առաջին անգամ հրապարակվել է Շունիչի Ամարին 1967 թվականին[9][21]։ Ամարիի ուսանող Սաիտոյի փորձերում երկու փոփոխելի շերտերով հնգաշերտ ԲՇՊ-ն սովորեց օգտակար ներքին ներկայացումներ, որոնցով այն դասակարգում էր ոչ գծային բաժանելի պատկերների դասեր[9]։

Նեյրոցանցերի հետազոտությունները վերելք ապրեցին ավելի մեծ պրոցեսորային հզորություն ունեցող համակարգիչների ստեղծումից հետո։ Զարգացման մեջ կարևոր դեր է խաղացել սխալի հետադարձ տարածման ալգորիթմի ստեղծումը։ Այն Լայբնիցի շղթայական կանոնի (1673)[22] արդյունավետ կիրառման դրսևորում է դիֆերենցվող հանգույցների ցանցերում[9]։

1980-ական թվականներին զուգահեռաբար բաշխված մշակումը հայտնի դարձավ որպես կոնեկթիոնիզմ[23]։

Արհեստական բանականություն

[խմբագրել | խմբագրել կոդը]
Հիմնական հոդված՝ Արհեստական նեյրոնային ցանց

Արհեստական կամ սիմուլացված նեյրոցանցը (նեյրոնային ցանց) փոխկապակցված բնական կամ արհեստական նեյրոնների խումբ է, որը կիրառում է տեղեկատվության մշակման մաթեմատիկական կամ համակարգչային մոդելներ՝ հիմնված հաշվարկման կոնեկթիոնիստական մոտեցումների վրա։ Արհեստական նեյրոցանցը հարմարողական համակարգ է, որը փոխում է իր կարուցվածքը համաձայն ցանցով հոսող արտաքին կամ ներքին տեղեկատվությանը։

Գործնական տեսանկյունից, նեյրոցանցերը ոչ գծային վիճակագրական տվյալները մոդելավորող կամ որոշում ընդունող գործիքներ են։ Դրանք կիրառվում են մուտքերի և ելքերի միջև բարդ փոխհարաբերությունները պարզելու կամ տվյալներում օրինաչափություններ գտնելու համար։

Արհեստական նեյրոնների կոնցեպտը առաջին անգամ առաջարկել են նեյրոֆիզիոլոգ Ուորեն Մակկալոքը և տրամաբան Ուոլթեր Փիթսը 1943 թվականին։ Նրանք համագործակցել են Չիկագոյի համալսարանում[24]։

Արհեստական նեյրոցանցի դասական օրինակ է Հոփֆիլդի հետադարձ ցանցը։

Նեյրոցանցերի կոնցեպտը առաջին անգամ առաջարկել է Ալան Թյուրինգը 1948 թվականին իր Խելացի մեքենաներ հոդվածում, որտեղ նա նեյրոցանցերն անվանել է «B տիպի չկարգավորված մեքենաներ»[25]։

Կիրառում

[խմբագրել | խմբագրել կոդը]

Նեյրոցանցերը կարող են կիրառվել բազմաթիվ ոլորտներում, որոնք հիմնականում դասակարգվում են հետևյալ կատեգորիաներում․

Արհեստական նեյրոցանցերը կրառվում են նաև ոչ գծային համակարգերի նույնականացման[26] և կառավարման (ավտոմոբիլի կառավարում), որոշումների ընդունման (նարդի, շախմատ, մրցավազք), բժշկական ախտորոշման, ֆինանսական հավելվածների, տվյալների մայնինգի (գիտելիքների բացահայտում տվյալների բազայում), վիզուալիզացիայի և էլեկտրոնային նամակների սպամերի ֆիլտրման մեջ։ Օրինակ՝ հնարավոր է ստեղծել պրոֆիլ օգտատիրոջ համար, որը ստեղծվել է պատկերի վրա սովորած օբյեկտները ճանաչող արհեստական նեյրոցանցից[27]։

Նեյրոգիտություն

[խմբագրել | խմբագրել կոդը]

Տեսական և համակարգչային նեյրոգիտությունը վերլուծում և մոդելավորում է կենսաբանական նյարդային համակարգները։ Ոլորտը նաև սերտորեն կապված է կոգնիտիվ և վարքագծային մոդելավորման հետ։

Համակարգչային նեյրոգիտության նպատակն է ստեղծել այնպիսի կենսաբանական նյարդային համակարգեր, որոնք կբացատրեն կենսաբանական համակարգների մեխանիզմները։ Նեյրոգիտնականները փորձում են կապել դիտարկված կենսաբանական գործընթացների (տվյալների), նյարդային համակարգերի հայտնի կենսաբանական մեխանիզմների, սովորելու (կենսաբանական նեյրոցանցերի մոդելներ) և տեսության (սովորելու վիճակագրական տեսություն և տեղեկտվության տեսություն) միջև։

Մոդելների տեսակները

[խմբագրել | խմբագրել կոդը]

Մոդելների կիրառումը կախված է նյարդային համակարգերի տարբեր ասպեկտներից և աբստրակցիայի մակարդակից, օրինակ՝ առանձին նեյրոնների կարճատև վարքագծային մոդելներ, առանձին նեյրոնների միջև գործող փոխհարաբերություններից ծագող նյարդային շղթաների և ամբողջական ենթահամակարգեր ներկայացնող աբստրակտ նյարդային մոդուլների վրա հիմնված վարքագծային մոդելներ։ Այսպիսի մոդելներ են երկարաժամկետ և կարճաժամկետ նյարդային պլաստիկության մոդելները և դրանց կապը սովորելու և հիշողության հետ, կապը առանձին նեյրոնների և ամբողջական համակարգերի միջև։

Կապվածություն

[խմբագրել | խմբագրել կոդը]

2020 թվականի օգոստոսին գիտնականները հաղորդեցին, որ երկկողմանի կամ հետադարձ կապերը կարող են արագացնել և բարելավվել գլխուղեղի կեղևի մոդուլային նեյրոցանցերի ներսում կամ ներյոցանցի նեյրոնների միջև հաղորդակցությունները, ինչպես նաև իջեցնել դրանց միջև հաջող հաղորդակցման շեմքը։ Նրանք ցույց տվեցին, որ ռեզոնանտ զույգի միջև հետադարձ կապի ավելացումը հանգեցնում է մեկ ազդակի հաջող տարածմանը ամբողջ ցանցով[28][29]։

Քննադատություն

[խմբագրել | խմբագրել կոդը]

Պատմականորեն, նեյրոցանցերի հիմնական թերությունը, մասնավորապես ռոբոտաշինության ոլորտում, այն է, որ դրանք պահանջում են ուսուցողական խոշոր նմուշներ իրական գործողություններ իրականացնելու համար։

Ա․ Դյուդնին, Scientific American-ի նախկին թղթակիցը, 1997 թվականին նշել է, որ «չնայած նեյրոցանցերը կարող են որոշ մանկական խնդիրներ լուծել, դրանց հաշվողական հզորությունը այնքան փոքր է, որ ես ապշած եմ, թե ինչպես են մարդիկ լրջորեն կիրառում նեյրոցանցերը ընդհանուր խնդիրների լուծման համար»[30]։

Դյուդնիի արգումենտը հիմնավորում են այն փաստերը, որ խոշոր նեյրոցանցերը պահանջում են մեծաքանակ ռեսուրսների, մասնավորապես գումարի և ժամանակի ներդրում։ Մինչ դեռ գլխուղեղի կառուցվածքը արդյունավետորեն համապատասխանում է նեյրոնների գրաֆերով ազդակների մշակմանը, վոն Նյումանի մոդելով գործող համակարգչում նույնսիկ ամենապարզ նեյրոցանցի գործածումը հանգեցնում է համակարգչի հիշողության մեծ մասի ծախսման։

Գոյություն ունեն նաև Դյուդնիի արգումենտները ժխտող պնդումներ, ըստ որոնց՝ նեյրոցանցերը հաջող կերպով կիրառվում են բարդ և բազմապիսի առաջադրանքներ կատարելու համար, ինչպիսիք են ինքնաթիռների կառավարումը[31]։

Տեխնոլոգիական գրող Ռոջեր Բրիջմանը մեկնաբանել է Դյուդնիի նեյրոցանցերին վերաբերող պնդումների մասին․

Նեյրոցանցերը ենթարկվում են այսպիսի քննադատության ոչ միայն մարդկանց կողմից շատ գովաբանվելու, այլև նրա պատճառով, որ նույնիսկ առանց հասկանալու հնարավոր է ստեղծել հաջող նեյրոցանց․ դրա վարքը նկարագրող մի խումբ թվերը փաստացի «անթափանց, անընթեռնելի աղյուսակ են, որը որպես գիտական ռեսուրս որևէ արժեք չի կրում»։ Դյուդնին իր հայտարարություններով փորձում է վատաբանել նեյրոցանցերը, մինչ դեռ դրանք ստեղծող և զարգացնող ճարտարագետները ընդհամենը փորձում են լավ անել իրենց գործը։ Այնուամենայնիվ, որքան էլ անընթեռնելի է աղյուսակը, եթե մի օգտակար սարք կարող է այն կիրառել, ապա այն արժի կիրառել[32]։

Մի շարք գիտնականներ կարծում են, որ նեյրոցանցերի միավորումը սիմվոլային մոտեցումների հետ, այսինքն հիբրիդային մոդելնորի ստեղծումը, ավելի ճշգրիտ է արտացոլում մարդկային մտքի մեխանիզմները (Սուն և Բուքմեն, 1990)։

Վերջին բարելավումներ

[խմբագրել | խմբագրել կոդը]

Ի սկզբանե նեյրոցանցերի հետազոտությունը կենտրոնացած էր նեյրոնի էլեկտրական հատկությունների շուրջ, սակայն վերջերս հատկապես կարևոր է ուսումնասիրել նեյրոտրանսմիտերները, ինչպիսիք են դոֆամինը, ացետիլխոլինը, սերոտոնինը։

Կենսաֆիզիկական մոդելները օգնում են հասկանալ սինապսային պլաստիկության մեխանիզմները, ինչպես նաև կիրառվում են և՛ հաշվողական գիտությունների, և՛ նեյրոգիտության մեջ։

Վերջերս փորձեր են կատարվել կոմպլեմենտար մետաղ-օքսիդ-կիսահաղորդիչային սարքավորումները կիրառել կենսաֆիզիկական սիմուլյացիաներում և նեյրոմորֆային հաշվարկներում։ Ստեղծվել են նաև նանոսարքներ հիմնական կոմպոնենտների վերլուծության և կոնվոլյուցիայի համար, որը ավելի շատ հիմնված է սովորելու, քան ծրագրավորման վրա[33][34]։

2009-2012 թվականներին Յուրգեն Շմիդհուբերը Շվեյցարական արհեստական բանականության լաբում (IDSIA) ձևավորեց խոր առաջընթաց և հետադարձ նեյրոցանցեր, որոնք հաղթեցին օրինաչափությունների ճանաչման և մեքենայական ուսուցման 8 միջազգային մրցույթներում[35]։ Օրինակ՝ բազմաչափ երկար կարճատև հիշողությունը (long short-term memory, LSTM) հաղթեղ երեք մրցանակ ձեռագիր տեքստի ճանաչման համար 2009 թվականի Փաստաթղթերի վերլուծության և ճանաչման միջազգային կոնֆերանսում։

Տես նաև

[խմբագրել | խմբագրել կոդը]

Ծանոթագրություններ

[խմբագրել | խմբագրել կոդը]
  1. ↑ Hopfield, J. J. (1982). «Neural networks and physical systems with emergent collective computational abilities». Proc. Natl. Acad. Sci. U.S.A. 79 (8): 2554–2558. Bibcode:1982PNAS...79.2554H. doi:10.1073/pnas.79.8.2554. PMC 346238. PMID 6953413.
  2. ↑ «Neural Net or Neural Network - Gartner IT Glossary». www.gartner.com.
  3. ↑ Arbib, p.666
  4. ↑ 4,0 4,1 4,2 Bain (1873). Mind and Body: The Theories of Their Relation. New York: D. Appleton and Company.
  5. ↑ 5,0 5,1 James (1890). The Principles of Psychology. New York: H. Holt and Company.
  6. ↑ Cuntz, Hermann (2010). «PLoS Computational Biology Issue Image | Vol. 6(8) August 2010». PLOS Computational Biology. 6 (8): ev06.i08. doi:10.1371/image.pcbi.v06.i08.
  7. ↑ Sherrington, C.S. (1898). «Experiments in Examination of the Peripheral Distribution of the Fibers of the Posterior Roots of Some Spinal Nerves». Proceedings of the Royal Society of London. 190: 45–186. doi:10.1098/rstb.1898.0002.
  8. ↑ Brush, Stephen G. (1967). «History of the Lenz-Ising Model». Reviews of Modern Physics. 39 (4): 883–893. Bibcode:1967RvMP...39..883B. doi:10.1103/RevModPhys.39.883.
  9. ↑ 9,0 9,1 9,2 9,3 9,4 9,5 Schmidhuber, Juergen (2022). «Annotated History of Modern AI and Deep Learning». arXiv:2212.11279 [cs.NE].
  10. ↑ Amari, Shun-Ichi (1972). «Learning patterns and pattern sequences by self-organizing nets of threshold elements». IEEE Transactions. C (21): 1197–1206.
  11. ↑ Hopfield, J. J. (1982). «Neural networks and physical systems with emergent collective computational abilities». Proceedings of the National Academy of Sciences. 79 (8): 2554–2558. Bibcode:1982PNAS...79.2554H. doi:10.1073/pnas.79.8.2554. PMC 346238. PMID 6953413.
  12. ↑ McCulloch, Warren; Walter Pitts (1943). «A Logical Calculus of Ideas Immanent in Nervous Activity». Bulletin of Mathematical Biophysics. 5 (4): 115–133. doi:10.1007/BF02478259.
  13. ↑ Hebb, Donald (1949). The Organization of Behavior. New York: Wiley.
  14. ↑ Farley, B.; W.A. Clark (1954). «Simulation of Self-Organizing Systems by Digital Computer». IRE Transactions on Information Theory. 4 (4): 76–84. doi:10.1109/TIT.1954.1057468.
  15. ↑ Rochester, N.; J.H. Holland, L.H. Habit and W.L. Duda (1956). «Tests on a cell assembly theory of the action of the brain, using a large digital computer». IRE Transactions on Information Theory. 2 (3): 80–93. doi:10.1109/TIT.1956.1056810.
  16. ↑ Rosenblatt, F. (1958). «The Perceptron: A Probabilistic Model For Information Storage And Organization In The Brain». Psychological Review. 65 (6): 386–408. CiteSeerX 10.1.1.588.3775. doi:10.1037/h0042519. PMID 13602029. S2CID 12781225.
  17. ↑ Minsky, M.; S. Papert (1969). An Introduction to Computational Geometry. MIT Press. ISBN 978-0-262-63022-1.
  18. ↑ Ivakhnenko, A. G. (1973). Cybernetic Predicting Devices. CCM Information Corporation.
  19. ↑ Ivakhnenko, A. G.; Grigorʹevich Lapa, Valentin (1967). Cybernetics and forecasting techniques. American Elsevier Pub. Co.
  20. ↑ Robbins, H.; Monro, S. (1951). «A Stochastic Approximation Method». The Annals of Mathematical Statistics. 22 (3): 400. doi:10.1214/aoms/1177729586.
  21. ↑ Amari, Shun'ichi (1967). «A theory of adaptive pattern classifier». IEEE Transactions. EC (16): 279–307.
  22. ↑ Leibniz, Gottfried Wilhelm Freiherr von (1920). The Early Mathematical Manuscripts of Leibniz: Translated from the Latin Texts Published by Carl Immanuel Gerhardt with Critical and Historical Notes (Leibniz published the chain rule in a 1676 memoir) (անգլերեն). Open court publishing Company.
  23. ↑ Rumelhart, D.E.; James McClelland (1986). Parallel Distributed Processing: Explorations in the Microstructure of Cognition. Cambridge: MIT Press.
  24. ↑ McCulloch, Warren; Pitts, Walter (1943). «A Logical Calculus of Ideas Immanent in Nervous Activity». Bulletin of Mathematical Biophysics. 5 (4): 115–133. doi:10.1007/BF02478259.
  25. ↑ Copeland, B. Jack, ed. (2004). The Essential Turing. Oxford University Press. էջ 403. ISBN 978-0-19-825080-7.
  26. ↑ Billings, S. A. (2013). Nonlinear System Identification: NARMAX Methods in the Time, Frequency, and Spatio-Temporal Domains. Wiley. ISBN 978-1-119-94359-4.
  27. ↑ Wieczorek, Szymon; Filipiak, Dominik; Filipowska, Agata (2018). «Semantic Image-Based Profiling of Users' Interests with Neural Networks». Studies on the Semantic Web. 36 (Emerging Topics in Semantic Technologies). doi:10.3233/978-1-61499-894-5-179.
  28. ↑ «Neuroscientists demonstrate how to improve communication between different regions of the brain». medicalxpress.com (անգլերեն). Վերցված է 2020 թ․ սեպտեմբերի 6-ին.
  29. ↑ Rezaei, Hedyeh; Aertsen, Ad; Kumar, Arvind; Valizadeh, Alireza (2020 թ․ օգոստոսի 10). «Facilitating the propagation of spiking activity in feedforward networks by including feedback». PLOS Computational Biology (անգլերեն). 16 (8): e1008033. Bibcode:2020PLSCB..16E8033R. doi:10.1371/journal.pcbi.1008033. ISSN 1553-7358. PMC 7444537. PMID 32776924. S2CID 221100528. Text and images are available under a Creative Commons Attribution 4.0 International License.
  30. ↑ Dewdney, A. K. (1997). Yes, we have no neutrons : an eye-opening tour through the twists and turns of bad science. New York: Wiley. ISBN 0-471-10806-5. OCLC 35558945.
  31. ↑ Administrator, NASA (2013 թ․ հունիսի 5). «Dryden Flight Research Center - News Room: News Releases: NASA NEURAL NETWORK PROJECT PASSES MILESTONE». NASA.
  32. ↑ «Roger Bridgman's defence of neural networks». Արխիվացված է օրիգինալից 2012 թ․ մարտի 19-ին. Վերցված է 2006 թ․ օգոստոսի 1-ին.
  33. ↑ Yang, J. J.; և այլք: (2008). «Memristive switching mechanism for metal/oxide/metal nanodevices». Nat. Nanotechnol. 3 (7): 429–433. doi:10.1038/nnano.2008.160. PMID 18654568.
  34. ↑ Strukov, D. B.; և այլք: (2008). «The missing memristor found». Nature. 453 (7191): 80–83. Bibcode:2008Natur.453...80S. doi:10.1038/nature06932. PMID 18451858. S2CID 4367148.
  35. ↑ «2012 Kurzweil AI Interview with Jürgen Schmidhuber on the eight competitions won by his Deep Learning team 2009–2012». Արխիվացված է օրիգինալից 2018 թ․ օգոստոսի 31-ին. Վերցված է 2012 թ․ դեկտեմբերի 10-ին.

Արտաքին հղումներ

[խմբագրել | խմբագրել կոդը]
LCCN: sh93002348