شبکه عصبی کانولوشن چیست؟
پایگاه داده ام‌ان‌آی‌اس‌تی
در سال ۲۰۱۱، نرخ خطای ۰٫۲۷ درصد، که نسبت به بهترین نتیجه قبلی بهبود یافته بود، توسط محققان با استفاده از سیستم مشابهی از شبکه‌های عصبی گزارش شد. در سال ۲۰۱۳ ادعا شد که رویکردی مبتنی بر رگولاسیون شبکه‌های عصبی با استفاده از DropConnect، موفق به دستیابی به نرخ خطای ۰٫۲۱ درصدی می‌شود. در سال ۲۰۱۶، بهترین عملکرد شبکه عصبی کانولوشن ۰٫۲۵ درصد بود. از آگوست ۲۰۱۸، بهترین عملکرد یک شبکه عصبی کانولوشنال که با استفاده از داده‌های آموزشی MNIST بدون افزایش داده آموزش داده شده باشد، ۰٫۲۵ درصد نرخ خطا است. همچنین، مرکز محاسبات موازی (خملنیتسکی، اوکراین) مجموعه ای از تنها ۵ شبکه عصبی کانولوشنال را به دست آورد که با استفاده از پایگاه داده MNIST، به نرخ خطای ۰٫۲۱ درصد دست می‌یابد. برخی از تصاویر در مجموعه داده آزمایش، به سختی قابل خواندن هستند و ممکن است از رسیدن به نرخ خطای تست ۰٪ جلوگیری کنند. در سال ۲۰۱۸، محققان دپارتمان سیستم و مهندسی اطلاعات در دانشگاه ویرجینیا، با استفاده از به‌کارگیری سه نوع شبکه عصبی به‌طور همزمان (شبکه‌های عصبی کاملاً متصل، بازگشتی و کانولوشن) نرخ خطای ۰٫۱۸ درصدی را اعلام کردند. کاربرد هوش مصنوعی در رادیولوژی و تشخیص شکستگی
به منظور بررسی بهتر فرایندی به نام یادگیری انتقال استفاده می شود. این فرایند بکارگیری ویژگی های بسیار تصفیه شده از CNN های بزرگ آموزش دیده موجود و استفاده از این موارد به عنوان نقطه شروع آموزش یک مدل جدید برای انجام کاری متفاوت است.شبکه‌های عصبی پیچشی یا همگشتی (به انگلیسی: convolutional neural network) (مخفف انگلیسی: CNN یا ConvNet) رده‌ای از شبکه‌های عصبی ژرف هستند که معمولاً برای انجام تحلیل‌های تصویری یا گفتاری در یادگیری ماشین استفاده می‌شوند.ساختار شبکه‌های پیچشی از فرایندهای زیستی قشر بینایی گربه الهام گرفته‌شده‌است. این ساختار به گونه‌ای است که تک‌نورون‌ها تنها در یک ناحیه محدود به تحریک پاسخ می‌دهند که به آن ناحیه پذیرش گفته می‌شود. نواحی پذیرش نورون‌های مختلف به صورت جزئی با هم همپوشانی دارند به گونه ای که کل میدان دید را پوشش می‌دهند.شبکه‌های عصبی پیچشی نسبت به بقیه رویکردهای دسته‌بندی تصاویر به میزان کمتری از پیش‌پردازش استفاده می‌کنند. این امر به معنی آن است که شبکه معیارهایی را فرامی‌گیرد که در رویکردهای قبلی به صورت دستی فراگرفته می‌شدند. این استقلال از دانش پیشین و دستکاری‌های انسانی در شبکه‌های عصبی پیچشی یک مزیت اساسی است.تا کنون کاربردهای مختلفی برای شبکه‌های عصبی از جمله در بینایی کامپیوتر، سیستم‌های پیشنهاددهنده و پردازش زبان طبیعی پیشنهاد شده‌اند. این ویژگی‌ها را می‌توان به عنوان عناصر اصلی برای ساخت تصاویر مانند خطوط و منحنی‌ها تصور کرد که نشان داده شده‌ تا در بسیاری از امور شناسایی تصویر بکار برده شوند. این روش می تواند به میزان قابل توجهی نیازهای محاسباتی مورد نیاز برای آموزش شبکه را کاهش دهد و مزایای بسیاری در مقایسه با آموزش CNN از تراشه دارد. با وجود در دسترس بودن مقادیر گسترده‌ای از داده‌های تصویر، یادگیری انتقال در محیط‌های بالینی نسبتاً کم مورد استفاده قرار گرفته است. دو مقاله چاپ شده اخیر نشان داده است که انتقال یادگیری از CNN های آموزش دیده می‌تواند نتایج تشخیصی در مورد انسان را در دسته بندی ضایعات پوستی و در شناسایی بیماری در تصاویر دیجیتال شبکیه ایجاد کند.
کد کانولوشن
n۳ = m۱ + m-۱. نوروفارماکولوژی
سلولهای عصبی به عنوان سلولهای تحریک پذیر شناخته می شوند زیرا در غشای سطح آن پروتئینهای فراوانی وجود دارد که به کانالهای یونی معروف هستند و به ذرات باردار کوچک اجازه ورود و خروج از سلول را می دهند. ساختار نورون اجازه می دهد تا اطلاعات شیمیایی توسط دندریت های آن دریافت شود، از طریق جسم سلولی (پریکاریون یا سوما) و پایین آکسون آن منتشر شود و در نهایت از طریق ترمینال آکسون خود به سلول های عصبی دیگر منتقل شود. این مجرای یونی وابسته به ولتاژ امکان دیپولاریزاسیون سریع را در کل سلول فراهم می کنند. این دیپولاریزاسیون اگر به آستانه خاصی برسد، یک پتانسیل عمل ایجاد می کند. وقتی پتانسیل عمل به ترمینال آکسون رسید، باعث هجوم یون های کلسیم به سلول می شود. سپس یون های کلسیم باعث می شوند که وزیکول ها (بسته های کوچک پر شده از ناقل های عصبی) به غشای سلول متصل شده و محتوای آن را در سیناپس آزاد کنند. این سلول به عنوان نورون پیش سیناپسی شناخته می شود و سلول تعامل کننده با ناقل های عصبی آزاد شده به عنوان نورون پس سیناپسی شناخته می شود. هنگامی که ناقل عصبی در سیناپس آزاد شد ، می تواند به گیرنده های سلول پس سیناپسی متصل شود ، سلول پیش سیناپسی می تواند دوباره آن را جذب کرده و برای انتقال بعدی ذخیره کند ، یا می تواند توسط آنزیم های موجود در سیناپس تجزیه شود. این سه عمل مختلف زمینه های عمده ای است که در آن اثر دارویی می تواند بر ارتباط بین سلول های عصبی تاثیر بگذارد. شبکه عصبی پیشخور
در هر زوج مرتب، formula_2، ورودی شبکه و formula_3 به عنوان خروجی یا هدف مورد نظر شناخته می‌شود. زمانی که ورودی به شبکه اعمال می‌شود، خروجی با هدف مقایسه می‌شود. سپس بر طبق قواعد یادگیری برای تنظیم وزن‌ها و بایاس‌ها تغییرات لازم اعمال می‌گردد تا خروجی شبکه به هدف مورد نظر نزدیک تر شود. قاعده یادگیری شبکه‌های پرسپترون از همین نوع می‌باشد. در "' قاعده یادگیری بی نظارت"' وزن‌ها و بایاس‌ها تنها در مقابل ورودی شبکه اصلاح می‌شوند و در واقع هیچ هدفی وجود ندارد. این الگوریتم اکثراً برای عملیات دسته‌بندی استفاده می‌شود. آن‌ها ورودی‌ها را با داشتن تعداد محدودی از کلاس‌ها دسته‌بندی می‌کنند. "'قاعده یادگیری تقویتی"' بر رفتارهایی تمرکز دارد که ماشین باید برای بیشینه کردن پاداشش انجام دهد. این مسئله، با توجه به گستردگی‌اش، در زمینه‌های گوناگونی بررسی می‌شود. مانند: نظریه بازی‌ها، نظریه کنترل، هوش ازدحامی، آمار و …. این نوع یادگیری در شبکه‌های پرسپترون و یادگیری بدون نظارت در شبکه پرسپترون کاربردی ندارند و توضیح بیشتر در مورد آنان از حوصله بحث خارج است. شبکه عصبی پیچشی
لایه‌های کاملاً همبند، هر نورون در یک لایه را به هر نورون در لایه دیگر متصل می‌کنند. این رویکرد در اصل مشابه کاری است که در شبکه عصبی پرسپترون چند لایه (MLP) انجام می‌شود. زوال عصبی
زوال عصبی ازدست رفتن ساختار یا عملکرد یاخته های عصبی یا مرگشان است. بسیاری از بیماری های زوال عصبی، شامل اسکلروز جانبی آمیوتروفیک، اسکلروز چندگانه، بیماری بارکینسون، بیماری آلزایمر، بیماری هانتینگتون و بیماری پریون، در نتیجه زوال عصبی بوجود می آیند. چنین بیماری هایی غیر قابل درمان اند و منجر به زوال پیش رونده یاخته های عصبی می گردند. با پیشرفت تحقیقات، شباهت های بسیاری یافت می شوند که این بیماری ها را در سطح زیر-سلولی به یک دیگر مرتبط می سازند. کشف این شباهت ها امید هایی برای پیشرفت های درمانی ایجاد می کنند که امکان بهبود بسیاری از این بیماری ها را به طور همزمان میسر می سازند. بین اختلالات زوال عصبی مختلف، شباهت هایی چون سرهمبندی شدن غیرمعمول پروتئین ها یا القای مرگ سلولی وجود دارد. زوال عصبی را می توان در سطوح مختلفی از مدارهای عصبی از سطح ملکولی گرفته تا سطوح سیستمی یافت. میدان‌های تصادفی شرطی کاملا متصل در ناحیه‌بندی تصاویر
از دیدگاه پردازش سیگنال، مرحله عبور پیام می‌تواند با کانولوشن با یک هسته گاوسی formula_31 در فضای ویژگی بیان شود و رابطه آن به صورت زیر است: نرم افزار شبکه عصبی
نرم‌افزار شبکه عصبی برای شبیه‌سازی، تحقیق، توسعه و کاربرد شبکه‌های عصبی مصنوعی، مفاهیم نرم‌افزاری اقتباس شده از شبکه‌های عصبی بیولوژیکی و در برخی موارد، مجموعه وسیع تری از سیستم‌های انطباق یافته مانند هوش مصنوعی و یادگیری ماشین استفاده می‌شود. عصب میان‌بندی
شبکه گردنی یادگیری ماشین اتوماتیک
معماری شبکه عصبی را می توان به صورت یک گراف بدون دور جهت دارنمایش داد که از راس ها و یال هایی که این رئوس را به هم وصل می کند تشکیل می شود که هر راس یک تنسور را نشان می دهد و هر یال یک عملیات را از مجموعه اعمال کاندید نشان می دهد. این مجموعه شامل عملیات اساسی کانولوشن، pooling و تابع فعال ساز و پریدن از روی رابطه و الحاق و جمع است. نحوه انتخاب و ترکیب این روش ها با فضای جستجوی طراحی شبکه تغییر می کند. این فضای جستجو الگوی ساختاری که الگوریتم های بهینه سازی معماری می توانند در آن جستجو کنند را مشخص می کند. پایانه آکسون
انتقال دهنده‌های عصبی در وزیکول‌های سیناپسی، در داخل جسم سلولی، بسته‌بندی می‌شوند و در زیر غشای انتهایی آکسون در سمت نورون پیش سیناپسی قرار می‌گیرند. پایانه‌های آکسونی برای آزادسازی انتقال دهنده‌های عصبی سلول پیش سیناپسی تخصصی هستند. پایانه‌های آکسونی وزیکول‌های دارای ناقل عصبی را در شکافی سیناپسی که بین پایانه‌ها و دندریت‌های نورون بعدی وجود دارد، آزاد می‌کنند و این اطلاعات توسط گیرنده‌های دندریتی سلول پس سیناپسی که به آن متصل هستند دریافت می‌شود. نورون‌ها هیچ تماسی با یکدیگر ندارند، اما در سراسر سیناپس ارتباط شیمیایی برقرار می‌کنند. شبکه عصبی کوانتومی
شبکه‌های عصبی کوانتوم را می‌توان از لحاظ تئوریکی مشابه آموزش شبکه‌های عصبی کلاسیک / مصنوعی آموزش داد. یک تفاوت اساسی در ارتباط بین لایه‌های یک شبکه عصبی نهفته‌است. برای شبکه‌های عصبی کلاسیک، در پایان یک عملیات معین، گیرنده فعلی خروجی خود را به لایه بعدی گیرنده (های) موجود در شبکه کپی می‌کند. با این حال، در یک شبکه عصبی کوانتومی، که هر یک از گیرنده‌ها یک کیوبیت هستند، این قضیه را نقض می‌کند. یک راه حل کلی پیشنهادی برای این کار جایگزینی روش کلاسیک فن خروجی با یک واحد دلخواه است که از یک کیوبیت به لایه بعدی کیوبیت پخش می‌شود، اما کپی نمی‌کند. استفاده از این یونیت فن دار (Uf) با کیوبیت حالت ساختگی در حالت شناخته شده (مثال | ۰> در مبنای محاسباتی)، همچنین به عنوان یک بیت آنسیلا شناخته می‌شود، اطلاعات از کیوبیت می‌توانند به لایه بعدی کیوبیت‌ها منتقل شوند. این فرایند به قابلیت برگشت‌پذیری کوانتومی عمل می‌کند. با استفاده از این شبکه پیشروی کوانتومی، می‌توان شبکه‌های عصبی عمیق را به‌طور کارآمد اجرا و آموزش داد. شبکه عصبی عمیق در واقع شبکه ای است که دارای بسیاری از لایه‌های پنهان است. از آنجا که شبکه عصبی کوانتوم مورد بحث با استفاده از عملگرهای واحد fan-out است و هر عملگر فقط بر روی ورودی مربوطه خود عمل می‌کند، در هر زمان فقط از دو لایه استفاده می‌شود. به عبارت دیگر، هیچ عملگر واحدی در هر زمان بر روی کل شبکه عمل نمی‌کند، به این معنی که تعداد کیوبیت‌های مورد نیاز برای یک مرحله مشخص به تعداد ورودی‌های یک لایه داده شده بستگی دارد. از آنجا که رایانه‌های کوانتومی به دلیل توانایی انجام چندین تکرار در مدت زمان کوتاه مشهور هستند، کارایی شبکه عصبی کوانتومی صرفاً به تعداد کیوبیت در هر لایه مشخص بستگی دارد و نه به عمق شبکه. نوروانفورماتیک
نوروانفورماتیک (به انگلیسی: Neuroinformatics) یک رشته مطالعاتی در رابطه با پردازش داده‌های عصبی و اطلاعات موجود در سیستم‌های عصبی است. نوروانفورماتیک دربارهٔ توسعهٔ داده‌های عصبی از طریق مدل‌های محاسباتی و ابزارهای تحلیل داده برای تجزیه و تحلیل عملکرد سیستم‌های عصبی و داده‌های تجربی که از طریق آزمایش تجربی بدست آمده‌اند می‌باشد. این داده‌ها شامل داده‌های مربوط به ژن، مولکول، ساختار سلول و شبکه‌ها و سیستم‌های عصبی است. مدار عصبی
مدار عصبی یا شبکه عصبی جانداران پرسلولی، برای ایجاد هماهنگی بین اعمال سلول‌ها و اندام‌های مختلف بدن خود نیاز به عوامل و دستگاه‌های ارتباطی دارند. مدار عصبی با ساختار و کار ویژه‌ای که دارد، در جهت ایجاد این هماهنگی به وجود آمده‌است. نورون‌ها پیام عصبی را به بافت‌ها و اندام‌های بدن، مانند ماهیچه‌ها، غدد و نیز دیگر نورون‌ها می‌فرستد و از این طریق با آن‌ها ارتباط برقرار می‌کند. رشته‌هایی که از جسم سلولی نورون‌ها بیرون زده‌اند دو نوع اند: دندریت و آکسون که پیام‌ها را دریافت می‌کنند و به جسم سلولی می‌برند، و آکسون‌ها که پیام عصبی را از جسم سلولی به تا پایانه‌های آکسون هدایت می‌کند. وظایف دستگاه عصبی به ارتباط متقابل بین میلیون‌ها نورون وابسته است. شبکه عصبی کوانتومی
برای تعیین اثربخشی یک شبکه عصبی، از یک تابع هزینه استفاده می‌شود، که اساساً نزدیکی خروجی شبکه به خروجی مورد انتظار یا مورد نظر را اندازه‌گیری می‌کند. در یک شبکه عصبی کلاسیک، وزن ها(ɯ)و تعصبات(b)در هر مرحله نتیجه تابع هزینه را تعیین کنید(ɯ,b) C. هنگام آموزش شبکه عصبی کلاسیک، وزن‌ها و بایاس‌ها پس از هر بار تکرار تنظیم می‌شوند، و به معادله ۱ زیر داده می‌شودy(x) خروجی مورد نظر است، تابع هزینه زمانی بهینه می‌شود۰=(ɯ,b) C. کد کانولوشن
کدکننده کانولوشن پارامترهای اصلی یک کدکننده کانولوشن K : پیام ورودی n : پیام کد شده خروجی N : قالب پیام‌های قبلی که خروجی به آن‌ها وابسته است شبکه عصبی کپسول
در سال ۲۰۰۰ جفری هینتون و همکارانش. یک سیستم تصویربرداری که در ترکیب بخش‌بندی و تشخیص به یک استنتاج با استفاده از فرایند تجزیه درختان می‌پرداخت. به اصطلاح شبکه‌های اعتبار توصیف شده توزیع مشترکی بر روی متغیرهای پنهان و تجزیه درختان ممکن بود؛ که آن سیستم مفید بودن خود را در پایگاه داده ارقام دست‌نوشته MNIST ثابت نمود. هسته (پردازش تصویر)
برای مثال، فرض کنید دو ماتریس ۳ – مربعی K و M را داشته باشیم که K ماتریس هسته و M قسمتی از تصویر مورد نظر ما باشد، کانولوشن، عملیات وارون کردن ماتریس هسته به صورت افقی و عمودی و سپس ضرب نظیر به نظیر درایه‌های دو ماتریس و در نهایت جمع همهٔ آنهاست . البته اگر ماتریس هسته متقارن باشد نیازی به وارون کردن افقی و عمودی ماتریس نیست زیرا در این حالت هستهٔ وارون شده با هستهٔ اصلی برابر است. شبکه عصبی پیچشی
هر نورون پیچشی داده‌ها را تنها برای ناحیه پذیرش خودش پردازش می‌کند. مشبک‌کردن به شبکه‌های پیچشی این اجازه را می‌دهد که انتقال، دوران یا اعوجاج ورودی را تصحیح کنند. شبکه عصبی پیچشی
ساختار شبکه‌های پیچشی از فرایندهای زیستی قشر بینایی گربه الهام گرفته‌شده‌است. این ساختار به گونه‌ای است که تک‌نورون‌ها تنها در یک ناحیه محدود به تحریک پاسخ می‌دهند که به آن ناحیه پذیرش گفته می‌شود. نواحی پذیرش نورون‌های مختلف به صورت جزئی با هم همپوشانی دارند به گونه ای که کل میدان دید را پوشش می‌دهند. شبکه حالت پیش‌فرض
در علوم اعصاب، شبکهٔ حالت پیش‌فرض یا (DMN) یا شبکهٔ پیش‌فرض، یک شبکهٔ مغزی در مقیاس بزرگ است که مناطقی را شامل می‌شود که فعالیتشان به شدت هم‌بسته‌است و در عین‌حال از دیگر شبکه‌های مغزی جدا هستند عصب بینایی
عصب بینایی دومین زوج از اعصاب مغزی است. از دیدگاه بافت شناسی، لایه هشتم شبکیه معادل لایه سلول‌های گانگلیون است. لایه سلول‌های گانگلیونی، حاوی جسم سلولی سلول‌های گانگلیونی است.آکسون این سلول‌ها که در لایه نهم شبکیه قرار دارند، عصب بینایی یا عصب اپتیک را می‌سارند. نورون
نورون شامل دندریت‌ها (دارینه‌ها)، یک جسم یاخته ای، یک آکسون (آسه) و پایانه‌های سیناپسی است. اغلب نورون‌ها از راه زائده‌هایی به نام دندریت داده‌ها را دریافت کرده و از راه زائده‌های دیگری به نام آکسون داده‌ها را به یاخته سپسین ترارسانی می‌کنند. جسم یاخته‌ای نورون‌ها، پریکاریون نام دارد. از لحاظ عملکردی یک نورون شامل بخش گیرنده (دندریت‌ها)، بخش ادغام (جسم یاخته ای) و بخش انتقال دهنده پیام عصبی (آکسون‌ها) می‌باشد. در اصطلاح به این مفهوم که تمام اطلاعات پردازش شده در نورون در یک جهت حرکت می‌کند قطبیدگی می‌گویند. له‌نت
به معنای ظهور CNN (شبکه عصبی کانولوشن) است و اجزای اساسی CNN را تعریف می‌کند. اما در آن زمان به دلیل کمبود تجهیزات سخت‌افزاری محبوب نبود، به ویژه GPU (واحد پردازش گرافیک، یک مدار الکترونیکی تخصصی طراحی شده برای دستکاری سریع و تغییر حافظه برای تسریع در ایجاد تصاویر در یک بافر فریم که برای خروجی به دستگاه نمایشگر در نظر گرفته شده‌است) و الگوریتم‌های دیگر مانند SVM (پشتیبانی-ماشین بردار) می‌توانند به اثرات مشابه دست یابند یا حتی از له نت (LeNet) فراتر روند. از زمان موفقیت AlexNet در سال ۲۰۱۲، CNN به بهترین گزینه برای برنامه‌های دید رایانه تبدیل شده‌است و انواع مختلف CNN مانند سری R-CNN مطرح شده‌است. کانکتوم
به یک نقشه جامع از اتصالات نورون در مغز کانکتوم می‌گویند که با نام «دیاگرام اتصالات» نیز شناخته می‌شود. به زبان جامع‌تر یک کانکتوم تمام اتصالات نرونی درون مغز یک موجود زنده را شامل می‌شود. بلاک عصبی
انسداد نورولیتیک نوعی بلاک عصبی است که در آن نوعی آسیب عمدی با استفاده از مواد شیمیایی (که به این روش نورولیز گفته می‌شود) یا حالتهای فیزیکی مانند گرما یا سرما ایجاد می‌کنند. این روش باعث از بین رفتن عصب و در نهایت جلوگیری از انتقال پیام‌های عصبی درد در رشته عصبی می‌شود. در این روش لایه نازک محافظ رشته عصبی (به نام لایه بازال) حفظ می‌شود که رشته عصبی آسیب دیده دوباره بتواند در آن کانالی که وجود دارد دوباره رشده کرده و دو قسمت قطع شده دوباره به یکدیگر متصل شود و در نهایت عملکرد عصب دوباره بازمی‌گردد. اتصالات شکاف‌دار
اتصالات شکاف دار یک ارتباط بین سلولی تخصصی در انواع زیادی از سلول‌های جانوری است. این اتصالات، سیتوپلاسم دو سلول را به یکدیگر ارتباط می‌دهد و قادر است مولکول‌های مختلف کوچک، یون‌ها، الکترولیت‌ها، تعداد زیادی از پیش سازهای ماکرومولکول‌های سلولی با وزن مولکولی پایین و پیامبرهای ثانویه مانند کلسیم، cAMP و IP که متابولیسم سلولی را تنظیم می‌کند را عبور دهند. هر اتصال شکاف دار از دو کانکسون و هر کانکسون به تنهایی از شش کانکسین تشکیل شده‌است. در بافت عصبی، برخی نورون‌ها توسط این اتصالات به یکدیگر متصل می‌شوند و یون‌ها را به سرعت عبور می‌دهند و منجر به انتقال خیلی سریع پیام‌های الکتریکی می‌شوند. همچنین در بافت‌های غیر عصبی به فعالیت‌های الکتریکی و متابولیکی بسیاری از سلول‌ها کمک می‌کنند. به‌طور مثال در قلب اتصالات شکاف دار سریعاً پیام‌های یونی را بین سلول‌های عضلانی که به‌طور محکم از طریق دسموزوم‌ها به هم متصل اند، عبور می‌دهند. به علت اینکه بسیاری از پیامبرهای ثانویه می‌توانند بین سلول‌ها از طریق این اتصالات عبور کنند، تحریک هورمونی یک سلول می‌تواند منجذ به تحریک تعداد زیادی از سلول‌های مجاورش شود. بافت عصبی
دندریت‌ها نازک و شاخه‌دار هستند. دندریت‌ها پیام‌های الکتروشیمیایی (با میانجی‌گری میانجی‌ها و ناقل‌های عصبی-neurotransmitter) را دریافت می‌کنند و درنتیجه ولتاژ یاخته تغییر می‌کند. آکسون‌ها، افکنش‌های (زوائد) درازی هستند که پیام الکتروشیمیایی را به سوی یاختهٔ بعد می‌برند. پایان آکسون شبیه لامپ یا حبابی است که پایانه‌ی آکسون خوانده می‌شود و از دندریت نورون بعدی توسط فاصلهٔ کمی به نام شکاف سیناپسی سوا شده‌است. هنگامی که پتانسیل عمل به شکاف عصبی می‌رسد، ناقل‌های عصبی در طول سیناپس رها شده و به گیرنده‌های پساسیناپسی می‌چسبند. درنتیجه پیام عصبی به مسیرش ادامه می‌دهد. نورون‌ها می‌توانند هم از لحاظ عملکردی و هم از لحاظ ساختاری طبقه‌بندی شوند. یا یاخته‌های گلیال، یاخته‌های پشتیبان دستگاه عصبی هستند که وظیفه حمایت از یاخته‌های عصبی را بر عهده دارند. یاخته‌های گلیال سیستم عصبی مرکزی را به هم پیوند داده و به طریق فیزیکی و شیمیایی از آن محافظت می‌کنند. علاوه بر این مواد شیمیایی و غذایی مورد نیاز یاخته‌های عصبی را فراهم می‌آورند. نورگلیاها دارای سه ویژگی زیر هستند: بینایی رایانه‌ای
این نوع از پالایش وابسته، به فعالیت به V1 محدود نمی‌شود و در بسیاری از مناطق سراسر قشر مغز (cerebral cortex) رخ می‌دهد. در همان زمان که توانایی تبعیض خطوط و لبه در قشر بینایی اولیه بهبود می‌یابد، سلول‌ها را در قشر بینایی ثانویه (secondary visual cortex V2) , توانایی خود را برای تفسیر رنگ پالایش می‌کنند. V2 تا حد زیادی مسئول پدیده ثبات رنگ است؛ و این حقیقت را توضیح می‌دهد که واقعیت یک گل سرخ تحت تأثیر بسیاری از رنگ‌های مختلف نور توسط ما هنوز هم به رنگ سرخ به نظر می‌رسد. این طور گمان می‌شود که ثبات رنگ وقتی رخ می‌دهد که V2 می‌تواند یک شیء و نور محیط را مقایسه کند و می‌تواند برآورد رنگ روشنایی را کاهش دهد. با اینحال این پروسه با توجه به اینکه بیننده انتظار دارد که شیء بخصوص به چه رنگی داشته باشد، به شدت تحت تأثیر قرار می‌گیرد. سیستم استنتاج عصبی-فازی سازگار
یک سیستم استنتاج عصبی-فازی سازگار (به انگلیسی: adaptive neuro-fuzzy inference system یا adaptive network-based fuzzy inference system که به صورت ANFIS خلاصه شده است) نوعی شبکه عصبی مصنوعی است که براساس سیستم فازی تاکاگی-سوگنو (Takagi–Sugeno) می باشد. این شیوه در اوایل ۱۹۹۰ ایجاد شده است. از آنجایی که این سیستم، شبکه های عصبی و مفاهیم منطق فازی را یکی می کند، می‌تواند از امکانات هر دو آنها در یک قاب بهره برد.سیستم استنتاج (inference) آن مطابق با مجموعه قوانین فازی اگر-آنگاه است که قابلیت یادگیری برای تقریب زدن توابع غیرخطی را دارد. از این رو، ANFIS به عنوان یک برآورد جهانی (universal estimator) مطرح شده است. له‌نت
له نت (LeNet) به عنوان نماینده شبکه عصبی کانولوشن اولیه، دارای واحدهای اساسی شبکه عصبی کانولوشن است، مانند لایه کانولوشن، لایه استخر و لایه اتصال کامل، و پایه ای برای توسعه آینده شبکه عصبی کانولوشن. lenet-5 از هفت لایه تشکیل شده‌است که علاوه بر ورودی، هر لایه دیگر می‌تواند پارامترها را آموزش دهد. شبکه عصبی اسپایکی
ساختار شبکه‌های عصبی مصنوعی معمولاً به گونه ای طراحی می‌شود که تمامی نورونها به یکدیگر متصل هستند و یک شبکه fully connected را ایجاد می‌کنند. این نورونها از تمامی نورونهای لایهٔ قبل ورودی گرفته و خروجی خود را به تمامی نورونهای لایهٔ بعد ارسال می‌کنند. اگرچه این شبکه‌ها کاربردهای "یادگیری ماشین" در زمینه‌های مختلف را به طرز چشمگیری دگرگون نموده و منجر به نتایج فوق‌العاده ای شده‌اند، مکانیسم یادگیری و انتشار اطلاعات در آنها دقیقاً منطبق با مکانیسم‌های شناخته شده در شبکه‌های عصبی زیستی نیستند. مهندسی بافت عصبی
سیستم عصبی به دو بخش تقسیم می‌شود: CNS و PNS. CNS شامل مغز و نخاع است، در حالی که PNS شامل اعصابی است که از مغز و نخاع منشأ می‌گیرد و بقیه بدن را از به حرکت درمیاورد. نیاز به مهندسی بافت عصبی ناشی از دشوار بودن بازسازی مجدد سلول‌های عصبی و بافت‌های عصبی بعد از رخ دادن آسیب عصبی است. PNS برخی قابلیت‌های بازسازی سلول‌های عصبی را دارد اما به صورت محدود. یافته‌های تشکیل بافت عصبی سلول‌های بنیادی بزرگسالان در CNS در کالبدشکافی بافت عصبی، ناحیه سابونتوکرال (SVZ) و نخاع دیده می‌شود. آسیب‌های ناشی از CNS می‌تواند ناشی از سکته مغزی، اختلالات از بین برنده عصب، ضربه روحی یا هر گونه بیماری مغزی غیرروانی باشد. تعدادی روش که در حال حاضر برای درمان آسیب‌های ناشی از CNS مورد بررسی قرار می‌گیرند عبارتند از: کاشت سلول‌های بنیادی مستقیماً در محل آسیب، تحویل عامل‌های شیمیایی مورفوژن به محل جراحت یا رشد سلول‌های عصبی در شرایط آزمایشگاهی با سلول‌های بنیادی عصبی یا سلول‌های نمونه پیشرو در یک چهارچوب ۳ بعدی. استفاده پیشنهادی از چهارچوب‌های فیبری پلیمر الکترو اسپون برای زیربناهای اصلاح عصبی به حداقل سال ۱۹۸۶ در یک برنامه کاربردی NIH SBIR از Simon برمی گردد. برای PNS، یک عصب جدا شده می‌تواند با استفاده از پیوند یا هدایت عصب موجود از طریق یک کانال مجدداً برقرار شود و حرکت کند. Neural network Gaussian process
NNGP همچنین در زمینه‌های دیگر ظاهر می‌شود: توزیع را بر روی پیش‌بینی‌های انجام شده توسط شبکه‌های غیر بیزی پس از مقداردهی اولیه رندوم پارامترهای این شبکه‌ها، توصیف می‌کند، اما این اتفاق قبل از یادگیری شبکه رخ می‌دهد. به عنوان یک اصطلاح در هسته مماس عصبی معادلات پیش‌بینی ظاهر می‌شود. از شبکه گاوسی در انتشار اطلاعات عمیق استفاده می‌شود تا مشخص شود که آیا هایپرپارامترها و معماری‌ها قابلیت بادگیری دارند یا خیر. این به محدودیت‌های تعداد نورون‌های شبکه‌های عصبی مربوط می‌شود. شبکه عصبی
اتصالات نورون‌های زیستی به‌صورت وزنی مدل می‌شوند. وزن مثبت نشانگر یک ارتباط تحریکی است، در حالی که مقادیر منفی به معنی اتصالات بازدارنده می‌باشند. تمام ورودی‌ها با یک‌وزن تغییر یافته و جمع می‌شوند. عمل مذکور همان ترکیب خطی در ریاضیات است. سرانجام، یک تابع فعال‌سازی، دامنه خروجی را کنترل می‌کند. به عنوان مثال، محدوده قابل قبول خروجی معمولاً ممکن است بین ۰ تا ۱، یا بین ۱− و ۱ باشد. شبکه عصبی پیچشی
شبکه‌های عصبی پیچشی مشابه سیستم پردازش دیداری در موجودات زنده عمل می‌کنند. از قرن نوزدهم به‌طور همزمان اما جداگانه از سویی نوروفیزیولوژیست‌ها سعی کردند سیستم یادگیری و تجزیه و تحلیل مغز را کشف کنند، و از سوی دیگر ریاضیدانان تلاش کردند مدل ریاضی ای بسازند که قابلیت فراگیری و تجزیه و تحلیل عمومی مسائل را دارا باشد. اولین کوشش‌ها در شبیه‌سازی با استفاده از یک مدل منطقی در اوایل دههٔ ۱۹۴۰ توسط وارن مک‌کالک و والتر پیتز انجام شد که امروزه بلوک اصلی سازنده اکثر شبکه‌های عصبی مصنوعی است. عملکرد این مدل مبتنی بر جمع ورودی‌ها و ایجاد خروجی با استفاده از شبکه‌ای از نورون‌ها است. اگر حاصل جمع ورودی‌ها از مقدار آستانه بیشتر باشد، اصطلاحاً نورون برانگیخته می‌شود. نتیجه این مدل اجرای ترکیبی از توابع منطقی بود. Grid cell
سلول شبکه (Grid cell) یک نوع سلول عصبی در قشر درون‌بینی (Entorhinal Cortex) است که وقتی حیوان, یک فضای باز را پیمایش می‌کند, در فواصل منظمی برافروخته می‌شود. این نورون با ذخیره‌کردن و جمع‌کردن اطلاعاتی درباره‌ی مکان, فاصله و جهت, امکان درک موقعیت در محیط را می‌دهد. سلول شبکه در بسیاری از حیوانات یافت شده است. شامل‌ موش‌صحرایی, موش, خفاش, میمون‌ و انسان. شناخت محاسباتی
شبکه‌های عصبی مصنوعی یک پیاده‌سازی ساختگی از شبکه عصبی نورونی موجودات زنده است که برآمده از میلیاردها سال تکامل است به این امید که با تغییر در ویژگی‌های این شبکه مصنوعی بتوان به یک سامانه پیچیده مانند مغز نزدیک شد و به آگاهی رسید. لایه شبکه
= پروتکل اینترنت = مهمترین و معروفترین پروتکل لایه ی شبکه، پروتکل اینترنت یا همان IP است. پروتکل اینترنت استانداردی برای مسیریابی(routing) بسته در بین شبکه های به هم وصل شده است -به همین دلیل اینترنت"درون شبکه" نام گرفت-. این پروتکل یک پروتکل کپسوله‌سازی است درست مانند روش اترنت در لایه دو که نوعی پروتکل کپسوله سازی است -یعنی کسی خارج از دو دستگاه مرتبط نمی تواند متوجه اطلاعات شود. در sniff کردن هم شما نمی توانید مستقیما این پروتکل را شنود کنید بلکه بین دو دستگاه متصل اطلاعات دستگاه مسیر گذار "router" شنود میشود نه خود پروتکل-. برنامه‌ریزی عصبی زبانی
ان ال پی یا همان برنامه‌نویسی عصبی زبانی که در ترجمه فارسی به عنوان برنامه‌ریزی عصبی کلامی شناخته می‌شود یک روش شبه علمی است که ادعا می‌کند به تغییر و تحول عمیق در ساختارهای ذهن و مغز می‌پردازد و به دنبال کشف تأثیر ساختارهای زبانی کلامی و غیرکلامی بر روی سیستم عصبی و برنامه‌نویسی سیستم ذهنی و مغزی می‌باشد. برای درک بهتر کارکردها و عملکردهای ان ال پی می‌توانیم به ساختار لغوی آن به صورت مجزا بپردازیم و ماهیت ان ال پی یا همان برنامه‌نویسی عصبی زبانی را بشناسیم. شبکه عصبی با تاخیر زمانی
برای مدل‌سازی بافتی در یک TDNN، هر واحد عصبی در هر لایه نه تنها از فعالسازی ها/ویژگی‌ها در لایه زیر، بلکه از یک الگوی خروجی واحد و بافت آن ورودی دریافت می‌کند. برای سیگنال‌های زمانی هر واحد به عنوان ورودی الگوهای فعال‌سازی را در طول زمان از واحدهای زیر دریافت می‌کند. با استفاده از رده‌بندی دو-بُعدی (تصاویر، الگوهای بسامد-زمانی)، TDNN را می‌توان با جابه‌جایی-ناوردا در فضای مختصات آموزش داد و از تقسیم‌بندی پَرسون (دقیق) در فضای مختصات جلوگیری می‌کند. شبکه شناختی
در شبکه‌های ارتباطی، شبکه شناختی (CN) نوع جدیدی از شبکه داده است که از فناوری پیشرفته در چندین حوزه تحقیقاتی (مانند یادگیری ماشین، نمایش دانش، شبکه کامپیوتری، مدیریت شبکه) برای حل برخی از مشکلات شبکه‌های فعلی استفاده می‌کند. . شبکه شناختی با رادیو شناختی (CR) متفاوت است زیرا تمام لایه‌های مدل OSI را پوشش می‌دهد (نه تنها لایه‌های ۱ و ۲ مانند CR ). اولین تعریف از شبکه شناختی توسط تئو کانتر در تحقیقات دکترای خود در KTH، مؤسسه سلطنتی فناوری، استکهلم، از جمله ارائه در ژوئن ۱۹۹۸ از شبکه شناختی به عنوان شبکه با حافظه ارائه شد. تئو شاگرد چیپ مگوایر بود که به جو میتولا، مبتکر رادیو شناختی نیز مشاوره می‌داد. میتولا بر شناخت در گره‌ها تمرکز داشت، در حالی که کانتور بر شناخت در شبکه متمرکز بود. پایان‌نامه مجوز میتولا که در اوت ۱۹۹۹ منتشر شد، شامل نقل قول زیر است: «به مرور زمان، شبکه [زبان بازنمایی دانش رادیویی] دارای قدرت RKRL می‌تواند یاد بگیرد که ویژگی‌های محیط طبیعی را که با مدل‌ها مطابقت ندارد متمایز کند. می‌تواند خطاها را به یک شبکه شناختی اعلام کند." این اولین انتشار شبکه شناختی مفهومی است، از زمانی که کانتور کمی بعد منتشر کرد. نورون حسی
نورون‌های حسی‌، یا یاخته‌های عصبی حسی نورونهای آورانی هستند که با تحریک‌های حسی (بینایی، بویایی،لامسه، شنوایی، چشایی) فعال می‌شوند و پیام عصبی را به سمت دستگاه عصبی مرکزی (CNS) : Central nervous system ، هدایت می‌کنند. یادگیری انتقال
در سال 2020 کشف شد که، با توجه به طبیعت جسمی مشابه خود، یادگیری انتقال بین سیگنال های الکترومایوگرافی (EMG) از ماهیچه ها به هنگام طبقه بندی رفتار امواج مغزی (EEG) ممکن است. همچنین اشاره شد که این رابطه برعکس عمل می کند ، نشان می دهد که می توان از EEG برای طبقه بندی EMG علاوه بر این استفاده کرد. این آزمایش‌ها نشان داد که دقت شبکه های عصبی و شبکه های عصبی کانولوشن با یادگیری انتقال هم در دوره اول (قبل از هرگونه یادگیری ، یعنی در مقایسه با توزیع وزن تصادفی استاندارد) و هم در مجانب (انتهای فرایند یادگیری). یعنی الگوریتم ها با قرار گرفتن در دامنه دیگری بهبود می یابند. علاوه بر این ، کاربر نهایی یک مدل از پیش آموزش دیده می تواند ساختار لایه های کاملاً متصل را برای دستیابی به عملکرد برتر تغییر دهد. بافت عصبی
نقش بافت عصبی، تشکیل شبکه ارتباطی دستگاه عصبی به وسیله رساندن و هدایت سیگنال‌های عصبی در سراسر بافت است. در CNS، ماده خاکستری که شامل سیناپس‌ها است، برای پردازش اطلاعات مهم است. ماده سفید، حاوی آکسون میلین‌دار، تکانه‌ها و پیام‌های عصبی بین ماده‌های خاکستری را مرتبط و تسهیل می‌کند. در PNS، گانگلیون که حاوی اجسام سلولی و دندریت است، نقاط رله و بازپخش را برای پیام‌های عصبی جای می‌دهد. بافت اعصاب با دسته‌های آکسون میلین‌دار، پتانسیل عمل را حمل می‌کند. مدل‌های محاسبه عصبی
سیستم خطی سیستمی است که پاسخ آن به مجموعه ای از ورودی‌ها که به یکباره در نظر گرفته شوند، در یک واحد اندازه‌گیری مشخص، مجموع پاسخ‌های آن به هر یک ورودی‌ها به صورت جداگانه است. شبکه عصبی پیچشی
لایه‌های پیچشی یک عمل پیچش را روی ورودی اعمال می‌کنند، سپس نتیجه را به لایه بعدی می‌دهند. این پیچش در واقع پاسخ یک تک‌نورون را به یک تحریک دیداری شبیه‌سازی می‌کند. تکوین دستگاه عصبی
مغز علوم اعصاب
اپتوژنتیک یک روش مدولاسیون عصبی است که از ترکیبی از تکنیک‌های اپتیک و ژنتیک برای کنترل فعالیت سلولهای عصبی استفاده می‌کند. هسته (پردازش تصویر)
کانولوشن عمل اضافه کردن هر خانه (پیکسل) از عکس به خانه‌های اطرافش (پیکسل‌های همسایهٔ محلی) است که توسط هسته وزن دهی شده‌اند. سلول عقده‌ای
سلول عقده‌ای یا سلول گانگلیون یاخته‌ای است که در گانگلیون یافت می‌شود. این سلول‌ها سیگنال‌های خود را به شکل پتانسیل عمل از طریق فیبرهای عصبی بینایی به مغز ارسال می‌کنند. این سلول‌ها حتی اگر در حال تحریک هم نباشند ایمپالس‌های عصبی مداومی را با فرکانس متوسط ۵ بر ثانیه(هرتز) تولید می‌کنند. سیگنال بینایی با این طرح تحریکی پایه تداخل می‌کند. این سیگنال می‌تواند یا از نوع تحریکی بوده و تعداد ایمپالس‌ها را به بیش از ۵ بر ثانیه افزایش دهد یا از نوع مهاری بوده و تعداد ایمپالس‌ها را به کمتر از ۵ بر ثانیه و غالباً به صفر کاهش دهد. شبکه عصبی مصنوعی
در سال ۱۹۴۹ دونالد هب قانون یادگیری را برای شبکه‌های عصبی طراحی کرد. در سال ۱۹۵۸ شبکه پرسپترون توسط روزنبلات معرفی گردید. این شبکه نظیر واحدهای مدل شده قبلی بود. پرسپترون دارای سه لایه است که شامل لایهٔ ورودی، لایهٔ خروجی و لایهٔ میانی می‌شود. این سیستم می‌تواند یاد بگیرد که با روشی تکرارشونده وزن‌ها را به گونه‌ای تنظیم کند که شبکه توان بازتولید جفت‌های ورودی و خروجی را داشته‌باشد. روش دیگر، مدل خطی تطبیقی نورون است که در سال ۱۹۶۰ توسط برنارد ویدرو و مارسیان هاف در دانشگاه استنفورد) به وجود آمد که اولین شبکه‌های عصبی به کار گرفته شده در مسائل واقعی بودند. آدالاین یک دستگاه الکترونیکی بود که از اجزای ساده‌ای تشکیل شده بود، روشی که برای آموزش استفاده می‌شد با پرسپترون فرق داشت. واسط مغز و رایانه
انتقال یافتن هر پیام عصبی در مسیر هر نورون ممکن است شبیه به عبور یکنواخت جریان الکتریسیته از سیم به نظر برسد، اما در حقیقت چنین نیست. آکسون لوله‌ای است باریک و پر از مواد شیمیایی محلول در آب. حرکت سریع امواج پیام عصبی وابسته به حرکت یون‌ها است. یون‌ها ذرات ریزی هستند که بار الکتریکی دارند. دو نوع اصلی یون در انتقال پیام عصبی نقش دارند که عبارتند از یون پتاسیم و یون سدیم، که دو مادهٔ فلزی معمولی هستند. به‌طور طبیعی در درون آکسون پتاسیم زیادتر و در درون آبگون دور آن سدیم بیشتر وجود دارد. بار الکتریکی درون آکسون اندکی منفی است، اما سطح خارجی آن بار الکتریکی مثبت دارد. در لحظهٔ ورود پیام عصبی، غشای آکسون تغییر پیدا می‌کند تا یون‌ها بتوانند از آن نشت کنند، یعنی هنگامی که یون‌های پتاسیم از آکسون خارج می‌شوند، یون‌های سدیم وارد آن می‌گردند. این رویداد توازن الکتریکی را در آن نقطه ناگهان تغییر می‌دهد، یعنی بار الکتریکی درون غشای سطحی از منفی به مثبت تبدیل می‌شود. در حالی که پیام عصبی پیش می‌رود، یون‌ها به جای نخست بازمی‌گردند و توازن الکتریکی ابقا می‌گردد. این حالت تبدیل یونی مثل یک موج در سراسر آکسون پیش می‌رود و حرکت پیام عصبی را باز می‌نماید. تمام این فرایندها در یک هزارم ثانیه به وقوع می‌پیوندد. نورون‌ها در عمل یکدیگر را لمس نمی‌کنند. میان هر نورون فضای کوچکی وجود دارد که سیناپس خوانده می‌شود. در این نقطه پیام عصبی به کمک مواد شیمیایی خاصی به نام انتقال دهنده‌های عصبی از یک سوی سیناپس به سوی دیگر آن می‌جهد. تکوین دستگاه عصبی
سلول‌های تشکیل‌دهنده لوله عصبی در طی تکثیر و رشد و نمو خود در دو جهت از یکدیگر تمایز می‌یابند. عده‌ای که نورواکتوبلاست خوانده می‌شوند، منشأ نورون‌ها و عده دیگری که اسپونژیوبلاست (Spongioblas) نام دارند، منشأ سلول‌های بافت همبند(نوروگلیا) با منشأ اکتودرمی می‌شوند. تکامل عصبی
Neuroevolution یا تکامل عصبی، یک شکل از هوش مصنوعی است که با استفاده از الگوریتم‌های تکاملی برای تولید شبکه‌های عصبی مصنوعی (ANN)، پارامترهای، توپولوژی و قوانین استفاده می‌شود. این ماده معمولاً در زندگی مصنوعی، بازی عمومی و استفاده می‌شود. مزیت اصلی این است که تکامل عصبی می‌تواند به‌طور گسترده‌تری از الگوریتم‌های یادگیری تحت نظارت، که به برنامه از جفت‌های ورودی و خروجی صحیح نیاز دارند، استفاده شود. در مقابل ، تکامل عصبی فقط به اندازه‌گیری عملکرد شبکه در یک کار نیاز دارد. به عنوان مثال، نتیجه یک بازی (یعنی اینکه یک بازیکن برنده است یا باخته‌است) به راحتی قابل اندازه‌گیری است بدون ارائه نمونه‌هایی با برچسب از استراتژی‌های مورد نظر. تکامل عصبی معمولاً به عنوان بخشی از الگوی یادگیری تقویتی مورد استفاده قرار می‌گیرد و می‌توان آن را با تکنیک‌های متداول یادگیری عمیق که از نزول شیب دار در یک شبکه عصبی با توپولوژی ثابت استفاده می‌کنند ربط داد. Neural network Gaussian process
یک شبکه عصبی مصنوعی کاملاً متصل با ورودی‌ها را در نظر بگیرید formula_4 ، مولفه‌های formula_1 متشکل از وزنه‌ها formula_13 و تعصبات formula_14 برای هر لایه formula_15 در شبکه، پیش فعال سازی (پیش غیرخطی) formula_16 ، فعال سازی (پس از غیرخطی بودن) formula_17 ، غیرخطی نقطه ای formula_18 و عرض لایه‌ها formula_19 . برای سادگی، عرض formula_20 از بردار بازخوانی formula_21 1 در نظر گرفته شده‌است. پارامترهای این شبکه دارای توزیع قبلی هستند formula_2 ، که از یک گاوسی همسانگرد برای هر وزن و بایاس تشکیل شده‌است، با واریانس وزن‌ها به صورت معکوس با عرض لایه. این شبکه در شکل سمت راست نشان داده شده‌است و با مجموعه معادلات زیر توضیح داده شده‌است: له‌نت
lenet-5 یکی از اولین شبکه‌های عصبی کانولوشن بود و توسعه یادگیری عمیق را ارتقا داد. از سال ۱۹۸۸، پس از سالها تحقیق و تکرارهای موفقیت‌آمیز بسیاری، کار پیشگامان LeNet5 نامگذاری شده‌است. در سال ۱۹۸۹، یان لکون و همکاران در آزمایشگاه‌های بل ابتدا الگوریتم انتشار مجدد را در کاربردهای عملی اعمال کرد و معتقد بود که با یادگیری محدودیت‌های دامنه کار، توانایی یادگیری تعمیم شبکه تا حد زیادی افزایش می‌یابد. او یک شبکه عصبی کانولوشن آموزش دیده را ترکیب کرد که توسط الگوریتم‌های انتشار مجدد برای خواندن شماره‌های دست‌نویس آموزش داده شده و با موفقیت آن را در شناسایی شماره‌های کد پستی دست‌نویس ارائه شده توسط سرویس پستی ایالات متحده اعمال کرد. این نمونه اولیه چیزی بود که بعداً له نت (LeNet) نام گرفت. در همان سال، LeCun در مقاله دیگری یک مسئله کوچک شناسایی رقمی دست‌نویس را توصیف کرد و نشان داد که حتی اگر این مسئله به صورت خطی قابل تفکیک باشد، شبکه‌های تک لایه قابلیت‌های ضعیف تعمیم را به نمایش می‌گذارند. هنگام استفاده از آشکارسازهای ویژگی تغییرناپذیر در یک شبکه چند لایه و محدود، مدل می‌تواند عملکرد بسیار خوبی داشته باشد. وی معتقد بود که این نتایج ثابت می‌کند که به حداقل رساندن تعداد پارامترهای آزاد در شبکه عصبی می‌تواند توانایی تعمیم شبکه عصبی را افزایش دهد. در سال ۱۹۹۰، مقاله آنها کاربرد شبکه‌های انتشار مجدد در شناسایی رقمی دست‌نویس را دوباره توصیف کرد. آنها فقط پیش پردازش حداقل داده‌ها را انجام دادند و مدل با دقت برای این کار طراحی شده و بسیار محدود بود. داده‌های ورودی شامل تصاویر، هر یک حاوی یک عدد بود، و نتایج آزمون داده‌های دیجیتال کد پستی ارائه شده توسط سرویس پستی ایالات متحده نشان که مدل فقط دارای نرخ خطا ۱درصد و میزان رد در حدود ۹درصد بود. تحقیقات آنها برای هشت سال آینده ادامه داشت و در سال ۱۹۹۸، یان لکون، لئون بوتو، یوشوا بنگیو و پاتریک هافنر روش‌های مختلف شناسایی شخصیت دست‌نویس را در کاغذ بررسی کردند و از ارقام دست‌نویس استاندارد برای شناسایی وظایف معیار استفاده کردند. این مدل‌ها مقایسه شده و نتایج آنها نشان داد که این شبکه از همه مدل‌های دیگر بهتر عمل کرده‌است. آنها همچنین نمونه‌هایی از کاربردهای عملی شبکه‌های عصبی، مانند دو سیستم برای شناسایی شخصیت‌های دست‌نویس به‌صورت آنلاین و مدل‌هایی که می‌توانند میلیون‌ها چک در روز را بخوانند، ارائه کردند. این تحقیق موفقیت زیادی کسب کرده و علاقه محققان را به مطالعه شبکه‌های عصبی برانگیخته است. با این وجود که امروزه معماری شبکه‌های عصبی با بهترین عملکرد باز هم همانند شبکه له نت (LeNet) نیست، این شبکه نقطه شروع تعداد زیادی از معماری‌های شبکه عصبی بود و همچنین باعث ایجاد انگیزه در این زمینه شد. اعصاب مغزی
زوج دوم مربوط به عصب بینایی بوده که جزئی از دستگاه بینایی است. ازنظر بافت شناسی، فیبرهای عصب بینایی از لایه هشتم شبکیه به نام لایه سلول‌های گانگلیون منشاء می‌گیرند. آکسون سلول‌های گانگلیون شبکیه که در لایه نهم قرارمی‌گیرند، عصب بینایی را می‌سازند. ازنظر رویان شناسی، شبکیه یک برآمدگی از مغز پیشین (قدامی) و عصب بینایی، ماده سفید مغز پیشین است. هر عصب بینایی، در حدود یک میلیون آکسون از نوع سلول‌های گانگلیون شبکیه را انتقال می‌دهد. بسیاری از سلول‌های عصب بینایی در ناحیه کیاسمای بینایی تقاطع می‌کنند و به طرف مقابل می‌روند و در طرف مقابل، راه بینایی را ایجادمی‌کنند. البته بسیاری دیگر از آکسون‌ها بدون تقاطع، در راه بینایی همان طرف سیرمی‌کنند. بعد از راه بینایی، حدود ۹۰٪ فیبرهای عصب بینایی به هسته زانویی خارجی تالاموس وارد می‌شوند و بقیه به کالیکولوس فوقانی(برجستگی فوقانی) و هسته پره تکتال مغز میانی می‌روند. کن باس
کن باس(CAN bus) یک شبکه ناحیه کنترلی (Controller Area Network) یک استاندارد bus وسایل نقلیه بزرگ است که اجازه می‌دهد تا میکروکنترلرها و دستگاه‌ها بدون کامپیوتر میزبان با یکدیگر ارتباط برقرار کنند. این سیستم یک پروتکل مبتنی بر پیام است که در ابتدا برای سیم کشی برق چندگانه در خودروها برای صرفه جویی در مصرف مس ایجاد شد، اما در بسیاری موارد دیگر نیز استفاده می‌شود. نوسانات مکرر نواحی تالامیک - قشری
نوسان مکرر قشر مغزی محدوده تالاموس پدیده مشاهده شده ای از فعالیت عصبی نوسانی بین بخش تالاموس و مناطق مختلف قشر مغز است. توسط Rodolfo Llinas و دیگران به عنوان نظریه ای برای ادغام اطلاعات حسی و در کل روند ادراک در مغز ارائه شده است . تصور میشود که این مکانیزم به منظور همگام سازی بین مناطق مختلف قشری مغز باشد، فرایندی که به عنوان اتصال زمانی شناخته می شود. این مکانیزم از طریق وجود شبکه های تالاموکورتیکال و گروه شدن سلول های بخش تالاموس و قشر مغز که خواص نوسانی از خود نشان می دهند، امکان پذیر میشود. شبکه عصبی پیشخور
برای سلول عصبی formula_4 ورودیی که از سلول عصبی formula_5 به این سلول وارد می‌شود را با formula_6 نشان می‌دهیم. وزن این ورودی formula_7 است و مجموع ضرب ورودی‌ها با وزنهایشان را با formula_8 نمایش می‌دهیم، به این معنی که formula_9. حال باید بر روی formula_8 تابعی غیر خطی اعمال کنیم این تابع را formula_11 می‌نامیم و خروجی آن را با formula_12 نمایش می‌دهیم یعنی formula_13. به همین شکل خروجیی که از سلول عصبی formula_4 خارج شده و به سلول formula_15 وارد می‌شود را با formula_16 نمایش می‌دهیم و وزن آن را formula_17 می‌نامیم. حال تمام وزن‌های این شبکه عصبی را در مجموعه‌ای به اسم formula_18 می‌گنجانیم، هدف یادگیری این وزنهاست. اگر ورودی ما formula_19 باشد و خروجی formula_20 و خروجی شبکه عصبی ما formula_21، هدف پیدا کردن انتخاب formula_18 است به قسمی که برای تمام داده‌ها formula_20 و formula_21 به هم خیلی نزدیک شوند. به عبارت دیگر هدف کوچک کردن یک تابع هزینه بر روی تمام داده هاست، اگر داده‌ها را با formula_25 و تابع هزینه را با formula_26 نشان دهیم هدف کمینه کردن تابع پایین است: formula_27 به عنوان مثال اگر مسئله رگرسیون است برای formula_26 می‌توانیم خطای مربعات را در نظر بگیریم و اگر مسئله دسته‌بندی است برای formula_26می‌شود منفی لگاریتم بازنمایی را استفاده کرد. ژن‌یابی
شبکه‌های عصبی مصنوعی مدل‌های محاسباتی هستند که در  یادگیری ماشین  و بازشناخت الگو، برتری دارند. شبکه‌های عصبی قبل از اینکه بتوانند داده‌های آزمایشی را دسته‌بندی کنند و در مقابل معیار‌ها سنجیده شوند، باید با داده های نمونه یادگیری کنند. شبکه‌های عصبی قادر به ارائه راه‌حل‌های تقریبی برای مسائلی هستند که حل الگوریتمی آن‌ها دشوار است، مشروط بر اینکه داده‌های یادگیری کافی وجود داشته‌باشد. هنگامی که برای پیش‌بینی ژن استفاده می‌شود، شبکه‌های عصبی می‌توانند در کنار سایر روشهای "از آغاز" برای پیش‌بینی یا شناسایی ویژگی‌های زیستی مانند مکان‌های شکاف استفاده شوند. یک رویکرد، استفاده از یک بازه‌ی حرکت‌کننده است که روی داده‌های دنباله به حالت تداخلی حرکت می‌کند. خروجی در هر نقطه، امتیازی‌ست که براساس آن است که شبکه فکر می‌کند این بازه دارای یک مکان شکاف‌دهنده است یا یک مکان شکاف‌شونده است. بازه‌های بزرگ‌تر، دقت بیش‌تری دارند اما به قدرت محاسباتی بیش‌تری نیز نیاز دارند. شبکه عصبی، نمونه‌ای از حس‌گر سیگنال است زیرا که هدف آن شناسایی محل عمل‌کردی در ژنوم است. شبکه عصبی کوانتومی
در مقیاس بزرگتر، محققان تلاش کرده‌اند شبکه‌های عصبی را به تنظیم کوانتوم تعمیم دهند. یکی از راه‌های ساخت یک نورون کوانتومی ابتدا تعمیم نورون‌های کلاسیک و سپس تعمیم بیشتر آنها برای ساخت دروازه‌های واحد است. فعل و انفعالات بین سلولهای عصبی را می‌توان به صورت کوانتومی، با دروازه‌های واحد یا به صورت کلاسیک، از طریق اندازه‌گیری حالات شبکه کنترل کرد. این روش تئوری سطح بالا را می‌توان با استفاده از انواع مختلف شبکه‌ها و پیاده‌سازی‌های مختلف نورون‌های کوانتومی، مانند نورون‌های پیاده شده فوتونی، به‌طور گسترده‌ای استفاده کردو پردازنده مخزن کوانتومی. بیشتر الگوریتم‌های یادگیری از مدل کلاسیک آموزش شبکه عصبی مصنوعی برای یادگیری عملکرد ورودی-خروجی یک مجموعه آموزش داده شده استفاده می‌کنند و از حلقه‌های بازخورد کلاسیک برای به روزرسانی پارامترهای سیستم کوانتومی تا زمانی که به یک پیکربندی مطلوب همگرا شوند استفاده می‌کنند. شبکه‌های عصبی کوانتومی را می‌توان برای طراحی الگوریتمی اعمال کرد: با توجه به کیوبیت‌هایی که دارای تعاملات متقابل قابل تنظیم هستند، می‌توان سعی کرد تعاملات زیر قانون انتشار کلاسیک را از مجموعه آموزش روابط ورودی و خروجی دلخواه یاد بگیرد، که به عنوان رفتار الگوریتم خروجی مطلوب شناخته می‌شود؛ بنابراین شبکه کوانتومی یک الگوریتم را «یادمی‌گیرد». شبکه عصبی پیچشی
شبکه‌های عصبی پیچشی یا همگشتی رده‌ای از شبکه‌های عصبی ژرف هستند که معمولاً برای انجام تحلیل‌های تصویری یا گفتاری در یادگیری ماشین استفاده می‌شوند. ماشین تورینگ عصبی
ماشین تورینگ عصبی () یک مدل شبکهٔ عصبی بازگشتی است. این رویکرد توسط الکس گراوز و همکاران در سال ۲۰۱۴ منتشر شد. قابلیت تطبیق الگوی فازی شبکه‌های عصبی را با قدرت الگوریتمی رایانه‌های قابل برنامه‌ریزی ترکیب می‌کنند. ماشین تورینگ عصبی دارای یک کنترلر شبکه عصبی همراه با منابع حافظه خارجی است که از طریق مکانیسم‌های توجه با آنها در تعامل است. فعل و انفعالات حافظه متفاوت از end-to-end است، و این امکان را برای بهینه‌سازی آنها با استفاده از گرادیان کاهشی فراهم می‌کند. ماشین تورینگ عصبی با یک کنترلر شبکه حافظه طولانی کوتاه-مدت (LSTM) می‌تواند الگوریتم‌های ساده ای مانند کپی، مرتب‌سازی و فراخوان انجمنی را فقط از نمونه‌ها استنباط کند. نورون
نورون (یا سلول عصبی) به همهٔ گونه‌های به غیر از نوروگلیاها یاخته‌های بافت عصبی گفته می‌شود؛ ولی گاهی منظور از یاختهٔ عصبی، تنها یاخته‌های تحریک پذیر می‌باشد که یکی از گونه‌های یاخته‌های عصبی می‌باشند. بلاک عصبی
بلاک عصبی یا بلاک منطقه‌ای عصبی به ایجاد هرگونه وقفه عمدی در حرکت پیام عصبی در طول عصب گفته می‌شود که معمولاً در راستای کاهش درد انجام می‌شود. بلاک عصبی یک روند کوتاه مدت است که معمولاً از چند ساعت تا چند روز به طول می‌انجامد و در طی آن بی‌حس‌کننده موضعی و کورتیکواستروئید و مواد دیگر در داخل یا کنار عصب تزریق می‌شود. انسداد نورولوتیک، از بین رفتن عمدی و موقتی رشته عصبی از طریق استفاده از مواد شیمیایی، گرما، سرما که می‌تواند برای هفته‌ها یا ماه‌ها یا برای همیشه باقی بماند. از بین بردن نورون، شامل قطع کردن نورون یا قسمتی از آن جهت ایجاد انسداد دائمی عصب استفاده می‌شود. مفهوم بلاک عصبی گاهی اوقات شامل بلاک اعصاب مرکزی مانند اسپاینال و اپیدورال می‌شود. نرم افزار شبکه عصبی
از لحاظ بررسی تاریخی، رایج‌ترین نوع نرم‌افزار شبکه عصبی برای تحقیق در مورد ساختارها و الگوریتم‌های شبکه عصبی در نظر گرفته شده بود. هدف اصلی این نوع نرم‌افزارها، از طریق شبیه‌سازی، درک بهتر رفتار و خصوصیات شبکه‌های عصبی است. امروزه در مطالعه شبکه‌های عصبی مصنوعی، شبیه‌سازها عمدتاً توسط محیط‌های توسعه یافته مبتنی محور مولفه به عنوان سیستم تحقیق جایگزین شده‌اند. شبکه عصبی پیشخور
پرسپترون تک لایه ساده‌ترین نوع شبکه عصبی است، که از یک لایه از نورون‌های خروجی تشکیل شده‌است. ورودی‌های این شبکه به وسیله یک آرایه از وزن‌ها به صورت مستقیم به خروجی‌ها نسبت داده می‌شوند. در نتیجه این شبکه لایه پنهانی ندارد. این شبکه را می‌توان ساده‌ترین شبکه عصبی پیشخور دانست. در هر نورون مجموع ضرب هر وزن در ورودی با اندیس برابر خود محاسبه می‌شود. اگر مقدار مجموع محاسبه شده در بالا برای هر نورون بالاتر از یک مقدار آستانه باشد (به‌طور معمول ۰)، نورون فعال شده و مقدار فعال (به‌طور معمول ۱) را می‌پذیرد، در غیر این صورت مقدار غیرفعال (به‌طور معمول -۱) را می‌پذیرد. به نورون‌های با تابع فعال سازی از نوع بالا را نورون‌های مصنوعی یا واحدهای آستانه خطی می‌گوییم. اصطلاح پرسپترون اغلب اشاره به شبکه‌های متشکل از تنها یکی از این واحدها می‌کند. تصویربرداری فراصوت عملکردی
مغز از حدود 86 میلیارد نورون (یاخته های عصبی انگیزش پذیر) و تقریبا همان تعداد نوروگلی (یاخته های عصبی انگیزناپذیر) تشکیل شده است. همچنین هر کدام از این نورون­ها با بعضی از نورون­ های دیگر از طریق ساختاری زیستی به نام سیناپس در ارتباط می­باشد. در مغز میلیاردها نورون باهم در ارتباط­ اند و پیام­ های الکتریکی را به یکدیگر منتقل می­کنند. هر دسته از نورون ­ها در مغز فعالیت خاصی را انجام می­دهند و می توان آنها را به صورت شبکه های عصبی جداگانه ای در نظر گرفت که هر کدام برای انجام فعالیتی مشخص در طول زمان فرگشت پیدا کرده اند. برای مثال یک دسته به درد و یک دسته به حرکات , یک دسته به حس بویای و همین طور یک دسته به بینایی و... اختصاص داده شده اند البته باید خاطرنشان کرد که ساختار مغز خیلی پیچیده تر از این­ها می­باشد. شبکه حلقه‌ای
شبکه حلقه‌ای یکی از انواع شبکه‌های رایانه‌ای است که در آن رایانه‌های شبکه را با یک کابل تکی به صورت دایره‌ای شکل به هم متصل می‌سازند. در این توپولوژی انتهای پایانی وجود ندارد سیگنالهای دور حلقه در یک جهت حرکت می‌کنند و از تمام رایانه‌ها می‌گذرند. بر خلاف توپولوژی خطی که غیر فعال است هر رایانه شبیه یک تکرارکننده عمل می‌کند و سیگنالهای دریافتی را پس از تقویت به رایانه بعدی می‌فرستد چون سیگنال از تمامی رایانه‌ها می‌گذرد خرابی یک رایانه بر کل شبکه تأثیر می‌گذارد.  در این طراحی انتقال اطلاعات به نوعی نوبتی می‌باشد که با نام token یاد می‌شود. شبکه عصبی پیچشی
شبکه‌های عصبی پیچشی به منظور کمینه کردن پیش‌پردازش‌ها از گونه‌ای از پرسپترونهای چندلایه استفاده می‌کنند. به جای شبکه عصبی پیچشی گاهی از این شبکه‌ها با نام شبکه‌های عصبی تغییرناپذیر با انتقال (shift invariant) یا تغییرناپذیر با فضا (space invariant) هم یاد می‌شود. این نام‌گذاری بر مبنای ساختار این شبکه است که در ادامه به آن اشاره خواهیم کرد. علوم اعصاب شناختی
برندا میلنر، مارکوس رایشل و جان اوکیف جایزه کاولی در علوم اعصاب را به خاطر کشف کردن شبکه های مغزی خصوصی سازی شده برای مغز در زمینه های حافظه و شناخت را توانستند دریافت کنند. همچنین در همان سال اوکیف جایزه نوبل را در زمینه روانشناسی یا پزشکی با می-بریت موزر و ادوارد موزر به صورت مشترک برای اکتشاف سلول هایی که در مغز یک شبکه موقعیت یابی تشکیل می دهند برنده شدند. کانکتومیکس
با مقایسهٔ کانکتوم‌های افراد بیمار و سالم، می‌توانیم راجع به برخی آسیب شناسی‌های روانی، مانند درد نوروپاتی، و درمان‌های احتمالی آن‌ها دید به دست آوریم. به‌طور کلی، زمینهٔ علوم اعصاب از استانداردسازی و داده‌های خام استفاده می‌کند. به عنوان مثال، نقشه‌های کانکتوم می‌توانند داده‌های لازم را برای مدل‌های کامپیوتری در رابطه با پویایی مغز فراهم کنند. شبکه‌های عصبی فعلی غالباً وابسته به نمایش احتمالاتی الگوهای اتصالات هستند. کانکتوگرام‌ها (نمودارهای دایره‌ای کانکتومیکس) در مورد ضربه‌های مغزی برای ضبط وسعت ضربه به شبکه‌های عصبی به کار رفته‌اند. عروس دریایی
حداقل دو شبکه عصبی وجود دارد که یکی از آن‌ها تمامی سطح روی و زیر چتر و تانتاکول‌ها را عصب‌دار کرده و جریانات عصبی را به آرامی منتقل می‌کند و در تنظیم حرکات موضعی و متمرکزی نظیر تغذیه دخالت می‌کند. دومین شبکه عصبی، به نواحی زیر چتر محدود شده و جریانات عصبی را به سرعت منتقل می‌کند و باعث تنظیم انقباضات چتر هنگام شنا می‌شود. پایانه آکسون
پایانه آکسون یا ترمینال آکسون یا پایانه نورون بخش پایانی آکسون است که پیام عصبی، بعد از گذر از آن وارد فضای سیناپسی می‌شود. آکسون یک برآمدگی بلند و باریک از یک سلول عصبی یا نورون است که تکانه‌های الکتریکی به نام پتانسیل عمل را به دور از جسم سلولی نورون یا سوما هدایت می‌کند تا به نورون‌های دیگر، سلول‌ها، غدد یا ماهیچه‌ها منتقل شود. حافظه طولانی کوتاه-مدت
ال‌اس‌تی‌ام کانولوشنی. formula_24 نشان دهنده عملگر کانولوشن است. بافت عصبی
اعصاب از سلول‌های ویژه‌ای به نام نورون تشکیل شده‌اند. نورون واحد ساختمانی و عملکردی دستگاه عصبی است. بافت عصبی همچنین دارای یاخته‌های پشتیبان به نام گلیال یا نوروگلیا است. اصلی‌ترین یاخته‌های عصبی هستند. این یاخته‌ها وظیفه ترارسانی داده‌های عصبی را بردوش دارند. آنها این کار را از راه هدایت تکانه‌های الکتریکی انجام می‌دهند. نورون‌ها از راه زائده‌هایی بنام دندریت داده‌ها را دریافت کرده و از راه زائده‌های دیگری بنام آکسون داده‌ها را به یاخته پسین ترارسانی می‌کنند. جسم یاخته‌ای (soma) نورون‌ها، پریکاریون نام دارد. این یاخته‌ها تقسیم نمی‌شوند. پردازش سیگنال پیوسته
این انتگرال، انتگرال کانولوشن خوانده می‌شود و معمولاً ∞- = a و ∞+ = b را در نظر می گیرند. پردازش سیگنال پیوسته
کانولوشن یک مفهوم اساسی در پردازش سیگنال است و بیان می‌کند که یک سیگنال ورودی را می توان با تابع سیستم ترکیب کرد تا سیگنال خروجی را بدست آوریم. این مفهوم برابر است با حاصلضرب دو شکل موج که یکی معکوس شده و بر روی دیگری منتقل می کند. برای سیستم خطی تغییرناپذیر با زمان، پاسخ سیستمی با پاسخ فرکانسی formula_1 به ورودی formula_2 برابر است با: کاربرد هوش مصنوعی در رادیولوژی و تشخیص شکستگی
داده‌ها کاملاً به یادگیری ماشین کمک می‌کنند. یادگیری ماشین نوعی از هوش مصنوعیست، که در پاسخ به داده‌های آموزشی به منظور پیش‌بینی خودکار از الگوریتم‌هایی که به شکل تکراری گسترده و یا آموزش داده می‌شوند استفاده می‌کند. یادگیری ماشین تحت نظارت یک زیرگروه است،که به ارائه داده های آموزش‌های از پیش مشخص‌شده متکی است. در زمینه تصویربرداری عمومی و بینایی رایانه‌ای، یادگیری عمیق ابزار پیشرو یادگیری ماشین است. یادگیری عمیق به تکنیک‌هایی گفته می‌شود که مبتنی بر پیشرفت در شبکه‌های عصبی مصنوعی است و در آن‌ها چندین لایه شبکه به منظور افزایش سطح مفهوم و عملکرد اضافه می‌شود. هدف شبکه‌های عصبی تقلید از ساختار مغز انسان است. آن‌ها از مجموعه‌ای از نورون‌های به هم پیوسته استفاده می‌کنند، که پیش از انتقال کمیت و ارزش به نورون بعدی در توالی، داده ها را جمع‌آوری، جمع‌بندی و یا تبدیل می‌کند. این فرآیند در یک لایه خروجی به اوج می‌رسد، و می‌توان برای پیش‌بینی‌های بعدی از آن استفاده کرد. ساخت و آموزش یک شبکه عصبی موثر از ابتدا به مقدار زیادی داده نیاز دارد. شبکه‌های طبقه‌بندی تصویر پیشرفته اغلب در مجموعه داده‌های حاوی میلیون ها تصویر ارائه، و توسط چندین سرور رایانه‌ای مشخص و به مدت چند هفته به طور مداوم کار می‌کند. این امر برای اکثر محققان پزشکی عملی نیست. نوسان عصبی
اگر گروهی از نورون‌ها در فعالیت نوسان همگام درگیر شوند، گروه عصبی می‌تواند به عنوان یک نوسانگر به صورت ریاضی نمایان شود. گروه‌های عصبی مختلف از طریق اتصالات طولانی مدت پیوند داده می‌شوند و یک شبکه از اسیلاتورهای ضعیف مرتبط در مقیاس فضایی را تشکیل می‌دهند. اسیلاتورهای ضعیف می‌توانند طیف وسیعی از دینامیک را شامل نوسان کنند. اتصالات طولانی مدت بین ساختارهای مختلف مغز، مانند تالاموس و قشر مغز (با توجه به نوسانات تالاموکورتیک)، با توجه به سرعت هدایت سریع اکسونها، تأخیر زمانی را شامل می‌شوند. از آنجا که بیشتر اتصالات متقابل هستند، آن‌ها حلقه‌های برگشت‌پذیر را پشتیبانی می‌کنند که فعالیت‌های نوسانی را توجیه می‌کنند. نوسانات ثبت شده از مناطق مختلف قشر می‌توانند همگام سازی شوند تا شبکه‌های بزرگ مغزی تشکیل دهند که دینامیک و قابلیت اتصال آن‌ها را می‌توان با استفاده از تحلیل طیفی و اقدامات علیت گرنجر مورد بررسی قرار داد. فعالیت منسجم فعالیت مغز در مقیاس بزرگ می‌تواند پیوندهای پویا بین ارایه‌های مغز برای ادغام اطلاعات توزیع شود. مدل‌های محاسبه عصبی
تجزیه و تحلیل سیستم‌های خطی از نظر ریاضی آسان‌تر است و در بسیاری از مدل‌ها از جمله نورون مک کلوچ و پیتز، مدل‌های کدگذاری جمعیت و نورون‌های ساده که اغلب در شبکه عصبی مصنوعی استفاده می‌شوند، یک فرض قانع کننده است. خطی بودن ممکن است در عناصر اساسی یک مدار عصبی مانند پاسخ یک نورون پس سیناپسی یا به عنوان یک ویژگی ظهور شده از ترکیبی از زیر مدارهای غیرخطی رخ دهد. گرچه خطی بودن اغلب نادرست تلقی می‌شود، اما کارهای اخیر حاکی از آن است که در برخی موارد از نظر فیزیکی قابل قبول است. بازاریابی و هوش مصنوعی
شبکه عصبی مصنوعی، نوعی برنامه کامپیوتری است که از مغز و سیستم عصبی انسان الگو گرفته‌است. محاسبات و سیستم‌های عصبی
برنامه محاسبات و سیستم‌های عصبی (سی‌ان‌اس) در سال ۱۹۸۶ در موسسه فناوری کالیفرنیا تأسیس شد. هدف از تأسیس این برنامه، آموزش دانشجویان دوره دکتری علاقه‌مند به بررسی رابطه بین ساختار مدارها/شبکه‌های شبیه نورون و محاسبات انجام شده در چنین سیستم‌هایی، خواه طبیعی یا مصنوعی، هستند. این برنامه برای تقویت تبادل ایده و همکاری مهندسین، علوم اعصاب و نظریه پردازان طراحی شده‌است. پایانه آکسون
بسته‌های مولکولی انتقال‌دهنده عصبی (وزیکول‌ها) در داخل نورون ایجاد می‌شوند و از آکسون به سمت پایانه آکسون دیستال حرکت می‌کنند؛ سپس یون‌های کلسیم باعث ایجاد یک آبشار بیوشیمیایی در داخل سیناپس می‌شود و اتصال وزیکول‌ها با غشای نورون پیش سیناپسی، سبب باز شدن وزیکول و خارج شدن محتویات در عرض ۱۸۰ میکرو ثانیه پس از ورود کلسیم به شکاف سیناپسی می‌گردد. پروتئینهای وزیکول سیناپسی که با اتصال یون‌های کلسیم تحریک می‌شوند، شروع به جدا شدن از هم می‌کنند، در نتیجه منافذ متعدد در غشاء وزیکول ایجاد می‌شود؛ وجود منافذ اجازه می‌دهد تا انتقال دهنده عصبی در شکاف سیناپسی آزاد شود. فرآیندی که در پایانه آکسون اتفاق می‌افتد، اگزوسیتوز است، که سلول از آن برای تراوش وزیکول‌های ترشحی از غشای سلولی استفاده می‌کند. این وزیکول‌های متصل به غشاء حاوی پروتئین‌های محلول برای ترشح به محیط خارج سلولی و همچنین پروتئین‌های غشایی و لیپیدهایی هستند که برای تبدیل شدن به اجزای غشای سلولی فرستاده می‌شوند. اگزوسیتوز در سیناپس‌ها باعث ایجاد Ca+ می‌شود و به انتقال عصبی کمک می‌کند. در پایان انتقال عصبی نیز ناقل‌های عصبی به وسیله آنزیم‌های پروتئینی از داخل فضای سیناپسی تجزیه یا برای استفاده مجدد به داخل نورون اندوسیتوز می‌شوند. شبکه عصبی کوانتومی
تحقیقات شبکه عصبی کوانتومی هنوز در مراحل ابتدایی است و شامل مجموعه پیشنهادها و ایده‌هایی با دامنه متفاوت و سخت‌گیری ریاضی ارائه شده‌است. بیشتر آنها بر اساس ایده جایگزینی سلولهای عصبی دوتایی کلاسیک با یک کیوبیت است در نتیجه واحدهای عصبی ایجاد می‌شود که می‌توانند در حالت «شلیک» و «استراحت» قرار بگیرند. شبکه عصبی مصنوعی
این سیستم از شمار زیادی عناصر پردازشی فوق‌العاده بهم‌پیوسته با نام نورون تشکیل شده که برای حل یک مسئله با هم هماهنگ عمل می‌کنند و توسط سیناپس‌ها (ارتباطات الکترومغناطیسی) اطلاعات را منتقل می‌کنند. در این شبکه‌ها اگر یک سلول آسیب ببیند بقیه سلول‌ها می‌توانند نبود آن را جبران کرده، و نیز در بازسازی آن سهیم باشند. این شبکه‌ها قادر به یادگیری‌اند. مثلاً با اعمال سوزش به سلول‌های عصبی لامسه، سلول‌ها یادمی‌گیرند که به طرف جسم داغ نروند و با این الگوریتم سیستم می‌آموزد که خطای خود را اصلاح کند. یادگیری در این سیستم‌ها به صورت تطبیقی صورت می‌گیرد، یعنی با استفاده از مثال‌ها وزن سیناپس‌ها به گونه‌ای تغییر می‌کند که در صورت دادن ورودی‌های جدید، سیستم پاسخ درستی تولید کند. کانکتومیکس
یکی از مهم‌ترین ابزارهایی که برای تحقیقات کانکتومیکس استفاده می‌شود، تصویربرداری پخش وزنی در ابعاد میکرو است. اصلی‌ترین ابزار برای تحقیقات کانکتومیکس در ابعاد میکرو حفظ ساختار شیمیایی مغز و به دنبال آن میکروسکوپ الکترونی سه بعدی است، که در بازسازی مدارهای عصبی به کار میرود. برای دیدن یکی از اولین میکرو کانکتوم‌ها با دقت بالا، پروژهٔ ازاد کانکتوم را ببینید که شامل تعداد زیادی پایگاه دادهٔ کانکتوم از جمله پایگاه داده با حجم 12ترابایت از Bock است. بافت همبند در دستگاه عصبی محیطی
هر رشته عصبی توسط لایه‌ای به نام اندونوریوم احاطه می‌گردد. اندونوریوم درونی‌ترین لایه بافت همبند در یک عصب محیطی که یک لایه بینابینی در اطراف هر رشته عصبی بر روی نوریلما تشکیل می‌دهد. این قسمت یک لایه نازکی از بافت همبندی است. تنها رگ‌هایی را که داخل اندونوریوم می‌توان یافت، مویرگ‌ها هستند و در داخل فاسیکول‌ها از لنف برها اثری دیده نمی‌شود. اندونوریوم، لوله‌ای است که اجزای یک رشته عصبی مانند آکسون، غلاف میلین و سلول‌های شوان را در خود جای می‌دهد و بدین ترتیب، رشته‌های عصبی داخل یک فاسیکول را از یکدیگر جدا می‌کند. نوسانات مکرر نواحی تالامیک - قشری
سلولهای عصبی تالاموکورتیکال (TC) از نظر اندازه به طور قابل توجهی متفاوت هستند که با عمقی که در قشر قرار دارند همبستگی دارد. این سلول ها از نظر خروجی محدود هستند و به نظر می رسد فقط به لایه های قشر مغز و سلول های عصبی تالاموس مشبک متصل می شوند. ازطرف دیگر سلولهای عصبی شبکه ای (RE) بسیار به هم پیوسته هستند و خواص نوسانی ذاتی خود را دارند. این سلول های عصبی از طریق ارتباط مستقیم خود با TC قادر به مهار فعالیت های بخش تالاموکورتیکال هستند. نورونهای کورتیکوتالاموس نورون های قشر مغزی هستند که سلولهای عصبی TC به آن ها از طریق سیناپس اه وصل می شوند. این سلول ها، سلول های تحریکی گلوتامینرژیک هستند که با تخلیه اختلاف پتانسیل( دپولاریزه ) شدن بیشتر فعالیت خود را نشان می دهند. این فعالیت به عنوان "ترکیدن (اسپایک زدن بی وقفه برای دوره ای محدود) " توصیف می شود ، که در دامنه گاما با فذکانس های بین 20 تا 50 هرتز شلیک می شود آکسونوتمزیس
سرعت هدایت عصبی (NCV) به معنای ثبت سرعت جریان دپولاریزاسیون در طول قطعه ای از فیبر عصبی است. سه تا چهار روز پس از آسیب،NCV عدم هدایت جریان عصبی را در قسمت انتهایی تا مکان ضایعه نشان می‌دهد. مطالعه NCV در آکسونوتمزیس، حاکی از عدم پاسخ‌های حسی و حرکتی انتهایی است. در موارد آسیب نسبی، پاسخ‌های حسی و حرکتی دارای آمپلی تود کاهش یافته هستند. ناقل عصبی
ناقل‌های عصبی از وزیکول‌های سیناپسی توسط فرایند برون رانی و با مصرف ATP ، درون شکاف سیناپسی آزاد می‌گردند ( انتشار پیدا میکنند ) و در آنجا توسط گیرنده‌های ناقل‌های عصبی روی سلول هدف، دریافت می‌گردند. بسیاری از ناقلان عصبی از چندین پیش-ماده چون آمینو اسیدهایی که به راحتی در دسترسند و طی مراحل اندک بیوسنتتیک ساخته می‌گردند. ناقلان عصبی برای عملکرد دستگاه‌های عصبی پیچیده ضروری اند. تعداد دقیق ناقلان عصبی منحصربفرد در انسان‌ها ناشناخته است، اما بیش از ۲۰۰ تا از آن‌ها تا کنون شناخته شده‌اند. شبکه کوانتومی
ساختار پایه ای یک شبکه کوانتومی و به طور کلی اینترنت کوانتومی مانند شبکه کلاسیک می باشد. اول ، گره های پایانی را داریم که در نهایت برنامه ها بر روی آنها اجرا می شوند. این گره های انتهایی پردازنده های کوانتومی حداقل یک کیوبیت می باشند. در برخی از کاربردهای اینترنت کوانتومی به پردازنده های کوانتومی چند کیوبیتی و همچنین حافظه کوانتومی در گره های انتهایی نیاز پیدا میکنیم. کانورسیشن
کانورسیشن یک کلاینت آی‌آرسی برای میزکار کی‌دی‌ئی است. این برنامه یک نرم‌افزار آزاد است و تحت پروانه جی‌پی‌ال منتشر می‌شود. این برنامه در حال حاضر توسط KDE Extragear نگهداری می‌شود و دارای سیکل انتشار مخصوص به خودش است که از کی‌دی‌ئی مستقل است. این برنامه در بسیاری از توزیع‌های لینوکس به صورت پیشفرض وجود دارد که از جمله آیت توزیع‌ها می‌توان به اوپن‌زوزه اشاره کرد. از جمله قابلیت‌های این برنامه می‌توان به موارد زیر اشاره کرد: کانکتومیکس
کانکتومیس، دانش تولید کانکتوم و تحقیق پیرامون آن است. کانکتوم به نقشه‌های جامع اتصالات در سیستم عصبی یک موجود زنده، معمولاً در داخل مغز یا چشم گفته می‌شود. به علت اینکه این ساختارها به شدت پیچیده هستند، روش‌هایی که در این زمینه به کار میروند از تصویر برداری عصبی با توان پردازشی بالا و تکنیک‌های بافت شناسی برای افزایش سرعت، کارایی، و دقت نقشه‌های مربوط به تعداد زیادی از اتصالات عصبی در یک سیستم عصبی استفاده می‌کنند. در حالی تمرکز اصلی این نوع پروژه‌ها روی مغز است، هر اتصال عصبی مانند تماس عصبی ماهیچه ای می‌تواند به صورت تئوری به وسیلهٔ کانکتومیس نگاشت شود. شبکه باس
توپولوژی شبکه خطی نوعی از معماری شبکه است که در آن مجموعه‌ای از کارخواه یا کلاینت‌ها از طریق یک خط ارتباطی مشترک که معمولاً باس خوانده می‌شود، به یکدیگر متصل می‌شوند. در دنیای کامپیوتر تعدادی متعددی از معماری باس وجود دارد. برای مثال در معماری مادربورد نیز ما همین مدل را می‌بینیم. یادگیری عمیق
در سال ۱۹۹۴، آندره د کاروالیو به همراه مایک فیرهورست و دیوید بیسیت، معماری‌ای مبتنی بر یک شبکه‌ی عصبی بولی چندلایه را ارائه داد که تحت عنوان شبکه‌ی عصبی بی‌وزن نیز شناخته می شد. این معماری از یک ماژول شبکه‌ی عصبی سه‌لایه‌ای خودسامان‌دهنده‌ی استخراج ویژگی (به انگلیسی: self-organising feature extraction یا SOFT) به همراه یک ماژول شبکه‌ی عصبی چندلایه‌ی رده‌بندی (به طور خاص یک شبکه با معماری GSN یا goal-seeking network) تشکیل شده بود که به صورت مستقل عملیات یادگیری را انجام می‌دادند. در ماژول استخراج ویژگی، تصویر ورودی به چند زیرمجموعه تقسیم شده و هر قسمت به یک بلاک از نورون‌ها (که دارای سلسله‌مراتب بوده و در چند لایه تقسیم شده‌بودند) داده می‌شد و هر بلاک به صورت موازی با دیگر بلاک‌ها و مستقل از آن‌ها آموزش می‌دید. بازتولید نورونی
بازتولید نورونی ، به رشد دوباره، یا ترمیم بافت عصبی سلول‌ها یا محصولات سلولی اشاره دارد. چنین سازوکارهایی شامل تولید نورون‌های جدید، گلیاها، آکسون‌ها، میلین یا سیناپس‌ها می شود. تولید نورون، توسط سازوکارهای عملکردی درگیر، بخصوص در امر توسعه و سرعت ترمیم، بین دستگاه عصبی پیرامونی (PNS) و دستگاه عصبی مرکزی (CNS) تمایز قائل می شود. زمانی که یک آکسون آسیب ببیند، قطعه دیستال (دورتر) دچار فساد والرین شده و غلاف میلین خود را از دست می دهد. قطعه پروگزیمال (نزدیک‌تر) ممکن است دچار آپوپتوز یا واکنش کروماتولیتیک گردد، که تلاشی در جهت ترمیم است. در CNS، با تهاجم پای گلیالی به سیناپس مرده، فرایند برهنه‌سازی سیناپسی صورت می پذیرد. شبکه عصبی پیچشی
برای سلول عصبی formula_1 ورودیی که از سلول عصبی formula_2 به این سلول وارد می‌شود را با formula_3 نشان می‌دهیم. وزن این ورودی formula_4 است و مجموع ضرب ورودی‌ها با وزنهایشان را با formula_5 نمایش می‌دهیم، به این معنی که formula_6. حال باید بر روی formula_5 تابعی غیر خطی اعمال کنیم این تابع را formula_8 می نامیم و خروجی آن را با formula_9 نمایش می‌دهیم یعنی formula_10. به همین شکل خروجیی که از سلول عصبی formula_1 خارج شده و به سلول formula_12 وارد می‌شود را با formula_13 نمایش می‌دهیم و وزن آن را formula_14 می‌نامیم. حال تمام وزن‌های این شبکه عصبی را در مجموعه‌ای به اسم formula_15 می‌گنجانیم، هدف یادگیری این وزنهاست. اگر ورودی ما formula_16 باشد و خروجی formula_17 و خروجی شبکه عصبی ما formula_18، هدف پیدا کردن انتخاب formula_15 است به قسمی که برای تمام داده‌ها formula_17 و formula_18 به هم خیلی نزدیک شوند. به عبارت دیگر هدف کوچک کردن یک تابع هزینه بر روی تمام داده هاست، اگر داده‌ها را با formula_22 و تابع هزینه را با formula_23 نشان دهیم هدف کمینه کردن تابع پایین است : کد کانولوشن
n۲ = m۰ + m-۱