شبکه های عصبی (Neural Networks)

پیش گفتار :

یک انسان خردمند فرصتها وشانسها را می سازد، نه اینکه در انتظار آنها بنشیند.
«فرانسیس بیکن»
در واقع در محاسبات نرونی تلاش می شود تا از روش کار مغز  تقلید شود که یکی از چندین روش آموزش ماشینی است. شبکه های عصبی پتانسیل ایجاد ویژگیهایی دارند که انسان برای حل مسائل  سخت  مانند شبیه سازی منطقی، تکنیک های آنالیتیکال سیستم های خبره و تکنولوژی های نرم افزاری بکار می برد. در واقع سیستم شبکه عصبی مصنوعی الهام گرفته شده از مغز و سیستم شبکه عصبی انسان می باشد و مانند مغز انسان از تعداد زیادی نورون تشکیل شده است. این شبکه ها مانند مغز انسان دارای قابلیت یادگیری، حفظ کردن و ایجاد ارتباط مابین داده ها را می باشند.پیاده سازی ویژگیهای شگفت‌انگیز مغز در یک سیستم مصنوعی (سیستم دینامیکی ساخته دست بشر) همیشه وسوسه‌انگیز و مطلوب بوده است. محققینی که طی سالها در این زمینه فعالیت کرده‌اند بسیارند؛ لیکن نتیجه این تلاشها، صرف نظر از یافته‌های ارزشمند باور هر چه بیشتر این اصل بوده است که مغز بشر دست نیافتنی است. این شبکه ها در علوم بسیاری از جمله فیزیک، مهندسی برق، مهندسی محیط زیست، مهندسی شیمی، علوم کامپیوتر، رباتیک و … کاربرد دارند
بسیاری کاربردهای روشهای آماری خطی برای مدلسازی استاتیکی و غیر تطبیقی هستند اگرچه اصلاحاتی برای مدلسازی تطبیقی و بازگشتی ایجاد شده است. شبکه های عصبی می توانند تقریب بسیار خوبی از هر رابطه ورودی ـ خروجی غیرخطی داشته باشد و همچنین می تواند بسیاری متغییرهای وابسته با بسیاری از متغییرهای مستقل که مورد نیاز هستند و در هنگامیکه ابزارهای مدلسازی خطی سنتی بسیاری که با سه متغییر وابسته نگاشت می کنند را  ترسیم کند
انواع بسیار متفاوتی از شبکه های عصبی وجود دارند. پرکاربردترین نوع شبکه عصبی با عنوان شبکه های پس انتشار خطا معروف هستند. این نوع شبکه در امور پیش بینی و طبقه بندی، بسیار عالی عمل می کنند. الگوریتم BP با قانون دلتا از روش آموزش با ناظر استفاده می کند.
در مواردی که نتوانیم یک الگوریتم حل به صورت فرمولی بیابیم، یا وقتی تعداد زیادی مثال از ورودی و خروجی سیستم مورد نظرمان در اختیار باشد و بخواهیم برای آن سیستم مدل ارائه کنیم، و یا وقتی بخواهیم یک ساختار از اطلاعات موجود بدست بیاوریم، استفاده از شبکه های عصبی مصنوعی می تواند سودمند باشد. تاکنون برای شبکه های عصبی توپولوژی های مختلف همراه با کاربردهای متنوع ارئه شده است که طیف وسیعی از موضوعات را پوشش می دهد. شبکه عصبی مصنوعی، یک ابزار مدلسازی تجربی است که شبیه رفتار و ساختار نرونهای بیولوژیکی است. شبکه های عصبی ابزار قدرتمندی هستند که برای سیستمهایی که فقط وررودی و خروجی سیستم مشخص است توانایی تعیین روابط بسیار پیچیده برای مدلسازی را دارند.
شبکه های عصبی از عناصر ساده عملیاتی تشکیل شده اند، این عناصر در پردازش اطلاعات در شبکه ذاتاً به صورت موازی عمل می کنند. روش کار این عناصر برگرفته از سلول های عصبی بیولوژیکی می باشد. بطور طبیعی ارتباط های بین عناصر وظیفه شبکه را تعیین می کنند. با تنظیم ارتباط های بین عناصر (وزن های ارتباطی و ترم های بایاس) می توان شبکه را در اجرای یک وظیفه خاص آموزش داد. بنابراین شبکه های آموزش دیده در مقابل یک ورودی خاص، یک خروجی خاص را پاسخ می دهند. شبکه با مقایسه مقدار خروجی تولید شده (بر مبنای ورودی اعمال شده به آن) و مقدار خروجی واقعی در دست، اقدام به تنظیم کردن پارامترهای خود می کند بطوریکه در هر بار تنظیم، پاسخ شبکه به مقدار واقعی نزدیک شود. البته این فرایند در قالب یک روش یادگیری مناسب انجام می گیرد. شبکه های آموزش دیده می توانند به جای توابع پیچیده در زمینه های کاربردی مختلف انجام وظیفه نمایند.
در مهندسی فرایند، شبکه های عصبی مصنوعی استفاده بسیاری در مدلسازی فرایند، کنترل فرایند، عیب یابی،  یافتن خطا، اصلاح داده ها، تحلیل فرایند و مدلسازی سینتیک فرایند دارد.
شبکه‌های عصبی چه در بعد آنالیز و توسعه ساختاری و چه در بعد پیاده سازی سخت افزاری از نظر کمی،کیفی و توانایی در حال رشد و پیشرفت می‌باشد و تکنیکهای مختلف محاسبات عصبی از لحاظ تعداد همچنان در حال افزایش است. فعالیت علمی و کاربردی در مسائل فنی و مهندسی از قبیل سیستم های کنترلی ، پردازش سیگنالها، مدلسازی و شناسایی الگو گسترش یافته است. دو ویژگی مهم شبکه های عصبی توانایی عرضه جواب سریع به مسائل و ظرفیت ایجاد جواب آنها، فراهم کردن جوابهای قابل قبول برای مساله نامعین است.
شبکه های عصبی در برخی مواقع به عنوان یک جعبه سیاه عمل می کنند. این اصطلاح بدین معنی است که نوع تابعیت پارامترهای ورودی بر خروجی در این سیستم ها معین نمی شود. داده هایی که به شبکه داده می شود، ارتباط این پارامترها را معین می کند و مجهولاتی که ارتباط بین  ورودی ها و خروجی ها را برقرار می کند، بدست می آورد. نخستین گام در شبکه های عصبی معین کردن پارامترهای موثر بر سیستم بعنوان ورودی ها و عواملی که سیستم باید به عنوان خروجی بدهد، است.
می توان گفت عملیات مربوط به یک شبکه عصبی به حداقل دو فاز تقسیم می شود. فاز اول آموزش یا یادگیری و فاز دوم فاز ارزیابی می باشد. پیداکردن مجموعه ای از اوزان که خطای بین خروجی واقعی و پیشگویی شده را کمینه کند آموزش شبکه می گویند. در طول دوره آموزش، خطای شبکه با استفاده از الگوریتم آموزشی محاسبه شده، و اوزان شبکه برای همه ارتباطات بین نرونی براساس بزرگی خطا و پارامتری که سرعت یادگیری شبکه نامیده می شود محاسبه و تنظیم می گردد.، تا زمانیکه شبکه عصبی بصورت صحیح آموزش ببیند و برای ورودی های مختلف خروجی های درست بدهد. لازم بذکر است که حتی اگر تطابق خوبی بین خروجی شبکه و داده های تجربی بدست آید، تضمینی برای اینکه مدل با موفقیت داده هایی غیر از داده های نشان داده شده به شبکه را بطور صحیح پیش بینی کند وجود ندارد. از اینرو بعد از فاز یادگیری، فاز ارزیابی برای اطمینان از دقت و عمومیت مدل لازم می باشد. معمار موفق شبکه عصبی کسی است که کوچکترین خطای محاسباتی را در داده های غیرآموزشی داشته باشد.
شبکه عصبی مصنوعی روش عملی برای یادگیری توابع گوناگون نظیر توابع با مقادیر حقیقی، توابع با مقادیر گسسته و توابع با مقادیر برداری می باشد. یادگیری شبکه عصبی در برابر خطاهای داده های آموزشی مصون بوده و اینگونه شبکه ها با موفقیت به مسائلی نظیر شناسایی گفتار، شناسایی و تغییر تصاویر و یادگیری روبات اعمال شده است.
پس هدف ما در عرصه هوش مصنوعی عبارت است از تکامل رفتارها و سیستمهای کامپیوتری به نحوی که هر چه بیشتر به رفتارهای انسانی نزدیک گردد.
حال برای رسیدن به این هدف در ابتدا ما ناچاریم که به بررسی نحوه عملکرد انسان بپردازیم و الگوریتم هایی را که انسان بر اساس آن به عکس العمل می پردازد را به صورت روشن و مشخص استخراج نماییم.
در همین راستا نظریه ها ی متفاوتی شکل گرفته است.یکی از مهمترین این نظریه ها که پس از بررسی مغز انسان و نحوه عملکرد آن شکل گرفت روش شبکه های عصبی می باشد.
این مدل که از روی شبکه عصبی انسان کپی برداری و پیاده سازی شده است سعی دارد تا مسایل را به گونه ای مشابه با مغز انسان به صورت مطمین موازی و با سرعت بالا پردازش نماید تا ما را بیش از پیش به سیستمهای انسانی نزدیکتر نماید.

فهـرست مطالب
پیش گفتار
تاریخچه شبکه های عصبی مصنوعی     1
تاریخچه داده کاوی     5
جایگاه داده کاوی در میان علوم مختلف     6
تفاوت داده کاوی و پردازش تحلیلی آنی     8
دلایل اهمیت داده کاوی     10
1ـ افزایش درآمد از طریق فروش متقاطع و ترغیب مشتری     10
2ـ افزایش درآمد از طریق کاهش میزان مشتری از دست رفته     10
چگونگی استفاده از داده کاوی     11
کاربردهای داده کاوی     12
1ـ خرده فروشی     13
2ـ بانکداری     13
3ـ بیمه     14
4ـ مخابرات     14
5ـ صنایع برق، آب و گاز     14
6ـ پزشکی     14
7ـ پلیس     14
8ـ حوادث طبیعی     15
9ـ وب کاوی     15
انواع داده کاوی     15
تحلیل پیوند     16
کشف انجمنی     18
1ـ درجه پشتیبانی     18
2ـ درجه اطمینان     19
کشف الگوی متوالی     21
تقسیم بندی     22
1ـ تقسیم بندی مبتنی بر آمارگیری زیستی     26
2ـ تقسیم بندی مبتنی بر رفتار     27
تقسیم بندی مبتنی بر ارزش طول عمر مشتری     27
تقسیم بندی مبتنی بر تأخر، تکرار و مقدار پول     28
1ـ تأخر     28
2ـ تکرار     28
3ـ مقدار پول     28
تقسیم بندی مبتنی بر رفتار عمومی     31
3ـ تقسیم بندی مبتنی بر آمارگیری روانی     32
طبقه بندی     33
پیشگویی و پیش بینی     35
پیش بینی     36
معیارهای سنجش دقت پیش بینی     36
الگوریتم و تکنیک های داده کاوی     37
الگوریتم استقرایی     38
روش های رگرسیونی     39
رگرسیون لجستیک     39
مدل های افزودنی تعمیم یافته     40
روش های سری زمانی     40
تحلیل تفکیک کننده     43
مراحل یک پروژه داده کاوی     43
ابزارهای داده کاوی     44
صفحات گسترده     44
ابزارهای آماری     45
نرم افزارهای خاص داده کاوی     45
دستیابی به متخصص داده کاوی     46
پرورش متخصص در شرکت     46
به کارگیری ستاد داده کاوی     46
استفاده از مشاوران خارجی     47
ارائه روش ترکیبی از شبکه های عصبی نظارت شده و نظارت نشده در طبقه بندی تصاویر سنجش
از دور     48
مقدمه     49
2ـ طبقه بندی تصاویر سنجش از دور به کمک شبکه های عصبی     52
2ـ1 شبکه های عصبی خودسازمانده     52
2ـ2 شبکه های عصبی پس از انتشار خطا     53
3ـ معرفی الگوریتم پیشنهادی     54
4ـ پیاده سازی و ارزیابی نتایج     55
4ـ1 داده های مورد استفاده     55
4ـ2 خوشه بندی تصویر بر اساس الگوریتم SOM     56
4ـ3 برچسب گذاری خوشه ها بر اساس الگوریتم MLP     57
4ـ4 مقایسه و ارزیابی نتایج     57
4ـ4ـ1 مقادیر متفاوت داده های آموزشی در الگوریتم SOM     58
4ـ4ـ2 تعداد مختلف نرون در الگوریتم SOM     58
4ـ4ـ3 تعداد مختلف نرون در الگوریتم MLP     59
4ـ4ـ4 بررسی تاثیر اجزای محاسباتی روش پیشنهادی     59
4ـ4ـ5 جایگزین کلی روش SOM-MLP با سه الگوریتم بیشترین شباهت، الگوریتم کمترین
فاصله و الگوریتم MLP     59
5ـ نتیجه گیری و پیشنهادها     60
پیش بینی تقاضای روزانه آب شهری با استفاده از شبکه های عصبی، مطالعه موردی : شهر تهران     62
1ـ مقدمه     63
2ـ2 تشریح و ارزیابی مدل     67
شبکه های عصبی مصنوعی : مدلی برای پیش بینی     69
مقدمه     70
روش     77
تحلیل داده ها     78
یافته ها     80
بحث     83
برآورد پارامترهای نفوذ آب به خاک با استفاده از شبکه های عصبی مصنوعی      84
مقدمه     86
مواد و روش ها     88
پی ریزی شبکه های عصبی مصنوعی     89
نتایج و بحث     93
شبکه های عصبی گونه نخست     93
شبکه های عصبی گونه دوم     95
مقایسه شبکه ها گونه نخست و گونه دوم     97
مدل شبکه ی عصبی از نگاشت سلول های شبکه به سلول های مکانی     98
مقدمه     99
2ـ مدل پیشنهادی برای نگاشت از سلول های مکانی به شبکه     103
2ـ1 شبکه های RBF     103
2ـ2 مدل سازی نگاشت در محیط یک بعدی     104
2ـ3 مدل سازی نگاشت در محیط دو بعدی     106
الف)فعالیت سلول های شبکه     106
ب)فعالیت سلول های مکانی     107
3ـ نتایج     108
شبکه عصبی     110
محتوا     111
نگاهی اجمالی     111
تاریخچه مقایسه شبکه عصبی     112
مغز، شبکه های عصبی و کامپیوترها     116
شبکه های عصبی و هوش مصنوعی     117
پیش زمینه     118
عملکردهای شبکه های عصبی طبیعی و مصنوعی     119
شبکه های عصبی و عصب شناسی     119
انواع مدل ها     120
تحقیقات اخیر     120
ساختار     121
انتقادات     122
Neural network     124
چکیده نهایی     139
خلاصه نهایی     141
شبکه های عصبی خودسازمانده     141
روش ترکیبی     141
معرفی الگوریتم پیشنهادی     142
پیش بینی تقاضای روزانه آب شهری  با استفاده از  شبکه های عصبی مصنوعی،  مطالعه
موردی : شهر تهران     143
هدف     144
روش شناسی     144
تشریح و ارزیابی مدل     145
شبکه های عصبی کصنوعی مدلی برای پیش بینی     145
مقایسه با مدلهای سنتی     146
پارامترهای نفوذ آب به خاک با استفاده از شبکه های عصبی مصنوعی     147
پی ریزی شبکه های عصبی مصنوعی     148
چگونگی محاسبه شبکه های ایجاد شده در برآورد نفوذ آب به خاک     148
نتیجه     149
مدل شبکه عصبی از نگاشت سلول های شبکه به سلول های مکانی     149
مدل پیشنهادی برای نگاشت از سلول های مکانی به شبکه ای     150
نتایج     151
شبکه عصبی     151
محتوا     151
تاریخچه مقایسه شبکه عصبی     152
مغز، شبکه های عصبی و کامپیوترها     153
شبکه های عصبی و هوش مصنوعی     153
پیش زمینه     153
عملکردهای شبکه های عصبی طبیعی و مصنوعی     154
شبکه های عصبی و عصب شناسی     154
انواع مدل ها     155
تحقیقات اخیر     155
ساختار     155
انتقادات     156
نتیجه نهایی     157
منابع     158