شبكه هاي عصبي (Neural Networks)

پیش گفتار :

یک انسان خردمند فرصتها وشانسها را می سازد، نه اینکه در انتظار آنها بنشیند.
«فرانسیس بیکن»
در واقع در محاسبات نروني تلاش مي شود تا از روش کار مغز  تقليد شود که يکي از چندين روش آموزش ماشيني است. شبکه هاي عصبي پتانسيل ايجاد ويژگيهايي دارند که انسان براي حل مسائل  سخت  مانند شبيه سازي منطقي، تکنيک هاي آناليتيکال سيستم هاي خبره و تکنولوژي هاي نرم افزاري بکار مي برد. در واقع سيستم شبكه عصبي مصنوعي الهام گرفته شده از مغز و سيستم شبكه عصبي انسان مي باشد و مانند مغز انسان از تعداد زيادي نورون تشكيل شده است. اين شبكه ها مانند مغز انسان داراي قابليت يادگيري، حفظ کردن و ايجاد ارتباط مابين داده ها را مي باشند.پياده سازي ويژگيهاي شگفت‌انگيز مغز در يك سيستم مصنوعي (سيستم ديناميكي ساخته دست بشر) هميشه وسوسه‌انگيز و مطلوب بوده است. محققيني كه طي سالها در اين زمينه فعاليت كرده‌اند بسيارند؛ ليكن نتيجه اين تلاشها، صرف نظر از يافته‌هاي ارزشمند باور هر چه بيشتر اين اصل بوده است كه مغز بشر دست نيافتني است. این شبکه ها در علوم بسیاری از جمله فیزیک، مهندسی برق، مهندسی محیط زیست، مهندسی شیمی، علوم کامپیوتر، رباتیک و … کاربرد دارند
بسياري کاربردهاي روشهاي آماري خطي براي مدلسازي استاتيکي و غير تطبيقي هستند اگرچه اصلاحاتي براي مدلسازي تطبيقي و بازگشتي ايجاد شده است. شبکه هاي عصبي مي توانند تقريب بسيار خوبي از هر رابطه ورودي ـ خروجي غيرخطي داشته باشد و همچنين مي تواند بسياري متغييرهاي وابسته با بسياري از متغييرهاي مستقل که مورد نياز هستند و در هنگاميکه ابزارهاي مدلسازي خطي سنتي بسياري که با سه متغيير وابسته نگاشت مي کنند را  ترسيم کند
انواع بسيار متفاوتي از شبکه هاي عصبي وجود دارند. پرکاربردترين نوع شبکه عصبي با عنوان شبکه هاي پس انتشار خطا معروف هستند. اين نوع شبکه در امور پيش بيني و طبقه بندي، بسيار عالي عمل مي کنند. الگوريتم BP با قانون دلتا از روش آموزش با ناظر استفاده مي کند.
در مواردي كه نتوانيم يك الگوريتم حل به صورت فرمولي بيابيم، يا وقتي تعداد زيادي مثال از ورودي و خروجي سيستم مورد نظرمان در اختيار باشد و بخواهيم براي آن سيستم مدل ارائه كنيم، و يا وقتي بخواهيم يك ساختار از اطلاعات موجود بدست بياوريم، استفاده از شبكه هاي عصبي مصنوعي مي تواند سودمند باشد. تاكنون براي شبكه هاي عصبي توپولوژي هاي مختلف همراه با كاربردهاي متنوع ارئه شده است كه طيف وسيعي از موضوعات را پوشش مي دهد. شبکه عصبي مصنوعي، يک ابزار مدلسازي تجربي است که شبيه رفتار و ساختار نرونهاي بيولوژيکي است. شبکه هاي عصبي ابزار قدرتمندي هستند که براي سيستمهايي که فقط وررودي و خروجي سيستم مشخص است توانايي تعيين روابط بسيار پيچيده براي مدلسازي را دارند.
شبکه هاي عصبي از عناصر ساده عملياتي تشکيل شده اند، اين عناصر در پردازش اطلاعات در شبکه ذاتاً به صورت موازي عمل مي کنند. روش کار اين عناصر برگرفته از سلول هاي عصبي بيولوژيکي مي باشد. بطور طبيعي ارتباط هاي بين عناصر وظيفه شبکه را تعيين مي کنند. با تنظيم ارتباط هاي بين عناصر (وزن هاي ارتباطي و ترم هاي باياس) مي توان شبکه را در اجراي يک وظيفه خاص آموزش داد. بنابراين شبکه هاي آموزش ديده در مقابل يک ورودي خاص، يک خروجي خاص را پاسخ مي دهند. شبکه با مقايسه مقدار خروجي توليد شده (بر مبناي ورودي اعمال شده به آن) و مقدار خروجي واقعي در دست، اقدام به تنظيم کردن پارامترهاي خود مي کند بطوريکه در هر بار تنظيم، پاسخ شبکه به مقدار واقعي نزديک شود. البته اين فرايند در قالب يک روش يادگيري مناسب انجام مي گيرد. شبکه هاي آموزش ديده مي توانند به جاي توابع پيچيده در زمينه هاي کاربردي مختلف انجام وظيفه نمايند.
در مهندسي فرايند، شبکه هاي عصبي مصنوعي استفاده بسياري در مدلسازي فرايند، کنترل فرايند، عيب يابي،  يافتن خطا، اصلاح داده ها، تحليل فرايند و مدلسازي سينتيک فرايند دارد.
شبكه‌هاي عصبي چه در بعد آناليز و توسعه ساختاري و چه در بعد پياده سازي سخت افزاري از نظر كمي،كيفي و توانايي در حال رشد و پيشرفت مي‌باشد و تكنيكهاي مختلف محاسبات عصبي از لحاظ تعداد همچنان در حال افزايش است. فعاليت علمي و كاربردي در مسائل فني و مهندسي از قبيل سيستم هاي كنترلي ، پردازش سيگنالها، مدلسازي و شناسايي الگو گسترش يافته است. دو ويژگي مهم شبکه هاي عصبي توانايي عرضه جواب سريع به مسائل و ظرفيت ايجاد جواب آنها، فراهم کردن جوابهاي قابل قبول براي مساله نامعين است.
شبكه هاي عصبي در برخي مواقع به عنوان يك جعبه سياه عمل مي كنند. اين اصطلاح بدين معني است كه نوع تابعيت پارامترهاي ورودي بر خروجي در اين سيستم ها معين نمي شود. داده هايي كه به شبكه داده مي شود، ارتباط اين پارامترها را معين مي كند و مجهولاتي كه ارتباط بين  ورودي ها و خروجي ها را برقرار مي كند، بدست مي آورد. نخستين گام در شبكه هاي عصبي معين كردن پارامترهاي موثر بر سيستم بعنوان ورودي ها و عواملي كه سيستم بايد به عنوان خروجي بدهد، است.
مي توان گفت عمليات مربوط به يک شبکه عصبي به حداقل دو فاز تقسيم مي شود. فاز اول آموزش يا يادگيري و فاز دوم فاز ارزيابي مي باشد. پيداکردن مجموعه اي از اوزان که خطاي بين خروجي واقعي و پيشگويي شده را کمينه کند آموزش شبکه مي گويند. در طول دوره آموزش، خطاي شبکه با استفاده از الگوريتم آموزشي محاسبه شده، و اوزان شبکه براي همه ارتباطات بين نروني براساس بزرگي خطا و پارامتري که سرعت يادگيري شبکه ناميده مي شود محاسبه و تنظيم مي گردد.، تا زمانيکه شبکه عصبي بصورت صحيح آموزش ببيند و براي ورودي هاي مختلف خروجي هاي درست بدهد. لازم بذکر است که حتي اگر تطابق خوبي بين خروجي شبکه و داده هاي تجربي بدست آيد، تضميني براي اينکه مدل با موفقيت داده هايي غير از داده هاي نشان داده شده به شبکه را بطور صحيح پيش بيني کند وجود ندارد. از اينرو بعد از فاز يادگيري، فاز ارزيابي براي اطمينان از دقت و عموميت مدل لازم مي باشد. معمار موفق شبکه عصبي کسي است که کوچکترين خطاي محاسباتي را در داده هاي غيرآموزشي داشته باشد.
شبکه عصبی مصنوعی روش عملی برای یادگیری توابع گوناگون نظیر توابع با مقادیر حقیقی، توابع با مقادیر گسسته و توابع با مقادیر برداری می باشد. یادگیری شبکه عصبی در برابر خطاهای داده های آموزشی مصون بوده و اینگونه شبکه ها با موفقیت به مسائلی نظیر شناسایی گفتار، شناسایی و تغییر تصاویر و یادگیری روبات اعمال شده است.
پس هدف ما در عرصه هوش مصنوعی عبارت است از تکامل رفتارها و سیستمهای کامپیوتری به نحوی که هر چه بیشتر به رفتارهای انسانی نزدیک گردد.
حال برای رسیدن به این هدف در ابتدا ما ناچاریم که به بررسی نحوه عملکرد انسان بپردازیم و الگوریتم هایی را که انسان بر اساس آن به عکس العمل می پردازد را به صورت روشن و مشخص استخراج نماییم.
در همین راستا نظریه ها ی متفاوتی شکل گرفته است.یکی از مهمترین این نظریه ها که پس از بررسی مغز انسان و نحوه عملکرد آن شکل گرفت روش شبکه های عصبی می باشد.
این مدل که از روی شبکه عصبی انسان کپی برداری و پیاده سازی شده است سعی دارد تا مسایل را به گونه ای مشابه با مغز انسان به صورت مطمین موازی و با سرعت بالا پردازش نماید تا ما را بیش از پیش به سیستمهای انسانی نزدیکتر نماید.

فهـرست مطالب
پیش گفتار
تاریخچه شبکه های عصبی مصنوعی     1
تاریخچه داده کاوی     5
جایگاه داده کاوی در میان علوم مختلف     6
تفاوت داده کاوی و پردازش تحلیلی آنی     8
دلایل اهمیت داده کاوی     10
1ـ افزایش درآمد از طریق فروش متقاطع و ترغیب مشتری     10
2ـ افزایش درآمد از طریق کاهش میزان مشتری از دست رفته     10
چگونگی استفاده از داده کاوی     11
کاربردهای داده کاوی     12
1ـ خرده فروشی     13
2ـ بانکداری     13
3ـ بیمه     14
4ـ مخابرات     14
5ـ صنایع برق، آب و گاز     14
6ـ پزشکی     14
7ـ پلیس     14
8ـ حوادث طبیعی     15
9ـ وب کاوی     15
انواع داده کاوی     15
تحلیل پیوند     16
کشف انجمنی     18
1ـ درجه پشتیبانی     18
2ـ درجه اطمینان     19
کشف الگوی متوالی     21
تقسیم بندی     22
1ـ تقسیم بندی مبتنی بر آمارگیری زیستی     26
2ـ تقسیم بندی مبتنی بر رفتار     27
تقسیم بندی مبتنی بر ارزش طول عمر مشتری     27
تقسیم بندی مبتنی بر تأخر، تکرار و مقدار پول     28
1ـ تأخر     28
2ـ تکرار     28
3ـ مقدار پول     28
تقسیم بندی مبتنی بر رفتار عمومی     31
3ـ تقسیم بندی مبتنی بر آمارگیری روانی     32
طبقه بندی     33
پیشگویی و پیش بینی     35
پیش بینی     36
معیارهای سنجش دقت پیش بینی     36
الگوریتم و تکنیک های داده کاوی     37
الگوریتم استقرایی     38
روش های رگرسیونی     39
رگرسیون لجستیک     39
مدل های افزودنی تعمیم یافته     40
روش های سری زمانی     40
تحلیل تفکیک کننده     43
مراحل یک پروژه داده کاوی     43
ابزارهای داده کاوی     44
صفحات گسترده     44
ابزارهای آماری     45
نرم افزارهای خاص داده کاوی     45
دستیابی به متخصص داده کاوی     46
پرورش متخصص در شرکت     46
به کارگیری ستاد داده کاوی     46
استفاده از مشاوران خارجی     47
ارائه روش ترکیبی از شبکه های عصبی نظارت شده و نظارت نشده در طبقه بندی تصاویر سنجش
از دور     48
مقدمه     49
2ـ طبقه بندی تصاویر سنجش از دور به کمک شبکه های عصبی     52
2ـ1 شبکه های عصبی خودسازمانده     52
2ـ2 شبکه های عصبی پس از انتشار خطا     53
3ـ معرفی الگوریتم پیشنهادی     54
4ـ پیاده سازی و ارزیابی نتایج     55
4ـ1 داده های مورد استفاده     55
4ـ2 خوشه بندی تصویر بر اساس الگوریتم SOM     56
4ـ3 برچسب گذاری خوشه ها بر اساس الگوریتم MLP     57
4ـ4 مقایسه و ارزیابی نتایج     57
4ـ4ـ1 مقادیر متفاوت داده های آموزشی در الگوریتم SOM     58
4ـ4ـ2 تعداد مختلف نرون در الگوریتم SOM     58
4ـ4ـ3 تعداد مختلف نرون در الگوریتم MLP     59
4ـ4ـ4 بررسی تاثیر اجزای محاسباتی روش پیشنهادی     59
4ـ4ـ5 جایگزین کلی روش SOM-MLP با سه الگوریتم بیشترین شباهت، الگوریتم کمترین
فاصله و الگوریتم MLP     59
5ـ نتیجه گیری و پیشنهادها     60
پیش بینی تقاضای روزانه آب شهری با استفاده از شبکه های عصبی، مطالعه موردی : شهر تهران     62
1ـ مقدمه     63
2ـ2 تشریح و ارزیابی مدل     67
شبکه های عصبی مصنوعی : مدلی برای پیش بینی     69
مقدمه     70
روش     77
تحلیل داده ها     78
یافته ها     80
بحث     83
برآورد پارامترهای نفوذ آب به خاک با استفاده از شبکه های عصبی مصنوعی      84
مقدمه     86
مواد و روش ها     88
پی ریزی شبکه های عصبی مصنوعی     89
نتایج و بحث     93
شبکه های عصبی گونه نخست     93
شبکه های عصبی گونه دوم     95
مقایسه شبکه ها گونه نخست و گونه دوم     97
مدل شبکه ی عصبی از نگاشت سلول های شبکه به سلول های مکانی     98
مقدمه     99
2ـ مدل پیشنهادی برای نگاشت از سلول های مکانی به شبکه     103
2ـ1 شبکه های RBF     103
2ـ2 مدل سازی نگاشت در محیط یک بعدی     104
2ـ3 مدل سازی نگاشت در محیط دو بعدی     106
الف)فعالیت سلول های شبکه     106
ب)فعالیت سلول های مکانی     107
3ـ نتایج     108
شبکه عصبی     110
محتوا     111
نگاهی اجمالی     111
تاریخچه مقایسه شبکه عصبی     112
مغز، شبکه های عصبی و کامپیوترها     116
شبکه های عصبی و هوش مصنوعی     117
پیش زمینه     118
عملکردهای شبکه های عصبی طبیعی و مصنوعی     119
شبکه های عصبی و عصب شناسی     119
انواع مدل ها     120
تحقیقات اخیر     120
ساختار     121
انتقادات     122
Neural network     124
چکیده نهایی     139
خلاصه نهایی     141
شبکه های عصبی خودسازمانده     141
روش ترکیبی     141
معرفی الگوریتم پیشنهادی     142
پیش بینی تقاضای روزانه آب شهری  با استفاده از  شبکه های عصبی مصنوعی،  مطالعه
موردی : شهر تهران     143
هدف     144
روش شناسی     144
تشریح و ارزیابی مدل     145
شبکه های عصبی کصنوعی مدلی برای پیش بینی     145
مقایسه با مدلهای سنتی     146
پارامترهای نفوذ آب به خاک با استفاده از شبکه های عصبی مصنوعی     147
پی ریزی شبکه های عصبی مصنوعی     148
چگونگی محاسبه شبکه های ایجاد شده در برآورد نفوذ آب به خاک     148
نتیجه     149
مدل شبکه عصبی از نگاشت سلول های شبکه به سلول های مکانی     149
مدل پیشنهادی برای نگاشت از سلول های مکانی به شبکه ای     150
نتایج     151
شبکه عصبی     151
محتوا     151
تاریخچه مقایسه شبکه عصبی     152
مغز، شبکه های عصبی و کامپیوترها     153
شبکه های عصبی و هوش مصنوعی     153
پیش زمینه     153
عملکردهای شبکه های عصبی طبیعی و مصنوعی     154
شبکه های عصبی و عصب شناسی     154
انواع مدل ها     155
تحقیقات اخیر     155
ساختار     155
انتقادات     156
نتیجه نهایی     157
منابع     158