چكيده
اين گزارش در دو بخش عمده سازمان يافته است:
در بخش اول اين گزارش مطالعاتي سعي داريم تا روشهاي عمده ”يادگيري رقابتي“ كه در چند سال اخير بسط و گسترش يافتهاند را بدقت بررسي كنيم، از هر كدام مثالي مطرح كنيم و آنها را با يكديگر مقايسه كنيم. براي اينكه امكان مقايسه روشهاي مختلف فراهم شود بايستي از مثالهاي يكساني استفاده كرد تا عملكرد و ميزان كارآيي هر روش بهتر و ملموستر مشخص شود. به اين منظور براي تهيه تمامي مثالهاي بخش اول اين گزارش از نرم افزار يكساني استفاده ميكنيم تا امكان مقايسه فراهم شود. در اين بخش انواع روشهاي يادگيري رقابتي را به 3 دسته عمده تقسيم ميكنيم و خصوصيات هر دسته را به تفكيك و با جزئيات بيان ميكنيم.
در بخش دوم به سراغ يكي از روشهاي يادگيري رقابتي بنام ”نقشه خودسامانده رشديابنده“ (GSOM) كه در بخش اول توضيح داديم و اخيرا بسيار مورد توجه قرار گرفته ميرويم و ضمن توضيح بيشتر آن به ارائه مثالهاي متنوعتري از آن ميپردازيم. البته روش GSOM خود داراي انواع متنوعي است و لذا در بخش دوم تعدادي از اين روشها را نيز بيان ميكنيم.
فهرست مطالب
بخش اول: يادگيري رقابتي 6
فصل 1: مقدمه 6
فصل 2: خصوصيات مشترك و قرارداهاي نوشتاري- 7
فصل 3: اهداف يادگيري رقابتي- 10
1-3 حداقل کردن خطا 10
2-3 حداکثر کردن آنتروپي- 11
3-3 نگاشت ويژگي- 12
4-3 اهداف ديگر 12
فصل 4: يادگيري رقابتي سخت- 13
1-4 بروزرساني دستهاي: LBG(Batch Update: LBG)14
2-4 بروزرساني رويخط: الگوريتم پايه (On-line Update: Basic Algorithm)16
3-4 k-means16
4-4 نرخ يادگيري نزولي نمايي (Exponentially Decaying Learning Rate)18
فصل 5: يادگيري رقابتي نرم بدون ابعاد ثابت شبکه 21
1-5 گاز عصبي (Neural Gas)21
2-5 يادگيري رقابتي هب (Competative Hebbian Learning)23
3-5 گاز عصبي رشديابنده (Growing Neural Gas)24
4-5 روشهاي ديگر 27
فصل 6: يادگيري رقابتي نرم با ابعاد ثابت شبکه 28
1-6 نقشههاي ويژگي خودسامانده(Self-Organizing Feature Maps)28
2-6 ساختارهاي سلولي رشديابنده (Growing Cell Structures)30
3-6 شبکه توري رشديابنده (Growing Grid)33
4-6 روشهاي ديگر 38
بخش دوم: نقشههاي خودسامانده رشديابنده 39
فصل 7: معماري عصبي خودمولد براي تحليل داده 41
1-7 نسخهاي از الگوريتم نقشه خودسامانده رشديابنده 41
2-7 مدلهاي ديگر GSOM- 43
فصل 8: الگوريتم GSOMبراي فضاهاي ابرمکعبي خروجي- 46
1-8 الگوريتم GSOMبراي رشد در فضاي ابرمکعبي- 47
2-8 مثالهاي واقعي- 50
فصل 9: مثالهايي از نقشههاي خودسامانده رشديابنده 53
1-9 مثال اول: دستهبندي الگوها 53
2-9 مثال دوم: نمايش دادهها 56
3-9 نتيجه 58
مراجع- 60
مقدمه
در زمينه ”يادگيري رقابتي“ مدلهاي نسبتا زيادي وجود دارند که اهداف مشابهي دارند ولي روش کار هر کدام با بقيه داراي تفاوتهايي ميباشد. هدف مشترک همه اين الگوريتمهاي يادگيري، توزيع تعداد معيني بردار در فضاي با ابعاد نسبتا بالا است. توزيع اين بردارها بايستي (به نحوي) بيانگر توزيع سيگنالهاي ورودي باشد.
در اين بخش سعي داريم تا تعدادي از روشهاي وابسته به يادگيري رقابتي را مرور کنيم. براي اينکه مقايسهي تمامي روشهايي که آنها را ذکر مي کنيم آسان باشد، از اصطلاحات و واژگان مشترکي استفاده ميکنيم. در ضمن پس از معرفي هر يك از روشهاي يادگيري رقابتي نيز مثالي از نحوه عملكرد آن روش ارائه ميكنيم. براي اينكه بتوانيم به يك مقايسه كمي در ميان روش هاي يادگيري رقابتي برسيم، از مثالهاي يكساني استفاده ميكنيم. تمامي مثالهاي ارائه شده در اين گزارش توسط بسته نرمافزاري DemoGNG v1.5 [1] تهيه شده است.
بر طبق تقسيمبندي كه Fritzkeانجام داده است، ميتوان روشهاي يادگيري رقابتي را به 2 گروه اصلي تقسيم كرد: الف) يادگيري رقابتي سخت و ب) يادگيري رقابتي نرم كه مبناي اين تقسيم بندي تعداد واحدهايي است كه پس از هر مرحله از عمليات بسمت بردار ورودي وفق مييابند.
اين بخش از گزارش داراي ساختار زير است: در فصل 2 اصطلاحات و واژگان مورد نياز و نيز خصوصيات مشترك ميان انواع روش هاي مرتبط با يادگيري رقابتي آمده است. در فصل 3 اهداف مشترك انواع روش هاي يادگيري رقابتي آمده است. فصل 4 اولين نوع از يادگيري رقابتي يعني ”يادگيري رقابتي سخت“ يعني مدلهايي كه تنها بردار برنده در ميان همه سيگنالهاي ورودي وفق مييابد، را بيان ميكند. در فصل 5 و 6 ”يادگيري رقابتي نرم“ توضيح داده ميشود كه در اين مدلها علاوه بر بردار برنده تعدادي از واحدهاي ديگر شبكه نيز وفق مييابند. در فصل 5 به مدلهايي پرداخته مي شود كه در آنها شبكه داراي ابعاد ثابتي نيست و فصل 6 نيز مدلهايي را توضيح ميدهد كه داراي ابعاد شبكه ثابتي هستند.