يادگيري رقابتي گزارش تحقيقاتي درس يادگيري ماشين

چكيده

 

اين گزارش در دو بخش عمده سازمان يافته است:

در بخش اول اين گزارش مطالعاتي سعي داريم تا روش­هاي عمده ”يادگيري رقابتي“ كه در چند سال اخير بسط و گسترش يافته­اند را بدقت بررسي كنيم، از هر كدام مثالي مطرح كنيم و آنها را با يكديگر مقايسه كنيم. براي اينكه امكان مقايسه روش­هاي مختلف فراهم شود بايستي از مثال­هاي يكساني استفاده كرد تا عملكرد و ميزان كارآيي هر روش بهتر و ملموس­تر مشخص شود. به اين منظور براي تهيه تمامي مثال­هاي بخش اول اين گزارش از نرم ­افزار يكساني استفاده مي­كنيم تا امكان مقايسه فراهم شود. در اين بخش انواع روش­هاي يادگيري رقابتي را به 3 دسته عمده تقسيم مي­كنيم و خصوصيات هر دسته را به تفكيك و با جزئيات بيان مي­كنيم.

در بخش دوم به سراغ يكي از روش­هاي يادگيري رقابتي بنام ”نقشه خودسامانده رشديابنده“ (GSOM) كه در بخش اول توضيح داديم و اخيرا بسيار مورد توجه قرار گرفته مي­رويم و ضمن توضيح بيشتر آن به ارائه مثال­هاي متنوع­تري از آن مي­پردازيم. البته روش GSOM خود داراي انواع متنوعي است و لذا در بخش دوم تعدادي از اين روش­ها را نيز بيان مي­كنيم.

 

فهرست مطالب

بخش اول: يادگيري رقابتي         6

فصل 1: مقدمه        6

فصل 2: خصوصيات مشترك و قرارداهاي نوشتاري-              7

فصل 3: اهداف يادگيري رقابتي-                   10

1-3  حداقل کردن خطا                   10

2-3  حداکثر کردن آنتروپي-              11

3-3  نگاشت ويژگي-             12

4-3  اهداف ديگر                           12

فصل 4: يادگيري رقابتي سخت-                   13

1-4  بروزرساني دسته­اي: LBG(Batch Update: LBG)14

2-4  بروزرساني روي­خط: الگوريتم پايه (On-line Update: Basic Algorithm)16

3-4  k-means16

4-4  نرخ يادگيري نزولي نمايي (Exponentially Decaying Learning Rate)18

فصل 5: يادگيري رقابتي نرم بدون ابعاد ثابت شبکه                21

1-5  گاز عصبي (Neural Gas)21

2-5  يادگيري رقابتي هب (Competative Hebbian Learning)23

3-5  گاز عصبي رشديابنده (Growing Neural Gas)24

4-5  روش­هاي ديگر              27

 

فصل 6: يادگيري رقابتي نرم با ابعاد ثابت شبکه              28

1-6  نقشه­هاي ويژگي خودسامانده(Self-Organizing Feature Maps)28

2-6  ساختارهاي سلولي رشديابنده (Growing Cell Structures)30

3-6  شبکه توري رشديابنده (Growing Grid)33

4-6  روش­هاي ديگر                  38

بخش دوم: نقشه­هاي خودسامانده رشديابنده                 39

 

فصل 7: معماري عصبي خودمولد براي تحليل داده             41

1-7 نسخه­اي از الگوريتم نقشه خودسامانده رشديابنده            41

2-7 مدل­هاي ديگر GSOM- 43

 

فصل 8: الگوريتم GSOMبراي فضاهاي ابرمکعبي خروجي-                   46

1-8 الگوريتم GSOMبراي رشد در فضاي ابرمکعبي-              47

2-8 مثال­هاي واقعي-               50

 

فصل 9: مثال­هايي از نقشه­هاي خودسامانده رشديابنده                53

1-9  مثال اول: دسته­بندي الگوها                   53

2-9  مثال دوم: نمايش داده­ها              56

3-9  نتيجه             58

مراجع-           60


 

مقدمه

 

در زمينه ”يادگيري رقابتي“ مدل­هاي نسبتا زيادي وجود دارند که اهداف مشابهي دارند ولي روش کار هر کدام با بقيه داراي تفاوت­هايي مي­باشد. هدف مشترک همه اين الگوريتم­هاي يادگيري، توزيع تعداد معيني بردار در فضاي با ابعاد نسبتا بالا است. توزيع اين بردارها بايستي (به نحوي) بيانگر توزيع سيگنال­هاي ورودي باشد.

در اين بخش سعي داريم تا تعدادي از روش­هاي وابسته به يادگيري رقابتي را مرور کنيم. براي اينکه مقايسه­ي تمامي روش­هايي که آنها را ذکر مي کنيم آسان باشد، از اصطلاحات و واژگان مشترکي استفاده مي­کنيم. در ضمن پس از معرفي هر يك از روش­هاي يادگيري رقابتي نيز مثالي از نحوه عملكرد آن روش ارائه مي­كنيم. براي اينكه بتوانيم به يك مقايسه كمي در ميان روش هاي يادگيري رقابتي برسيم، از مثال­هاي يكساني استفاده مي­كنيم. تمامي مثال­هاي ارائه شده در اين گزارش توسط بسته نرم­افزاري DemoGNG v1.5 ‌[1] تهيه شده است.

بر طبق تقسيم­بندي كه Fritzkeانجام داده است، مي­توان روش­هاي يادگيري رقابتي را به 2 گروه اصلي تقسيم كرد: الف) يادگيري رقابتي سخت و ب) يادگيري رقابتي نرم كه مبناي اين تقسيم بندي تعداد واحدهايي است كه پس از هر مرحله از عمليات بسمت بردار ورودي وفق مي­يابند.

اين بخش از گزارش داراي ساختار زير است: در فصل 2 اصطلاحات و واژگان مورد نياز و نيز خصوصيات مشترك ميان انواع روش هاي مرتبط با يادگيري رقابتي آمده است. در فصل 3 اهداف مشترك انواع روش هاي يادگيري رقابتي آمده است. فصل 4 اولين نوع از يادگيري رقابتي يعني ”يادگيري رقابتي سخت“ يعني مدل­هايي كه تنها بردار برنده در ميان همه سيگنال­هاي ورودي وفق مي­يابد، را بيان مي­كند. در فصل 5 و 6 ”يادگيري رقابتي نرم“ توضيح داده مي­شود كه در اين مدل­ها علاوه بر بردار برنده تعدادي از واحدهاي ديگر شبكه نيز وفق مي­يابند. در فصل 5 به مدل­هايي پرداخته مي شود كه در آنها شبكه داراي ابعاد ثابتي نيست و فصل 6 نيز مدل­هايي را توضيح مي­دهد كه داراي ابعاد شبكه ثابتي هستند.

 

لينك دانلود

دیدگاه‌ خود را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *