تمرین پنجم

محمدعلی کیوان راد

کالس یادگیری ماشین

92-93ترم اول

بسم الله الرحمن الرحیم

2

5تمرین مس�ابقات از یکی در ت�ا داریم قص�د تم�رین این در

شرکت نماییم.kaggleهوش مصنوعی در سایت مسابقه مورد نظر: تشخیص ارقام دستنویس

: //:httpآدرس www.kaggle.com/c/digit-recognizer

هدف: نتیج�ه بای�د به�تر از نیمی از تیم ه�ای ش�رکت کنن�دهباشد.

جایزه: نمره اضافه برای نفر اول از افراد کالس ابت�دای ک�ار بخش�ی از داده ه�ا را ب�ه عن�وان تس�ت ج�دا در

کرده و نتایج خود را بر روی این داده بیان کنید. در ص�ورتی ک�ه زم�ان آم�وزش ب�ا هم�ه داده ه�ا زم�ان زی�ادی

الزم داش�ت می توانی�د از بخش�ی از این داده ه�ا )ح�داقل نمون�ه( ب�رای آم�وزش اس�تفاده ک�رده و فق�ط 5000ش�امل

داده هم�ه ب�ا را ش�بکه س�اختار به�ترین آخ�ر مرحل�ه در س�ایت در را آن نتیج�ه و داده ارس�ال kaggleآم�وزش

نمایید.

3

5تمرین این دادگ�ان را مش�ابه 1. ب�ه از تص�اویر مرب�وط تع�دادی

تصویر زیر رسم نمایید.

4

5تمرین یک ش�بکه عص�بی ب�ا دو الی�ه محاس�باتی )ی�ک الی�ه مخفی( را در نظ�ر 2.

ی�ه� می�ان�ی �را� مق�ادی�ر� مخ�تلفی ق�رار �دهی�د. بگ�یری�د. ت�ع�داد �گ�ره ه�ای� ال�دقت� ش�بکه و �زم�ان آم�و�زش را� �ب�ه ص�ورت� �نم�وداری �از تع�داد گ�ره ه�ا

رس�م کنید و� نم�ودار ر�ا تحلیل نما�یید. در ص�ورتی ک�ه ابع�اد تص�ویر ورودی زی�اد اس�ت، می توانی�د ب�ه کم�ک

ابعاد را کم کنید.imresizeدستور تع�داد الی�ه ه�ای می�انی ش�بکه را اف�زایش دهی�د)تع�داد گ�ره ه�ای ه�ر الی�ه 3.

ی�ه ه�ا �را �بررس�ی ت�اثیر� �اف�زایش� �تع�دا�د ال� ر�ا �ث�ا�بت د�ر نظ�ر� بگی�ری�د(. کنید.

.4early stopping در ش�بکه عص�بی چیس�ت؟ تع�داد گ�ره ه�ای الی�ه ی�ه را� ب�ه مق�دار� دلخ�وا�ه در نظ�ر بگیری�د م�ی�انی� ی�ک ش�ب�که ع�ص�بی د�و ال�

پارامت�ر تاث�یر� رو�ش max_failو� ��سپس� به م�ربوط� early stopping را �بررس�ی �کنی�د.� هم�چ�نین ی�ک ب�ار این� روش �را غ�یر فع�ال

ک�ر�ده� و� ش�ب�ک�ه ر�ا �آم�وزش� د�ه�ی�د. �تح�لی�ل خ�ود� ر�ا� از �آ�زم�ایش �ه�ای �انج�ام ش�ده ارائ�ه دهید.

5

5تمرین الگ�وریتم م�ورد اس�تفاده ب�رای آم�وزش ش�بکه عص�بی 5.

در نظ�ر گرفت�ه و س�پس ت�اثیر ممنتم و traingdرا ی�ادگیری را در دقت ش�بکه م�ورد بررس�ی ق�رار ن�رخ

دهید.های 6. trainscg(scaled conjugateالگوریتم

gradient)، trainoss(one step scant)، traingd(gradient descend) و

trainlm(levenberg-marquardt) ح�ل ب�رای را مس�ئله این تم�رین م�ورد اس�تفاده ق�رار داده و ک�ارایی

آن ها را با یکدیگر مقایسه نمایید.باتوج�ه ب�ه آزم�ایش ه�ای انج�ام ش�ده و ح�تی تغی�یرات 7.

آوری�د، می بوج�ود ش�بکه در خودت�ان ک�ه دیگ�ری معم�اری ی�ک ش�بکه عص�بی مناس�ب ب�رای ح�ل مس�ئله

ارائه دهید.

6

5تمرین در 8. موج�ود تس�ت ه�ای داده دقت بای�د ن�یز انته�ا در

را بی�ان نمایی�د. ب�رای این ک�ار بای�د دو Kaggleس�ایت تصویر زیر را در گزارش قرار دهید.