شبکه‌هاي عصبي مصنوعي
نيم‌سال اول 1402-1401
معرفی
تعداد واحد: 3 پیش‌نیاز: ندارد
نوع : نظری
زمان و محل کلاس:
شنبه و دوشنبه، ساعت 13:00 الی 15:00 حضوری در دانشکده علوم و فنون نوین (دوشنبه‌ها)
غیرحضوری در سامانه eLearn دانشگاه تهران (در صورت لزوم)
مدرس: دکتر هادی ویسی، دانشکده علوم و فنون نوین، دانشگاه تهران (پست الکترونیکی: h.veisi@ut.ac.ir)
دستیار آموزشی: –
شرح درس
اين درس شامل مروري بر مفاهيم پايه یادگیری ماشین، شبکه‌هاي عصبي مصنوعي و یادگیری عمیق، تاريخچه، انواع مختلف شبکه‌ها، الگوريتم‌هاي آموزش و به کارگيري شبکه‌هاي عصبي و مثال‌هايي از کاربردهاي آنها است. علاوه‌بر پرداختن به اصول نظري شبکه‌هاي عصبي مصنوعي و یادگیری عمیق، در اين درس فعاليت‌هاي تمريني با رويکرد کاربردي انجام مي‌شود.
منابع
1. 1. هادي ويسي، كبري مفاخري، سعيد باقري شورکي، مباني شبكه هاي عصبي: معماري، الگوريتم‌ها و كاربردها، انتشارات نص، پاييز 1388 (ترجمه Laurene Fausette, Fundamentals of neural networks, architecture, algorithms and application, Prentice Hall, 1994)
2. Ian Goodfellow, Yoshua Bengio, Aaron Courville, Deep Learning, MIT Press, 2016.
3. Christopher Bishop, Neural Networks for Pattern Recognition, Clarendon Press, Oxford, 1995.
Slides Download Links
معرفی درس
مقدمه‌ای بر یادگیری ماشین
فصل اول: مقدمه، تاریخچه و شبکه مک‌کلاچ-پیتز
شبکه‌های هب، پرستپترون و آدالاین
شبکه‌های باور عمیق
شبکه‌های عصبی پیچشی
شبکه‌های مولد مقابله‌ای
شبکه‌های عصبی بازگشتی
تمرین‌ها
Scores
Dear students, by having your student number, you can see the grades related to your homework and midterm exam.
Attempts have been made to calculate the scores with the utmost accuracy and fairness.
To view each section, click on its title, then Download.
نمره‌دهی
توضیح |
وزن |
عنوان |
| بعد از هر موضوع (وزن تمرین‌ها برابر نیست) | 50% | تمرین |
|
ممکن است بدون اعلام قبلی باشد |
5% |
آزمونک (کویز) |
|
پنجشنبه 1401/09/10 |
20% | امتحان میان‌ترم |
| از کل مطالب درس، مطابق برنامه دانشگاه | 25% | امتحان پایان‌ترم |
|
موضوع اختیاری، مرتبط با مطالب درس |
10% | پروژه (نمره اضافی) |
همان‌طور که مشخص است، بخش عمده نمره به تمرین‌ها و پروژه اختصاص داده شده است، لذا جهت موفقیت، همراهی دانشجو در طول ترم و یادگیری مستمر با انجام به موقع تمرین‌ها، لازم است.
سیاست‌های درس
1. تمرین: برای هر بخش (موضوع)، تعدادی تمرین در نظر گرفته شده است که باید در مهلت‌های مقرر شده تحویل شود. همفکری و همکاری در یافتن پاسخ سوال‌ها نه تنها بلامانع است، بلکه مورد حمایت نیز است، اما پاسخ هر دانشجو باید توسط خودش و به صورت مستقل نوشته شود و در صورتی که کپی بودن یکی یا چند مورد از پاسخ سوال‌های یک تمرین مشخص شود، کل نمره آن تمرین در نظر گرفته نمی‌شود. تمرین‌های دارای پیاده‌سازی، باید هم شامل کدها و هم شامل گزارش مربوطه باشد، ارسال گزارش یا کد به تنهایی، شامل نمره نمی‌شود.
ارسال پاسخ تمرین‌ها: تنها به صورت الکترونیکی و به ایمیل استاد درس است (ارسال به دستیار آموزشی لازم نیست). تحویل کاغذی نیاز نیست و در صورت نوشتن پاسخ تمرین‌های حل‌شدنی روی کاغذ، تصویر آن را ارسال کنید. همه مطالب و فایل‌های مرتبط با یک تمرین (کدها، گزارش، منابع و …) را در یک فایل فشرده شده ارسال کنید. فرمت نام‌گذاری فایل ارسالی به صورت زیر است (لطفا از ارسال فایل با اسم‌هایی مانند New Folder.rar یا HW.rar خودداری کنید):
ANN_Family_StNo_HW#.rar
که در آن Family بیانگر نام‌خانوادگی دانشجو (به لاتین و نه کلمه Family)، StNo شماره دانشجویی شما و # معادل شماره تمرین است. مثلا پاسخ تمرین شماره 1 توسط آقای احمدی با شماره دانشجویی 830496001 به صورت ANN_Ahmadi_830496001_HW1.rar است.
تاخیر در تحویل: تحویل به موقع پاسخ تمرین‌ها از موارد ضرروی است و پاسخ‌ها باید حداکثر تا ساعت 23:59 تاریخ تعیین شده ارسال شود. در صورت داشتن تاخیر در ارسال پاسخ‌ها، به ازای هر یک ساعت تاخیر (از یک ثانیه تا 60 دقیقه!) به میزان 1% از نمره آن کسر می‌شود.
2. آزمونک (کویز): از مطالب هر بخش، یکی یا دو سوال به صورت امتحان کوتاه (کویز) برگزار می‌شود که برگزاری آن ممکن است بدون اطلاع قبلی باشد. این آزمون‌ها در کلاس و به صورت حضوری است.
3. امتحان میان‌ترم و پایان‌ترم: امتحان میان‌ترم در تاریخ بیان شده و شامل کلیه مطالب تدریس شده تا آن تاریخ است و به صورت حضوری برگزار می‌شود. امتحان پایان‌ترم شامل کلیه مطالب تدریس شده (از جمله مطالب پوشش داده شده در میان ترم) است.
4. پروژه: برای درس، هر دانشجو می‌تواند (به صورت اختیاری) یک پروژه کاربردی جهت پیاده‌سازی انتخاب کرده و آن را در MATLAB/Python (یا سایر زبان‌های برنامه‌نویسی) پیاده کند. پروژه حتما باید دارای پیاده‌سازی باشد و کار مطالعاتی به تنهایی پروژه محسوب نمی‌شود. در پروژه نیاز به نوآوری نیست و انجام یک کار مشابه آنچه که قبلا در یک مقاله یا پایان‌نامه انجام شده است، مورد قبول است. دانشجویانی که علاقمند به انجام پروژه هستند باید تا تاریخ اعلام شده موضوع پروژه خود را اعلام کرده باشند؛ اعلام موضوع پس از آن مورد پذیرش نخواهد بود و به معنای عدم انجام پروژه است. در زمان تحویل پروژه، علاوه‌بر کد برنامه، گزارش مکتوبی (به صورت تایپ شده) از دانشجویان تحویل گرفته می‌شود که باید شامل نتایج بدست آمده و تحلیل‌های مربوطه باشد. هر دانشجو می‌تواند با هماهنگی استاد موضوع خود را انتخاب کرده و در طول ترم اعلام نماید. موضوع پروژه الزاما باید مرتبط با مطالب درس باشد. نمره این بخش برای دانشجویان به صورت نمره مازاد در نظر گرفته می‌شود.
5. حضور و مشارکت: با توجه به غیرحضوری بودن برخی کلاس‌ها و عدم‌تمرکز برخی از دانشجویان (علیرغم حضور ظاهری در جلسه)، و همچنین به منظور تشویق به حضور فعال و مشارکت در بحث‌ها و پاسخ‌دهی به سوالات دانشجویان در کلاس (حضوری و غیرحضوری)، این نمره در نظر گرفته شده است. این مساله در جلسات کلاس بررسی شده و جمع حضور فعال و مشارکت افراد در کلاس به عنوان نمره این شاخص در نظر گرفته می‌شود. این نمره مازاد بر 20 نمره استاندارد کلاس است.
6. بازنگری نمره‌ها و برگه‌ها: دانشجویانی که درخواست دارند هر کدام از نمرات آنها بازنگری شود و یا برگه‌های آزمون‌های خود را ببینند، در تاریخی که برای تحویل پروژه درس اعلام می‌شود (هفته بعد از آخرین امتحان پایان‌ترم)، می‌توانند این کار را انجام دهند. رسیدگی به همه موارد فقط در این تاریخ انجام می‌شود.
7. تقلب و کپی‌برداری: هدف درس تمرین و یادگیری مطالب موردنظر توسط دانشجو در طول ترم است و لازم است تمام مطالب مربوط به تمرین‌ها توسط خود دانشجو انجام شود. هرچند همکاری و همفکری دانشجویان در حل مسائل درس توصیه می‌شود، اما پاسخ نهایی سوال‌ها باید توسط هر دانشجو به صورت مستقل نوشته شود. در صورتی که در هر شرایطی مشخص شود که تمام یا بخشی از مطالب توسط دانشجو آماده نشده و کپی‌برداری مستقیم و بدون مرجع بوده است، تقلب تلقی شده و مطابق قوانین انضباطی دانشگاه با آن رفتار می‌شود.
سیلابس درس
- • مروري بر اصول و مفاهیم یادگیری ماشین
• مرور تعاریف، مفاهیم و تاریخچه شبکه‌های عصبی مصنوعی
• معرفی شبکه پایه مک‌کلاچ-پیتز و هب: ساختار، الگوریتم، کاربردها و مثال
• شبکه‌های پرسپترون و آدالاین: ساختار، الگوریتم، کاربردها و مثال
• شبکه‌های عصبی پس‌انتشار (پرسپترون چند لایه): ساختار، آموزش و کاربردها
o روش‌های به‌روز کردن وزن‌ها (آموزش)
o تقریب‌زننده جهانی
• شبکه‌های عصبی عمیق: مروری بر مبانی و روش‌های رایج
o شبکه خودرمزگذار (AE)
o شبکه عصبی پیچشی (CNN)
o شبکه مولد مقابله‌ای (GAN)
• شبکه‌های عصبی بازگشتی
o المان و جردن
o حافظه کوتاه مدت ماندگار (LSTM): یک طرفه و دوطرفه و GRU
o مفهوم مکانیزم توجه
• شبکه‌های مبدل (Transformers)
• ساير شبکه‌ها
o شبکه نگاشت‌هاي خودسازمانده کوهونن (SOM): ساختار، الگوريتم آموزش، کاربردها و مثال‌ها
o شبکه تابع پايه شعاعي (RBF)
o شبکه عصبي احتمالاتي (PNN)
o شبکه همبستگي آبشاري
o شبکه‌هاي مبتني بر نظريه نوسان وفقي (ART) -