نظریه تخمین مدرن رو می‌شه در قلب خیلی از سامانه‌های پردازش سیگنال که برای استخراج اطلاعات طراحی شدن، پیدا کرد. سامانه‌هایی مثل رادار، سونار، پردازش صوت، پردازش تصویر، مهندسی پزشکی، مخابرات، کنترل، لرزه‌شناسی و کلی سامانه دیگه. نقطه اشتراک همه این سامانه‌ها اینه که به تخمین...
معرفی دوره تئوری تخمین
نظریه تخمین مدرن رو می‌شه در قلب خیلی از سامانه‌های پردازش سیگنال که برای استخراج اطلاعات طراحی شدن، پیدا کرد. سامانه‌هایی مثل رادار، سونار، پردازش صوت، پردازش تصویر، مهندسی پزشکی، مخابرات، کنترل، لرزه‌شناسی و کلی سامانه دیگه. نقطه اشتراک همه این سامانه‌ها اینه که به تخمین مقدار گروهی از پارامترها نیاز دارن.
چرا این دوره؟
بذارید با چند مثال ملموس شروع کنیم تا بهتر متوجه بشید چرا تئوری تخمین اینقدر مهمه:
سونار: کشتی‌ها برای تخمین جهت حرکت زیردریایی دشمن، آرایه زیرآبی از حسگرها رو با خودشون می‌کشن. این حسگرها هیدروفون نام دارن. تأخیر زمانی بین سیگنال‌های دریافتی هیدروفون‌های مجاور می‌تونه برای پیدا کردن جهت حرکت زیردریایی استفاده بشه. اما مشکل اینجاست که سیگنال‌ها آمیخته به نویزن — نویز ناشی از جریان آب، ادوات الکترونیکی، ادوات کشتی و غیره.
مهندسی پزشکی: فرض کنید می‌خوایم نرخ ضربان قلب یک بیمار رو تعیین کنیم. سیگنال ضربان قلب آغشته به نویز الکترونیکی، نویز حسگر و اغتشاشات حرکتی بیمار هست.
مخابرات: وقتی می‌خوایم سطح نویز خطوط تلفن رو تخمین بزنیم تا میزان بهره تقویت‌کننده مشخص بشه، به تکنیک‌های علم تخمین نیاز داریم.
اقتصاد: تخمین شاخص بازار بورس.
مهندسی قابلیت اطمینان: تخمین میانگین زمان بین دو خرابی سامانه.
بیمه‌سنجی: تخمین طول عمر انسان‌های مذکر در یک کشور.
تو همه این مثال‌ها، به تکنیک‌هایی نیاز داریم که تو این درس یاد می‌گیریم.
تئوری تخمین چیه؟
نظریه تخمین (Estimation Theory) یکی از شاخه‌های علم آماره که با به‌کارگیری مشاهدات و پارامترهای دیگه، تخمین یا برآورد رو انجام می‌ده. تو تئوری تخمین با استفاده از اندازه‌گیری و مشاهدات می‌شه به حدسیات هوشمندانه رسید. مشاهدات و اندازه‌گیری به‌عنوان یک پارامتر مثل X در نظر گرفته می‌شن و با استفاده از داده‌ها باید به تخمین برسیم.
تئوری تخمین تو خیلی از برنامه‌های کنترلی، ارتباطی و حیطه‌های دیگه کاربرد داره. تو این تئوری، پارامترها معمولاً به‌صورت متغیر تصادفی در نظر گرفته می‌شن و به‌صورت تابعی از متغیرهای شناخته‌شده محاسبه می‌شن. اندازه‌گیری‌ها معمولاً نویزی هستن و مشاهدات ترکیبی از تخمین و نویزن. تو این شاخه، تابعی با عنوان تابع برآوردگر وجود داره که تابعی از تعدادی مشاهدات تصادفیه.
یه مثال ساده: تو تخمین مقاومت موتور، جریان مستقیم ثابته و بعد از اندازه‌گیری‌های تجربی می‌شه میزان دور موتور رو تخمین زد.
چه چیزی یاد می‌گیرم؟
تو این دوره با مهم‌ترین تخمینگرهای کلاسیک آشنا می‌شید:
برآوردگر MVUE و صورت قضیه کرامر رائو تو حالت اسکالر و اثباتش، و همچنین حالت برداری
مدل‌های خطی با نویز گوسی سفید جمع‌شونده و مدل‌های خطی در حضور نویز رنگی
برآوردگر BLUE (برآوردگر خطی بدون بایاس با کمترین واریانس)، قضیه گاوس-مارکوف و مروری بر بهینه‌سازی
برآوردگر درست‌نمایی بیشینه (Maximum Likelihood) و اثبات بهینگی مجانبی‌اش، به‌همراه نمونه‌ای از کاربرد در رادار
تخمین کمترین مربعات (Least Squares) و اثبات فرمول بازگشتی‌اش، با مثال فیلتر کردن نویز ۶۰ هرتز برق
مثال‌های عملی مثل حلقه قفل فاز و استخراج ضربان قلب جنین از روی مخلوط ضربان قلب جنین و مادر
تخمین بیزی و توزیع پیشین مزدوج، مدل خطی بیزی در حضور نویز گوسی
تخمین MAP و تخمین maximum likelihood بیزی
تخمین بیزی خطی (اسکالر و برداری) و فیلتر وینر (Wiener filtering)
فیلتر کالمن (Kalman filtering) در حالت برداری، فیلتر کالمن توسعه‌یافته و فیلتر کالمن بی‌بو
فیلتر کالمن؛ ستاره این دوره ⭐
فیلتر کالمن که به‌عنوان تخمین خطی مرتبه دوم هم شناخته می‌شه، الگوریتمیه که با استفاده از سیستم پویا، مجموعه‌ای از اندازه‌گیری‌ها و خطا رو در طول زمان اندازه‌گیری می‌کنه. این فیلتر می‌تونه تخمین دقیق‌تری نسبت به خیلی از تئوری‌های تخمین دیگه، بر پایه استنباط بیزی و تخمین توزیع احتمال مشترک یک متغیر تصادفی، ارائه بده.
پایه‌گذار این فیلتر رودولف کالمنه و اسمش هم از اون گرفته شده. فیلتر کالمن کاربردهای گسترده‌ای داره:
مسیریابی وسایل نقلیه، مخصوصاً هواپیما و فضاپیما
اقتصادسنجی، پردازش سیگنال و سری‌های زمانی
برنامه‌ریزی و پایش ربات‌ها
مدل‌سازی سیستم عصبی
این فیلتر با استفاده از تأخیر زمانی میان ارسال فرمان‌ها و دریافت پاسخ از اون‌ها، تخمین در حالت‌های مختلف سیستم رو ممکن می‌سازه.
این دوره به چه کسی می‌خوره؟
درس نظریه تخمین حدود ۳۰ ساعت شامل ۲۰ جلسه یک‌ساعت‌ونیمه‌ست. این درس برای دانشجویان رشته برق، خصوصاً گرایش‌های کنترل، مخابرات و مهندسی پزشکی مفیده. علاوه بر این، دانشجویان مهندسی مکانیک که تو زمینه ناوبری یا کنترل فعالیت دارن هم بخش زیادی از مطالب این درس، مخصوصاً بخش دومش، براشون کاربردی خواهد بود.
تخمین پارامتر موضوعیه که به‌طور استاندارد تو خیلی از کتاب‌های آماری پیدا می‌شه. این کتاب‌ها گستره بزرگی رو شامل می‌شن — از مباحث نظری آماری که معمولاً تو کتاب‌های آماردان‌ها دیده می‌شه، تا موضوعات کاربردی. درس حاضر تلاشی برای ایجاد تعادل بین این دو غایته.
مخاطبین اصلی این درس، کسانی هستن که دنبال طراحی و پیاده‌سازی الگوریتم‌های پردازش سیگنالن. به همین دلیل تمرکز اصلی روی به‌دست آوردن الگوریتم‌های تخمین بهینه‌ایه که روی یک کامپیوتر دیجیتال قابل پیاده‌سازی باشن.
پیش‌نیازها و مرجع
دروس آمار و تجزیه‌وتحلیل سیستم‌های دوره کارشناسی، پیش‌نیاز این درس هستن.
مرجع اصلی این دوره هم کتاب معروف زیره:
Steven Kay, Fundamentals of Statistical Signal Processing: Estimation Theory
