آموزش مقدماتی کدنویسی Transformers (مبدل‌ها) یکی از اون دوره‌هایی هست که اگه بخوای جدی وارد دنیای یادگیری عمیق و پردازش زبان طبیعی بشی، حسابی به کارت میاد. 😊
درباره این دوره
این دوره می‌خواد شما رو با کلیت مبدل‌ها (Transformers) آشنا کنه و کاری کنه که بتونید برای پروژه‌های خودتون کدنویسی انجام ...
آموزش مقدماتی کدنویسی Transformers (مبدل‌ها) یکی از اون دوره‌هایی هست که اگه بخوای جدی وارد دنیای یادگیری عمیق و پردازش زبان طبیعی بشی، حسابی به کارت میاد. 😊
درباره این دوره
این دوره می‌خواد شما رو با کلیت مبدل‌ها (Transformers) آشنا کنه و کاری کنه که بتونید برای پروژه‌های خودتون کدنویسی انجام بدید. تئوری موضوع به‌صورت کلی بیان شده و تمرکز اصلی روی اجرای کدهاست. اگه دنبال یه دوره مقدماتی برای اجرای پروژه‌های پرتکرار هستید، این دوره خیلی به کارتون میاد و به‌راحتی می‌تونید بعد از آشنایی با مباحث، پروژه خودتون رو پیاده‌سازی کنید.
فریم‌ورک Pytorch برای کدنویسی استفاده شده و از کتابخانه Huggingface برای آموزش مدل‌ها بهره گرفته شده. دیتاست‌ها و مدل‌ها همگی از Huggingface تأمین می‌شن.
توی این دوره چی یاد می‌گیرید؟
آشنایی با Pipelineهای Huggingface برای اجرای خودکار مدل‌های آماده، بدون نیاز به آموزش مجدد
آموزش مدل‌های موجود به دو روش Feature extraction و Fine tuning در قالب طبقه‌بندی متن (Text classification)
آشنایی کامل با کدنویسی جزء‌به‌جزء بخش‌های مختلف مبدل‌ها
پیاده‌سازی و آموزش یک مدل برای تشخیص هویت کلمه (NER)
کار با مدل‌های تولید متن و تنظیم اون‌ها برای بهبود عملکرد
آشنایی با مدل‌های خلاصه‌سازی متن و معیارهای ارزیابی متن‌های تولید شده مثل Rouge
مشخصات کلی دوره
عنوان
جزئیات
نام دوره
آموزش مقدماتی کدنویسی Transformers (مبدل‌ها)
مدرس
حسن بنارضوی
مدت زمان
حدود ۶ ساعت
سطح
مقدماتی
پیش‌نیاز
آشنایی پایه با پایتون و یادگیری ماشین
وضعیت قیمت
تخفیف ویژه
ترنسفورمر در یادگیری عمیق چه کاربردی داره؟
ترنسفورمرها یک معماری انعطاف‌پذیر و کارآمد برای پردازش انواع مختلف داده‌ها مثل متن، تصاویر و سیگنال‌ها هستن. توی حوزه پردازش زبان طبیعی (NLP)، مدل‌های پیش‌آموزش‌شده ترنسفورمر مثل BERT، GPT، T5 و XLNet عملکرد فوق‌العاده‌ای توی وظایفی مثل درک زبان، تولید متن، ترجمه ماشینی و پاسخ‌گویی به سؤالات داشتن. این مدل‌ها با آموزش روی حجم عظیمی از داده‌های متنی، توانایی درک معانی پنهان و ارتباطات بین جملات رو به دست میارن.
توی بینایی کامپیوتری هم مدل‌هایی مثل Vision Transformer (ViT) از همین معماری برای تشخیص، طبقه‌بندی و استخراج اشیاء در تصاویر استفاده می‌کنن. این مدل‌ها می‌تونن ارتباطات پیچیده بین پیکسل‌های تصویر رو درک کرده و الگوهای مهم رو شناسایی کنن.
کراس و Vision Transformer چیه؟
Vision Transformer یه مدل یادگیری ماشینه که برای کاربردهای بینایی ماشین طراحی شده. ViT تصویر ورودی رو به برش‌هایی تقسیم می‌کنه و هر برش رو به یه بردار تبدیل می‌کنه، بعد این بردارها توسط یه کدگذار ترنسفورمر پردازش می‌شن. این فرآیند شبیه تبدیل کلمات به بردارها در پردازش زبان طبیعیه. ViT توی تشخیص تصویر، بخش‌بندی تصویر و رانندگی خودکار کاربرد داره. این دانش توی چند سال اخیر خیلی پرطرفدار شده و افراد زیادی علاقه‌مند به یادگیری تنسورفلو و کراس شدن.
آیا Prompt Engineering برای کار با ترنسفورمر لازمه؟
جواب این سؤال بستگی به کاربرد و سناریوی مورد نظر داره. Prompt engineering یه تکنیک مهم در استفاده از مدل‌های زبانی بزرگ مبتنی بر ترنسفورمر مثل GPT-3 و BERT هست. این تکنیک شامل طراحی و بهینه‌سازی ورودی‌های متنی (prompts) برای راهنمایی مدل به سمت خروجی‌های مورد نظره.
توی بعضی موارد، یادگیری prompt engineering ضروریه تا بتونید از مدل‌های زبانی بزرگ درست بهره ببرید. مثلاً اگه بخواید یه مدل رو برای تولید متن توی حوزه خاصی مثل پزشکی یا حقوقی آموزش بدید، طراحی promptهای مناسب نقش مهمی توی عملکرد مدل ایفا می‌کنه. ولی توی کاربردهایی مثل ترجمه ماشینی یا درک زبان طبیعی، نیاز به prompt engineering کمتره.
یادگیری ترنسفورمر سخت هست؟
یادگیری ترنسفورمرها چالش‌های خاص خودش رو داره، اما با تلاش و پشتکار می‌شه بر این چالش‌ها غلبه کرد. برای کسایی که توی یادگیری ماشین و پردازش زبان طبیعی تازه‌کار هستن، یادگیری این معماری پیچیده‌تر از مدل‌های قبلی ممکنه اولش سخت به نظر برسه. بااین‌حال، با وجود منابع آموزشی فراوان، کتاب‌ها، کدهای آماده و دوره‌های مقدماتی مثل همین دوره، یادگیری ترنسفورمرها راحت‌تر شده.
نکته مهم اینه که یادگیری ترنسفورمرها نیازمند تمرین و پروژه‌های عملیه. با کار روی پروژه‌های واقعی و حل مسائل متنوع، می‌تونید مهارت‌هاتون رو توی این زمینه تقویت کنید. پس اگهچه اولش چالش‌برانگیز به نظر میاد، با پشتکار و تمرین می‌تونید این مهارت ارزشمند رو به دست بیارید.
بازار کار و آینده یادگیری Transformers
افرادی که توی این حوزه مسلط بشن، می‌تونن توی طیف گسترده‌ای از مشاغل مرتبط با علوم داده فعالیت کنن:
مهندس یادگیری ماشین: طراحی، توسعه و پیاده‌سازی مدل‌های Transformers برای حل مسائل مختلف توی حوزه‌هایی مثل پردازش زبان طبیعی، بینایی کامپیوتر و رباتیک
محقق علوم داده: انجام تحقیقات در زمینه Transformers و توسعه مدل‌های جدید و کارآمد
مهندس داده: جمع‌آوری، آماده‌سازی و پردازش داده‌های مورد نیاز برای آموزش و استفاده از مدل‌های Transformers
توسعه‌دهنده نرم‌افزار: توسعه ابزارها و کتابخانه‌هایی برای تسهیل استفاده از Transformers توی پروژه‌های مختلف
مشاور علوم داده: ارائه مشاوره به شرکت‌ها در زمینه استفاده از Transformers برای حل چالش‌های کسبوکار
با توجه به نوآوری‌های مداوم توی حوزه Transformers و گسترش کاربردهایش، پیش‌بینی می‌شه که تقاضا برای متخصصان این حوزه توی آینده به‌طور قابل‌توجهی افزایش پیدا کنه. به همین دلیل یادگیری مقدماتی Transformers برای ورود به این بازار کار اهمیت ویژه‌ای داره.
معرفی دوره آموزش مقدماتی Transformers
مکتب خونه برای یادگیری ترنسفورمر، دوره آموزش مقدماتی Transformers رو برگزار می‌کنه. مدرس این دوره حسن بنارضوی هست که بیش از ۷ سال سابقه فعالیت توی زمینه هوش مصنوعی، بینایی ماشین و پردازش متن داره. این دوره حدود ۶ ساعت طول می‌کشه و توش به تمامی مباحث پایه و اولیه ترنسفورمر در یادگیری عمیق پرداخته شده. سه جلسه از این آموزش به‌صورت رایگان در دست
