مهندس پردازش زبان طبیعی (NLP)

این بخش به مبانی زبان‌شناسی و تکنیک‌های ضروری برای پردازش متن اختصاص دارد. دانشجویان با اصول نحو، معناشناسی، ساخت‌واژه و کاربردشناسی آشنا می‌شوند و روش‌های نرمال‌سازی متن، توکن‌سازی، ریشه‌یابی و لِماتیزه کردن را یاد می‌گیرند. همچنین مدل‌های زبانی سنتی مانند n-گرم و مدل‌های مارکوف به تفصیل توضیح داده می‌شوند.

در این بخش، الگوریتم‌های یادگیری ماشین که در NLP استفاده می‌شوند، مورد بررسی قرار می‌گیرند. دانشجویان اصول یادگیری نظارت‌شده، استخراج ویژگی‌ها و الگوریتم‌های رایج مانند SVM و Naive Bayes را یاد می‌گیرند. همچنین مفاهیم یادگیری بدون نظارت، مانند خوشه‌بندی و مدل‌سازی موضوعی با استفاده از LDA، و تعبیه کلمات با روش‌هایی نظیر Word2Vec و GloVe آموزش داده می‌شود. در ادامه، معرفی شبکه‌های عصبی و مدل‌های پیشرفته مانند RNN، LSTM و GRU نیز ارائه می‌شود.

این بخش به مطالعه دقیق معماری مدل‌های ترانسفورمر و مکانیزم‌های توجه می‌پردازد. دانشجویان نحوه استفاده از مدل‌های از پیش‌آموزش‌دیده مانند BERT، GPT، RoBERTa و T5 را برای انجام وظایف مختلف NLP فرا می‌گیرند. همچنین تکنیک‌های بهینه‌سازی و تنظیم دقیق مدل‌ها برای داده‌های خاص آموزش داده می‌شود.

این درس به درک عمیق مدل‌های زبانی بزرگ، معماری و روش‌های آموزشی آن‌ها می‌پردازد. دانشجویان مراحل آماده‌سازی داده، تنظیم مدل و محاسبات مورد نیاز برای آموزش مدل‌های بزرگ را یاد می‌گیرند. علاوه بر این، تکنیک‌های پیشرفته بهینه‌سازی و تنظیم دقیق مدل‌ها برای کار با مجموعه داده‌های بزرگ نیز آموزش داده می‌شود.

این بخش بر پیاده‌سازی سیستم‌های دسته‌بندی متن با استفاده از مدل‌های از پیش‌آموزش‌دیده تمرکز دارد. دانشجویان یاد می‌گیرند چگونه سیستم‌های شناسایی موجودیت‌های نام‌دار (NER) را برای حوزه‌های خاص طراحی و تنظیم کنند و از روش‌های پیشرفته برای تحلیل احساسات بهره ببرند. همچنین کاربردهای ترجمه ماشینی با استفاده از مدل‌های ترانسفورمر و طراحی سیستم‌های پرسش و پاسخ با مدل‌های LLM بررسی می‌شود.

در این درس، دانشجویان به صورت عملی با کتابخانه‌ها و چارچوب‌های NLP مانند NLTK، SpaCy، و Transformers از Hugging Face کار می‌کنند. همچنین محیط‌های توسعه مانند Jupyter Notebooks، Colab و IDEها تنظیم و مورد استفاده قرار می‌گیرند. در بخش دیگر، نحوه استقرار مدل‌ها با استفاده از Flask، FastAPI، Docker و Kubernetes برای مقیاس‌پذیری آموزش داده می‌شود.

این بخش بر تکنیک‌های جمع‌آوری، پاک‌سازی و پیش‌پردازش داده‌های متنی متمرکز است. دانشجویان یاد می‌گیرند چگونه امنیت و حریم خصوصی داده‌ها را در پروژه‌های NLP تضمین کنند. همچنین موضوعات اخلاقی مانند شناسایی سوگیری‌های موجود در مدل‌های NLP و به‌کارگیری روش‌های هوش مصنوعی منصفانه و مسئولانه مورد بحث قرار می‌گیرد.

در این بخش، دانشجویان یک مسئله واقعی در حوزه NLP را انتخاب و برای حل آن یک راه‌حل جامع طراحی می‌کنند. آن‌ها با توسعه، استقرار و بهینه‌سازی راه‌حل خود، مهارت‌های عملی خود را به کار می‌گیرند. در پایان، نتایج پروژه‌های خود را به هم‌کلاسی‌ها و اساتید ارائه می‌کنند.

در این بخش، استفاده از زبان برنامه‌نویسی پایتون و چارچوب‌های هوش مصنوعی مانند TensorFlow و PyTorch آموزش داده می‌شود. همچنین کتابخانه‌های NLP نظیر NLTK، SpaCy و Hugging Face معرفی می‌شوند. دانشجویان با ابزارهای مدیریت داده مانند Pandas و NumPy کار می‌کنند و از ابزارهای توسعه‌ای نظیر Jupyter Notebook، Google Colab و VS Code بهره می‌برند. در نهایت، نحوه استقرار مدل‌ها با استفاده از Flask، FastAPI، Docker و Kubernetes برای استقرار و مقیاس‌پذیری پروژه‌های NLP آموزش داده می‌شود.