🚀 إذا كنت تبحث عن مكان تتعلم فيه البرمجة والذكاء الاصطناعي من الأساس حتى الاحتراف — فهذه هي وجهتك. مرحبًا بك في قناة freeCodeCamp بالعربية، المنصة التعليمية التي تقدم لك محتوى تقنيًا عميقًا ومجانيًا يساعدك على بناء مستقبل مهني حقيقي في عالم التكنولوجيا. في هذه القناة ستجد رحلة تعليمية متكاملة تبدأ من تطوير الويب و الـ Full-Stack، مرورًا بـ تحليل البيانات وعلوم البيانات وهندسة البيانات، وصولًا إلى أحدث مجالات الذكاء الاصطناعي مثل: تعلم الآلة (Machine Learning) التعلم العميق (Deep Learning) الرؤية الحاسوبية (Computer Vision) معالجة اللغات الطبيعية (NLP) الذكاء الاصطناعي التوليدي (Generative AI) نماذج اللغات الكبيرة (LLMs) نماذج الانتشار لتوليد الصور والفيديو (Diffusion Models) 🎓 هدفنا ليس فقط تعليمك كتابة الكود… بل تحويلك إلى مهندس برمجيات حقيقي، مطور ويب محترف، ومهندس ذكاء اصطناعي قادر على بناء أنظمة وتقنيات متقدمة. ستجد دروسًا عميقة، شروحات عملية، ومشاريع تطبيقية تساعدك على فهم التكنولوجيا الحديثة التي تعتمد عليها أكبر الشركات في العالم. 📌 لا تنسَ الاشتراك في القناة وتفعيل زر الجرس حتى يصلك كل جديد. 🔗 اشترك الآن: youtube.com/@freecodecampara… ابدأ رحلتك اليوم… فالعالم الرقمي ينتظر من يبنيه. 💡

كيف تتعلم التعلم الآلي (Machine Learning) من الصفر؟ خارطة طريق عملية للمبتدئين يبدو مجال التعلم الآلي ضخماً في البداية، لكن الوصول إليه أسهل مما تتخيل إذا اتبعت خطة واضحة ومنظمة. في هذا الفيديو القصير أستعرض خارطة طريق عملية من 5 مراحل لتعلم Machine Learning بدءاً من تعلم Python وأدوات التعامل مع البيانات، مروراً بالرياضيات الأساسية والخوارزميات الكلاسيكية، وصولاً إلى بناء المشاريع الحقيقية وإنشاء معرض أعمال احترافي. إذا كنت مبتدئاً في الذكاء الاصطناعي أو علوم البيانات، فهذا الفيديو سيساعدك على معرفة ما يجب أن تتعلمه أولاً وما يمكنك تأجيله حتى تتقدم في رحلتك التعليمية. النجاح في التعلم الآلي لا يأتي من مشاهدة الدورات فقط، بل من كتابة الكود وبناء المشاريع خطوة بخطوة. #التعلم_الآلي #الذكاء_الاصطناعي

Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer (T5) في عام 2020، قدم باحثو Google واحدة من أكثر الأوراق تأثيرًا في تاريخ معالجة اللغة الطبيعية، والتي عُرفت باسم: T5: Text-to-Text Transfer Transformer لم تكن هذه الورقة مجرد نموذج جديد، بل أعادت تعريف الطريقة التي ننظر بها إلى مهام معالجة اللغة الطبيعية بالكامل. الفكرة الرئيسية اقترحت الورقة مفهومًا بسيطًا لكنه ثوري: بدلًا من تصميم نموذج مختلف لكل مهمة لغوية، لماذا لا نحول جميع المهام إلى مشكلة واحدة موحدة؟ أي مهمة تصبح: نص يدخل إلى النموذج → نص يخرج من النموذج سواء كانت المهمة: ترجمة تلخيص تصنيف النصوص الإجابة عن الأسئلة تحليل المشاعر الاستدلال اللغوي فجميعها تُعالج بنفس الصيغة. على سبيل المثال: Input: Translate English to German: That is good. Output: Das ist gut. أو: Input: Summarize: [Article] Output: Summary أهداف البحث ركزت الورقة على عدة أسئلة أساسية: ما أفضل طريقة للاستفادة من التعلم بالنقل (Transfer Learning) في معالجة اللغة؟ ما تأثير حجم النموذج على الأداء؟ ما أفضل أهداف التدريب المسبق؟ ما أفضل أنواع البيانات المستخدمة في التدريب؟ هل يمكن بناء إطار موحد يعمل على عشرات المهام المختلفة دون الحاجة إلى نماذج متخصصة؟ أهم الإنجازات 1. توحيد جميع مهام NLP قدمت الورقة إطارًا موحدًا يحول كل المهام اللغوية إلى صيغة Text-to-Text، مما جعل التدريب والتطوير أكثر بساطة واتساقًا. 2. تقديم نموذج T5 تم بناء نموذج Transformer Encoder-Decoder قادر على التعامل مع مجموعة واسعة من المهام باستخدام نفس البنية ونفس آلية التدريب. 3. إنشاء مجموعة بيانات C4 قدمت Google مجموعة بيانات ضخمة جديدة باسم: Colossal Clean Crawled Corpus (C4) وهي نسخة نظيفة ومنقحة من بيانات Common Crawl تحتوي على مئات الجيجابايت من النصوص الإنجليزية عالية الجودة. 4. دراسة شاملة للتعلم بالنقل لم تكتفِ الورقة بتقديم نموذج جديد، بل أجرت مقارنة منهجية واسعة بين: أهداف التدريب المختلفة البنى المعمارية المختلفة أحجام النماذج طرق نقل المعرفة مجموعات البيانات مما جعلها مرجعًا أساسيًا لفهم أفضل الممارسات في المجال. 5. تحقيق نتائج رائدة حقق T5 نتائج متقدمة على العديد من أشهر الاختبارات العالمية في: Question Answering Summarization Text Classification Machine Translation Natural Language Understanding 6. التوسع إلى نماذج ضخمة وسعت الدراسة حجم النماذج حتى: 11 Billion Parameters وأظهرت بوضوح أن زيادة الحجم مع البيانات المناسبة تؤدي إلى تحسينات كبيرة في الأداء. لماذا تعتبر هذه الورقة مهمة؟ لأنها نقلت المجال من التفكير في: "ما النموذج المناسب لكل مهمة؟" إلى: "كيف نصوغ المهمة كنص إلى نص؟" هذا التحول الفكري أصبح لاحقًا أساسًا للعديد من النماذج الحديثة، وأسهم في ترسيخ مفهوم النماذج العامة القادرة على تنفيذ مهام متعددة باستخدام إطار موحد. أخيرا: تُعد ورقة T5 واحدة من أهم الأوراق البحثية في تاريخ النماذج اللغوية الحديثة. فقد أثبتت أن توحيد جميع مهام معالجة اللغة تحت إطار Text-to-Text ليس ممكنًا فقط، بل يمكن أن يحقق أداءً ينافس أو يتفوق على الأساليب المتخصصة، مما مهد الطريق للجيل الجديد من النماذج اللغوية واسعة القدرات. #البحث_العلمي #الذكاء_الاصطناعي

تعلم التعلم العميق لا يبدأ ببناء الشبكات العصبية، بل يبدأ ببناء الأساس العلمي الصحيح. هذه الخريطة توضح المراحل الأساسية التي يحتاجها كل من يريد دخول عالم الذكاء الاصطناعي والتعلم العميق: الرياضيات الإحصاء الجبر الخطي الاحتمالات التفاضل والتكامل المشتقات خوارزميات الذكاء الاصطناعي مكتبة PyTorch المشاريع العملية يقفز الكثير من المبتدئين مباشرة إلى النماذج والأدوات الحديثة، لكن الفهم الحقيقي يأتي من استيعاب المفاهيم الرياضية التي تجعل هذه النماذج قادرة على التعلم واتخاذ القرارات. كل خطوة في هذه الخريطة تبني ما بعدها. فعندما تتقن الرياضيات والإحصاء والاحتمالات، يصبح فهم الشبكات العصبية وخوارزميات التعلم العميق أكثر سهولة ووضوحًا. وعندما تصل إلى مرحلة المشاريع العملية، تبدأ بتحويل المعرفة النظرية إلى حلول حقيقية. التعلم العميق رحلة طويلة تتطلب الصبر والاستمرارية، لكن النتائج تستحق الجهد. في أي مرحلة من هذه الخريطة أنت الآن؟ #التعلم_العميق #الذكاء_الاصطناعي #تعلم_الآلة #علوم_البيانات #بايثون #PyTorch #الشبكات_العصبية #برمجة #مطورين #تقنية #تعلم_البرمجة

الجزء الثاني: XLNet: Generalized Autoregressive Pretraining for Language Understanding في عام 2019 قدمت ورقة XLNet واحدة من أهم الأفكار في تاريخ النماذج اللغوية، حيث سعت إلى معالجة القيود الموجودة في BERT مع الحفاظ على قدرته القوية في فهم السياق ثنائي الاتجاه. اعتمدت الورقة على ملاحظة أن استخدام الرموز المخفية (MASK) أثناء التدريب يخلق فجوة بين مرحلة التدريب ومرحلة الاستخدام الفعلي للنموذج. كان الهدف الرئيسي من XLNet هو الجمع بين مزايا النماذج التوليدية Autoregressive Models ومزايا نماذج التشفير الذاتي Autoencoding Models. ولتحقيق ذلك، قدم الباحثون مفهومًا جديدًا يسمى Permutation Language Modeling، والذي يسمح للنموذج بالتعلم من ترتيبات مختلفة للكلمات داخل الجملة، مما يمكنه من الاستفادة من المعلومات القادمة من الجهتين دون الحاجة إلى إخفاء الكلمات كما يحدث في BERT. كما قدمت الورقة آلية Two-Stream Attention التي تسمح للنموذج بفهم السياق الكامل مع منع الوصول المباشر إلى الكلمة المطلوب التنبؤ بها، إضافة إلى دمج تقنيات Transformer-XL للاستفادة من سياقات نصية أطول والاحتفاظ بالمعلومات عبر مقاطع متعددة من النصوص. أظهرت النتائج أن XLNet تفوق على BERT في العديد من المهام المهمة مثل فهم النصوص، والإجابة عن الأسئلة، والاستدلال اللغوي، وتحليل المشاعر. ولم تقتصر مساهمة الورقة على تحسين الأداء فقط، بل قدمت طريقة جديدة للتفكير في مرحلة ما قبل التدريب للنماذج اللغوية، وأسهمت في دفع أبحاث التعلم العميق ومعالجة اللغة الطبيعية نحو نماذج أكثر قوة وقدرة على الفهم والاستدلال. #البحث_العلمي #الذكاء_الإصطناعي

الجزء الثالث: الحل الذي قدمته الورقة: XLNet: Generalized Autoregressive Pretraining for Language Understanding في عام 2019 قدمت ورقة XLNet واحدة من أهم الأفكار في تاريخ النماذج اللغوية، حيث سعت إلى معالجة القيود الموجودة في BERT مع الحفاظ على قدرته القوية في فهم السياق ثنائي الاتجاه. اعتمدت الورقة على ملاحظة أن استخدام الرموز المخفية (MASK) أثناء التدريب يخلق فجوة بين مرحلة التدريب ومرحلة الاستخدام الفعلي للنموذج. كان الهدف الرئيسي من XLNet هو الجمع بين مزايا النماذج التوليدية Autoregressive Models ومزايا نماذج التشفير الذاتي Autoencoding Models. ولتحقيق ذلك، قدم الباحثون مفهومًا جديدًا يسمى Permutation Language Modeling، والذي يسمح للنموذج بالتعلم من ترتيبات مختلفة للكلمات داخل الجملة، مما يمكنه من الاستفادة من المعلومات القادمة من الجهتين دون الحاجة إلى إخفاء الكلمات كما يحدث في BERT. كما قدمت الورقة آلية Two-Stream Attention التي تسمح للنموذج بفهم السياق الكامل مع منع الوصول المباشر إلى الكلمة المطلوب التنبؤ بها، إضافة إلى دمج تقنيات Transformer-XL للاستفادة من سياقات نصية أطول والاحتفاظ بالمعلومات عبر مقاطع متعددة من النصوص. أظهرت النتائج أن XLNet تفوق على BERT في العديد من المهام المهمة مثل فهم النصوص، والإجابة عن الأسئلة، والاستدلال اللغوي، وتحليل المشاعر. ولم تقتصر مساهمة الورقة على تحسين الأداء فقط، بل قدمت طريقة جديدة للتفكير في مرحلة ما قبل التدريب للنماذج اللغوية، وأسهمت في دفع أبحاث التعلم العميق ومعالجة اللغة الطبيعية نحو نماذج أكثر قوة وقدرة على الفهم والاستدلال. #البحث_العلمي #الذكاء_الاصطناعي

XLNet: Generalized Autoregressive Pretraining for Language Understanding في عام 2019 قدمت ورقة XLNet واحدة من أهم الأفكار في تاريخ النماذج اللغوية، حيث سعت إلى معالجة القيود الموجودة في BERT مع الحفاظ على قدرته القوية في فهم السياق ثنائي الاتجاه. اعتمدت الورقة على ملاحظة أن استخدام الرموز المخفية (MASK) أثناء التدريب يخلق فجوة بين مرحلة التدريب ومرحلة الاستخدام الفعلي للنموذج. كان الهدف الرئيسي من XLNet هو الجمع بين مزايا النماذج التوليدية Autoregressive Models ومزايا نماذج التشفير الذاتي Autoencoding Models. ولتحقيق ذلك، قدم الباحثون مفهومًا جديدًا يسمى Permutation Language Modeling، والذي يسمح للنموذج بالتعلم من ترتيبات مختلفة للكلمات داخل الجملة، مما يمكنه من الاستفادة من المعلومات القادمة من الجهتين دون الحاجة إلى إخفاء الكلمات كما يحدث في BERT. كما قدمت الورقة آلية Two-Stream Attention التي تسمح للنموذج بفهم السياق الكامل مع منع الوصول المباشر إلى الكلمة المطلوب التنبؤ بها، إضافة إلى دمج تقنيات Transformer-XL للاستفادة من سياقات نصية أطول والاحتفاظ بالمعلومات عبر مقاطع متعددة من النصوص. أظهرت النتائج أن XLNet تفوق على BERT في العديد من المهام المهمة مثل فهم النصوص، والإجابة عن الأسئلة، والاستدلال اللغوي، وتحليل المشاعر. ولم تقتصر مساهمة الورقة على تحسين الأداء فقط، بل قدمت طريقة جديدة للتفكير في مرحلة ما قبل التدريب للنماذج اللغوية، وأسهمت في دفع أبحاث التعلم العميق ومعالجة اللغة الطبيعية نحو نماذج أكثر قوة وقدرة على الفهم والاستدلال. #البحث_العلمي #الذكاء_الإصطناعي

GPT-3 showed that LLMs could generate fluent text, but not always follow instructions well. In this article, @programmingoce reviews the InstructGPT paper and explains why RLHF became a turning point for modern AI. You'll learn how supervised fine-tuning, reward models, and PPO helped improve LLM capabilities across the board. freecodecamp.org/news/ai-pap…

إذا كنت تتساءل عن الطريق الصحيح لدخول عالم علوم البيانات والذكاء الاصطناعي، فهذه الخارطة مصممة لتمنحك رؤية واضحة للمسار الكامل من الأساسيات وحتى بناء نماذج التعلم العميق الحديثة. في هذا الفيديو سنسير خطوة بخطوة عبر أهم الأدوات والمكتبات التي تشكل العمود الفقري لعلم البيانات والذكاء الاصطناعي باستخدام لغة Python. سنبدأ بتعلم Python باعتبارها اللغة الأكثر استخدامًا في المجال، ثم ننتقل إلى NumPy لفهم المصفوفات والعمليات الرياضية عالية الأداء، وبعدها Pandas لتحليل البيانات وتنظيفها والتعامل مع الملفات والجداول. بعد ذلك سنتعلم Matplotlib و Seaborn لتحويل البيانات إلى رسوم بيانية احترافية تساعدنا على فهم الأنماط واستخراج الرؤى المهمة من البيانات. ومن هنا ندخل إلى قلب تعلم الآلة مع Scikit-Learn، حيث سنتعرف على مفاهيم التعلم الخاضع للإشراف وغير الخاضع للإشراف، وبناء النماذج وتقييمها وتحسين أدائها باستخدام أشهر الخوارزميات في المجال. ثم ننتقل إلى عالم التعلم العميق عبر TensorFlow و Keras لبناء الشبكات العصبية وتطبيقاتها المختلفة في التصنيف والتنبؤ ومعالجة البيانات المعقدة. وأخيرًا نستكشف PyTorch، الإطار الذي أصبح الخيار المفضل للباحثين ومطوري النماذج المتقدمة، والذي يقف خلف العديد من الابتكارات الحديثة في الذكاء الاصطناعي والنماذج اللغوية الكبيرة. هذه الخارطة لا تركز فقط على تعلم الأدوات، بل على فهم كيفية ترابطها معًا داخل المشاريع الحقيقية، بحيث تنتقل من تحليل البيانات إلى بناء نماذج تعلم الآلة ثم تطوير أنظمة ذكاء اصطناعي متقدمة بثقة ووضوح. إذا كنت جادًا في بناء مسار مهني في علوم البيانات أو الذكاء الاصطناعي، فهذا الفيديو سيمنحك الصورة الكاملة ويختصر عليك شهورًا من التشتت بين المصادر المختلفة. #علوم_البيانات #الذكاء_الاصطناعي #Python #MachineLearning #DeepLearning #DataScience #TensorFlow #PyTorch #AI #Programming #تعلم_البرمجة #تحليل_البيانات #مطورين #تقنية #DataAnalysis

الورقة العلمية الشهيرة: Cross-Lingual Language Models (XLM) في عام 2019، كانت معظم نماذج اللغة متعددة اللغات تعتمد على الترجمة أو كميات ضخمة من البيانات المتوازية بين اللغات. لكن ورقة XLM قدمت خطوة مفصلية نحو بناء نماذج تفهم لغات متعددة داخل فضاء تمثيلي مشترك. الفكرة الأساسية في XLM هي تدريب نموذج لغوي واحد على عدة لغات في الوقت نفسه، بحيث يتعلم تمثيلات مشتركة تسمح بنقل المعرفة من لغة إلى أخرى دون الحاجة إلى بيانات موسومة لكل لغة. أبرز مساهمات الورقة: • تقديم مفهوم Cross-Lingual Language Models (XLM) للتعلم عبر اللغات. • توسيع فكرة Masked Language Modeling لتعمل في بيئة متعددة اللغات. • ابتكار هدف تدريبي جديد يسمى Translation Language Modeling (TLM) يستفيد من الجمل المترجمة لتحسين محاذاة اللغات. • تحقيق قفزة كبيرة في مهام الفهم اللغوي متعدد اللغات والترجمة الآلية. • إثبات إمكانية نقل المعرفة من اللغات الغنية بالبيانات إلى اللغات منخفضة الموارد. النتائج كانت لافتة للنظر؛ إذ حققت XLM أداءً قياسياً جديداً في تصنيف النصوص متعددة اللغات، والترجمة الآلية الموجّهة وغير الموجّهة، كما أظهرت قدرة قوية على بناء تمثيلات لغوية مشتركة بين عشرات اللغات المختلفة. لا تكمن أهمية XLM في النتائج فقط، بل في أنها أرست الأساس الذي بُنيت عليه لاحقاً نماذج متعددة اللغات أكثر تطوراً مثل mBERT و XLM-R، وأسهمت في تقريب العالم نحو نماذج ذكاء اصطناعي قادرة على فهم اللغات البشرية ضمن إطار موحد. #البحث_العلمي #الذكاء_الإصطناعي

كيف يستطيع الذكاء الاصطناعي إنشاء صورة مذهلة انطلاقًا من ضوضاء عشوائية بالكامل؟ إذا كنت قد استخدمت أدوات مثل Stable Diffusion أو غيرها من مولدات الصور الحديثة، فربما شاهدت النتائج المبهرة، لكن السؤال الأهم هو: ماذا يحدث خلف الكواليس؟ أطلقت اليوم أول فيديو في سلسلة جديدة مخصصة لـ Diffusion Models، وهي التقنية التي تقف وراء معظم أنظمة توليد الصور الحديثة. في هذا الجزء نبدأ من الأساس: • ما هي نماذج الانتشار؟ • لماذا أصبحت أهم من العديد من أساليب التوليد السابقة؟ • كيف تتحول Gaussian Noise تدريجيًا إلى صورة ذات معنى؟ • ما الفكرة الرياضية التي جعلت هذه النماذج تقود الثورة الحالية في الذكاء الاصطناعي التوليدي؟ هذه السلسلة لن تقتصر على الشرح النظري فقط، بل سننتقل تدريجيًا إلى: ✓ أشهر الأوراق البحثية المؤسسة للمجال. ✓ البنية المعمارية للنماذج. ✓ Stable Diffusion والنماذج المشتقة منه. ✓ الخوارزميات الأساسية مثل DDPM. ✓ الجوانب البرمجية والتطبيقية خطوة بخطوة. إذا كنت مهتمًا بالذكاء الاصطناعي التوليدي وتريد فهم التقنيات الحقيقية التي تقف خلف الصور المولدة بالذكاء الاصطناعي، فهذه السلسلة ستكون مرجعًا متكاملًا من البداية وحتى المستوى المتقدم. تابع السلسلة من بدايتها، لأن كل حلقة ستبني على ما قبلها، وسننتقل تدريجيًا من المفاهيم الأساسية إلى التفاصيل المعمارية والخوارزمية العميقة. رابط الفيديو الأول من السلسلة: youtu.be/dOGvGodNMfA?si=ruaC… #برمجة #تقنية #الذكاء_الإصطناعي

ورقة Training Language Models to Follow Instructions with Human Feedback (InstructGPT) تمثل واحدة من أهم نقاط التحول في تاريخ الذكاء الاصطناعي الحديث. فعلى الرغم من أن GPT-3 أظهر قدرات مذهلة في فهم اللغة وتوليد النصوص، إلا أن الباحثين اكتشفوا أن امتلاك نموذج قوي لا يعني بالضرورة أنه سيتصرف بالطريقة التي يريدها المستخدم. فقد كانت النماذج قادرة على الإجابة، لكنها لم تكن دائمًا قادرة على اتباع التعليمات بدقة أو تقديم استجابات متوافقة مع توقعات البشر. جاءت InstructGPT لتغيير هذا المفهوم من خلال التركيز على مشكلة جديدة أصبحت تعرف باسم Alignment، أي مواءمة سلوك النموذج مع نوايا المستخدم وتفضيلاته. قدمت الورقة منهجية Reinforcement Learning from Human Feedback (RLHF)، والتي تعتمد على جمع تقييمات بشرية للاستجابات واستخدامها لتدريب النموذج على إنتاج إجابات أكثر فائدة وصدقًا وأمانًا. تتكون المنهجية من ثلاث مراحل رئيسية: أولًا، الضبط الدقيق الموجه بالتعليمات Supervised Fine-Tuning. ثانيًا، تدريب نموذج مكافأة Reward Model يتعلم تفضيلات البشر. وثالثًا، استخدام التعلم المعزز عبر PPO لتحسين سلوك النموذج بناءً على هذه التفضيلات. تكمن الأهمية الحقيقية لهذه الورقة في أنها نقلت المجال من التركيز على زيادة حجم النماذج فقط إلى التركيز على جودة التفاعل مع البشر. كما أنها وضعت الأساس الذي بُنيت عليه أنظمة مثل ChatGPT وساهمت في تشكيل معظم تقنيات المواءمة المستخدمة لاحقًا في GPT-4 والنماذج الحديثة. يمكن اعتبار InstructGPT اللحظة التي بدأت فيها النماذج اللغوية تتحول من مجرد أنظمة للتنبؤ بالكلمات إلى مساعدين أذكياء قادرين على فهم التعليمات والتفاعل مع المستخدمين بطريقة أكثر فاعلية ومسؤولية. #InstructGPT #برمجة #تقنية freecodecamp.org/news/ai-pap…

ما الذي جعل نموذج BERT نقطة تحول في عالم الذكاء الاصطناعي؟ قبل ظهور BERT كانت النماذج اللغوية تفهم النصوص بطريقة محدودة وتعتمد غالبًا على قراءة الكلمات باتجاه واحد فقط، لكن BERT قدّم مفهومًا مختلفًا قائمًا على فهم الكلمة من سياقها الكامل داخل الجملة. تم تطوير النموذج بواسطة Google، وأصبح لاحقًا من أهم النماذج المستخدمة في معالجة اللغة الطبيعية. أبرز استخدامات نموذج BERT: تحليل المشاعر وفهم آراء المستخدمين. تحسين نتائج محركات البحث وفهم نية المستخدم. تطوير الشات بوت والمساعدات الذكية. تحسين الترجمة الآلية وفهم السياق اللغوي. تصنيف النصوص والبريد الإلكتروني والمحتوى. استخراج الكيانات مثل الأسماء والأماكن والتواريخ. بناء أنظمة الأسئلة والأجوبة داخل المستندات الكبيرة. تكمن أهمية BERT في أنه نقل النماذج اللغوية من مجرد معالجة الكلمات إلى فهم المعنى والسياق بصورة أعمق، وهو ما ساهم في تسريع تطور أنظمة الذكاء الاصطناعي الحديثة. فهم اللغة البشرية أصبح اليوم أحد أهم مفاتيح تطور الذكاء الاصطناعي. #الذكاء_الاصطناعي #البحث_العلمي

الورقة العلمية الشهيرة: RoBERTa: A Robustly Optimized BERT Pretraining Approach قدّمت هذه الورقة تحسينات جوهرية على نموذج BERT بدون تغيير البنية الأساسية للنموذج، وركّزت على إعادة التفكير في طريقة التدريب نفسها. أثبت الباحثون أن BERT كان “أقل تدريبًا” مما يجب، وأن تحسين البيانات وآلية التدريب يمكن أن يرفع الأداء بشكل كبير. أهداف الورقة: تحسين مرحلة Pretraining للوصول إلى تمثيلات لغوية أقوى دراسة تأثير حجم البيانات وعدد خطوات التدريب إزالة بعض القيود التي استخدمها BERT مثل Next Sentence Prediction اختبار كيف تؤثر إعدادات التدريب المختلفة على جودة النتائج أهم ما ميّز RoBERTa: تدريب على بيانات أكبر بكثير استخدام Dynamic Masking بدل Masking ثابت إزالة مهمة NSP التي لم تضف فائدة حقيقية استخدام Batch Size أكبر وتدريب لفترة أطول النتيجة؟ حقق RoBERTa أداءً متفوقًا على BERT في العديد من مهام فهم اللغة الطبيعية مثل: GLUE, SQuAD, RACE الرسالة الأهم من الورقة: أحيانًا التحسين الحقيقي لا يحتاج بنية جديدة بالكامل، بل يحتاج فهمًا أعمق لطريقة التدريب نفسها. #البحث_العلمي #الذكاء_الاصطناعي

الورقة العلمية: BART: Denoising Sequence-to-Sequence Pre-training for Natural Language Generation, Translation, and Comprehension الهدف من الورقة:تقديم نموذج تدريب مسبق (Pre-training) جديد يجمع بين مزايا BERT و GPT في نموذج واحد. تطوير نموذج قادر على أداء مهام فهم اللغة وتوليد النصوص بكفاءة عالية. تحسين أداء النماذج في التلخيص، والترجمة، والإجابة عن الأسئلة، والحوار، وتصنيف النصوص. ماذا قدمت الورقة؟قدمت نموذج BART، وهو نموذج يعتمد على فكرة إفساد النص (Corruption) ثم تدريب النموذج على إعادة بناء النص الأصلي (Denoising Autoencoder). دمجت بين:Encoder ثنائي الاتجاه (Bidirectional) مثل BERT. Decoder توليدي ذاتي الانحدار (Autoregressive) مثل GPT. ابتكرت أسلوب Text Infilling حيث يتم استبدال مقاطع كاملة من النص برمز Mask واحد، مما يجبر النموذج على فهم السياق الأوسع للنص. حققت نتائج رائدة (State-of-the-Art) في مهام:التلخيص النصي (Summarization). الإجابة التوليدية عن الأسئلة (Abstractive QA). الحوار التوليدي (Dialogue Generation). كما حافظت على أداء قوي في مهام الفهم اللغوي مثل GLUE وSQuAD. الإنجاز الأكاديمي الأهم للورقة:أثبتت أن نموذجًا واحدًا يمكنه التفوق في مهام الفهم (Understanding) ومهام التوليد (Generation) معًا. حققت تحسنًا يصل إلى 6 نقاط ROUGE على مجموعة بيانات XSum للتلخيص مقارنة بأفضل الأعمال السابقة آنذاك. حسّنت أداء الترجمة الآلية بزيادة 1.1 BLEU على معيار WMT Romanian-English. قدمت ورقة BART إطارًا موحدًا يجمع قوة BERT في فهم السياق وقوة GPT في توليد النصوص، ليصبح أحد أهم نماذج الـ Encoder-Decoder في تاريخ معالجة اللغة الطبيعية. #البحث_العلمي #الذكاء_الاصطناعي

DeBERTa: Decoding-Enhanced BERT with Disentangled Attention (ICLR 2021) قدّمت الورقة تحسينًا جوهريًا على نماذج BERT وRoBERTa من خلال آلية Disentangled Attention التي تفصل بين تمثيل محتوى الكلمة وموقعها داخل الجملة، بالإضافة إلى Enhanced Mask Decoder لتحسين فهم السياق أثناء التدريب. أبرز النتائج:تفوق على RoBERTa في العديد من مهام فهم اللغة الطبيعية. حقق نتائج أفضل في MNLI وSQuAD وRACE رغم تدريبه على بيانات أقل. نسخة DeBERTa بحجم 1.5 مليار معلمة كانت أول نموذج يتجاوز الأداء البشري على معيار SuperGLUE وقت نشر الورقة. تُعد DeBERTa من أهم التطورات في عائلة BERT، وقد أصبحت أساسًا للعديد من النماذج اللغوية الحديثة. #البحث_العلمي #الذكاء_الاصطناعي

أصبحت Vision Transformers (ViT) من أهم النماذج الحديثة في مجال الرؤية الحاسوبية، حيث نجحت في تحقيق نتائج مبهرة في تصنيف الصور والعديد من مهام Computer Vision، متجاوزةً في كثير من الحالات الشبكات العصبية الالتفافية التقليدية (CNNs). هذا الكورس العملي يشرح كيفية بناء نموذج Vision Transformer كامل من الصفر باستخدام PyTorch، مع تدريب النموذج على مجموعة بيانات CIFAR-10 لفهم جميع المكونات الداخلية للنموذج خطوة بخطوة. ستتعلم: المفاهيم الأساسية وراء Vision Transformers الفرق بين ViT وCNNs تحويل الصور إلى Patches وتمثيلها رقميًا بناء Patch Embedding Layer إنشاء Transformer Encoder من الصفر إعداد ومعالجة بيانات CIFAR-10 بناء حلقات التدريب والتقييم استخدام Data Augmentation لتحسين الأداء وتحليل نتائج النموذج ومقارنتها قبل وبعد Fine-Tuning ما يميز هذا الكورس أنه لا يقتصر على استخدام نموذج جاهز، بل يشرح كيفية بناء كل جزء من معمارية Vision Transformer لفهم آلية عملها بعمق. إذا كنت مهتمًا بـ Deep Learning أو Computer Vision أو النماذج المعتمدة على Transformers، فإن بناء ViT من الصفر يعد تجربة تعليمية ممتازة لفهم أحد أهم التطورات الحديثة في الذكاء الاصطناعي. #برمجة #تقنية #ذكاء_اصطناعي #DeepLearning #ComputerVision #PyTorch freecodecamp.org/news/build-…

تُعد VGG واحدة من أكثر معماريات الشبكات العصبية الالتفافية تأثيرًا في تاريخ الرؤية الحاسوبية. ساهمت هذه المعمارية في إثبات أن زيادة عمق الشبكة مع الحفاظ على بساطة التصميم يمكن أن يؤدي إلى تحسينات كبيرة في أداء نماذج التعرف على الصور. في هذه الدورة ستتعلم كيفية بناء نموذج VGG من الصفر باستخدام PyTorch. لا تركز الدورة على كتابة الكود فقط، بل تشرح أيضًا الأسس النظرية والرياضية التي قامت عليها المعمارية. ستتعرف على فلسفة التصميم وراء VGG. وستفهم آلية عمل عمليات الالتفاف (Convolution) ودورها في استخراج السمات البصرية. كما ستتعلم لماذا اعتمدت VGG على مرشحات 3×3 الصغيرة وكيف ساهم ذلك في بناء شبكات أعمق وأكثر كفاءة. تتضمن الدورة مقارنة بين VGG وعدد من المعماريات المعاصرة لفهم الاختلافات التصميمية وتأثيرها على الأداء. ومن الجانب العملي ستتعلم كيفية تجهيز البيانات وتحويلها واستكشافها بصريًا داخل Google Colab. كما ستبني النموذج خطوة بخطوة بطريقة منظمة وقابلة للتوسع. وستنشئ حلقات التدريب والاختبار وتتعلم كيفية تحليل النتائج وتحسين الأداء. تغطي الدورة أيضًا أدوات مهمة مثل torchinfo و matplotlib و CNN Explainer لفهم بنية النموذج وسلوك البيانات داخله. بالإضافة إلى ذلك ستتعرف على تقنيات تعزيز البيانات والتعلم بالنقل وأساليب تفسير قرارات النماذج. إذا كنت ترغب في الانتقال من استخدام النماذج الجاهزة إلى فهم كيفية تصميمها وبنائها وتحليلها من الداخل، فهذه الدورة تمثل نقطة انطلاق ممتازة. #VGG16 #PyTorch #ComputerVision freecodecamp.org/news/implem…

الورقة العلمية الشهيرة ELECTRA: Pre-training Text Encoders as Discriminators Rather Than Generators أحد أبرز التحديات في نماذج اللغة الكبيرة هو التكلفة الحاسوبية العالية أثناء مرحلة التدريب المسبق. جاءت ورقة ELECTRA لتقديم نهج جديد أكثر كفاءة من الأساليب التقليدية مثل BERT. أهم ما قدمته الورقة: • استبدال مهمة التنبؤ بالكلمات المخفية بمهمة اكتشاف الكلمات المستبدلة داخل النص. • تدريب النموذج على الاستفادة من جميع الكلمات في الجملة بدلاً من جزء صغير منها فقط. • تحسين كفاءة التعلم وتقليل الموارد الحاسوبية المطلوبة للتدريب. • تحقيق أداء أفضل من BERT عند استخدام نفس البيانات ونفس القدرة الحاسوبية. • الوصول إلى نتائج منافسة لـ RoBERTa و XLNet مع استهلاك أقل بكثير من موارد التدريب. أثبتت ELECTRA أن المهام التمييزية يمكن أن تكون أكثر كفاءة وفعالية من المهام التوليدية في تعلم تمثيلات اللغة، مما جعلها من الأوراق البحثية المؤثرة في تطور نماذج معالجة اللغة الطبيعية الحديثة. #البحث_العلمي #الذكاء_الاصطناعي

Vision Transformers have completely changed the field of computer vision. But where did they come from? What came before? Why are they so important? In this course, you'll learn all about the history of Deep Learning vision architectures from early ones like LaNet & AlexNet all the way to ViT. freecodecamp.org/news/the-hi…

GPT-4 marked a major shift from text-only language models toward multimodal AI systems. In this article, @programmingoce reviews the GPT-4 Technical Report and its historical significance. You'll learn about predictable scaling, multimodal reasoning, RLHF, benchmarks, safety, and the model's limitations. freecodecamp.org/news/ai-pap…