🎞️שומעים מילים כמו הסיאן וגרדיאנט ונבהלים? מייק יעשה לכם קצת סדר בבלגן. 🦏בלמידה עמוקה אנחנו זורקים את המושג "גרדיאנט" לאוויר כל הזמן, אבל כדי להבין באמת מה קורה מאחורי הקלעים של מנועי חישוב כמו PyTorch, חייבים להכיר את "השילוש הקדוש" של החשבון הדיפרנציאלי. 🔹 גרדיאנט : המצפן הוא לוקח פונקציה שמחזירה סקלר (פונקציית ה-Loss שלנו) וגוזר אותה לפי כל המשקולות. ב-Gradient Descent אנחנו הולכים נגד הכיוון שלו כדי למזער את השגיאה. הוא השורה התחתונה של תהליך הלמידה. 🔹 יעקוביאן: מנוע ה-Backprop רשת נוירונים עמוקה היא בעצם שרשרת של פונקציות שמקבלות וקטורים ומחזירות וקטורים (תחשבו על שכבות נסתרות). היעקוביאן מייצג את הנגזרות של פונקציות וקטוריות אלו. בפועל, האלגוריתם של Backpropagation לא מחשב את כל מטריצת היעקוביאן (מה שהיה מפוצץ את הזיכרון), אלא משתמש בטריק שנקרא VJP (Vector-Jacobian Product) כדי להעביר את השגיאה אחורה ביעילות. 🔹 הסיאן : מפת העקמומיות מטריצת הנגזרות השניות. היא לא רק אומרת לנו לאן לרדת, אלא איך השיפוע הולך להשתנות. בעולם אידיאלי, היינו משתמשים בו לאופטימיזציה מסדר שני (כמו שיטת ניוטון) כדי להתכנס למינימום בהרבה פחות צעדים. הבעיה? מודל שפה עם מיליארד פרמטרים ידרוש מטריצת הסיאן בגודל מיליארד על מיליארד. זה בלתי אפשרי חישובית, ולכן אנחנו מסתמכים על אלגוריתמים מסדר ראשון (כמו Adam) שמנסים לקרב את ההתנהגות הזו. לשמור במועדפים. 📌 credit 4the image: @techNmak #DeepLearning #MachineLearning #AI #MathForML

Backpropagation is the core learning mechanism behind neural networks In this video, we break down how loss is computed by measuring the error between predicted output and the actual target using Mean Squared Error (MSE). You’ll see how predictions flow through the network, how error is calculated, and why minimizing this loss is essential for training deep learning models. A must-watch if you’re building strong fundamentals in Machine Learning and AI #Backpropagation #ComputeLoss #MeanSquaredError #MSE #NeuralNetworks #DeepLearning #MachineLearning #AI #DataScience #MLBasics #AIFundamentals #ArtificialIntelligence #LearningAI #MathForML #Engineering #CS #TechEducation #StudyML

📘 Grab the free “Mathematics for Machine Learning” book and strengthen your ML foundations in linear algebra, calculus, probability, and optimization. Download: mml-book.github.io/book/mml-… #MachineLearning #MathForML #AI #DataScience #MLBook

Understanding symmetric matrices and positive definiteness is key to mastering #MachineLearning. They explain why algorithms like gradient descent actually converge! 🎥 Watch here → youtu.be/CgdJqxn0dlA #MathForML #AI #DeepLearning #LinearAlgebra

Day 26 of #MathForML Today's labwork: Applications of EigenValues & EigenVectors -> Navigating Webpages -> PCA on cat images Before diving into calculus, I want to make sure my Linear Algebra is rock solid. Can you suggest resources to master and practice Linear Algebra for ML?

Just found @geogebra — one of the best tools I’ve seen for understanding math visually. Super helpful for grasping ML topics like vectors, functions, and calculus. 🔗 geogebra.org Definitely worth checking out! #MathForML #GeoGebra #LearnInPublic

🧠 Day 68 of Diving into AI/ML Today I deepened my understanding of linear algebra concepts that power ML models. 1️⃣ Dot Product – Measures alignment between vectors. Positive = same direction, zero = perpendicular, negative = opposite. Think of it as a projection. 2️⃣ Cross Product (3D) – Returns a vector ⬆️ perpendicular to both inputs. Magnitude = area of the parallelogram they span. 3️⃣ Matrix Inverse - If A transforms a vector, A⁻¹ brings it back. Only works if A is square & full-rank. 🔁 4️⃣ Linear Transformation – Stretch, rotate, flip, or squash vectors via matrices. Always sends origin to origin, preserves lines. 🔄 5️⃣ Duality – Vectors not just as directions, but as functions measuring other vectors. #100DaysOfML #LinearAlgebra #AI #DeepLearning #MathForML #NeuralNetworks #Python

Day 54 #MyDataScienceJourney: Covered equations of lines, 3D planes, and hyperplanes, plus how to find a point’s distance from a plane. Also explored instance-based vs. model-based learning in ML—fascinating to see how model either memorize or generalize!#LearnInPublic #MathForML

"Did some solid descriptive stats past 2 days — now jumping into probability distribution functions as part of my ML grind. Let’s gooo! 📊➡️📈🔥 #MachineLearning #StatsJourney #AI #deeplearning #datascience #MathForML #learning #progress #AIForEveryone

Always been scared of math, but it’s time to change that. I’m diving into linear algebra, calculus, and probability all for the love of machine learning. One step at a time. Let’s do this! #MachineLearning #MathForML #AIJourney #LinearAlgebra #Calculus #Probability #KeepLearning

Essential Math for Machine Learning: Kernel Density Estimation➡️medium.com/@weidagang/essent… #AIforBeginners #DataAnalysis #MathForML #artmac #artmacllc

Day 77 #100DaysOfCode 📊 Mastered Linux basics! 💻 ✅ Solved 10 Math problems for ML ( Hermitian mat & diagonalization )🤖 🚀🌟 #Linux #MathForML #100daysofcodechallenge #100daysofcoding #Ubuntu #script #Shell #SSH #VM

If you are thinking about learning maths for data science. Here are 5 great books and resources to get you started 👇🏻 #DataScience #DataAnalytics #mathforML #mathematics

I'm taking the Math for ML specialization from @DeepLearningAI_ which includes Linear Algebra, Calculus, and Statistics. I was always a little intimidated by calculus in ML so I hope this helps me with that. #MachineLearning #MathForML

Saved this Tweet to your Notion database. Tags: [Mathforml]

Exciting news for anyone looking to strengthen their math foundation for machine learning and data science - the new course Math for Machine Learning and Data Science is now available on Coursera, taught by the brilliant @luis_likes_math #MachineLearning #DataScience #MathForML

This thread is saved to your Notion database. Tags: [Mathforml]

𝑓∘𝑔, you must have come across this in some Machine Learning course or a paper and wondered what it is! In this thread we will introduce you to some common math notations seen in ML. A thread 👇 #mathematics #MathforML #DeepLearning

Feeling a bit stupid for writing code to count lines of text, when I could have just looked at the side of the editor... 🤦‍♂️😂 __________ #javascript #Developer #mathforml

Overview of data distributions disq.us/t/3pg0vra . Probability distributions- always find them a challenging topic. Wish I had this before. #Stats #Probability #MathforML