شرحت في الدرس السابق الانحدار الخطي (Linear Regression)، وكيف تم استخدامه لوصف العلاقة بين متغيرين: مساحة المنزل والسعر. ولكن في التطبيقات الحقيقية من النادر أن نستطيع توقع السعر باستخدام أحد الخصائص فقط (مساحة المنزل)، نحتاج للعديد من الخصائص لنصل إلى قدر معقول من الدقة. من الممكن عمل ذلك باستخدام الانحدار الخطي المتعدد (Multiple Linear Regression)، موضوع هذا الدرس.
لنفترض أننا سنستخدم مساحة المنزل وعدد الغرف لتقدير السعر، حينها ستصبح معادلة الخط المستقيم معادلة مستوي مثل:
ويمكن استعراض المستوي في الشكل التالي:
نلاحظ أننا انتقلنا من بعدين إلى ثلاثة أبعاد، وكلما ازدادت الخصائص ستزداد الأبعاد. لا يمكن رسم الأشكال إذا تجاوزت الثلاثة أبعاد، ولكن نستطيع تمثيلها رياضياً، والشكل الناتج يطلق عليه المستوي الفائق (hyperplane). لنفترض أن لدينا العديد من الخصائص الآن: حجم المنزل، عدد الغرف، عدد دورات المياه، المدينة، الحي، …، وغيرها. نستطيع تمثيلها في المعادلة التالية:
حيث 
هذه مراجعة سريعة للتعامل مع المتجهات والمصفوفات لتنشيط الذاكرة.
يتم بناء النموذج بنفس الطريقة التي تم شرحها في درس الانحدار الخطي عن طريق التحسين (optimization)، ولكن هنا نحتاج أن نبحث عن قيم أكثر. هذه المعادلة لتحديث قيم 
ولكن هنا عدد القيم أكثر من السابق، كما هو موضح في المعادلة (بدون صيغة المتجهات للتوضيح)
![\begin{bmatrix} w_0^{t+1} \\ w_1^{t+1} \\ w_2^{t+1} \\ . \\ . \\ . \\ w_n^{t+1} \end{bmatrix} = \begin{bmatrix} w_0^{t} \\ w_1^{t} \\ w_2^{t} \\ . \\ . \\ . \\ w_n^{t} \end{bmatrix} -\eta \begin{bmatrix} -2\sum_{i=1}^N [\hat{y^{(i)}}-y^{(i)}] \\ -2\sum_{i=1}^N [\hat{y^{(i)}}-y^{(i)}]x^{(i)}_1 \\ -2\sum_{i=1}^N [\hat{y^{(i)}}-y^{(i)}]x^{(i)}_2 \\ . \\ . \\ . \\ \\ -2\sum_{i=1}^N [\hat{y^{(i)}}-y^{(i)}]x^{(i)}_n \end{bmatrix}](http://s0.wp.com/latex.php?latex=+%5Cbegin%7Bbmatrix%7D+w_0%5E%7Bt%2B1%7D+%5C%5C+w_1%5E%7Bt%2B1%7D+%5C%5C+w_2%5E%7Bt%2B1%7D+%5C%5C+.+%5C%5C+.+%5C%5C+.+%5C%5C+w_n%5E%7Bt%2B1%7D+%5Cend%7Bbmatrix%7D+%3D+%5Cbegin%7Bbmatrix%7D+w_0%5E%7Bt%7D+%5C%5C+w_1%5E%7Bt%7D+%5C%5C+w_2%5E%7Bt%7D+%5C%5C+.+%5C%5C+.+%5C%5C+.+%5C%5C+w_n%5E%7Bt%7D+%5Cend%7Bbmatrix%7D+-%5Ceta+%5Cbegin%7Bbmatrix%7D+-2%5Csum_%7Bi%3D1%7D%5EN+%5B%5Chat%7By%5E%7B%28i%29%7D%7D-y%5E%7B%28i%29%7D%5D+%5C%5C+-2%5Csum_%7Bi%3D1%7D%5EN+%5B%5Chat%7By%5E%7B%28i%29%7D%7D-y%5E%7B%28i%29%7D%5Dx%5E%7B%28i%29%7D_1+%5C%5C+-2%5Csum_%7Bi%3D1%7D%5EN+%5B%5Chat%7By%5E%7B%28i%29%7D%7D-y%5E%7B%28i%29%7D%5Dx%5E%7B%28i%29%7D_2+%5C%5C+.+%5C%5C+.+%5C%5C+.+%5C%5C+%5C%5C+-2%5Csum_%7Bi%3D1%7D%5EN+%5B%5Chat%7By%5E%7B%28i%29%7D%7D-y%5E%7B%28i%29%7D%5Dx%5E%7B%28i%29%7D_n+%5Cend%7Bbmatrix%7D+&bg=ffffff&fg=000&s=3 "\begin{bmatrix} w_0^{t+1} \\ w_1^{t+1} \\ w_2^{t+1} \\ . \\ . \\ . \\ w_n^{t+1} \end{bmatrix} = \begin{bmatrix} w_0^{t} \\ w_1^{t} \\ w_2^{t} \\ . \\ . \\ . \\ w_n^{t} \end{bmatrix} -\eta \begin{bmatrix} -2\sum_{i=1}^N [\hat{y^{(i)}}-y^{(i)}] \\ -2\sum_{i=1}^N [\hat{y^{(i)}}-y^{(i)}]x^{(i)}_1 \\ -2\sum_{i=1}^N [\hat{y^{(i)}}-y^{(i)}]x^{(i)}_2 \\ . \\ . \\ . \\ \\ -2\sum_{i=1}^N [\hat{y^{(i)}}-y^{(i)}]x^{(i)}_n \end{bmatrix}")
بعد أن ننتهي من تدريب النموذج نستطيع استخدامه. فمثلاً لتقدير أسعار المنازل، لنفترض أن لدينا ثلاثة خصائص: مساحة البيت (
بشكل عام، مفهوم الانحدار الخطي المتعدد قريب جداً للارتباط الخطي، الاختلاف فقط أننا هنا نستخدم خصائص أكثر.
في الكثير من الحالات لا يمكن تمثيل البيانات باستخدام نموذج خطي، هنا نحتاج أن نستخدم النماذج الغير خطية (non-linear models). في الدرس القادم إن شاء الله سأتحدث عن الانحدار الغير خطي (non-linear regression).
آمل أن يكون الموضوع واضحاً، وأرحب بأي سؤال أو إضافة.
شكرا لك دكتور فارس
الشرح واضح
وجزاك الله خير
المراجعه السريعه ماتعمل
يظهر لي
This file is binary and cannot be displayed inline. Open “binary file
عفواً، وإياك.
إذا فتحت صفحة المراجعة السريعة في الجوال ستظهر هذه الرسالة لأنه ملف pdf، أعتقد متصفح الجوال لا يدعم عرضه داخل الصفحة. يوجد زر تحميل في الصفحة لتحميل الملف وفتحه. إذا فتحت الصفحة في متصفح الحاسب سيفتح لك الملف داخل الصفحة.