ברוכים הבאים ליחידת הלימוד "אורתוגונליות והטלות" בקורס אלגברה ליניארית להנדסת חשמל 2. יחידה זו היא אבן יסוד בהבנת מבנים מתמטיים מתקדמים ובעלת חשיבות עצומה ביישומים הנדסיים רבים, החל מעיבוד אותות ותמונות ועד ללמידת מכונה ואופטימיזציה. נחקור לעומק את מושגי המכפלה הפנימית, אורתוגונליות, בסיסים אורתוגונליים והטלות, תוך דגש על הכלים והטכניקות הנדרשים לבחינה.
מרחבי מכפלה פנימית
מרחב מכפלה פנימית הוא מרחב וקטורי מעל שדה הממשיים או המרוכבים, המצויד בפונקציה נוספת המאפשרת להגדיר מושגים גיאומטריים כמו אורך, זווית ואורתוגונליות.
- ליניאריות ברכיב הראשון: <au + bv, w> = a<u, w> + b<v, w>
- סימטריות: <u, v> = <v, u>
- חיוביות מוגדרת: <u, u> ≥ 0, ו-<u, u> = 0 אם ורק אם u = 0.
חשיבות המכפלה הפנימית בהנדסה
- מאפשרת מדידת "דמיון" או "הבדל" בין אותות או וקטורי נתונים.
- בסיס לאלגוריתמים רבים לעיבוד אותות (לדוגמה, התמרת פורייה).
- הכללה של המכפלה הסקלרית המוכרת מ-R^n.
אורתוגונליות ומשלימים אורתוגונליים
מושג האורתוגונליות הוא הרחבה של מושג הניצבות מגיאומטריה אוקלידית למרחבים וקטוריים כלליים.
תכונות חשובות
- כל קבוצה אורתוגונלית של וקטורים שאינם וקטור האפס היא בלתי תלויה ליניארית.
- משפט פיתגורס: אם u ⊥ v, אז ||u + v||^2 = ||u||^2 + ||v||^2.
תכונות המשלים האורתוגונלי
- W⊥ הוא תמיד תת-מרחב.
- V = W ⊕ W⊥ (סכום ישר).
- (W⊥)⊥ = W.
בסיסים אורתוגונליים ואורתונורמליים ותהליך גרם-שמידט
בסיסים אורתוגונליים ואורתונורמליים מפשטים חישובים רבים באלגברה ליניארית.
קבוצה אורתוגונלית
וקטורים ניצבים זה לזה. אם הם אינם וקטור האפס, הם בלתי תלויים ליניארית.
קבוצה אורתונורמלית
קבוצה אורתוגונלית שבה כל וקטור הוא וקטור יחידה (נורמה 1). קלה במיוחד לחישובים.
בסיס אורתוגונלי
בסיס למרחב וקטורי המורכב מקבוצה אורתוגונלית של וקטורים.
בסיס אורתונורמלי
בסיס למרחב וקטורי המורכב מקבוצה אורתונורמלית של וקטורים.
יתרונות בסיסים אורתונורמליים
- קלות מציאת קואורדינטות: אם B = {u_1, ..., u_n} הוא בסיס אורתונורמלי, אז עבור כל וקטור v, הקואורדינטה ה-i-ית היא <v, u_i>. כלומר, v = ∑ <v, u_i>u_i.
- קלות חישוב מכפלה פנימית ונורמה: אם v = ∑ a_i u_i ו-w = ∑ b_i u_i, אז <v, w> = ∑ a_i \overline{b_i} ו-||v||^2 = ∑ |a_i|^2.
האלגוריתם עובד באופן איטרטיבי: מתחילים עם u_1 = v_1. עבור u_k, מחסרים מ-v_k את ההטלות שלו על הווקטורים u_1, ..., u_{k-1} שכבר נבנו. לאחר מכן, ניתן לנרמל את הווקטורים u_i כדי לקבל בסיס אורתונורמלי.
נוסחה כללית: u_k = v_k - ∑_{j=1}^{k-1} \frac{<v_k, u_j>}{<u_j, u_j>} u_j. לאחר מכן, e_k = u_k / ||u_k||.
הטלות אורתוגונליות
הטלה אורתוגונלית היא הכלי למצוא את הווקטור הקרוב ביותר לווקטור נתון בתוך תת-מרחב מסוים.
תכונות וחישוב הטלות
- proj_W(v) הוא הווקטור היחיד ב-W הקרוב ביותר ל-v (כלומר, ||v - proj_W(v)|| ≤ ||v - w|| לכל w ∈ W).
- אם {u_1, ..., u_k} הוא בסיס אורתונורמלי ל-W, אז proj_W(v) = ∑_{i=1}^k <v, u_i> u_i.
- אם {w_1, ..., w_k} הוא בסיס אורתוגונלי ל-W, אז proj_W(v) = ∑_{i=1}^k \frac{<v, w_i>}{<w_i, w_i>} w_i.
- הווקטור v ניתן לפירוק יחיד כ-v = proj_W(v) + proj_{W⊥}(v).
יישומים בהנדסה
- קירוב: מציאת הקירוב הטוב ביותר לווקטור נתון על ידי וקטור מתת-מרחב (לדוגמה, קירוב פונקציות על ידי פולינומים).
- סינון רעשים: הפרדת אותות "רצויים" מתת-מרחב מסוים מרעשים הנמצאים במשלים האורתוגונלי.
- שיטות ריבועים פחותים: פתרון מערכות משוואות ליניאריות לא עקביות על ידי מציאת הפתרון "הקרוב ביותר".
שאלות לדיון
- הסבירו מדוע קבוצה אורתוגונלית של וקטורים שאינם וקטור האפס היא תמיד בלתי תלויה ליניארית. מהי המשמעות של תכונה זו בהקשר של בניית בסיסים?
- כיצד תהליך גרם-שמידט מבטיח שהווקטורים החדשים הנבנים יהיו אורתוגונליים לווקטורים הקודמים? תארו את השלבים העיקריים.
- בהינתן תת-מרחב W ווקטור v, מדוע ההטלה האורתוגונלית proj_W(v) היא הווקטור היחיד ב-W המקיים ש-(v - proj_W(v)) ∈ W⊥?
- תארו יישום הנדסי אחד שבו מושג האורתוגונליות או ההטלה האורתוגונלית הוא קריטי, והסבירו בקצרה כיצד הוא בא לידי ביטוי.
נקודות לתשובת מודל
לשאלה: "הסבירו מדוע קבוצה אורתוגונלית של וקטורים שאינם וקטור האפס היא תמיד בלתי תלויה ליניארית. מהי המשמעות של תכונה זו בהקשר של בניית בסיסים?"
- הוכחה מתמטית: נניח קבוצה אורתוגונלית {v_1, ..., v_k} שבה v_i ≠ 0 לכל i. נניח צירוף ליניארי c_1 v_1 + ... + c_k v_k = 0. נבצע מכפלה פנימית של שני הצדדים עם v_j כלשהו.
- שימוש בתכונת האורתוגונליות: <c_1 v_1 + ... + c_k v_k, v_j> = <0, v_j> = 0.
- ליניאריות המכפלה הפנימית: c_1 <v_1, v_j> + ... + c_j <v_j, v_j> + ... + c_k <v_k, v_j> = 0.
- ניצול האורתוגונליות: מכיוון ש-<v_i, v_j> = 0 לכל i ≠ j, כל האיברים מתאפסים למעט c_j <v_j, v_j> = 0.
- שימוש בתכונת החיוביות המוגדרת: מכיוון ש-v_j ≠ 0, אז <v_j, v_j> = ||v_j||^2 ≠ 0. לכן, חייב להתקיים c_j = 0.
- הכללה: מכיוון שזה נכון לכל j = 1, ..., k, כל הסקלרים c_j חייבים להיות אפס, ולכן הקבוצה בלתי תלויה ליניארית.
- משמעות לבסיסים: תכונה זו קריטית מכיוון שאחד התנאים לבסיס הוא שהווקטורים המרכיבים אותו יהיו בלתי תלויים ליניארית. אם יש לנו קבוצה אורתוגונלית של n וקטורים שאינם אפס במרחב מממד n, היא מהווה אוטומטית בסיס למרחב, ללא צורך בבדיקת פרישה. זה מפשט מאוד את בניית הבסיסים והעבודה איתם.