בחודשים האחרונים לחייו, נרדף יאיר על ידי הבריטים ביתר שאת. הוא היה נודד ברחובות תל אביב, נושא מזוודה שהיתה למעשה מיטה מתקפלת. בתחילת ינואר 1942, נודע למשה סבוראי – "אריה", "אלון" על מצבו של יאיר, והוא הזמין אותו ללון בדירת החדר שלו ושל אשתו טובה – "תחיה", על הגג של הבניין ברחוב מזרחי ב' 8 בדרום תל אביב, שהיתה למעשה חדר כביסה שהוסב לדירת מגורים.
יאיר התמקם בדירת המסתור והמשיך לעסוק בענייני המחתרת. חיסיה שפירא – "אלינוער", המקשרת שלו, הגיעה בבקרים ועימה הדואר המחתרתי. בלילות ביקר אותו יצחק צלניק שבאחת מפגישותיהם הודיע ליאיר שנשכרה עבורו דירה בירושלים. אולם בטרם עבר לשם, פורסמו בעיתונים מודעות מבוקש שבהן התנוסס קלסתרו של יאיר והוא כבר לא היה יכול לנוע בחופשיות. מלבד זאת, הוא טען באוזני צלניק כי נוכחותו בתל אביב חשובה להמשך פעילותה של המחתרת.
לאחר שמשה סבוראי נורה ונשבה בהתקפה הבריטית על חברי לח"י ברחוב דיזנגוף 30, מחשש שהבריטים יגיעו לדירתו, עבר יאיר לדירתה של נלי (פישר) לנגספלדר – "הדרה", אולם הוא חשש משכניה וחזר לגור בדירתם של הסבוראים, יחד עם טובה. בבוקר כ"ה בשבט תש"ב (12 בפברואר 1942) נשמעה דפיקה בדלת. יאיר נכנס לארון על מנת להסתתר וטובה פתחה את הדלת. מולה עמדו הבלש הבריטי וילקין עם שני בלשים נוספים. הם החלו לחפש בדירה, עד שלבסוף מצאו אותו, הוציאו אותו וכבלו את ידיו. טובה הורדה למטה. בינתיים הגיע לדירה הבלש מורטון שירה ביאיר בדם קר. מששמעה את היריות, צעקה טובה "שוטרים בלי מדים רצחו את יאיר שטרן! שוטרים בלי מדים רצחו את יאיר שטרן!".
יאיר מת, אך דרכו המשיכה לחיות. לאחר קום המדינה החלו אנשי לח"י לפעול להנצחתו ולהנצחת דרכו. בשנת 1953 נקבע לוח הנצחה על הבניין, מציין שבמקום זה נרצח יאיר על ידי שליחי השלטון הזר וכי מבית זה הוריש את צו המלחמה לחרות המולדת.
בשנת 1965 שונה שמו של החלק הצפוני של הרחוב בו נרצח יאיר (שמשלב מסויים נקרא שדרות וושינגטון) לרחוב אברהם שטרן (יאיר). ב-21 בינואר 1965 נערך טקס חגיגי בנוכחות ראש העיר וראשי לח"י ואצ"ל, בו הוסר הלוט מעל שמו החדש של הרחוב.
מימין: עמנואל הנגבי - "אדם", צבי קיסרי - "פרטיזן", יאיר שטרן, רוני שטרן-זמיר, דוד שטרן - "כהן", רחמים חכמוב - "ריגולטו", "ציון הגלילי". עומד מאחור משמאל: צבי פינקלשטיין שוהמי - "דני בית המקדש".
אנשל שפילמן – "אריה" נואם בטקס קריאת שם הרחוב. יושבים מימין: הרב ידידיה פרנקל, מרדכי נמיר, ראש עיריית תל אביב, וחבר מרכז לח"י לשעבר, יצחק שמיר – "מיכאל"