עוד מתקופת התלמוד קיימת מחלוקת האם צריך להסתפק בארבע כוסות יין בליל הסדר, או שיש צורך בכוס החמישית. לא הייתה הכרעה ברורה בין שתי השיטות. אז היהודים אימצו מנהג שלכאורה כלל את שתיהן: שותים ארבע כוסות במהלך הסדר, ואז מוזגים כוס חמישית – אבל לא שותים ממנה.

עם השנים נוצר החיבור בין הכוס החמישית לבין אליהו הנביא. בזכות האמונה שאליהו הנביא יבוא לעולם כמבשר הגאולה לפני בוא המשיח, הייתה מעין ציפייה שאליהו אכן יבוא בליל הסדר, ולשם כך משאירים עבורו את הכוס. לכן קראו לה "כוס של אליהו".

הגאון מווילנה כדרכו נתן לסוגיה פירוש למדני. יש מסורת שאחת המטרות של בואו של אליהו היא להתיר את הספקות וללמד אותנו את האמת: [מכאן הביטוי "יהא מונח עד שיבוא אליהו"]. הרי מנהג הכוס החמישית נוצר בגלל הספק בהלכה. לכן טבעי שאנו משאירים את הכוס לאליהו שתפקידו להתיר את הספקות.