לאחר חתימת המשנה בסוף המאה ה-2, בעולם היהודי המשיכו להתקיים שני מרכזים תורניים מקבילים (ואף יריבים, כפי שכתבנו על כך כאן) – האחד בבבל ושני בארץ ישראל. כל אחד מהמרכזים יצר את הפירוש שלו על המשנה, וכך הופיעו התלמוד הבבלי והתלמוד הירושלמי. שניהם כתובים בשפה הארמית, אם כי בניבים שונים. בגלל ששניהם מתבססים על מסכתות וסדרי המשנה, יש חפיפה מבנית בין התלמודים. היקף החומר של הבבלי גדול יותר (למרות שכנראה שחלק מהירושלמי פשוט לא הגיע לידנו).

איזה מהתלמודים עלינו להעדיף? לכאורה, התלמוד הירושלמי שנוצר בארץ ישראל היה צריך לקבל בכורה. רבי ירמיה – חכם תלמודי שנולד בבבל ועלה משם לארץ ישראל בצעירותו – אומר על הפסוק באיכה (כ, ו): "בְּמַחֲשַׁכִּים הוֹשִׁיבַנִי כְּמֵתֵי עוֹלָם." – "זה תלמודה של בבל" (סנהדרין כד א). תלמיד החכמים של ארץ בבל, עם כל מעלותיהם, ישבו במחשכים – כלומר בגלות, ויצירה שלהם היא יצרה גלותית.

אך להיסטריה של ההלכה היה כיוון אחר. ברוב המקרים, כמוסבר במאמרו של הרב אחיקם קשת, התלמוד הבבלי מקבל עדיפות מסוימת על הירושלמי כשיש מחלוקות ביניהם. הבבלי נתפס כחומר מקיף יותר ושעבר עריכה טובה יותר בתקופת הגאונים והסבוראים, בעוד שהמרכז התורני בארץ ישראל סבל מרדיפות רבות, כך שהיה חשש לאיכות והמשכיות המסורות שהועברו בו. אך העדפת הבבלי על הירושלמי איננה כלל הלכתי מחייב, ובמקרים רבים גדולי הרבנים (כולל הרמב"ם) פסקו כדעת המסורת של הירושלמי ובניגוד לתלמוד הבבלי.