באמצע המאה ה-12, יהודי תימן מצאו את עצמם בעיצומם של אירועים דרמטיים. הפאטימים, ששלטו בתימן במשך תקופה ארוכה, החלו לאבד שטחים לטובת מטיף דתי כריזמטי בשם עלי אבן מהדי. השם אינו מקרי שכן "מהדי" באסלאם הוא המשיח הגואל, ועלי אכן רמז על עצמו פעמים רבות כמי שעתיד להביא את הגאולה הצפויה לכל המוסלמים. הוא החל לקבץ סביבו עוד ועוד תומכים, דרש רפורמות דתיות מרחיקות לכת והוביל להקצנה דתית. בסופו של דבר, אבן מהדי אכן הצליח לתפוס את השלטון בתימן, ואף הוריש אותו לבנו, עבד אל נבי, שהמשיך בדרכו של אביו והחל גם לפגוע ביהודים ביתר שאת.
השלטון המוסלמי בתימן החל בניסיון לכפות על חלק מהיהודים המרה לאסלאם ובמקביל הגביל את חיי הדת היהודיים ואסר על קיום המצוות היהודיות. ברגעי המצוקה הללו, 1172 ליתר דיוק, הופיע אדם בקרב היהודים שטען כי הוא המשיח. שמו המדויק אינו מתועד אך ידוע כי הוא הפיץ תעמולה משיחית ענפה, קהילות יהודיות רבות בתימן החלו להאמין כי המשיח אכן הגיע ואף שינו את המנהגים והתפילות שלהן בעקבות כך. קיימות עדויות כי גם לא מעט מוסלמים בתימן החלו לנהות אחרי המשיח היהודי, ככל הנראה משום שחשבו שבואו מסמן את בואה של הגאולה גם למוסלמים, ואיתו יגיע המהדי המוסלמי.
פרשיית משיח השקר היהודי בתימן הייתה נותרת אולי הערת שוליים היסטורית קטנה, אלמלא הרמב"ם התייחס אליה ברצינות רבה והגיב לה בזמן אמת. אחת האגרות המפורסמות ביותר שהרמב"ם כתב זכתה לשם "איגרת תימן" והייתה ממוענת לאחד ממנהיגי הקהילה, ר' יעקב בן ר' נתנאל, שכתב לו בחשש על התקופה הקשה שעוברת הקהילה היהודית בתימן ותהה האם המשיח החדש הוא משיח אמת. ר' יעקב פנה לרמב"ם כאחד מגדולי החכמים היהודים באותה תקופה, והוא אכן ענה לו בפירוט ובאריכות.
באיגרת הרמב"ם מנחם את ר' יעקב על התקופה הקשה, מפציר להרבות בתפילות ולא לשכוח לרגע שכמו שהגיעה – כך היא גם תחלוף. הוא קורא לא להיכנע לרדיפות, לגזירות השמד והמרת הדת הכפויה – היו כבר ניסיונות בעבר לכפות על היהודים דתות שונות והם עמדו בניסיונות אלו. הרמב"ם מזכיר את הנצרות והאסלאם כדתות שקריות אשר אין להתבסס עליהן, וקורא גם להימנע מחישובים על קץ העולם ובוא הגאולה. באשר למשיח החדש, הרמב"ם קבע בנחרצות כי מדובר במשיח שקר, שדמותו לא הולמת את דמות המשיח וכי מדובר במשוגע. הוא קרא להיזהר ולעצור את אותו משיח שקר, גם מפחד שזעם המוסלמים המקומיים יגבר עקב הופעת המשיח היהודי ותנועתו ואלו יפגעו עוד יותר בקהילה היהודית. הרמב"ם קרא לר' יעקב להעתיק את האיגרת שלו ולהפיץ אותה לכל הקהילות. הוא ראה במצב המתרקם סכנה מידית ומוחשית ליהודים בתימן.
התנועה המשיחית בתימן התקיימה עוד כמה שנים אך דעכה לבסוף. גם השושלת שיסד עלי אבן מהדי הסתיימה רק דור אחד אחריו – צלאח א-דין כבש את תימן וייסד את השושלת האיובית, והסדר שב על כנו באזור. אולם לאגרת תימן הייתה השפעה חשובה מאד עוד מאות שנים קדימה: יהודי תימן העריכו מאד את פעילותו של הרמב"ם למענם, ואת העובדה שהקדיש להם מכתב ארוך ומפורט ובקרב יהודי תימן התפתחה קבלה משמעותית מאד של תורת הרמב"ם, יותר מכל קהילה אחרת מקרב יהודי התפוצות. למעשה נוצרו שני זרמים אצל יהודי תימן – השאמים, שאימצו את מנהגי היהודים הספרדים, והבלדים, שהיו מזוהים עם הרמב"ם וההלכה שפסק בספרו "משנה תורה".
הבלדים לא היו מסוגרים לגמרי. במשך מאות השנים הבאות, על אף שקיבלו בבסיס את הרעיונות של הרמב"ם, את הצעתו לתפילה ואת הפסיקות שלו – הם החלו להיות מושפעים יותר ויותר מיהדות ספרד. גם המיסטיקה והמשיחיות שזוהתה עם יהודי ספרד לא פסחה על הבלדים שביהודי תימן, והם שילבו בין רעיונות הרמב"ם לרעיונות המיסטיים. לאורך כל התקופה הזו המשיכו יהודי תימן הבלדים להדגיש את נאמנותם לדרכו של הרמב"ם – זכר לאותה אגרת מפורסמת.
במאה ה-19 חל מפנה דרמטי שהביא למגעים חדשים בין קהילות יהודיות שונות. עד אז יהודי תימן היו קהילה מבודדת יחסית, אך בתקופה זו החלו להיווצר יותר מגעים עם קהילות יהודיות אחרות. מלומדים יהודים כמו יוסף הלוי מטורקיה ואדוארד גלזר נפגשו עם הרבנים התימנים והשפיעו עליהם לא מעט. בין השאר, הם נפגשו עם הרב יחיא קאפח, שנחשב לרב מוביל בקהילה הבלדית בתימן. הם חשפו אותו לעובדה כי הרמב"ם דגל מאד ברציונליזם והשמיט את רוב התורות של המיסטיקה מתוך תורתו שלו. ברוח הנאורות של המאה ה-19, הלוי וגלזר גם טענו כי המיסטיקה בכללותה מנוגדת לרציונליזם והרעיון של האל המופשט ביהדות.
קאפח התייחס ברצינות רבה לרעיונות הללו וייסד פלג בשם "דור דעה" בטענה כי יש לנטוש באופן מוחלט את המשיכה אחרי התורות המיסטיות. הוא טען כי ספר הזוהר וכלל ספרי הקבלה היהודים אינם נכונים, וכי אם יהודי תימן רוצים להוכיח נאמנות אמיתית לרמב"ם ולדרכו – עליהם להתנגד לכל גילוי של מיסטיקה. קאפח עורר מהומה לא רק בקרב יהודי תימן אלא בכל העולם היהודי ורבנים שונים החלו לכתוב נגדו ולהתפלמס איתו. התנועה הדרדעית (על שם "דור דעה") החלה להתפוגג לאחר עליית יהודי תימן לארץ ישראל. כיום, גם בייצוג החלקי שנותר ממנה, הנאמנות לרמב"ם ולדרכו ממשיכה כמעט כמו אז, בימים של אותו משיח שקר יהודי 800 שנה קודם לכן.