עדי יהוה נרדפו בגרמניה הנאצית לאורך כל שנות קיום המדינה (1933–1945), לאחר שסירבו להתגייס לוורמאכט, להצטרף לארגונים נאציים או להביע נאמנות למשטר. כ-10,000 מבני הקהילה (כמחצית מכלל חברי התנועה בגרמניה מאותן השנים) נכלאו, כ-2,000 נשלחו למחנות ריכוז, וכ-1,200 מתו במחנות או בדרכים אחרות (כולל 250 מאמינים שהוצאו להורג). זוהי הייתה הקהילה הנוצרית הראשונה שנרדפה על ידי השלטון הנאצי.
בניגוד ליהודים ולבני רומה שנרדפו בשל מוצאם האתני, יכלו עדי יהוה להימלט מהרדיפה על ידי חתימה על מסמך המבהיר מצידם את הוויתור על אמונתם הדתית, הכרזת נאמנות למדינה ותמיכה בצבא הגרמני.
החל משנת 1933, עדי יהוה החלו לסבול מאפליה חברתית- הם גורשו מעבודותיהם וממערכת החינוך. ההיסטוריונים חלוקים בשאלה האם השלטון הנאצי רצה בהשמדתם באופן טוטלי.
עדי יהוה הם תנועה דתית מסיונרית שהחלה בסוף המאה ה-19. הסניף הגרמני הראשון של התנועה נפתח בשנת 1902 בוופרטל. עד שנת 1933 היו חברים בתנועה כ-20,000 איש. בתקופת מלחמת העולם הראשונה החלה התנגדות ציבורית לארגון, ואנשיו אף נחשבו לבולשביקים, קומוניסטים או יהודים סמויים. בשנות ה-20 המדינה החלה לעצור אלפים מחברי התנועה, ואף הוגשו כ-5,000 כתבי אישום (שרובם התבררו בדיעבד כמזויפים). בשנים 1930–1932 החלו קריאות בציבור להתערבות לאומית כנגד מאמיני התנועה. אט אט החל הנשיא פאול פון הינדנבורג להוציא את התנועה אל מחוץ לחוק.
אדולף היטלר מונה לקנצלר גרמניה ב-30 בינואר 1933. מאותו רגע החלה הרדיפה אחרי עדי יהוה להתגבר. עדי יהוה עצמם הביעו סירוב להביע כל נאמנות שהיא למדינה הנאצית- החל מסירוב לבצע מועל יד ועד לסירוב להשתתף בצעדות נאציות ולהצטרף לארגונים נאציים. בתמורה, המאמינים החלו להירדף ולהיות מוצגים כבוגדים. פעילותם של תאי סטודנטים מטעם הארגון הוצאו אל מחוץ לחוק, ומאמינים עצמם החלו מחאה נגדית. ב-24 ביוני של אותה השנה, פרוסיה הוציאה אל מחוץ לחוק את התנועה, ואף קשרה אותה לחתרנות מרקסיסטית. באותה השנה החלו לפטר מאמינים מעבודתם בשירות הציבורי.
בשנת 1935 החל מודל גיוס חובה לצבא הגרמני, ועדי יהוה סירבו להתגייס, ובשל כך נעצרו. ילדים של פעילי הארגון הושפלו בבתי הספר על ידי המורים, הוכו ואף סולקו ממנו. באותה השנה הפיץ הגסטפו את טופס המאפשר לעדי יהוה לוותר על אמונתם הדתית, להתנתק מהארגון ולהכריז על נאמנות למדינה ובכך להינצל מרדיפות. באותה השנה החלו להישלח עדי יהוה למחנות ריכוז. עונשים ברוטליים אחרים כללו עיקור, עינויים וטיפול פסיכיאטרי כפוי.
בשנת 1936 פוטרו כלל המאמינים מעבודותיהם במגזר הציבורי, והמדינה החלה להחרים כלי רכב של חברי הארגון. לאחר מכן אף נשללו רישיונות נהיגה, פנסיות וחברי הארגון אף פונו מבתיהם. ילדיהם נדרשו להביע נאמנות למשטר או שהוכו על ידי המורים וחבריהם לכיתה. במרץ 1936 חלק מהילדים של חברי הארגון אף הוצאו מהבית על ידי המדינה לשם "הכשרה מתקנת".
במאי 1938 היוו עדי יהוה 12% מכלל השבויים במחנה הריכוז בוכנוולד. עד מאי 1939 הם ייצגו 40% מכלל האסירים במחנה ליכטנבורג. בזמן שהותם במחנות, אנשי הארגון סומנו במשולשים סגולים. מרבית מהאסירים סירבו להביע כל משמעת או נאמנות, דבר שהביא עליהם עינויים רבים.
בשנת 1939 פרצה מלחמת העולם השנייה, דבר שהגדיל את הצורך בחיילים בצבא גרמניה. עדי יהוה המשיכו לסרב לגיוס, ואף חלקם הוצאו להורג בשל כך בתחילת המלחמה. בשנת 1942 החלו תנאי האסירים להשתפר והם אט אט קיבלו יותר ויותר חופש.