במהלך השנים הקפיד יו"ר ארגון להב"ה בנצי גופשטיין לשמור על עצמו נקי, אך ייתכן כי זו תהיה ההתבטאות שתשבור את גב הגמל.
באתר 'כיכר השבת' נחשפו הקלטות בהן נשמע גופשטיין כשהוא מביע לכאורה תמיכה בשריפת כנסיות. מדובר בכינוס סגור בקעמפ של ישיבת וולפסון, במהלכו התקיים דיון בין העיתונאי החרדי בני רבינוביץ לבין יו"ר להב"ה בנצי גופשטיין.
חברי הפאנל, הרב משה קליין, רב המרכזים הרפואיים הדסה, צוריאל קריספל, סגן ראש העיר אלעד, וכן גופשטיין ורבינוביץ, דנו בשאלה האם מצווה לבער כיום עבודה זרה, כשגופשטיין טוען מצידו שהתשובה חיובית, ובתגובה אומר לו הרב קליין, כי בעוד זו אכן מצווה לפי הרמב"ם, בזמננו התשובה היא לא.
רבינוביץ שאל את גופשטיין האם הוא בעד שריפת כנסיות בארץ ישראל, ובתשובה אמר לו גופשטיין, “בוודאי שכן”, כשהוא מתייחס לדברי הרמב"ם. לאחר שמקשים עליו חברי הפאנל הוא מוסיף "הרמב"ם פסק שצריך לבער או לא? עבודה זרה צריך לבער".
מנחה הפאנל, אבא טורצקי, הקשה עליו עוד ושאל "בנצי, אתה בעד לשרוף או לא?”, ובתגובה מבהיר גופשטיין חד משמעית: “בוודאי שכן. בוודאי, זה הרמב"ם. פשוט שכן, מה השאלה בכלל?”.
רבינוביץ מוסיף ואומר "בנצי, אני רוצה לומר לך שאני באמת בהלם ממה שאתה אומר פה. אתה בעצם אומר שצריך לצאת ולשרוף כנסיות. אתה אומר פה דבר מטורף", וגופשטיין עונה: “מה השאלה? יש לך ספק שלא?”
הרב קליין, עורך דין במקצועו, מבהיר לו בתגובה לכך כי "בנצי, ברגע זה צילמו אותך והקליטו אותך וזה מגיע למשטרה אתה נעצר", וגופשטיין עונה, “זה הדבר האחרון שמטריד אותי. אם זו האמת אני מוכן לשבת בכלא 50 שנה בשביל זה".
באתר כיכר השבת הגיב גופשטיין לדברים ואמר "ההלכה פשוטה, שיטת הרמב"ם שצריך לבער עבודה זרה. אין אף רב שחולק על כך .אני מצפה מממשלת ישראל לבצע את הדבר. אמרתי שעל אמירת האמת אני מוכן לשבת בכלא. והדגשתי שאני לא שורף ולא הולך לשרוף כנסיות. חבל שבני רבינוביץ מוציא דיונים הלכתיים שנערכים בישיבות לטוויטר".