La piccola graziosa chiesa di fronte al lato sud dell'imponente 
campanile della Parrocchia del Duomo, dedicato a Santa Sofia e divenuto simbolo di Lendinara stessa, prende il nome di chiesetta di San Giuseppe. Funge oggi da Battistero parrocchiale e tutti la conoscono anche per la chiesa dei "Corpi Santi". Vi sono infatti sotto ogni altare, i resti mortali di martiri cristiani portati nel 1811 da don Francesco Baccari, il geniale architetto del campanile, illustre cittadino. Le preziose reliquie sono grazioso dono di Papa Leone XII, quando a Roma il sacerdote lendinarese ricopriva l'incarico di segretario generale delle missioni.
Pochi in verità la conoscono per la chiesetta di Santa Maria delle Grazie e, fin dal suo sorgere, sede della Pia Unione del Rosario in Santa Sofia di Lendinara.
L'edificio è di proprietà degli eredi dei Baccari, che attualmente risiedono a Legnago. L'uso, l'amministrazione e la manutenzione del manufatto, con rogito notarile, sono lasciati da tempo alla Parrocchia di Santa Sofia, che ne fa uso di battistero fin dal 1822, come attesta la lapide posta sopra il portale d'ingresso.
La chiesa è sempre stata fin dal suo nascere sede di associazioni e di confraternite. Ed è significativo che in essa si sia svolta la riunione, nell'ormai lontano 1894, con la quale si è costituita, con atto notarile del dr. Giacomo Zago, la prima Cassa Rurale di depositi e prestiti, società cooperativa in nome collettivo, società formata di piccoli proprietari, affittuari, artigiani, commercianti ed altri uomini di buona volontà, sensibili ai problemi sociali del momento, che intesero rispondere alle difficoltà con la solidarietà umana e cristiana nell'esercizio del credito. Tra i soci fondatori è doveroso ricordare due componenti della famiglia Lorenzoni, Luigi e il dr. Lorenzo, Buffetti Giovanni Battista, i sacerdoti Davì mons. Giovanni, arciprete del Duomo, Secchiero don Angelo, Perini don Luigi, il popolare don Gigetto, che fu per lunghi anni segretario contabile della Cassa, e Corà don Alessandro, ed altri i cui nipoti o discendenti sono tutt'oggi soci ed amici della CRA.
L'essersi riuniti in quel luogo, assume un particolare significato. Fin dal suo nascere, la chiesetta è stata sempre sede di associazioni, fra i primi i Battuti o Flagellanti, la Pia unione del Rosario e la compagnia del Santissimo Sacramento.
I Flagellanti o Battuti, erano confraternite secolari di penitenti fiorite nel medioevo: si recano in processione vestiti di cappa e cappuccio, e si battevano con la disciplina che era un flagello o fascio di cordicelle terminanti in nodi. Ebbe largo seguito e folle intere guidate da Ranieri Fasani di Perugia, passavano per le città e le campagne.
Secondo il concittadino Bruno Rigobello, che si è occupato autorevolmente di storia lendinarese. la chiesetta avrebbe avuto i natali fin dalla fine del 1400, diventando sede dei Battuti o Flagellanti, trasferitisi dalla chiesa di S. Antonio Abate, nei pressi del ponte dell'Adigetto detto poi dei Cappuccini.
Da ricordare che dopo la soppressione ecclesiastica, l'associazione rimase e i confratelli operavano assistendo gli ammalati e i moribondi.
Il vescovo Retano -1699- ricorda come i Battuti o Flagellanti, il giorno di Pasqua, partivano dall'oratorio di S. Giuseppe e, in cappa bianca, "ante ortu solis", prelevata l'Eucarestia, usavano portarsi in processione per tutte le terre di Lendinara.
Pur se si può sottolineare la condotta talora arbitraria di questi confratelli, non è da sottacere la loro generosità verso i poveri e l'uso di stabilire con gli introiti una dote per "le donzelle oneste e povere".
Dal 1797 la chiesa fu abbandonata poichè vennero soppresse tutte le congregazioni, eccetto quella del SS. Sacramento.
Come ricorda il Boraso nella sua "Cronaca", la chiesetta venne usata come fienile dalle truppe francesi che erano acquartierate negli edifici e magazzini che circondavano l'attuale piazzetta A. Mario, che da quel tempo fino alla dedica all'illustre cittadino lendinarese, venne chiamata del "Guasto", toponimo chiaramente indicativo dei risultati del soggiorno delle truppe francesi.
Nel 1800 il demanio di Ferrara mise all'asta la chiesetta con le attigue case. Fu acquistata dei fratelli Luzzato di Rovigo, ebrei. Infine nel 1812 la chiesa, tramite regolare acquisto registrato dal notaio Galbetti per lire 3.202 e 40 centesimi, passò a don Francesco Baccari.
Il pio sacerdote la fece restaurare ed ornare nell'attuale forma, quindi atta ad essere usata per le sacre funzioni. Nel 1816 fu sottoscritto un accordo tra il Baccari e l'arciprete del Duomo, Fontana, col quale la chiesa doveva servire alla chiesa di S. Sofia per essere usata come battistero in perpetuo. La manutenzione e l'uso venne demandato alla parrocchia di S. Sofia
La chiesetta, dedicata al glorioso transito di S. Giuseppe, dopo il radicale restauro e ristrutturazione, venne riaperta nel 1822 e riammessa al culto nel 1829 con documento dal vescovo Ravasi.
Con la definitiva disposizione testamentaria del Baccari, la chiesetta fu annessa alla chiesa di S. Sofia (11 novembre 1834).
Ciò viene ricordato da una lapide posta sopra il portale d'ingresso:
HONORI D. JOSEPH DEIPARAE SPONSI
SACRA AEDES NOVO CULTU
RESTIT ED ORNATA
UBI ET CURIAE PRINCPIS BAPTISTERIUM
JUSSU CONSENSUQ KAROLI PII RAVAI EP. ADR.
ED ANDREAE FONTANAE ARCHIP. TRANSALATUM
A. MDCCCXXII
All'interno della chiesa furono posti due busti dei fondatori della chiesa. Nel 1925 con il generoso contributo del concittadino Giovanni Nob. Lorenzoni essa fu nuovamente restaurata e rimessa nel suo assetto attuale, che in definitiva è lo stesso voluto dal Baccari.
All'interno consta di una navata unica con tre cappelle laterali e del Battistero tra due coretti laterali: a sinistra dell'altare maggiore vi è la porta che immette nella sacrestia.
Una nota triste. La chiesa è pressochè abbandonata; reca i segni e gli insulti del tempo e della trascuratezza degli uomini. Ed è amarezza rilevare come un prezioso gioiello ricco di storia sia ridotto in pessime condizioni.