中國自古注重忠孝節義的德行，民間遇有孝子或節婦之人，每每報請地方官府轉呈朝廷，准 予建坊旌表。康熙元年（1662年）朝廷諭示：「旌表節義，給銀建坊，民間往往視為具文，未曾建立，恐日久仍至泯沒，不能使民有所觀感。著 於地方公所，設立祠宇，設牌位於祠中祭祀，用闡幽光而垂永久」，此為節孝祠興建的由來。
同治十二年（1873年），彰化縣學白沙書院山長蔡德芳與拔貢生林淵源遍訪臺灣中部地區，北至牛罵頭（今臺中清水），東至東勢角（今臺中東勢），南至沙連（今南投竹山、鹿谷）及北斗，西至西螺及海豐布嶼（今雲林崙背及二崙一帶），採集節婦名錄共一百二十位。
光緒十二年（1886年）彰化貢生吳德功又與白沙書院山長丁壽泉、訓導劉鳳翔，再採得節孝婦名錄共一百六十名。同年，臺灣知府程起鶚、陳文騄及彰化知縣李嘉棠，奏請禮部准予建祠，山長蔡德芳和吳德功、主事吳鴻藻、職員呂賡虞等人隨即進行倡捐建祠活動。
光緒十三年（1887年）准予立祠，正式編入官方祀典；光緒十四年（1888年），節孝祠落成，其地點位在彰化城隍廟的東側，為一獨立的祠院。落成之後不久，乙未戰爭爆發，抗日義軍在彰化八卦山和日軍發生激烈戰役，義軍死傷慘重，彰化城陷，節孝祠亦遭戰火波及而嚴重受損，「祠中木龕、前後門扇，蕩然一空」。幸賴新建不久的節孝祠「祠宇堅牢」，至大正八年（1919年），「幾經風雨剝蝕，廟貌依然無恙也」。
明治三十三年（1900年）時，曾禮請彰化廳長鬚田綱鑑將縣志內記載之節孝，以及同治、光緒朝請旌之節孝名錄，重新登錄於牌位，並同時整修前殿簷柱，春秋二祭時，由臺中廳長賜祭粢金五圓。大正八年，吳德功曾將節孝名錄加以輯錄，成《彰化節孝冊》一書。
大正十二年（1923年），彰化市因實施都市計劃，拓寬道路而使得節孝祠易地重建，從原來城隍廟東側僑遷至現址，計工費金八千元，新祠多襲用舊材，並由鹿港貢生蔡穀仁（蔡德芳之子）立「重建中部節孝祠碑記」記之。
光復後，節孝祠不再接受入祀，又因乏人管理，以致逐漸破敗，至民國七十三年（1984年）始由政府編列為第三級古蹟，開始進行調查、保護措施。彰化節孝祠為臺灣現存三座節孝祠中，唯一以獨立形態保存者，祠之結構為四合院式，包括兩廊兩殿。正殿採用罕見的「移柱法」，將神龕之牌位完整呈現，在台灣為建築史上深具研究價值；祠內之彩繪出自鹿港彩繪大師郭新林之手。祠前立有乾隆三年（1738年）紀念汪門雙節之沙岩石碑一座。