대한불교조계종 제6교구 본사인 마곡사(麻谷寺)의 말사이다. 850년(문성왕 12)에 보조선사(普照禪師)가 창건하였고, 그 뒤 오랜 세월을 거치는 동안 많은 중건중수를 거쳤으나 자세한 연혁은 전해지지 않고 있다.

다만, 1346년(충목왕 2)에 현재 보물 제337호로 지정된 금동약사여래좌상을 봉안하였으며, 1777년(정조 1)에 상대웅전을 중수하고 「칠갑산장곡사금당중수기」를 지었다. 1866년(고종 3)과 1906년(광무 10), 그리고 1960년에 대규모의 중창이 이루어졌다. 1969년 봉향각(奉香閣)을 건립하였고, 1998년에는 범종루의 범종과 운판을 조성하였다.

1999년 염화실을 지어 오늘에 이른다. 경사지를 닦아 위아래에 절터를 만들었는데, 아래에는 범종루·대웅전·설선당(說禪堂)·심검당(尋劍堂)·일주문·요사채 등이 있고, 이곳에서 50m 가량 올라간 곳에 다시 대웅전과 응진전(應眞殿)·지장전·삼성각·염화실(拈花室)이 있다. 대웅전이 둘 있는 것이 다른 절에서는 볼 수 없는 이 절의 특징이다. 또한, 이들 대웅전은 건축사상으로도 매우 주목되는 건물로서 상대웅전은 보물 제162호로 지정되어 있고, 하대웅전은 보물 제181호로 지정되어 있다. 상·하 대웅전의 방향은 서로 엇갈려 상대웅전은 동남향을, 하대웅전은 서남향을 하고 있다. 상대웅전 안에는 통일신라 때 조성된 국보 제58호의 철조약사여래좌상부석조대좌가 있으며, 바닥에 유문전석(有文塼石)이 깔려 있어 통일신라시대의 유존(遺存)을 읽을 수 있는 중요한 건축물이다. 하대웅전 안에는 보물 제337호의 금동약사여래좌상이 봉안되어 있는데, 최근 복장(腹藏)을 통해서 고려 말기에 조성된 것임이 밝혀졌다.

현재 비구니들의 수도처로 이용되고 있으며, 이 절 일대는 군내 최대의 구기자(枸杞子) 산지로 각광을 받고 있는 곳이기도 하다.