關於碧雲禪寺緣起，根據碧雲禪寺眾法師口述，蕭世源整理的《碧雲禪寺》廟誌中的記載，由於當地觀世音菩薩顯靈的傳說，於是當地信眾蔡陣、陳水、陳祿等人發起，並由信眾陳仁鑫邀請當時臺南超峰寺的住持義敏老和尚到本地看風水，爾後在大正年間，信眾們發起募捐，佛寺以俗稱「竹篙厝」的建築方式興建，材質主要是竹材和木材，並在隔年完工。

碧雲禪寺原名二水蓬萊寺，建寺之初，寺內主持者為義敏老和尚，老和尚經常邀請斌宗法師和永定法師來弘法，此外，有位日本東海禪師也曾到來弘法，迄今仍有其後代法師仍和碧雲禪寺有書信往來。而在日本東海禪師到來後，再改名為蓬萊山碧雲禪寺。

為碧雲禪寺奠基的住持主要是義敏和尚與頌德和尚，他們原本都在臺南地區修行弘法，由於義敏和尚生前需要時常回臺南超峰寺，再加上義敏和尚過世後寺中事務無人主持，因此信眾們到臺南開元寺請頌德法師來擔任碧雲禪寺第二任住持。頌德禪師，俗家姓李，原籍臺南市。他是一位秉性耿直仁厚，為人謙順溫和，處事條理井然，滿腹經論，頗受信徒之景仰與愛戴的禪師。頌德法師原為臺南開元寺的知客師，來到本地後經常在本寺旁的百年羅漢松樹下講經說法，弘揚佛法。昭和19年（西元1944年）禪師圓寂，信徒遵其遺囑，舉行火葬，結果自遺骸中，尋得彩色舍利幾十顆，現安奉於碧雲禪寺內，供信徒瞻仰。

碧雲禪寺歷代住持分別為第一代開山釋義敏和尚、第二代弘法利生釋頌德和尚、第三代是重建廟宇的釋宏道和尚、第四代為釋深圓和尚，目前則傳到第五代，住持為懷宗法師。本案於民國107年（西元2018年）被登錄為歷史建築。