Die Bruderklausenkapelle wurde 1925 im Auftrag von V. Schwaller vom Architekten Dumas aus Romont entworfen. Die Malereien an der Eingangsfront mit Szenen aus dem Leben des Bruder Klaus sind von Oscar Cattani. Die Burgbühlkapelle mit dem Grabmal von Dekan Schwaller gehört heute der Stiftung BZB.

Bauherr einer ersten Kapelle in Bächlisbrunnen war wahrscheinlich Junker Josef Beat Ludwig von Praroman, Gutsbesitzer im Kehr. Im Auftrag der Familie Meuwly wurde sie später vergrössert und am 28. Oktober 1858 zu Ehren Marias, Mutter des guten Rates, geweiht.

Der Söldnerhauptmann "Biago Wäber"liess die Obermontenkapelle zu ehren "Unserer Lieben Frau von der göttlichen Vorsehung" erbauen. 1670 nahm Bischof Strambino die feierliche Einweihung vor.

Beim Brand 1844 konnte die Muttergottesstatue gerettet werden. Louis de Buman liess die Kapelle wieder erbauen aus Dankbarkeit für die Errettung seines Verwandten bei einer Explosion. Am 26. Mai 1846 segnete der Bischof Stephan Marilley die Kapelle zu Ehren Marias, Mutter der Vorsehung und der Dreifaltigkeit.

Die heutige Sebastianskapelle entstand 1750 als Zeichen des Dankes für die Errettung vor der Pest. Der heilige Sebastian wurde seit dem Mittelalter als Pestpatron verehrt, er gilt auch als Schutzheiliger gegen Viehseuchen. Nach der frühchristlichen Legende wurde Sebastian als Offizier der kaiserlichen Garde unter Diokletian wegen seines Bekenntnisses zum Christentum mit Pfeilen erschossen.

Nach der Sage sollen Pilger auf der Wallfahrt nach Compostella in Gefangenschaft geraten sein. Als Dank für die glückliche Befreiung hätten sie die Kapelle zu Ehren des heiligen Jakobus erbaut (Wende 16./17. Jahrhundert). Das Glöcklein aus dem Jahre 1497 ist das zweitälteste im Sensebezirk. 1957 wurde die Kapelle unter fachkundiger Leitung restauriert und 1984 wurde das Türmchen erneuert.

Nach seiner Rückkehr aus dem heiligen Land liess Dekan Schwaller 1924 im Burgbühlwald als Erinnerung an die Grabstätte Jesu in Jerusalem eine Grabkapelle aus dem Fels hauen. 1981 wurden die verschütteten Waldwege und auch die arg zugerichtete Andachtsstätte wieder in Stand gestellt.