当社は、朝廷が飛鳥より近江大津宮に移ったのを期に、天智天皇八年（六六九）、天皇の勅願により中臣朝臣金連【かねのむらじ】がこの地に社殿を造り、「祓戸の大神三神」を祭ったことから始める。

神道における最高祝詞である『大祓詞【おおはらえのことば】』のもとである『中臣大祓詞』は当社が創始地である。

 この地は八張口、桜谷と呼ばれ「山岳裂けて低下の所を開くところがその名の由来であると社記に記されており、瀬田川の急流のつくる奇岩で古くから景勝地として知られ、『蜻蛉日記』『夫木抄』『名寄』などにも歌が詠まれています。また、近くにそびえる太神山【たなかみやま】には巨大な磐座【いわくら】もあり、農耕を守る神の山といわれ水がとりなす古代祭祀の香りを充分に伝えている。

　昭和三十九年、下流の「天ヶ瀬ダム」建設に伴い旧境内地が水没予定地となるため、河畔にあったご社殿を高台に移し、現在に至る。

​