菅原道真が大宰府に左遷される道中、尾長山（二葉山）麓に船を寄せ（当時この付近まで海だった）山を登り休憩をとった。山中のその地に村民が祠を立てたのが始まりといわれる神社です。

平清盛が二葉山の峰に差し掛かった際、豪雨と激しい雷に遭遇して絶体絶命に追い込まれますが、菅原道真のご加護を祈ると、不思議にも九死に一生を得たと伝えられています。
清盛は深く神徳を感じ、この一帯を「菅大臣の峰」と名付けて社殿を建設したといわれています。
神社の祭神は学問の神である菅原道真公神霊で、平安時代に道真公が無実の罪で大宰府に左遷される際、当時は山麓まで海だったこの地に船を寄せ、山に登り休息したという伝えられています。