1922年10月11日海線通車時，名為大山腳驛（因附近有許多海岸階地，被大自然侵蝕成類似腳趾狀，故稱大山腳），民國51年4月1日站名改稱大山。70.5.1改為有人號誌站，71.8.18再改為三等站，80.4.1又改為甲種簡易站，由後龍站管理。
大山站房全為杉木建造之日式建築，造型特色與海線木造老站房同為三角形屋頂、入口廊柱雙木並立、Y字形廊柱環列、L型迴廊、牛眼窗等，而站房右側斑駁的夯土牆（以竹條橫直編織牆面內部支撐附著結構，再用泥土和米糠混合塗抹），顯現了老站房獨特之處，流露出古拙樸實之美。
剛停好車 就聽到嗚．．．．的聲音了
來不及到月台 它就來了 
都不等我啦 
