1990年中山雅史加入日本足球联赛球队山葉發動機，1992年球队在联赛的改革成为现今的磐田喜悦，令中山雅史可以参加首届日职联赛。自此开始中山雅史一直成为磐田喜悦正选阵容，并且凭他的进球能力成为联赛中最出色的射手。

1998年4月，当时效力磐田喜悦的日本前锋中山雅史，在日职联赛第一阶段的第6轮到第9轮的比赛中，连续4场上演帽子戏法，这甚至被吉尼斯世界纪录大全承认为一项新的世界纪录。中山雅史载4场比赛中总共打进16球。

2006年9月18日，39岁的中山雅史在作客对川崎前锋的比赛中攻入一球，不单成为日职联赛历史上最年老入球的日本球员，并创出职业生涯连续十三年均能够在日职取得入球[2]。

2009年12月，磐田喜悦宣布不会再和42岁的老将中山雅史续约，双方的合同将到2010年1月1日结束。

中山雅史在2012年12月4日在札幌冈萨多宣布退役，当时他已经45岁。但是在2015年9月，他宣布复出，加盟当时还在日本第四级别联赛的沼津青蓝，与球队一同升入第三级别联赛，也一直效力至今，不过在这几年时间里，他从没代表过球队在正式比赛中登场。

日丙联赛沼津青蓝官方宣布，与51岁的日本足坛名宿中山雅史续签2019年的合同。

中山雅史宣布退出球员现役球员行列，回到老东家磐田喜悦担任主力教练，并表示将全力协助球队冲向日职。