山东省济宁市金乡县羊山镇下辖村委会包括东三村民委员会、东一村民委员会、东二村民委员会、东四村民委员会、西街村民委员会、西阁村民委员会、葛山村民委员会、高庙村民委员会、西杨庄村民委员会、孟营后街村民委员会、孟营前街村民委员会、崮子村民委员会、北李庄村民委员会、满庄村民委员会、前周村民委员会、白衣堂村民委员会、后周村民委员会、王小山村民委员会、小屯村民委员会、王举楼村民委员会、仇庄村民委员会、北胡村民委员会、苇子坑村民委员会、西周楼村民委员会、韩楼村民委员会、东王村民委员会、沈庄村民委员会、北李堂村民委员会、欢德营村民委员会、沙沃张村民委员会、张庄村民委员会、杨早村民委员会、任庄村民委员会、东周庄村民委员会、东苏庄村民委员会、徐楼村民委员会、葛庄村民委员会、电池王村民委员会、南杨楼村民委员会、苏庄村民委员会、南胡村民委员会、东袁庄村民委员会、王井村民委员会、赵楼村民委员会、后李楼村民委员会、王牌坊村民委员会、北薛庄村民委员会、前刘楼村民委员会、孟楼村民委员会、鹿弯村民委员会、高洼村民委员会、杜楼村民委员会、邱官村民委员会、武坑村民委员会、葛针庙村民委员会、杜庄村民委员会、李小楼村民委员会、五所楼村民委员会、前刘村民委员会、巩堂村民委员会、后刘村民委员会、江庄村民委员会。

1957年设羊山镇，1958年改公社，1984年改镇。1995年1月，将羊山镇的刘庄、桃元、安五王、河东王、后于、宋屯、周大楼、东张、东李、薛海、关帝等11个村划归大义乡。1996年，面积70平方千米，人口51万人，辖东一、东二、东三、东四、西阁、西街、葛山、高庙杨庄、堌子、李庄、前孟、后孟、满庄、后周、小屯、王举楼、王小山、白衣堂、前周、 沈庄、李堂、欢德、仇庄、周庄、杨早、张庄、东苏、任庄、徐楼、胡庄、周楼、沙沃张、苇子坑、南湖、后李、孟楼、袁庄、苏庄、靛池王、王井、葛庄、杨楼、杜楼、薜庄、高洼、邱官、武坑、王牌坊、赵楼、刘楼、鹿湾、李小楼、后刘、东王、韩楼、前刘、杜庄、葛针庙、江庄、巩堂、五所楼62个行政村。