1918年，刘子山投资20万元，在青岛创办东莱银行，自任董事长兼总经理。次年，在天津、济南两地设立分行。1923年，他将东莱银行改组为股份有限公司，资本增至300万元，并在上海设立分行。以重金借用中国银行的钞票版面，发行钞票。1926年，他将东莱银行天津分行改为总行，青岛行改为分行。1928年将总行由天津迁到上海。接着，在大连等地也设立了分行。在此期间，他还向大陆银行、太平洋保险公司等金融机构投资，并担任董事职务。抗日战争爆发前，刘子山曾被推举为青岛市商会会董、山东旅沪同乡会名誉会长。曾个人捐款创办青岛中学、济南孤儿院等。
1937年后，刘子山避居天津法租界，拒不与日伪合作，并派儿子刘少山赴上海，召集东莱银行同人，传达他的指示：“国难时期，宜闭关自守，紧缩业务。本人自愿不再提取股息，以维同人生计”。此后，刘子山体衰多病，将东莱银行业务交儿子管理。1948年春天，他从天津到上海就医。同年10月12日，因心脏病发作死于上海。