杨震字伯起，籍贯弘农华阴（今陕西华阴东）。八世祖杨喜，汉高祖时因功封赤泉侯。父亲杨宝，研习《欧阳尚书》。
杨震少年时即好学，跟随太常桓郁学习《欧阳尚书》，通晓经术，博览群书，专心探究。当时的儒生称赞他说：“关西孔子杨伯起。”杨震居住湖城，几十年都不应州郡的礼聘。很多人认为他年纪大了，应该出去做官了，杨震不仕的志概，更加坚决。后来有冠雀衔了三条鳣鱼，飞栖在讲堂前面，主讲之人拿着鱼说：“蛇鳣，是卿大夫衣服的象征。三是表示三台的意思，先生从此要高升了.”

杨震直到五十岁时才在州郡任职。大将军邓骘听说杨震是位贤人，于是举其为茂才，四次升迁后为荆州刺史、东莱太守。

当他前往郡里路过昌邑时，从前他推举的荆州茂才王密正任昌邑县长，去看望杨震，晚上又送给杨震金十斤。杨震说：“老朋友知道你，你为什么不知道老朋友呢？”王密说：“现在是深夜，没有人会知道。”杨震说：“天知、神知、我知、你知，怎么说没有人知道呢。”王密惭愧地离开.

后来转任涿郡太守。任内公正廉明，不接受私人的请托。他的子孙蔬食徒步，生活俭朴，他的一些老朋友或长辈，想要他为子孙布置产业，杨震说：“让后世的人称他们为清白官吏的子孙，不是很好吗？”