张敞起初是个乡有秩（乡官），后补为太守卒史。由于为官清廉，又先后补为甘泉仓长、太仆丞，颇为当时的太仆杜延年所器重。昌邑王刘贺嗣立时，行悖无道，滥用私人。张敞因此很为汉朝前途担忧。他勇敢地向刘贺上谏，批评刘贺当了皇帝以后不能选贤用能，使得朝中国辅大臣不得褒扬，而昌邑挽辇小臣纷纷升迁。谏后十多天，刘贺即被废黜。张敞便因切谏而显名，被擢为豫州刺史。后来他多次上书言事，宣帝见他忠心耿耿，就擢他为太中大夫。这时大将军霍光秉政，张敞由于守正不阿得罪了霍光，受到排斥，被派去主持节减军兴用度之事，后又将他调出，担任函谷关都尉。宣帝初即位，担心已废的昌邑王刘贺有变动，特令张敞为山阳太守（山阳本系昌邑旧封，刘贺被废后返居此地），暗中监守刘贺。张敞经过多方考察，发现刘贺被废后沉迷酒色，昏愚痴狂，无心思也无能力起事，便据实奏闻宣帝。使宣帝从此不再担心刘贺有所行动。