山東省文登市人，1916年出生。縣立第1小張玉華將軍學畢業後，16歲考入榮成師範 ，畢業後國小任教4年。1935年加入中國共產黨。張玉華是天福山起義的領導人之一，起義部隊後被編為山東人民抗日救國軍第三軍第一大隊，張玉華任一中 隊指導員。襲擊牟平縣城後，第一大隊在雷神廟被日軍包圍，張玉華在戰鬥中受傷的情況下，仍然背著身負重傷的膠東黨組織負責人理琪突出包圍。1964年晉升少將，二級獨立自由勳章、二級解放勳章、一級紅星功勳榮譽章。
建國前1938年6月，張玉華任第一大隊政委，8月任61團1營政委。11月任5支隊63團政委 。1939年部隊精簡整編，任15團1營教導員。1940年率部參加孫祖戰鬥，在戰鬥中 負傷。張玉華戰鬥一貫積極靠前，軍政雙能。他在13團3營任教導員時，指揮該營 扼守九子峰，對取得戰鬥的勝利起了重要作用。1940年9月，任山東縱隊特務團政委。1941年任1旅3團政委。1942年任魯中軍區後 勤部政委。解放戰爭到東北，任3縱8旅3團政委，參加遼河、保衛本溪、四平戰鬥 。1946年7月任8師政治部副主任，1947年6月任師政治部主任。參加攻打義縣、錦 州戰鬥和遼西會戰。平津戰役時，任40軍119師政治部主任。建國後建國後，升任118師 政委，參加海南島戰役，所在師創造了第一個先鋒營和第一個加強團登島，用木船打敵軍艦的戰績。1950年入朝作戰，118師在兩水洞打了志願軍出國第一仗。在抗美援朝第四次戰役中，118師師長鄧岳決心用一個團當預備隊，拿一個團採取尖刀戰術，穿插25公里，斷敵後路。張玉華聽了鄧岳的決心後認為這是一招高棋 ，也是一招險棋。主要是穿插的縱深遠，地形與敵情均不熟悉。鄧岳信心十足：尖刀團勇猛穿插，敵人一個師也莫奈我何！張玉華對尖刀團團長說要提倡勇猛穿插的戰鬥作風，過去講叄猛戰術，猛打、猛衝、猛追，空小就擠，把叄猛變成四猛。擔任尖刀團的352團在穿插的路上經常遇到散亂的敵軍，不予理睬，6個小時穿插前進了25公里，到達指定位置後，回過頭來與3 53、354團南北夾擊敵軍，獲大勝。張玉華在朝鮮升任40軍政治部副主任，獲朝 鮮二級自由獨立勳章。回國後，張玉華40軍政治部副主任、主任、40軍副軍長。1960年任瀋陽軍區炮兵副司令員，1963年任瀋陽軍區炮兵政委。1967年任武漢軍區副政委，後擔任南京軍區副政委。張玉華是中共11屆中央委員。文革期間，1970年到1976年、1982年到1983年兼任湖北省委書記。張玉華的夫人叫劉振華，與他在118師的同事，師政治部主任劉振華同名同姓，後來兩家成了兒女親家。
張玉華將軍自1986年離休後，20多年來投身慈善事業，用自己的收入先後向全國各地貧困民眾、學校捐款40萬元，捐贈大米兩萬斤，2012年他獲得了“中國好人”的殊榮。
張老離休但並未真正休息，他總想著儘自己的能力發揮餘熱，為大家做點實事。“我現在有‘四為’，一為青少年下一代服務，二為在職人員服務，三為老年人服務，四為老區服務。”張玉華說。離休後，張玉華擔任了很多社會職務，先後擔任了家鄉山東文登市幾所國小及南京市二十九中等十幾所學校的校外輔導員，他定期去這些學校為學生們做報告。張玉華經常給孩子們上課，還經常給在職人員和老年人做講座。“現在社會上有一些不好的現象，比如貪污受賄、鋪張浪費。所以對在職人員加強傳統教育和思想政治教育是有必要的。”對於老年人，他樂於和他們分享養生心得。這幾年他通過自己的思考，向有關部門反映的情況很多，寫的材料有厚厚一大摞，不少部門還給他寫來感謝信。張老將這些“回報”看得很重，特別是一些他資助過的學校的孩子逢年過節會來看他，讓他很高興。
在紀念中國人民抗日戰爭暨世界反法西斯戰爭勝利70周年的“9·3”閱兵中，山東40餘名抗戰老戰士、支前模範、英烈子女代表將與全國各地的代表組成抗戰老同志乘車方隊，在天安門廣場接受祖國和人民的檢閱。其中就有抗戰老戰士張玉華。當絢麗的彩煙還在天空飄蕩，當人們的目光還在不捨地眺望，在武警國賓護衛隊的護衛下，一輛輛墨綠色的敞篷中巴車沿著綠蔭夾道的東長安街徐徐駛來——首次參閱的抗戰老同志和抗戰支前模範乘車方隊來了！車體上，以“偉大勝利”和“萬眾一心”為主題的10面浮雕，生動描摹出一幅氣勢恢宏、可歌可泣的全民族抗戰歷史畫卷；車廂里，330餘名抗戰老戰士、抗日英烈子女和抗戰支前模範代表揮手致意。滿臉的皺紋珍藏著戰鬥的歲月，胸前的勳章凝結著曾經的輝煌。天安門廣場上的掌聲，如潮水般洶湧——今天，平均年齡90歲、最年長的已經102歲的他們，代表全體抗戰老同志接受祖國和人民的致敬！怎堪山河破碎，三級獨立自由勳章獲得者、102歲的抗戰老兵陳廷儒當年毅然投筆從戎；不畏流血犧牲，99歲的八路軍老戰士張玉華，一枚子彈至今留在身體裡……70年前，全體中華兒女眾志成城、共赴國難，用鮮血和生命鑄就了中華民族反侵略戰爭的歷史豐碑。70年後，以抗戰勝利為起點，走過烽火硝煙的中華民族正闊步行進在偉大復興的征程上。