本校前身為日治時期的臺東廳立農業補習學校，創立於 1928年4月1日，校址設於臺東鎮寶桑里（今地方法院附近）。之後曾二度更名並遷校：1936年更名為臺東廳立農林國民學校，校址遷至臺東鎮博愛路（今鯉魚山麓）。1937年8月，更名為臺東廳立農業專修學校，校址復遷回寶桑里。
光復後，於1946年2月15日改為臺東縣立農業補習學校，同年3月遷至永樂里本校現址，9月改為三年制臺東縣立初級農業職業學校。1948年8月改制為臺灣省立臺東農業職業學校，增設高級農藝科。1965年6月18日受黛納風災重創，學校根基為之動搖，在省府及教育廳全力支持指導下，全面重建，歷時一載，至1966年8月完成。1967年8月改制為臺灣省立臺東農工職業學校。1970年8月改制為臺灣省立臺東高級農工職業學校。