十九世紀末，甲午戰敗，民族危難。盛宣懷先生和一批有識之士秉持「自強首在儲才，儲才必先興學」的信念，一八九六年（光緒二二年）在上海創辦了交通大學的前身——南洋公學。建校伊始，學校即堅持「求實學，務實業」的宗旨，以培養「一等人才」為目標，精勤進取，篤行不倦。

當時的南洋公學，設立了師範院、外院、中院和上院四院。與北洋大學堂同為中國近代歷史上中國人自己最早創辦的大學。由於十九世紀末天津發生義和團運動，因此北洋大學堂的師生被迫轉移到南洋公學繼續教學，一八九九年北洋大學（今天津大學）在這裡頒發了中國第一張大學文憑。

一九一一年南洋公學改為南洋大學，一九二一年改稱交通大學，一九二二年稱交通部南洋大學，一九二八年又改稱交通大學。一九四九年交通大學部分校友遷至台灣後「復校」，這就是後來位於新竹的「國立交通大學」。

交通大學在一九五五至一九五七年部分西遷到西安，於是分成交通大學（上海）和交通大學（西安）二部分；一九五九年，兩部分獨立建校：上海部分定名為「上海交通大學」，西安為「西安交通大學」。

交通大學是前國家主席江澤民和中國導彈之父錢學森的母校。歷屆畢業生創造了中國近現代發展史上的諸多「第一」，例如：中國最早的內燃機、最早的電機、最早的中文打字機等。新中國第一艘萬噸輪、第一艘核潛艇、第一艘氣墊船、第一艘水翼艇、自主設計的第一代戰鬥機、第一枚運載火箭、第一顆人造衛星、第一例心臟二尖瓣分離術、第一例成功移植同種原位肝手術、第一例成功搶救大面積燒傷病人手術等，都凝聚著交大師生和校友的心血智慧。