少年時曾就讀由資江書院改制的資江高等小學堂，光緒三十四年（1908）赴長沙考入湖南大學的前身湖南高等學堂，這是清末全國最早開辦的高等工科學校之一。

民國2年（1913）他從該校機械科畢業(yè)，適逢庚款津貼生留學考試，被選錄。先赴美入哈佛大學，不久轉(zhuǎn)入威斯康辛大學，兩年中嘗試不同的本科通識課程和專業(yè)課程。再轉(zhuǎn)入伊利諾斯大學電機系，攻讀三年，獲碩士學位。又入錫拉丘茲大學專攻數(shù)學，于民國8年（1919）榮獲博士學位。他是繼胡明復、姜立夫之后中國近代第三位數(shù)學博士，同時也是實行新學制后湖南省歷史上的首位博士。其間加入民國4年（1915）成立的中國科學社，并曾被推舉為董事候選人。

20年代初美國大學的研究水平還遠低于歐洲，感于此，楊卓新決定渡過大西洋前往西歐深造。趁一戰(zhàn)后歐洲幣值匯率低落的良機，他于民國9年（1920）抵達英國作博士后研究，先后進入劍橋大學和倫敦大學。民國11年（1922）到法國巴黎大學，選聽居里夫人的物理講座，在實驗室共同研討課題。民國12年（1923）赴德國柏林大學，專為愛因斯坦的相對論而來。憑借優(yōu)秀的數(shù)學和物理學造詣，楊卓新得以與愛因斯坦進行對話和探討。愛因斯坦為構(gòu)建廣義相對論，曾經(jīng)求助于黎曼幾何和張量分析，補學有關(guān)數(shù)學知識，所以大家在這里不乏共同語言。

在美、英、法、德先后學習11年后，楊卓新于民國13年（1924）回國，應母校（這時已改名湖南公立工業(yè)專門學校）之聘擔任教務主任兼數(shù)學教授。民國15年（1926）1月，省立湖南大學成立，楊卓新任總轄校務的學校行政委員會10名委員之一，兼理科學長。

次年春，北伐軍進入長沙，學校改制，楊卓新任教務主任。接著馬日事變發(fā)生，學校停辦，省政府以楊卓新、唐藝菁兩位無黨派理工科教授為特派員留守主持，保管校產(chǎn)。民國17年（1928）4月湖南大學復校，民國19年（1930）8月楊卓新代理校長，任職半年多后改任理學院院長。理學院下設數(shù)理系和化學系，次年，數(shù)理系分家，楊卓新兼任數(shù)學系主任。

1937年盧溝橋事變前夕，湖南大學由省立改為國立，楊卓新仍任原職。后推薦礦冶系畢業(yè)的吳樹基繼任數(shù)學系主任。

抗日戰(zhàn)爭時期，湖南大學曾遷至湖南辰溪，條件簡陋，物資匱乏，物價飛漲，且時有日寇襲擾，但湖南大學一直堅持教學，未嘗中斷。楊卓新隨學校奔波輾轉(zhuǎn)，秉承“教育救國”的初衷，從未離開，并積極參與發(fā)起組織湖南文化界抗敵后援會。其間，西南聯(lián)大曾有意邀請他去任教，但他謝絕不往。