第一次國共合作實現(xiàn)后，國共兩黨對干部的需求量激增，蘇聯(lián)政府在莫斯科成立的東方大學(xué)中國班及黃埔軍官學(xué)校已不能滿足實際需要。于是，蘇聯(lián)方面另外再單獨創(chuàng)辦一所培養(yǎng)國共兩黨干部學(xué)校的計劃便應(yīng)運而生。

1925年10月7日，蘇聯(lián)顧問鮑羅廷在國民黨中央政治委員會第66次會議上，正式宣布為紀(jì)念孫中山先生而籌建的莫斯科中山大學(xué)建立，同時建議國共兩黨迅速選派學(xué)生赴該校學(xué)習(xí)。根據(jù)他的建議，廣東國民政府成立了由汪精衛(wèi)、譚延闿、古應(yīng)芬組成的選拔委員會，鮑羅廷任選拔委員會顧問，并立即著手在廣州、上海、北京、天津等地選拔學(xué)生赴莫斯科學(xué)習(xí)。

當(dāng)時正處于第二次東征期間，戰(zhàn)事正頻，雖然黃埔軍校嚴(yán)禁黃埔一、二期學(xué)生報考，但基本上還是尊重了學(xué)生的個人意愿。蔣經(jīng)國以及許多國民黨黨政要員的子弟也都報了名。

廣東地區(qū)的留學(xué)生選拔主要是通過考試來進行的?？碱}為《什么是國民革命》論文一篇，筆試之后，公布初選名單，然后再進行口試。在黃埔軍校學(xué)生中，報名也非常踴躍。據(jù)不完全統(tǒng)計，僅黃埔第一期去莫斯科中山大學(xué)留學(xué)的就有梁干喬、陳啟科、蕭贊育、鄧文儀、左權(quán)等人。為了能去留學(xué)，很多人都開動了“腦筋”。比如鄧文儀先去偷偷報考，獲得通過后，再繞過學(xué)校，直接跑到汕頭前線向蔣介石懇請恩準(zhǔn)。

這批學(xué)生進入莫斯科中山大學(xué)后，依黨籍、年齡和教育程度進行分班。考慮到回國以后的安全，到莫斯科中山大學(xué)學(xué)習(xí)的每位中國學(xué)生都取了蘇聯(lián)名字。

大學(xué)的學(xué)制為兩年，第一學(xué)年主要學(xué)習(xí)俄語，每天為4課時。其他課程有：政治經(jīng)濟學(xué)、歷史、現(xiàn)代世界觀、俄國革命理論與實踐、民族與殖民地問題等。第二學(xué)年主要課程為中國革命運動史、世界通史、馬克思主義哲學(xué)、列寧主義原理、經(jīng)濟地理等。此外，莫斯科中山大學(xué)還設(shè)有軍事訓(xùn)練。在軍事研究室里陳列著各種普通武器和地形沙盤。學(xué)生常去莫斯科附近的軍事院校參觀和到附近兵營去打靶，接受野戰(zhàn)訓(xùn)練。辦學(xué)期間，列寧夫人克魯普斯卡婭、斯大林、宋慶齡、馮玉祥、胡漢民、鄧演達等曾來大學(xué)作過演講。曾任黃埔軍校政治部主任的邵力子是常駐中山大學(xué)負(fù)責(zé)監(jiān)察的人士之一，他不僅來校視察學(xué)生情況，還和他的兒子邵志剛一同聽課。

中山大學(xué)的留學(xué)生們在生活上得到了蘇聯(lián)政府的特殊照顧。當(dāng)時的蘇聯(lián)，雖然戰(zhàn)爭的創(chuàng)傷尚未完全恢復(fù)，卻為莫斯科中山大學(xué)花費了大量的人力、財力。據(jù)蘇聯(lián)檔案記載：莫斯科中山大學(xué)預(yù)算達1000多萬盧布。在飲食上，可說近乎奢華。學(xué)生們“早餐就有雞蛋、面包、黃油、牛奶、香腸、紅茶，偶爾還有魚子醬”，且“每天開五次飯”，更請來中餐廚師，學(xué)生們可選擇吃俄餐或中餐。學(xué)校完全免費發(fā)放勞保用品，每個月還有10盧布生活津貼。起初，學(xué)校一律按性別安排宿舍，后來學(xué)校租了一棟家屬宿舍提供給已婚學(xué)生，校長拉狄克更準(zhǔn)備幾年后為“小革命家辦幼兒園”。

學(xué)校的文化娛樂活動非常豐富：有電影、戲劇和音樂會，還可以看到有關(guān)中國的新聞紀(jì)錄片。還安排芭蕾舞劇團、音樂演奏家到禮堂演出。學(xué)生們可以免費參加各種體育活動和觀光。中山大學(xué)還設(shè)有一個門診所和一個小醫(yī)院，在學(xué)習(xí)期間為學(xué)生提供保健服務(wù)，醫(yī)藥全部免費。中山大學(xué)還有專管學(xué)生及其在中國的家庭經(jīng)濟福利的機構(gòu)。家庭經(jīng)濟有困難的學(xué)生可以通過向?qū)W校申請救助金，甚至學(xué)生回國探親時還發(fā)給經(jīng)費，并讓中國留學(xué)生享受和蘇聯(lián)人一樣的休假。

1927年7月26日，國民黨中執(zhí)會全體會議正式發(fā)出通令，決定取締中山大學(xué)并與之?dāng)嘟^一切關(guān)系，禁止國民黨員繼續(xù)在該校學(xué)習(xí)，同時命令國民黨各級組織嚴(yán)禁再向莫斯科派遣留學(xué)生。1930年秋，莫斯科中山大學(xué)停辦。