1891年に18歳でモスクワ音楽院ピアノ科を大金メダルを得て卒業した。金メダルは通例、首席卒業生に与えられたが、当時双璧をなしていたラフマニノフとスクリャービンは、どちらも飛びぬけて優秀であったことから、金メダルをそれぞれ首席、次席として分け合った（スクリャービンは、小金メダル）。同年ピアノ協奏曲第1番を完成した。
1892年には同院作曲科を卒業。卒業制作として歌劇『アレコ』を17日間で書き上げ、金メダルを受領した。同年10月8日（ユリウス暦では9月26日）にモスクワ電気博覧会で前奏曲嬰ハ短調を初演。この曲は熱狂的な人気を獲得し、ラフマニノフの代名詞的な存在になった。
翌1893年5月9日（ユリウス暦では4月27日）には『アレコ』がボリショイ劇場で上演された。同年11月6日にチャイコフスキーが亡くなると、追悼のために悲しみの三重奏曲第2番を作曲した。