Каријеру је почео у омладинском тиму БСК-а у предратном Београду. Први капитен Црвене звезде био је Мирослав Ћирић, а Рајко је после њега понео капитенску траку и носио је дуги низ година.
Црвено-бели дрес носио је 14 сезона. Одиграо је укупно 572 утакмице и постигао 262 гола. У својој каријери, за све клубове и репрезентацију Рајко Митић, којег су због особина лидерства, али и скромности саиграчи звали Мајка, укупно је одиграо 927 утакмица.
Као капитен и истински вођа тима, Рајко Митић је са Црвеном звездом освојио пет титула првака Југославије – 1951, 1953, 1956, 1957. и 1959. године, једну титулу првака Србије 1946. године, а Куп Југославије четири пута (1948, 1949, 1950. и 1958).
После пуних 13 година активног играња, од Звездиног дреса опростио се 29. новембра 1958. у мечу финала Купа против мостарског Вележа (4:0) у Београду.
Проглашен је првом Звездином звездом, а и стадион сада носи његово име. Рајко Митић је добио и споменик испред стадиона.
Међутим, мало је познато да је Рајко Митић каријеру почео у нижеразредном клубу Кошутњак, да би пре Другог светског рата играо за БСК, а потом и Црвену звезду. Када је основана Црвена звезда 4. марта 1945. године, готово сви фудбалери предратна два највећа клуба Југославије и БСК почели су да играју за Црвену звезду. Због комунистичког уређења тадашње Југославије морао је да одигра и четири меча за великог ривала Партизан, када је војни клуб био на турнеји по СССР. Тада је Рајко постигао и два гола. Интересантно је да су и велики асови Партизана Стјепан Бобек и Марко Валок играли за Црвену звезду, када је клуб ишао на турнеју по Јужној Америци.
За репрезентацију Југославије током 11 година је играо је 59 пута, уписавши се у стрелце 32 пута. Учествовао је на два олимпијска турнира – 1948. године у Лондону и 1952. у Хелсинкију и оба пута освојио сребрну медаљу. Био је капитен и члан незаборавног тима из Финске, који је свих шест утакмица одиграо у непромењеном саставу: Беара, Станковић, Црнковић, Чајковски, Хорват, Бошков, Огњанов, Митић, Вукас, Бобек, Зебец.
У посебном сећању остале су две драматичне утакмице против СССР, када је наш тим у првом сусрету свега 13 минута пре краја водио са 5:1 и ипак није победио (5:5). На поновљеном мечу Митић је постигао водећи гол и отворио врата коначној победи – 3:1.
Занимљива је прича како су Бразилци покушали да врбују Рајка Митића. Рекли су да би желели да предложе фудбалеру нашег државног тима да остане у Рију и да игра за њихов клуб. Представник Ботафога био је угледна личност, члан бразилске владе, иначе професор универзитета и познати лекар.
Одмах је схватио ситуацију, знао је да су Бразилци веома осетљиви када су у питању озбиљни и угледни људи и зато је водио разговор с пуно такта.
Представник клуба Ботафого честитао је Митићу на одличној игри и изразио жељу да он остане у Рију и заигра за њих. Нуђено му је све што пожели, од новца довољног за цео живот до тога да би му целу породицу пребацили у Рио, наравно, о трошку клуба.
Митић је стрпљиво тражио начин да се захвали на понуди, Бразилци су били упорни, а онда их је разоружао речима:
„А да ли бисте ви дошли у Југославију?“, запитао је представника клуба Ботафого.
„Ја?“, зачуди се Бразилац. „Шта бих ја радио тамо код вас?“
„Ви сте изванредан лекар, чувени специјалиста, а ми немамо довољно лекара. Дођите, учинићемо све што желите, даћемо вам одличне услове.“
„Али, то је немогуће! Ја сам овде потребан, овде има толико посла. Ја, најзад, веома волим своју земљу.“
„И са мном је исти случај. Ја сам потребан свом клубу и изнад свега волим своју земљу. Да ли вам је сада јасно зашто не могу да останем код вас, без обзира на то шта ћете ми ви понудити.“
Од дреса репрезентације опростио се 29. септембра 1957, против Румуније (1:1) у Букурешту.
Митић је од 1960. до 1966. године био на челу стручног штаба Црвене звезде, крајем 1966. постао је члан Комисије ФСЈ за састав репрезентације, а од 23. априла 1967. до 18. новембра 1970. као селектор је саставио 34 југословенске репрезентације.
Прва „Звездина звезда“ и један од најбољих српских фудбалера свих времена Рајко Митић умро је у Београду 2008, у 86. години.