Казанскую футбольную команду «Искра», которая ведет свою историю с далекого 1936 года, в 1965 году руководство решает переименовать в «Рубин». Но все началось немного раньше в 1958 году, когда на базе «Искры» собирают новую команду мастеров для участия в группе «Б» чемпионата СССР. Легендой «Искры» стал знаменитый тренер в то время тренер Н. И. Сентябрев. В течение 12 лет он бессменно руководил командой и впоследствии это время специалисты назвали «эпохой Сентябрева». В течение нескольких сезонов команде удавалось занять с переменным успехом то 2-е, то 3-е место, но пробиться в группу, а не получалось. Переименование команды может быть в чем-то помогло и в сезоне 1965–66 года команда проходит в финальную часть группы «Б» чемпионата СССР и становится впервые в своей истории серебряным призером.

До развала СССР клуб выступал с различным успехом, были свои взлеты и падения. В 1992 году «Рубин» включили в первую лигу. Команда стала выступать в центральной зоне. В сезоне 1993 года команда не справилась с поставленной передней задачей и выбыла во вторую лигу. В 1994–95 годах клуб оказался на грани распада, и ценой невероятных усилий ему удалось задержаться во второй лиге.

Переломным моментом в истории клуба, становится 1996 год, когда команда попадает под юрисдикцию администрации г. Казань и руководителем клуба становится мэр города К. Ш. Исхаков. Тренерский и игровой состав обновляется полностью и перед командой ставится задача за два года завоевать место в первой лиге. В сезоне 1997 года команда успешно справляется с этой задачей набрав за сезон 102 очка из 120 возможных. В этом же году у клуба после долгого перерыва появляется дублирующий состав.

В сезоне 1998 года команда занимает 7 место в первой лиге. Этот год был знаменателен тем, что команде впервые удалось пробиться в ¼ Кубка страны.
Одним из ключевых моментов в истории клуба был сезон 2002 года, не протяжении которого команда выступила великолепно и завоевала путевку в премьер-лигу, заняв в первой лиге первое место.

Первый сезон в Премьер-лиге обозначил бойцовские качества казанской команды. Их стали называть «камни». Итог сезона решился в последних трех турах, когда команде одержав три победы подряд, удалось завоевать бронзовые медали чемпионата России по футболу.

В следующем сезоне команда впервые приняла участие в Кубке УЕФА, но им не удалось пробиться дальше второго отборочного раунда.

В 2008 году команда отметила свой 50-летний юбилей и в этом же сезоне впервые в своей истории выигрывает золото, став чемпионом за три тура до окончания чемпионата. Сезон 2009 года был самым знаменательным за всю историю команды, «Рубину» во второй раз удается завоевать золото чемпионата России и в параллельно проводимом Кубке страны попасть в финал.