В 2008 году «Локомотив» вошёл в состав участников Континентальной хоккейной лиги. В первом матче нового турнира за «Кубок Открытия», «Локомотив» в статусе вице-чемпиона России встречался с «Салаватом Юлаевым», взявшем весной золотые медали. Игра закончилась победой уфимцев со счётом 4:1. По итогам регулярного чемпионата клуб, ведомый Кари Хейккиля, с большим отрывом занял первое место в Дивизионе Харламова. В плей-офф, «Локомотив» одержал победы над «Нефтехимиком», «Спартаком» и магнитогорским «Металлургом», однако в упорной финальной серии уступил казанскому «Ак Барсу» (3:4 в серии). Капитан команды Алексей Яшин вошёл в число 15-ти лучших бомбардиров сезона с 47 очками (21+26), а голкипер Георгий Гелашвили получил «Золотой шлем» и звание «Лучшего вратаря» по итогам сезона КХЛ 2008/2009.

Сезон 2009/2010 «Локомотив» вновь начал с матча за «Кубок Открытия» и вновь уступил, на этот раз «Ак Барсу». После окончания регулярного чемпионата клуб занял лишь 3-е место в своём дивизионе, но в плей-офф прошёл до финала Западной конференции (победы над «Атлантом» и «Спартаком»), где проиграл будущему серебряному призёру «ХК МВД». Повторить успех прошлых сезонов не помогла и смена главного тренера на Петра Воробьёва.

В сезоне чемпионата КХЛ 2010/2011 перед командой была поставлена задача взять Кубок Гагарина. Новым главным тренером был назначен финский специалист Кай Суикканен, который вследствие нестабильной игры команды в начале чемпионата был заменён в ноябре на Владимира Вуйтека. Вуйтек проповедовал ярко выраженный атакующий стиль игры, вследствие чего в конце регулярного чемпионата КХЛ Локомотив занял второе место в Лиге по количеству заброшенных шайб — 202 шайбы против 210 «Салавата Юлаева» соответственно. По итогам регулярного чемпионата ярославцы заняли третье место по очкам среди всех команд, уступив «Авангарду» и «Салавату Юлаеву», но при этом взяли первое место в Дивизионе Тарасова и со 108 набранными очками стали лучшими в Западной конференции. В плей-офф «Локомотив» добрался до полуфинала чемпионата (финала конференции), преодолев минское и рижское «Динамо», где потерпел поражение от «Атланта». В итоге в сезоне чемпионата КХЛ 2010/2011 Локомотив стал бронзовым призёром.

Статистика выступлений

В чемпионатах России:
Чемпион 1997, 2002, 2003
Серебряный призер 2008, 2009
Бронзовый призер 1998, 1999, 2005, 2011

В КХЛ:
2008/2009 - 2-е место
2009/2010 - 4-е место
2010/2011 - 3-е место
2011/2012 - не участвовал
2012/2013 - 10-е место
2013/2014 - 3-е место
2014/2015 - 10-е место