 6 июня 1894 года несколько членов гимнастического общества Карлсруэ основали футбольный клуб «Феникс», ставший предшественником современного «Карлсруэ». Начав принимать участие в чемпионатах Германии с 1900 года, момента основания немецкого футбольного союза, команда в короткий срок стала достаточно сильным коллективом и в 1909 году выиграла золото немецкого чемпионата.
В 1912 году “Феникс” объединился c другой баденской командой – «Алеманией».
В период нахождения у власти национал-социалистов «Феникс» выступал в Гаулиге Баден. По окончании Второй Мировой войны дела у команды на футбольном поле не никак не ладились, финансовое положение также не внушало оптимизма. Команда был в шаге от банкротства. Выходом из этой ситуации стало объединение «Феникса» осенью 1952 года с футбольным клубом «Мельбург» из Баден-Вюртенберга. Новообразованная команда называлась «Karlsruher SC von 1894 Mühlburg-Phönix», но в футбольной среде за ней закрепилось более короткое название – спортивный клуб «Карлсруэ».
Первым успехом «Карлсруэ» стала победа в Кубке Германии в 1955 году под руководством Адольфа Патека, годом позже успех был повторен. Помимо защиты титула «Карлсруэ» был в шаге от победы в чемпионате, но в финальном матче, проходившем в Берлине, уступил дортмундской «Боруссии» со счетом 2:4. В 1960 году “Карлсруэ” вновь пробился в финал Кубка Германии, но завоевать трофей ему помешала менхенгладбахская «Боруссия».
В 1968 году «Карлсруэ» покинул сильнейший дивизион немецкого футбола и вернуться в него смог только в 1975 году. Но стабильности в игре баденцев не было: в период с 1975 по 1986 годы команда курсировала между первой и второй бундеслигами.
В 1986 году главным тренером «Карслсруэ» стал Винфрид Шефер. По итогам сезона 1992-1993 команда заняла 6-е место и получила право участвовать в Кубке УЕФА. Дебютировав на европейской арене в розыгрыше Кубка УЕФА 1993/94, баденцы выбили из борьбы за трофей ПСВ, «Боавишту», «Бордо» и только в полуфинале уступили зальцбургской «Аустрии» (ныне «Ред Булл»).
В 1996 году «Карлсруэ» вышел в финал Кубка Германии, где уступил «Кайзерслаутену», в том же году команда стала обладателем Кубка Интертото.
Сезон 1997/98 был провален. К поражению от «Спартака» в Кубке УЕФА добавился уход лидеров команды (Торстена Финка, Йенса Нововтны, Михаэля Тарната) и отставка в марте 1998-го непосредственно самого Шефера. Как следствие, новый сезон «Карлсруэ» начал во второй бундеслиге. Через два года команда, которой в то время руководил Йоахим Лев, вылетела в южную региональную лигу.
Возвращение «Карлсруэ» в элиту немецкого футбола произошло в 2007 году.
В различные годы за “Карлсруэ” выступали Томас Хесслер, Оливер Кан, Сергей Кирьяков, Михаэль Тарнат, Йенс Новотны, Мехмет Шолль, Иван Саенко, Винфрид Шефер, Йоахим Лев, Хорст Шиманяк.
| 
Клубы 
