Influenciados fortemente pelo rock britânico dos anos 60, como os Rolling Stones, The Animals e The Yardbirds, os The Shadows of Knight começaram num subúrbio de Chicago. Conhecida pelo seu rock agressivo ao estilo de garagem, a banda contou com muitos músicos ao longo dos anos, sendo o fundador/vocalista Jimy Sohns o único sobrevivente.
Depois de tocar localmente em Illinois, o grupo conseguiu um contrato de gravação e estreou-se com 'Gloria' em 1966. A faixa-título da banda Them, com Van Morrison, tornou-se um êxito substancial e o álbum que se seguiu teve um bom desempenho. Seguiram-se mais singles, mas a formação original partiu em 1967, deixando Sohns a acompanhar as mudanças nas décadas seguintes com sucesso variável.
Mais dois álbuns, 'Back Door Men' e 'Shadows of Knight' foram lançados em 66 e 69, após o que o grupo ficou em silêncio até que uma oferta ao vivo na forma de 'Raw n' Alive at the Cellar, Chicago 1966' veio em 1992.
Em 2006, após outro período de silêncio, The Shadows of Knight juntou-se à digressão 'Underground Garage' de Little Steven com os The Romantics. Também lançaram um álbum com material novo intitulado 'A Knight to Remember' no final desse ano. Seguiram-se dois anos mais tarde com 'Rock 'n' Roll Survivors'. Desde então, Sohns continuou a atuar com uma variedade de músicos diferentes sob o nome The Shadows of Knight e, em 2016, os membros sobreviventes da formação original reuniram-se para a sua primeira atuação juntos em quase 50 anos.