Kazimierz Gwiazdowski był radnym Gminy Radziłow w latach 1990-1994, wójtem tej gminy w latach 1990-2006 oraz radnym Sejmiku Województwa Podlaskiego w latach 1998-2002. Był również Posłem na Sejm V i VI kadencji w latach 2006-2011. W latach 2000-2006 przewodniczył Stowarzyszeniu Gmin Dorzecza Biebrzy, a w latach 2002-2010 był Wiceprzewodniczącym Wojewódzkiego Zrzeszenia LZS w Białymstoku. Obecnie jest przewodniczącym LZS w Grajewie. Prywatnie ojciec czwórki dorosłych dzieci interesujący się sportem i samorządem.