Le genêt à balais atteint une hauteur de 1 à 3 m, rarement 4 m. Les branches principales ont un diamètre pouvant atteindre de 5 à 10 cm. C'est un arbuste très ramifié à port colonnaire, aux tiges vertes anguleuses, aux petites feuilles caduques, simples et lancéolées ou composées et trifoliolées, mesurant de 5 à 15 mm de long.

Au printemps, il se couvre entièrement d'une multitude de fleurs jaunes odorantes, de 15 à 20 mm de largeur et de 20 à 30 mm de longueur, qui laissent rapidement voir les étamines. La fleur de structure complexe et dépourvue de nectar est pollinisée par les bourdons. Elle est fermée jusqu'à ce qu'elle soit visitée par l'insecte puis reste ensuite ouverte.

À la fin de l'été, ses gousses oblongues, de 2 à 3 cm de long, 8 mm de large et 2 à 3 mm d'épaisseur, deviennent noires, éclatent avec un bruit sec et répandent leurs graines autour de la plante mère.