Centrocampista e attaccante, militò per la maggior parte della sua carriera nel [[Borussia Mönchengladbach]], giocando 227 partite e segandosegnando 81 reti in [[Fußball-Bundesliga|Bundesliga]]. Il suo migliore campionato è stato quello disputato nel [[Campionato di calcio tedesco occidentale 1986-1987|1986-1987]] quando fu capocannoniere della massima serie tedesca con 24 reti, di cui 14 nelle ultime 9 partite della stagione; la vittoria della classifica marcatori gli valse il titolo di ''Fußballer des Jahres'', cioè miglior calciatore tedesco. Contrariamente alla precedente stagione, Rahn, deluso per la mancata cessione al [[PSV Eindhoven]], giocò svogliatamente per tutto il campionato [[Campionato di calcio tedesco occidentale 1987-1988|1987-1988]] prima di essere comprato dai rivali del [[1. FC Colonia|Colonia]] per 2 milioni di marchi.
Dopo aver giocato nel Colonia, Rahn militò in [[Hertha Berlino]], [[Fortuna Düsseldorf]], [[Eintracht Frankfurt]] e terminò la carriera nella squadra [[Giappone|giapponese]] dell'[[Urawa Red Diamonds]] senza più recuperarare quello stato di forma che lo lanciòaveva lanciato ad alti livelli.
