Arie Haan spielte für die Fußballvereine Ajax (1969 bis 1975), RSC Anderlecht (1975 - 1981), Standard Lüttich (1981 bis 1983) und dem PSV Eindhoven (1983/1984). Als Libero erzielte er regelmäßig Tore, vor allem mit fantastischen Distanzschüssen. Er bekam dadurch auch den Spitznamen Arie Bombarie. Er wurde auch öfter Sluwe Arie wegen seiner hervorragenden Spielübersicht genannt.

Er absolvierte insgesamt 264 Spiele und erzielte dabei 47 Treffer. 35 davon erzielte er im Trikot des RSC Anderlecht. 1971 traf er auch für Ajax im Europapokal I-Finale gegen Panathinaikos.

In den 35 Länderspielen, die er bestritt, machte er 6 Tore. Seine besten Spiele bestritt er bei der WM 1978 gegen West-Deutschland und Italien.

Noch berühmter wurde er als Trainer. Nicht so sehr wegen seiner sportlichen Leistungen, sondern wegen seiner Fehde mit der Familie Vanden Stock und Pär Zetterberg. Der Niederländer verlangte 250.000 Euro Schadensersatz wegen Schändung seines Namens, seiner Images und der Integrität als Trainer. Alles begann in der Saison 1998-'99, als Anderlecht bis auf den vorletzten Tabellenplatz zurückfiel. Nach seinem Weggang verbesserte sich das Niveau bei Anderlecht. Am Ende der Saison öffneten Vanden Stock und Zetterberg jedoch ihren Mund. Ihre Aussagen trafen Haan so sehr, dass er sie wegen Verleumdung anklagte. Vor Gericht verlor er später allerdings.

Als Trainer arbeitete er für: Antwerp FC, RSC Anderlecht, Standard Lüttich, VfB Stuttgart, 1. FC Nürnberg, PAOK Saloniki, Feyenoord, Paniliakos, Omonia Nicosia und Austria Wien. Ebenfalls war er noch Nationaltrainer von China und Trainer vom Persepolis FC im Iran.