Castagne pályafutása kezdetén a Royal Excelsior és a Genk utánpótlás csapataiban játszott. 2014. szeptember 14-én mutatkozott be a belga élvonalban a Club Brugge elleni 1-1-es döntetlen alkalmával. A 2016–2017-es idényben a nemzetközi kupaporondon is bemutatkozhatott, összesen tizenkét alkalommal lépett pályára az Európa-ligában. Két gólt szerzett a sorozatban, ebből az egyiket a Gent elleni nyolcaddöntőben. Ötvenkilenc bajnoki mérkőzésen szerepelt összesen a Genkben, majd 2017. július 7-én az olasz élvonalban szereplő Atalanta játékosa lett, hatmillió euróért cserébe.
A bergamói együttesben 2018. január 2-án szerezte meg első gólját, a Napoli elleni kupatalálkozón, amit csapata 2-1-re megnyert.
Első idényében húsz alkalommal kapott lehetőséget az olasz első osztályban, majd alapembere lett a csapatnak. 2018. augusztus 27-én megszerezte első gólját is a Serie A-ban, az AS Roma elleni 3-3-as döntetlenre végződő mérkőzésen az Atalanta első találata fűződik a nevéhez. Összességében 28 bajnokin négyszer volt eredményes a szezon során. Posztriválisával, Hans Hateboerrel megosztva játszottak a következő idényben is, Castagne 27 bajnoki egyszer volt eredményes, emellett pedig bemutatkozhatott a Bajnokok Ligájában is, ahol hat alkalommal lépett pályára. A Sahtar elleni idegenbeli 3-0-s győzelem alkalmával az Atalanta első gólját ő szerezte, ezzel jelentősen hozzájárulva, hogy csapata továbbjusson a csoportkörből az egyenes kieséses szakaszba. Három idény alatt 96 tétmérkőzésen nyolcszor volt eredményes a bergamóiak mezében.
2020. szeptember 3-án az angol Premier League-ben szereplő Leicester City igazolta le. 2020. szeptember 13-án mutatkozott be a bajnokságban, méghozzá góllal a West Bromwich Albion ellen 3–0-ra megnyert mérkőzésen, ezzel Luc Nilis, Thomas Vermaelen, Christian Benteke és Leandro Trossard után az ötödik belga játékos lett aki ezt elmondhatta magáról.
Többszörös utánpótlás válogatott. A felnőtt csapatban 2018. szeptember 7-én, egy Skócia elleni felkészülési mérkőzésen mutatkozott be.
