Carlyle pelasi NHL-urallaan 1055 ottelua tehoilla 148+499. Hän voitti parhaan puolustajan Norris Trophyn vuonna 1981, jolloin hän edusti Pittsburghia. Hän pelasi myös Torontossa ja Winnipegissä. Ura päättyi keväällä 1993. Hän oli yksi viimeisistä pelaajista, joka pelasi ilman kypärää.
Uransa jälkeen hän jatkoi Winnipegin organisaatiossa toimien apuvalmentajana kaudella 1995-96. Sen jälkeen hän siirtyi viideksi vuodeksi farmiliigaan Manitoba Moosen päävalmentajaksi.
Vuodet 2002-04 hän oli Washington Capitalsin apuvalmentajana ennen paluutaan Manitobaan, jossa hän valmensi viime kauden.