Cariera lui Cheadle a început cu roluri secundare în Hamburger Hill (1987), Colors (1988), Devil in a Blue Dress (1995), Rosewood (1997), Boogie Nights (1997) și Bulworth (1998). A colaborat cu regizorul Steven Soderbergh, jucând în Out of Sight (1998), Traffic (2000), trilogia Ocean's (2001–2007) și No Sudden Move (2021). Cheadle a fost nominalizat la un premiu Oscar pentru Cel mai bun actor pentru interpretarea lui Paul Rusesabagina în filmul de dramă istorică Hotel Rwanda (2004). A fost co-producător al filmului Crash, care a câștigat premiul Oscar pentru Cel mai bun film în 2005. Cheadle s-a alăturat Universului Cinematic Marvel, interpretându-l pe James "Rhodey" Rhodes / War Machine, începând cu Iron Man 2 (2010).
În televiziune, Cheadle a obținut nominalizări pentru premiul Primetime Emmy pentru Cel mai bun actor principal într-o serie de comedie pentru rolurile sale ca Marty Kaan în House of Lies (2012–2016) și Maurice Monroe în Black Monday (2019–2021). A fost, de asemenea, nominalizat la Emmy pentru The Rat Pack (1998), A Lesson Before Dying (1999), Things Behind the Sun (2001), ER (2002) și The Falcon and the Winter Soldier (2021).
În 2016, a primit primul său premiu Grammy, câștigând premiul pentru Cea mai bună coloană sonoră de compilare pentru media vizuală pentru coloana sonoră a filmului Miles Ahead. În 2022, a primit un al doilea Grammy pentru Cel mai bun album de vorbire pentru narațiunea sa a audiobook-ului Carry On: Reflections for a New Generation de John Lewis; a primit, de asemenea, un premiu Tony pentru Cel mai bun musical ca producător pentru musicalul A Strange Loop.