1937년 미국 뉴욕 주 맨해튼의 할렘에서 태어났다. 자메이카에서 이민 온 아버지 루서 시오필리어스 파월(Luther Theophilus Powell)와 어머니 모드 애리얼 매코이(Maud Arial McKoy) 사이에서 태어났다.
파월은 시티 칼리지 오브 뉴욕에서 지질학을 전공하였으며, ROTC 과정에 입교하여 현역으로 소집[3]되었다.
서독에 주둔해있던 3기갑사단에서 소대장으로 군생활을 시작한 파월은 미 본토에 주둔해있던 5보병사단으로 자리를 옮겼고, 아내 앨마 비비안 존슨(Alma Vivian Johnson)과 결혼했다.
결혼식을 올린 뒤 파월은 베트남으로 파병가게 된다. 남베트남군 1사단에서 군사 고문으로 근무하던 파월은 행군 중 베트콩의 덫에 걸려 발에 부상을 입게 된다.
베트남 파병에서 돌아온 파월은 포트 베닝의 보병학교에서 보병 장교 상급 코스를 우수한 성적으로 수료한 뒤, 보병학교의 교관으로 근무했다. 그리고 보병학교 교관으로 근무하던 도중 지휘참모대학에 입교해 우수한 성적으로 수료하게 된다.
지휘참모대학의 교육 과정을 수료한 파월은 베트남으로 재파병되어 23보병사단에서 근무하게 된다. 예하 대대에서 부대대장으로 근무하던 도중 기존에 내정했던 작전참모를 데리고 오지 못하게 된 사단장이 지휘참모대학을 우수한 성적으로 수료한 파월을 주목해 작전참모로 데려오게 된다. 여담으로 당시 주월미군사령관이었던 크레이튼 에이브람스 대장에게 브리핑을 할 일이 생겼는데, 브리핑을 들은 에이브람스 대장의 반응이 "저 젊은 소령은 누구인가?" 하며 흡족했다고 한다.
파월은 사단 작전참모로 일할 당시 사단장과 함께 헬기를 타고 순시를 하던 도중, 헬기 추락 사고로 인해 발목에 부상을 입게 되었다. 이후 사단장이 기존에 내정했던 작전참모가 새로 발령받자, 파월은 작전참모에서 물러나 작전참모 보좌관을 맡았다.
베트남에서 돌아온 후 조지 워싱턴 대학교 행정경영대학원에서 MBA를 취득한 파월은 육군참모차장 보좌관인 윌리엄 드푸이 중장[4]의 사무실에 배속받게 된다. 육군참모차장 보좌관실에서 일하던 당시 백악관 특별 연구원 프로그램에 선발된 파월은 백악관 행정관리예산국에서 일하게 되었다. 이 당시 행정관리예산국장은 캐스퍼 와인버거였고, 부국장은 프랭크 칼루치였는데 파월이 행정관리예산국에서 일하게 된 직후 이 둘은 보건교육복지부로 떠났지만 파월의 군생활에 큰 영향을 끼치게 된다.
군으로 복귀한 파월은 주한미군에 배속되어 2보병사단 예하 대대에서 대대장을 맡았다. 주한미군 근무를 마치고 국립군사대학을 수료한 파월은 101공수사단 2여단장이 되었는데, 당시 사단장이 존 위컴 소장[5]이었다.
여단장을 지내던 도중 국가안보보좌관 즈비그뉴 브레진스키에게서 국가안보회의의 방위프로그램 참모진에 합류할 것을 제안받았지만, 이를 거절하고 국방장관과 부장관의 특별 보좌관을 맡고 있던 존 케스터의 군사 보좌관을 맡게 되면서 파월의 펜타곤 생활이 시작하게 된다.
존 케스터의 군사 보좌관을 맡던 중, 파월은 국방부 부장관 찰스 덩컨의 군사 보좌관이 되었다. 덩컨은 파월을 중용해 에너지부 장관으로 자리를 옮길 때도 파월을 인수팀으로 데려갔다. 에너지부에서 복귀한 파월은 펜타곤을 떠나길 원했지만, 덩컨의 후임인 그레이엄 클레이터 2세 역시 파월을 자신의 군사 보좌관으로 기용했고, 파월은 클레이터의 후임으로 프랭크 칼루치가 부임한 뒤에도 국방부 부장관 군사 보좌관을 지내게 된다.
칼루치에게 야전으로 복귀하고 싶다고 청원한 파월은 4보병사단 작전부사단장을 맡아 다시 야전으로 복귀했지만, 사단장이었던 존 허다첵 소장과 갈등을 빚어 진급이 좌절되는 듯 했다. 하지만 파월을 주목해오던 육군전력사령관 리처드 카바조스 대장[6]에게 구제받아 육군전투병기합동개발활동 부사령관으로 이동하게 된다.
그러나 파월의 야전 생활도 끝나게 된다. 육군참모총장 부임을 앞두고 있던 존 위컴 대장이 파월을 국방장관 캐스퍼 와인버거의 선임 군사보좌관으로 추천한 것이다. 결국 파월은 국방장관 선임 군사 보좌관으로 펜타곤에 돌아오게 된다.
펜타곤에서 지내던 중 기존의 임기를 끝마치게 되면서 파월은 8보병사단장으로 이동하게 되었고 8보병사단을 방문해 브리핑까지 받았는데, 와인버거가 파월을 붙잡게 되면서 사단장 부임이 좌절되었고, 대신 연장 근무의 대가로 군단장 영전을 약속받게 된다.
국방장관 선임 군사보좌관으로 연장 근무를 끝마친 파월은 약속대로 5군단장으로 부임하게 된다. 다시 야전으로 복귀하게 된 파월이었으나 이란-콘트라 사건이 폭로되면서 공중분해된 국가안보회의를 맡게 된 옛 상관 프랭크 칼루치가 파월을 워싱턴으로 불러들여 국가안보 부보좌관으로 기용하게 된다. 당초 본인은 5군단장으로 남는 걸 원했지만, 로널드 레이건 대통령이 직접 전화로 부보좌관을 맡을 것을 요청하면서 결심을 굽혔다고 한다. 그리고 칼루치가 와인버거의 후임 국방장관으로 자리를 옮기면서 파월은 현역 군인 신분으로 공석이 된 국가안보보좌관을 맡게 된다.
정권이 바뀌고 국가안보보좌관 직을 브렌트 스코우크로프트[7]에게 이임한 파월은 흑인으로서는 세 번째로 대장으로 진급[8]해 육군전력사령관에 부임하게 된다.[9]