대부 2가 끝난 20년 후인 1979년에 시작하게 된다. 이제는 60대의 노인이 되어버린 마이클(Don Michael Corleone: 알 파치노 분)은 거대해진 패밀리의 강력한 자금력을 바탕으로 합법적인 사업으로 전환하는데 힘쓴다. 이 과정에서 특히 그는 바티칸 은행의 책임을 맡고 있는 대주교와 거래하므로써 이러한 합법적인 사업을 행할 수 있었고 바티칸의 대주교 역시 마이클의 사업에 참여하여 이익을 얻고 있었다. 이러한 그의 계획에 젊은 보스 조이 자자(Joey Zaza: 죠 맨테그나 분)가 정면으로 도전해오고, 마이클 자신도 습격을 받는다. 그의 아들 안소니(Anthony Corleone: 프랑크 댐브로시오 분)는 아버지의 뜻과는 달리 오페라 가수가 되기를 원했고, 딸 매리(Mary Corleone: 소피아 코폴라 분)는 그가 설립한 콜레오네 재단을 운영하도록 하여 마이클은 집안의 어두운 과거를 자식들에게는 물려주고싶지 않았다. 그러나 일단 도전을 받은 이상 응하지 않을 수가 없고, 자자의 뒤에는 그의 계획을 방해하는 거대한 조직의 음모가 도사리고 있었는데.