Pai dos cantores pop Michael Jackson e Janet Jackson e de seus irmãos famosos, este empresário criou uma agência chamada Joe Jackson Productions e cuidou da carreira infantil dos filhos.
Depois de crescer em Arkansas e Indiana, começou a vida adulta operando guindastes na Inland Steel Company.
Seu filho mais novo, Joh'Vonnie Jackson, foi fruto de um relacionamento extraconjugal de quase três décadas com Cheryl Terrell.
Se casou com Katherine Scruse em 1949. A união resultou em nove crianças (um filho, Brandon, foi natimorto): Rebbie, Jackie, Tito, Jermaine, La Toya, Marlon, Michael, Randy e Janet.
Ele foi interpretado pelo ator Lawrence Hilton-Jacobs na minissérie The Jacksons: An American Dream, da ABC, em 1992.