Art gallery ligger i Joubert Park kvarter, kun et par blokke fra den vigtigste togstation i Johannesburg. Bygningen blev tegnet af den Britiske arkitekt sir Edwin Lutyens og består af 15 haller og flere udstilling områder under åben himmel for store skulpturer. I hans arkiv er en samling af Britisk og hollandsk maleri af det XVIII-XIX århundrede, er den samling af Europæisk maleri af det nittende århundrede, samt en stor samling af moderne Sydafrikanske og internationale kunstnere.

Collector Dorothea Sarah Firenze Alexandra Phillips, hustru af minedrift magnat Lionel Phillips, dannes den første kollektion i galleriet med midler, der stilles af hendes mand. Efter flytter til Johannesburg, hvor hun begyndte at købe malerier til formål at skabe et kunstgalleri, som senere blev et Kunst galleri i Johannesburg. Hun erhvervet en samling af malerier af Britisk samler og maler sir Hugh lane, udstillet i London i 1910. Lady Phillips donerede sin samling af kniplinger og overtalte sin mand til at sende til galleri syv malerier og en skulptur af Rodin.

Galleri med kunstværker af Auguste Rodin, Dante Gabriel Rossetti, Pablo Picasso, Camille Pissarro, Claude Monet, Edgar Degas, Herbert og Henry ward Moore, samt arbejdet i Sydafrikanske kunstner Gerard Sekoto, Walter Battiss, Alexis Preller, Maud Sumner, Sydney Kumalo og andre.

Billede galleri af Johannesburg blev åbnet for offentligheden i 1910 på universiteter, University of the Witwatersrand. Arkitekten, sir Edwin Lutyens, inviteret lady Phillips, kom til Sydafrika i 1910, til at udforske det område, og til at begynde opførelsen af galleri bygning. Men opbygningen var ikke afsluttet efter arkitektens skitser. Fem år senere, med den start på byggeri, bygningen åbnede sine døre for offentligheden uden ceremoni, umiddelbart efter udbruddet af den Første verdenskrig.

I slutningen af 1940'erne, opbygning af galleriet blev udvidet i overensstemmelse med design arkitekt Lutyens bygget den Vestlige og Østlige fløj af bygningen. Nordfløjen galleri med moderne facade blev bygget i løbet af det sidste genopbygning af bygningen i 1986-1987 år.