Gróf Andrássy Gyula halálát követően azonnal megszületett az elhatározás, hogy a korszak meghatározó politikusa tiszteletére emlékművet emeljenek. Az eredeti elképzelés szerint a lovasszobor a Sugár út lezárásaként, a mai Hősök tere helyére került volna, végül azonban az akkor már épülő Országház melletti tér még kiemeltebb helynek bizonyult. A Zala György által mintázott szobrot 1906. december 6-án avatták.

A tizennégy méter magas emlékmű 1945. decemberéig állt a Parlamenttől délre, amikor a Kossuth-híd építésekor a pesti hídfő kialakítására hivatkozva elszállították.

Bronzanyagát később – valószínűsíthetően – a Sztálin szobor öntéséhez használták fel.