В середине XIX века Князь Михаил Викторович Кочубей решил перестроить свой дом на Конногвардейском бульваре. Для этого он пригласил арх. Геральда Боссе. По проекту арх., особняк Кочубея был перестроен в стиле раннего итальянского ренессанса.
Фасад здания украшен оригинальной металлической решеткой с четырьмя бюстами мавров. Такой облик дома в то время произвел настоящую сенсацию в столице.
В 1860-х гг. у особняка появляется новый хозяин — купец Федор Родоконаки. По его распоряжению, осуществляется надстройка второго этажа флигеля, обновляются интерьеры.
Строительными работами руководил Карл Мюллер. Несмотря на изменения, внешний облик здания остался неизменным. Потомки Родоконаки владели особняком вплоть до 1918 г., когда дом был «национализирован» и перешел в государственную собственность.
Во времена советской власти здесь в особняке Кочубея располагались различные государственные учреждения: военный трибунал (с 1917 г.), «Институт красоты» (с 1961 г.).
В 1990 г. в результате первого открытого конкурса на лучшую программу использования здания, оно было передано в долгосрочную аренду ЗАО «ИКАР». В 1993 г. началась его реставрация. В 1994 г. здание получило статус федерального памятника.
Сейчас здание занимает прокуратура Санкт-Петербурга