После переезда в Россию будущий император Петр Третий чувствовал себя оторванным от привычного для него мира и все время пытался создать новое пространство, в котором ему было бы хорошо. Он находил утешение в военных развлечениях и играх, а также мечтал стать знаменитым императором-полководцем. Петр получил разрешение царственной тетки на строительство потешной военной крепости Петерштадт и приступил к реализации замысла. Главной постройкой крепости стал его собственный двухэтажный дворец, который был спроектирован начинающим на тот момент архитектором Антонио Ринальди. Этот дворец не похож на другие императорские резиденции, помимо своих небольших размеров, он отличается причудливыми формами планировки и отчасти может даже потягаться с более поздней архитектурой.
Строительство дворца было полностью завершено в 1762-м году, после чего первый этаж был отведен под хозяйственные нужды, а на втором этаже расположился сам наследник престола. Помимо отношения дворца к Романовым, стоит также отметить то, что он является редчайшим памятником архитектуры в стиле рококо. В России этот стиль не получил распространение, его быстро затмила мода на классицизм, и потешная крепость Петра Федоровича осталась одной из немногих подобных построек. Удивительно также и то, что дворец уцелел после смерти своего владельца и, несмотря на заметное обветшание, не погиб.
В конце 19-го века по распоряжению императора Александра Третьего дворец его жалкого предка был отреставрирован, но уже после прихода советской власти вновь оказался никому не нужен и позже был передан под зоопарк. В годы Второй Мировой войны его использовали в качестве хранилища не вывезенных экспонатов и только в 1953-м году открыли в нем музей, после чего вновь отреставрировали.
В наше время дворец также имеет статус музея, в нем располагаются многочисленные экспонаты времен Петра Третьего, но это уже не его личные предметы, а привезенная позже мебель. К сожалению, паркет и многие другие элементы внутреннего декора не сохранились и были заменены на более новые. Впрочем, учитывая тяжелую судьбу дворца, стоит признать то, что само его существование уже позитивный факт.