После мученической кончины святителя Филиппа († 23 декабря 1569 года) тело его было погребено в Отроче монастыре, в Твери. Иноки Соловецкой обители, где он прежде был игуменом, испросили в 1591 году позволение перенести его мощи в свой монастырь. Многострадальное нетленное тело было положено в могилу, приготовленную епископом Филиппом для себя еще при жизни, под папертью храма преподобных Зосимы и Савватия Соловецких, около гроба старца Ионы (Шамина), любимого наставника его в монашеских подвигах.

29 апреля 1646 года игумену Соловецкой обители Илии послана была грамота Патриарха Иосифа о торжественном открытии мощей святителя и чудотворца Филиппа. 31 мая мощи переложили в новую раку и поставили в Преображенском соборе.

В 1652 году Никон, тогда еще митрополит Новгородский, предложил перенести в Москву мощи трех святителей-мучеников: митрополита Филиппа, Патриархов Иова и Ермогена. По благословению Патриарха Иосифа митрополит Никон отправился в 1652 году в Соловки за мощами святителя Филиппа и торжественно перенес их в Москву. В руки святого была вложена покаянная грамота царя Алексея Михайловича, в которой он молил о прощении грехов своего прадеда Иоанна Грозного, «склоняя» свою власть перед властью церковной. 3 июля святые мощи встречали в Москве: «пастырь, невинно изгнанный, был возвращен на свой престол». В Успенском соборе «на самой средине стоял он 10 дней» и во все дни с утра до вечера был звон, как в Пасхальную неделю. Затем святые мощи были поставлены в Успенском соборе у южной двери алтаря.

На месте встречи мощей святителя Филиппа московским духовенством и народом был воздвигнут храм в честь святителя (храм святителя Филиппа в Мещанской слободе).