Первое документальное упоминание о селе относится к 1718 году. Тогда в нем проживало 26 человек. Но уже в 1895 году здесь было больше 2 тысяч крестьян. Грязное становится самым большим селом в Щигровском уезде.
Главными достопримечательностями Грязного были два храма — великолепный двухпрестольный собор Троицы и иконы Божией Матери «Неопалимая Купина» и небольшая деревянная церковь в честь святителя Николая архиепископа Мир Ликийских. В советское лихолетье Троице-Купинный собор разобрали на стройматериалы, а Никольский храм сожгли.
В 2000-ых годах в Грязном на месте собора тщанием местных жителей и благотворителей был построен из красного кирпича новый храм святителя Николая Чудотворца.
