В конце XV века Иван III задумал перестроить обветшавший белокаменный Кремль Дмитрия Донского. В 1485 году Антон Фрязин заложил стрельницу на месте Чешковых ворот. Здесь выкопали тайный колодец с выходом к речке (вот откуда название). По этому колодцу при осаде крепости ее защитникам осуществлялась подача воды, благодаря чему Кремль было трудно захватить. Внутри строения было просторное помещение со сводчатыми потолками. Отводная стрельница воссоединяла башню с мостом из камня, а подъездные ворота – со специальным подъемным мостиком.
Первое документальное изображение башни относится к началу XVII века. В то время она была покрыта деревянной тесовой крышей, выше которой располагался часовой чулан с колоколом. Отводную стрельницу с машикулями и зубцами венчал деревянный шатёр.
На тайницкой башне сидели стражники, которые следили за пожарной безопасностью Москвы, поднимая тревогу и звоня в колокола каждый раз, как замечали с высоты дым или огонь на одной из улиц столицы.
Проходили столетия, менялась Москва, а вместе с нею Тайницкая башня достраивалась и перестраивалась. В1770-1771 годах в связи с планами строительства Кремлевского дворца Тайницкая башня была разобрана, а в 1783 году восстановлена уже без отводной стрельницы. В 1812 году она пострадала от взрывов и в 1816-1818 годах вновь была восстановлена. В 1862 году восстановили стрельницу в формах, стилизованных под XVII век.
В 1930-1933 годах башня реставрировалась, причем была вновь разобрана стрельница, засыпан колодец и снаружи заложены проездные ворота.