Китай-город вырос из Великого посада — древнейшего района Москвы, изначально располагавшегося на территории Кремля, но выросшего за его пределы ещё в XIV веке. В нем кипела жизнь, процветала торговля и ремёсла. Поэтому неудивительно, что эту часть города в 1535 году решили обнести каменной стеной. Прежде вокруг посада был лишь ров с земляным валом и деревянным частоколом — укреплениями 1394 года в ожидании нашествия Тамерлана. Каменная китайгородская стена была заложена 16 мая 1535 года. Перед началом строительства будущую крепость освятил московский метрополит, после чего вдоль периметра стен был совершен крестный ход за которым укладывали первые камни. Руководил постройкой Петрок Малый — итальянский архитектор, приехавший в Москву в 1528 году (на родине зодчий звался Пётр Франческо Анибале). Новая стена протянулась от Беклемишевской башни Кремля вдоль Москвы-реки, доходила до Новой площади, изгибалась на Лубянке и оканчивалась у Арсенальной башни. Укрепления протянулись на два с половиной километра и охватывали площадь в 63 гектара.
Через век с лишним состоялся первый ремонт стены, а в 1680-х годах некоторые башни получили шатровые завершения. Тогда же были построены Воскресенские ворота. В начале XVIII века китайгородскую стену укрепили земляными бастионами, которые перекрыли реку Неглинку, закупорив городские стоки. После завершения Северной войны укрепления утратили военное значение, и в 1782 году начались восстановительные работы. Тем не менее, уже через пару лет стена оказалась наполовину в земле, когда у Москвы-реки создали насыпную набережную. Укрепление продолжало ветшать, в 1807 году рухнул участок стены в 40 метров. Через шесть лет стена опять уменьшилась, на этот раз часть ее сломали для починки Кремля. Руководивший ремонтом архитектор Гесте предложил снести всю стену целиком, но генерал-губернатор Москвы Ростопчин настоял на ее сохранении, ибо она «дает вид величественности части города, ею окруженной».
Губернаторские слова возымели действие: бастионы были срыты, несколько ворот открыли для проезда, в башни перенесли архивы. Несмотря на это, к концу XIX века состояние стены было плачевное: в многих местах она была разрушена и использована в качестве фундамента для соседних зданий. Время от времени китайгородскую крепость реставрировали и расчищали от пристроенных лавок и амбаров, но стена все равно рушилась и расслаивалась на глазах.
В 1925 году реставратор Игорь Грабарь в 1925 году отмечал бедственное положение стены: одни участки срыты полностью, и на их месте возведены новые здания, другие же, которым повезло больше, полностью ушли в землю.
В этом же году Моссовет решил организовать масштабную реставрацию всего Китай-Города, благодаря которой стены освободили от пристроек, починили зубцы и шатры, спроектировали кровлю. Власти признали стену памятником архитектуры, но в градостроительные планы эта ценность не вписывалась. В первую очередь на территории Китай-города нужно было решать транспортные вопросы — расширять и продлевать улицы, строить метрополитен. Градозащитники разработали альтернативные проекты с проездами внутри стены, но в 1932 были принято окончательное решение о сносе, которое осуществили за 2 года. Был разобран участок от Владимирских до Варварских ворот, включая последние. Остатки стены пошли на укрепление тоннеля метро, который строили на этом месте. А в мае 1935 года здесь открылась станция «Дзержинская». Уцелели лишь небольшие участки на площади Революции, за гостиницей «Метрополь» и в Зарядье вдоль Китайгородского проезда и Москворецкой набережной.
После войны при строительстве одной из восьми высоток в Зарядье рухнули 45 метров китайгородской стены. Началось ещё одно противоборство власти с искусствоведами и архитекторами за судьбу старинных укреплений. Градозащитники пытались объяснить, что соседство средневековой стены и современного советского небоскрёба создадут выразительный архитектурный контраст. Но завершилась эта история личным сталинским распоряжением № 3489-р от 20 февраля 1952 года, в котором он дал Управлению строительства Дворца Советов разрешение разобрать стены и башни вдоль набережной и проезда, обязав Совмин РСФСР исключить китайгородскую стену на этих участках из списка памятников архитектуры. Не разобрали до конца лишь часть стены вдоль Китайгородского проезда, которая оставалась в руинах и через 10 лет была восстановлена реставратором Петром Барановским.
Начиная с 1970-х годов появляется все больше проектов воссоздания китайгородских укреплений. В 1995 году заново возвели Воскресенские ворота у Красной площади, через два года восстановили Круглую башню и стену по границе Театральной площади. Затем работы приостановились из-за отсутствия денег у города и инвесторов. В 2017 году у стены появился шанс на выживание: при строительстве парка «Зарядье» археологи обнаружили в основании укреплений несколько тайных сводчатых комнат и помещение для подошвенного боя. Во время раскопок было обнаружено более 150 артефактов. Их поместили в музей «Зарядья», который находится под землей в основании китайгородской стены. Сохранившийся белокаменный фундамент стал и помещением, и экспонатом музея.