Точно происхождение названия до сих пор не установлено. Согласно наиболее распространённой версии, название района происходит от старого слова «кита», то есть вязка жердей, которые применялись при постройке укреплений[4]. Согласно «Словарю русского языка XI—XVII вв.», слово «кита» означает нечто плетёное, связанное в пучок, в косу[5][6].
Существуют также версии, что название произошло от итальянского слова сitta (полностью cittadelle — цитадель, укрепление) или тюркского катай — город, крепость[7], или английского city — центр города. Также приводится версия о том, что ранее эта часть города называлась Новым или Другим городом, и с конца XVI века приобрело название Средний или Китай-город, так как татарское слово «Китай» означает средний[8].
Русский писатель-журналист Владимир Гиляровский в своей книге «Москва и москвичи», а также ряд историков указывают на происхождение названия от Китай-городка на Подолии, название было возможно использовано для обозначения части города Москвы матерью Ивана Грозного Еленой Глинской в качестве отсылки к своей родине[9]. Также Китай-городом в позднейшие времена называли посадскую часть города Пронска, что может быть связано с переделкой местной крепости тем же зодчим, что строил и московский Китай-город — Петроком Малым[10].
И. К. Кондратьев привёл ещё одну версию происхождения названия, а именно что данный участок города ранее назывался Китаем, так как с этим названием в простонародье связывали всемирный рынок, и любая ткань иностранного изготовления называлась «китайкой» оттого, что Русь издавна имела торговые отношения с Китаем[9].