К концу XIX в. старые ряды совсем обветшали, и настоятельно встал вопрос об их перестройке. Начали с Верхних, и, как обычно, дело не обошлось без сопротивления консервативных купцов, не желавших никаких перемен. Генерал-губернатору Москвы пришлось отдавать приказ о насильственном закрытии рядов, ставших просто опасными для пребывания там. Во время сломки и постройки новых купцам предоставили временные ряды, построенные вдоль кремлевской стены. Верхние торговые ряды выстроили к началу 1893 г. Одновременно приступили к сломке Средних рядов, завершили закладку 18 июля 1890 г., в декабре 1892 г. закончили основные строительные работы и приступили к отделке, но только через год, 21 февраля 1894 г. состоялось освящение законченного здания. Автор этого здания, архитектор Р. И. Клейн, прекрасно справился с трудной задачей постановки здания на неудобном месте с крутым перепадом высот рельефа и увязки его декоративной обработки с окружающими строениями.
Стоимость здания Средних рядов составила почти три миллиона рублей. В новых рядах торговали писчебумажным товаром, чаем, хрусталем и посудой, парчовыми изделиями. На втором этаже находились нотариальные, банковские, экспедиторские конторы, а в корпусе, расположенном во дворе - москательные, аптекарские и химические товары.
В советское время все здание, специально предназначенное для торговли, было занято учреждениями - Средние торговые ряды стали "2-м Домом Реввоенсовета", в котором разместились различные военные конторы и, в том числе, редакция газеты "Красная звезда". И до сих пор, когда в центре так чувствуется нехватка торговых помещений, это здание занимают военные.
Другое крупное сооружение в этих местах - Старый Гостиный двор.
С давних времен в Москве был не только торговый рынок, но и специально построенный "Гостиный двор", то есть здание, куда приезжали иногородние купцы, складывали там свои товары, жили и торговали там. Впервые упоминает о таком дворе Сигизмунд Герберштейн, бывший в Москве в 1517 и 1526 гг.: "Недалеко от крепости есть большой, обнесенный стенами дом, называемый двором господ купцов, в котором купцы живут и хранят свои товары".
Гостиный двор, находившийся на Ильинке, был перестроен в 1638-1641 гг., но с увеличением торговых оборотов стал опять тесен, и в 1661-1665 гг. его расширили в сторону Варварки. Строительство проходило под смотрением богатого купца Аверкия Кириллова (его палаты сохранились на правом берегу Москвы-реки на Барсеневской набережной). Новый гостиный двор был по отзывам иностранцев "наилучшим зданием во всей Москве". Его окружали высокие побеленные стены с воротами, над которыми стояла восьмиугольная башня с маленькими шатриками по бокам. Все было украшено многоцветными изразцами, расписано желтой, красной, зеленой, голубой красками, а верх башни венчал медный, весом более 20 пудов, позолоченный орел. Гостиный двор с утра до вечера был полон покупателями и продавцами - вот впечатления иностранца, бывшего в Москве в конце XVII в.: "...двор так заполнен санями, всякими товарами и народом, что нельзя пройти, но нужно беспрестанно пролезать. Тогда там найдешь астраханских осетров и стерлядей, лежащих для продажи многими сотнями друг на друге, также много кавиара".
В Гостином дворе были не только лавки и склады товаров, в нем находилась и первая в России аптека, в которой всякий желающий мог купить нужное себе лекарство. В 1673 г. "указал Великий Государь продавать из нее спирты, водки и всякие лекарства всяких чинов людям по указной книге".
Через сто лет опять поднялся вопрос о перестройке гостиного двора. В 1786 г. московский главнокомандующий граф А. Я. Брюс докладывал Екатерине II: двор "...пришел в совершенную ветхость и угрожает разрушением и падением, как-то кирпич и белой камень из стен во многих местах уже выпадывает, а равно и крышка, стены и столбы начали обваливаться, отчего не токмо торгующие в магазейнах, но как оный двор положение имеет на четырех улицах, то проходящие и проезжающие подвергаются крайней опасности, а паче от находящихся на воротах башен, которыя совсем наклонились".
Екатерина согласилась с тем, чтобы "гостиный двор распродать по частям желающим с обязательством покупщиков, чтоб новый выстроен таковым же квадратом". В Москве архитектором С. А. Кариным был составлен проект и послан в Петербург, но оттуда прислали другой, "который по Высочайшему Ея Императорского Величества повелению Архитектором Гваренгием зделан".
Строили по петербургскому проекту, но московские архитекторы нестрого смотрели за соблюдением его, владельцы строили "...весьма медленно и неровно: один выводил оба этажа, другой один, кто как хотел; иные разрывши землю, так и оставляли ее". В конце концов после многих переделок и остановок возвели корпус двора по Ильинке с заворотами его в переулки, а также и часть здания (юго-западный угол) по Варварке. Все это продолжалось с 1701 по 1805 г. Но закончен же Гостиный двор был только в по-слепожарное время - между 1825 и 1830 гг.
В итоге получилось весьма представительное и функциональное здание, послужившее образцом для десятков гостиных дворов во многих провинциальных городах России. Фасад Гостиного двора решен в крупном, на два этажа, коринфском ордере - каждая ячейка между колоннами была предназначена для отдельной лавки. Впечатляют его высокие мощные колонны, мерный ритм арок, просторные внутренние галереи, проходящие по его периметру.
В 1903 г. средняя часть Гостиного двора (в Хрустальном переулке) была перестроена в духе псевдоклассицизма по проекту архитектора К. К. Гиппиуса.
Старый Гостиный двор был много лет занят десятками мелких контор и без настоящего хозяина медленно, но верно разрушался. Недавно начались работы по восстановлению великолепного памятника - вычищен захламленный двор, реставрированы внутренние помещения, предполагается перекрыть двор стеклянной крышей, которая будет опираться на столбы в теле старинной постройки. В будущем тут будет крупный информационный и современный гостиничный и выставочный центр.
Другой переулок - Рыбный - проходит между двумя Гостиными дворами - Старым и Новым. Здание Нового Гостиного двора (№ 3) занимает доминирующее положение в этом узком и коротком переулке. Его фасад протяженностью более 100 м не кажется монотонным: с большим тактом его деляг выступающие части здания-ризалиты и портики ионического ордера с куполом в центре. Казалось бы, в России, где все и вся находилось под неусыпным наблюдательным оком начальства, авторство такого большого здания было бы легко установить, но, к сожалению, до сих пор так и неизвестно, по чьему же проекту построено это выдающееся сооружение. Оно возведено к 1840 г. на месте "общественного Рыбного двора" (отсюда и название переулка), находившегося в одноэтажных каменных лавках, поставленных в два ряда параллельно переулку. Позади них в середине XVIII в. стояли каменные палаты, где "имелось присутствие" Главного магистрата, учреждения, которое должно было содействовать развитию торговли и промышленности в России. По нему переулок некоторое время назывался Магистратским.
На углу Рыбного переулка и Ильинки находится импозантное здание (№ 1/6), основательно испорченное советской надстройкой. Это - московская Биржа.