Рерберг сформировался как строитель и мастер архитектуры еще в дореволюционное время, а в советские годы очень активно и с большим успехом работал над решением крупных архитектурно-строительных задач. Щусев считал его большим мастером, сказав: «Богатый опыт и огромные организаторские способности И.И. Рерберга дают право назвать его одним из крупнейших строителей Москвы». Без его работ нельзя представить сейчас российскую столицу.

Родился Иван Иванович Рерберг 4 октября 1869 года в Москве. Среди его предков было немало высокоодаренных людей. Согласно семейному преданию, при Петре I датский кораблестроитель Рерберг был приглашен в Россию и поселился в Прибалтике в Ревеле. Дед Ивана, Федор Иванович, переселился из Ревеля в Петербург, начал учиться на кораблестроителя, затем окончил созданный за три года до этого Институт инженеров путей сообщений. В дальнейшем он был заместителем председателя комиссии по постройке Исаакиевского собора в Петербурге. Дядя Ивана, Петр Федорович, был профессиональным военным, участником героической обороны Севастополя. Отец, Иван Федорович, инженер путей сообщения, крупный организатор железнодорожного транспорта, автор капитальных печатных трудов.

По окончании кадетского корпуса, а затем военного училища Иван Рерберг-младший был направлен в саперный батальон. После этого поступил в Петербургскую военно-инженерную академию. Основой его интересов в студенческие годы служили не военно-оборонительные сооружения, а строительство транспортных, гидротехнических и других объектов. Он прошел, как полагалось в то время, на практике путь от каменщика и плотника до десятника строительных работ. Получив в 1896 году звание военного инженера, Рерберг участвовал в строительстве крупного паровозостроительного и механического завода в Харькове, что позволило ему овладеть передовыми для того времени методами строительства.

С конца 1897 года Рерберг участвовал в строительстве грандиозного и величественного здания Музея изящных искусств в Москве в качестве одного из двух заместителей его автора и строителя, архитектора Р. Клейна.

Возведение этого уникального здания, воплотившего многие архитектурные и технические достижения рубежа двух веков, творческое общение с крупными архитекторами, учеными и инженерами, участвовавшими в проектировании здания, явились для Рерберга замечательной школой опыта и мастерства. По его предложению была создана эффективная отопительно-вентиляционная система здания. Основатель музея профессор Московского университета И. Цветаев часто адресовал письма по вопросам строительства непосредственно Рербергу.

Сохранилась копия удостоверения, выданного Рербергу и подписанного директором и ученым секретарем музея: «Администрация Музея изящных искусств удостоверяет, что инженер Иван Иванович Рерберг состоял заместителем и помощником строителя Музея изящных искусств Клейна за все время постройки здания Музея изящных искусств в Москве с 1897 по 1909 год и в заслугу за его деятельность был награжден званием пожизненного безвозмездного архитектора здания музея». Рерберг продолжал работу над музеем до 1912 года, то есть до полного окончания всех работ и его открытия.

Став признанным специалистом, Иван Иванович еще в период строительства музея участвовал в реставрационно-ремонтных работах здания Манежа в 1904 году. Он руководил также возведением ряда зданий по проектам Клейна: универмага «Мюр и Мерилиз» (1907–1908), здания клиники на Малой Пироговской улице, корпуса Московского университета, выходящего торцовым фасадом на проспект Маркса рядом со старым университетским зданием, жилых, учебных и других зданий.

В самом конце века началась самостоятельная творческая деятельность Рерберга. Одним из первых осуществленных проектов был патронный завод вблизи Сущевского вала. В 1906 году Рерберг разработал проект самого большого в Москве пятиэтажного «дома дешевых квартир для семейных» на Второй Мещанской улице на средства, завещанные богатым московским купцом. В докладе, сделанном в Московском архитектурном обществе, действительным членом которого он состоял, Иван Иванович отметил, что работу над проектом он начал с ознакомления с тяжелыми условиями жизни городской бедноты, которая должна иметь «неотъемлемое право на ограждение от несправедливой судьбы». Этот необычный по планировке дом, где кроме жилых комнат было много помещений обслуживания, был заселен в 1909 году и получил положительную оценку в печати.

Еще более крупный проект Иван Иванович осуществил в самом центре Москвы. Северное страховое общество решило построить комплекс доходных зданий конторского и торгово-складского назначения. На объявленный Московским архитектурным обществом конкурс было подано двадцать два проекта. Весной 1909 года жюри присудило одну из двух первых премий авторам проекта под девизом «Центр» — петербургскому архитектору М. Перетятковичу и Рербергу.

Решая задачу сочетания новых, отвечающих эстетическим требованиям начала XX века зданий с сооружениями прошлого, авторы акцентировали торцы зданий, выходящие на Ильинку, высокой башней с куполом-ротондой. Был удачно использован весь участок, предусмотрен удобный внутриквартальный проезд между пятиэтажными корпусами, соединенными переходом на уровне четвертого и пятого этажей. В процессе подготовки и осуществления строительства, в котором принимал участие архитектор В. Олтаржевский, Рерберг значительно доработал проект с целью достижения большей четкости и отточенности архитектурного облика в формах нового для того времени стиля — неоклассицизма, на который он возлагал большие надежды. Ритм крупных оконных проемов определил характер фасадов.

Существенная роль в их формировании принадлежит отдельным деталям и лепным украшениям. Это была одна из типичных попыток сочетать приемы проектирования, характерные для начала XX века, с архитектурными формами первой трети 19-го столетия, свободно их видоизменяя.

Строительство зданий было завершено в 1911 году. Куранты на башне были хорошо видны над уступом башни Ильинских ворот со стороны площади и сквера. Как отмечалось в издававшемся тогда ежегоднике «Архитектурная Москва», «по монументальности и красоте это одно из лучших произведений современной московской архитектуры».

В формах русского ампира, характерных для пушкинского времени, Рерберг разработал и осуществил по заказу Общества поощрения трудолюбия проект здания женской гимназии. Пропорции и детали фасада, интерьеры здания, возведенного в 1911–1912 годах в Большом Казенном переулке, отличаются изяществом.

Из других построек Рерберга этого времени следует отметить красивый особняк Урусова на Новокузнецкой улице, торговый пассаж, существовавший на месте нового здания ЦУМа, двухэтажное здание Московско-Брестского технического железнодорожного училища возле Белорусского вокзала, трехэтажное здание ремесленного училища на Первой Миусской улице, инфекционные корпуса Московского военного госпиталя в Лефортово.

Ежегодник «Архитектурная Москва» писал в 1911 году:

«Иван Иванович Рерберг принадлежит к группе сравнительно молодых, но очень популярных строителей». Начиная с 1910 года на всех проектах подпись Рерберга была первой, что соответствует его ведущей творческой роли среди соавторов. В отличие от гражданских инженеров, именовавшихся также инженерами-архитекторами, Иван Иванович несравненно глубже изучил строительные конструкции и особенности их создания, а также лучше ориентировался в технике строительного производства. Поэтому он смело применял железобетон и другие современные материалы, умело используя заложенные в них потенциальные возможности архитектурного формообразования.

В творчестве Рерберга всегда особо отмечали четкость и глубину проработки объемно-планировочных решений, умение вписаться в городской ансамбль. Эпоха, породившая разброд в архитектурно-стилевых вопросах, наложила отпечаток на творчество талантливого мастера, хотя он и сумел оградить себя от крайностей и бесплодных творческих увлечений, но его поиски в основном связаны с развитием неоклассицизма.

В самом начале века Иван Иванович жил на казенной квартире в Лефортово, затем вблизи Разгуляя, некоторое время в доме № 6 по Доброслободскому переулку и около двадцати лет занимал часть двухэтажного особняка в Денисовском переулке. Здесь он создавал проекты, активно пополнял свою библиотеку, свободные часы отдавал акварельной живописи, а летом жил на даче в Болшево, где сочетал отдых с напряженной работой.

С 1906 года Рерберг в течение тринадцати лет преподавал в Училище живописи, ваяния и зодчества и в Московском инженерном училище. Он выступил инициатором обучения женщин на архитектурных курсах, учредителем и преподавателем которых был долгое время.

После того как Рерберг принял участие в работах по перестройке старого здания на Чистопрудном бульваре для Правления Московско-Киевско-Воронежской железной дороги, он получил заказ на проектирование и строительство грандиозного Брянского вокзала (с 1934 года — Киевский) на месте существовавшего деревянного.

При разработке проекта, осуществленного при участии архитектора Олтаржевского, были использованы достижения мирового архитектурного опыта и практики применения большепролетных арочных покрытий над платформами. Основу творческих поисков определило расположение вокзала вблизи Москвы-реки и оживленной радиальной городской магистрали, проходящей через Бородинский мост. Мост, построенный за год до рождения Ивана Ивановича по проекту его отца, в 1912–1913 годах, перед постройкой вокзала, был заменен современным.

Творческий процесс формирования облика вокзала был подобен отработке архитектурных форм комплекса Северного страхового общества. Неоднократно дорабатывался главный фасад с колоннадой на уровне высокого второго яруса, приобрели большее изящество фланкирующие его порталы-крыльца, башня высотой пятьдесят один метр была вынесена за пределы фасада, а ее первоначальные архитектурные формы переработаны.

Наружный контур всего здания достигает почти девятисот метров. Залы ожидания просторны и имеют большую высоту, площадь самого большого из них — центрального более девятисот квадратных метров. Позади залов ожидания было четыре подъездных пути под стеклянным ангароподобным покрытием-дебаркадером. В качестве конструктивной основы этого покрытия Рерберг предусмотрел арки из крупных ажурных металлических элементов, попарно соединенных в верхней части. Их конструирование, изготовление и установку взяла на себя специализированная фирма, главный инженер которой, выдающийся конструктор-механик В.Г. Шухов, не меняя принципиально конструкцию, рационализировал ее, что упростило изготовление и сократило стоимость. Шухова признают не только исполнителем, но и автором этого уникального покрытия.

Летом 1914 года состоялась церемония закладки здания. Основные работы были завершены в 1917 году. В 1920 году Рерберг провел дополнительные работы на Киевском вокзале, главным образом отделочные. Иван Иванович намечал создание большой площади, связывающей вокзал с городом. Современную площадь Киевского вокзала можно рассматривать как воплощение замыслов Рерберга.

В начале 1920-х годов Моссовет передал Киевскому вокзалу стоящее вблизи четырехэтажное жилое здание. Иван Иванович перестроил его под железнодорожный привокзальный клуб, вскоре преобразованный в клуб имени Горбунова.

В годы Гражданской войны строительная деятельность в Москве была весьма ограниченной, а первые организационные шаги в этом направлении носили специфический характер. Рерберг вставлял технический отдел Особого комитета по строительству Москвы. Этот комитет сочетал организационно-техническую деятельность с производственной и проектной.

Рерберг строит деревянный павильон Хлебопродукта на Всероссийской сельскохозяйственной и кустарно-промышленной выставке 1923 года. Более крупным заказом было проектирование и руководство надстройкой двумя этажами большого трехэтажного конторского здания Варваринского акционерного общества на Мясницкой, возведенного в девяностых годах XIX века, а также проектирование и строительство новых корпусов во дворе. Здесь разместился созданный после Гражданской войны Нефтяной синдикат СССР.

В облике надстроенных этажей видны характерные черты творческого почерка Рерберга: при скупом использовании простых архитектурных деталей и отдельных лепных украшений достигнута необходимая увязка новой части фасада со старой, в равной степени отвечающей деловому назначению здания.

Учитывая присущее Рербергу бережное отношение к существующим произведениям зодчества, его пригласили выполнять обязанности архитектора три крупнейших столичных театра — Большой, Малый и Художественный. По свидетельству Щусева, он «много сделал работ для этих театров».

В 1925 году было составлено задание на проектирование здания Центрального телеграфа, включающего радиоузел и междугородную телефонную станцию. Провели открытый конкурс, в котором участвовали многие известные архитекторы, а затем персонально было заказано еще два проекта, один из них Рербергу. Выполненный проект хорошо соответствовал всему комплексу функциональных заданий, а также требованию монументальности архитектурного решения. Несмотря на возражения представителей нового творческого направления в архитектуре, этот проект был утвержден Моссоветом в начале марта 1926 года, а 22 мая была совершена церемония закладки здания.

Строительные работы развернулись быстрыми темпами с участием двух тысяч рабочих, их вело акционерное общество Госпромстрой. Проект здания Центрального телеграфа был разработан с большой тщательностью. Применение монолитного железобетонного каркаса и вынос всех четырех лестниц за пределы основного объема здания во внутренний двор позволили устроить на разных этажах очень просторные помещения, общая площадь которых составила сорок тысяч квадратных метров. Срезанные углы главного фасада обусловлены градостроительными возможностями. Благодаря одному из таких срезов здание хорошо «смотрелось» с тогда еще не реконструированной, узкой Тверской улицы. Срезая острый угол для устройства главного входа, Рерберг выполнил эту часть здания в виде широкой пятигранной башни, возвышающейся на десять метров над остальными фасадами. Башня оборудована вращающимся стеклянным глобусом. На приподнятой над тротуаром площадке перед входом два обелиска из серого гранита, несущие ажурную чугунную консольную раму в виде переплетения дубовых веток для подвески фонарей.

Для отделки фасадов использованы серый украинский гранит и декоративная штукатурка с включением крошки этого гранита. Автору проекта удалось удовлетворить требования задания: «Выявить при обработке фасадов не только производственный и общественный характер здания телеграфа и радиоузла, но и придать ему монументальность, соответствующую городу Москве как столице СССР».

Строительство Центрального телеграфа было завершено в 1927 году. Вскоре после его окончания Рербергу поручили разработку проекта здания Школы красных командиров имени ВЦИК в Кремле (1930–1934).

Три стоящие параллельно друг другу трех-четырехэтажные корпуса объединены главным, который хорошо виден с Большого Каменного моста и из-за Москвы-реки. Заботясь о том, чтобы новая постройка скромно и спокойно соседствовала с созданным Казаковым зданием бывшего Сената — шедевром русского классицизма, Рерберг так решил фасад, обращенный к Ивановской площади, чтобы он не задерживал взгляда человека, проходящего по противоположной стороне площади. Основное внимание автор сосредоточил на фасаде главного корпуса, решенном в характере русского классицизма XVIII века. По облицованному гранитом первому этажу идет колоннада высотой в два этажа. Фасад корпуса, стоящего возле кремлевской стены, органично вписался в ансамбль Красной площади.

Один из опытнейших советских зодчих, Рерберг находился в стороне от шумных дискуссий и борьбы творческих группировок 1920-х годов, но его творческая деятельность в этот период была в высшей степени активной, насыщенной постоянными исканиями и решением больших практических задач. С 1928 года, когда он поселился в доме № 12 по Брюсовскому переулку, его квартира стала как бы проектной мастерской. Здесь Иван Иванович выполнил целый ряд работ. Первой из них был конкурсный проект здания Государственной библиотеки имени В.И. Ленина.

В разное время Рерберг проектировал также для других городов. По его проектам построены здания в Ленинграде, Тюмени, в районе города Истры. В годы Первой мировой войны как военному инженеру ему пришлось строить оборонительные укрепления. На выставке, приуроченной к Первому Всесоюзному съезду по гражданскому и инженерному строительству (1926), демонстрировался его проект вокзала для Сочи.

Будучи мастером широкого диапазона, Иван Иванович всегда подчинял свое творчество реалистической основе архитектурно-градостроительных задач.

С начала 1920-х годов Рерберг вел активную педагогическую деятельность, в частности, на факультете МВТУ читал курс сметного дела, насыщая лекции интересными примерами из своей практики.

«Инженер Рерберг» — так он подписывал свои чертежи, будь то конструкции, планы и рисунки фасадов зданий или их архитектурных деталей. Это не только показатель скромности и авторитета: Иван Иванович, как никто другой, умел без суеты добиваться такой четкости и согласованности в работе, что неувязки просто исключались. Его подпись служила гарантией, как бы знаком качества.

Архитектор скончался в 1932 году.