Карл Андреевич Гайлис принадлежал к тому поколению пролетарских революционеров, которое вынесло на своих плечах всю тяжесть подпольной работы в годы реакции, последовавшей за поражением первой русской революции
. В 1906 году К. А. Гайлис вступил в партию, работал в Петербурге в Латышской районной партийной организации. В 1911 году царским властям удалось арестовать многих партийных деятелей, и тогда К. А. Гайлис стал одним из создателей Центральной группы петербургских большевиков. Эта группа в условиях глубокого подполья сумела наладить связи между районными партийными организациями и выпустить несколько листовок.
Позже Карл Андреевич ведал издательством «Прибой». Он сотрудничал в «Правде», в журнале «Вопросы страхования». Кроме того, через членов большевистской фракции Государственной думы Гайлис установил связь ЦК социал-демократической партии Латышского края и ЦК РСДРП(б).
В 1914 году, при полицейском разгроме редакции «Правды», Карл Андреевич был арестован и выслан из Петербурга. Но ни ссылка, ни последующая мобилизация не смогли надолго прервать его партийную деятельность.
Полк, в котором Гайлис проходил военную службу, был расквартирован в Вольмаре. Там Карл Андреевич связался с местной партийной организацией. В 1916 году он был избран членом комитета Видиенской организации и кооптирован в состав ЦК социал-демократов Латышского края.
После Февральской буржуазно-демократической революции Гайлис разворачивает энергичную деятельность по созданию в воинских частях полковых и ротных солдатских комитетов. Быстро растет его авторитет среди солдат и местных рабочих. Карла Андреевича избирают делегатом конференции видиенских большевиков, а в мае 1917 года он едет в Петроград как делегат I Всероссийского съезда Советов.
Вернувшись из Петрограда, Карл Андреевич становится одним из руководителей Вольмарского Совета рабочих и солдатских депутатов и проводит через Совет ряд революционных мероприятий. В июле 1917 года он избирается членом ЦК социал-демократии Латышского края и делегируется от Видиенской (Средне-Лифляндской) окружной партийной организации на VI съезд РСДРП(б).
После съезда партии Гайлис снова в Вольмаре. Там Карл Андреевич вошел в Военно-революционный комитет 12-й армии.
В октябре 1917 года Гайлис – делегат II Всероссийского съезда Советов. В Петрограде он непосредственно участвует в событиях Великого Октября. По поручению Военно-революционного комитета выезжает в воинские части и районы города с целью подготовки и проведения вооруженного восстания. По заданию Н. И. Подвойского Гайлис некоторое время работал в отделе передвижения войск Петроградского военного округа.
Сразу после победы Октября Гайлиса направили в 12-ю армию с задачей захватить штаб армии, находившийся в Валке. В начале ноября 1917 года это задание профессиональный революционер выполнил успешно.
В конце 1918 года Карл Андреевич является представителем Совнаркома Латвии и ЦК латвийских большевиков в Москве. Затем в течение многих лет он работал в Верховном Суде РСФСР и Верховном Суде СССР – был членом суда, заместителем председателя, старшим консультантом.