Сын рабочего-текстильщика, сам с двенадцати лет рабочий,
Иван Филиппович Козлов был активным участником московского Декабрьского восстания: валил телеграфные столбы, помогал сооружать баррикады. В 1906 году его впервые арестовали, но это не испугало молодого революционера, три года спустя он вступил в ряды большевистской партии. Было это в Колпине, где Иван Козлов работал на машиностроительном заводе.
В годы первой империалистической войны Козлов горячо разъяснял массам антивоенную позицию большевиков. Ему было оказано большое доверие: он стал членом Выборгского районного комитета партии в Петрограде. Но вскоре власти снова арестовали его и сослали в Иркутскую губернию. Освободила И. Ф. Козлова Февральская революция.
Он возвращается в революционный Петроград и становится председателем Новодеревенской районной думы. В это же время И. Ф. Козлов возглавляет в районе рабочую милицию.
В Октябрьские дни Иван Филиппович – на передовой линии боев, выполняет задания Военно-революционного комитета; руководит захватом Морского вокзала, военного и гражданского телеграфа в Новодеревенском районе.
Иван Филиппович – активный участник гражданской войны. После опубликования декрета о создании Красной Армии он формирует в Новодеревенском районе красноармейские части, сражается против контрреволюции на Туркестанском и Восточном фронтах. Конец гражданской войны застает его на ответственном посту комиссара снабжения 1-й армии Туркестанского фронта.
Демобилизовался Иван Филиппович в 1925 году. После демобилизации был председателем Нарвского райисполкома в Ленинграде, потом работал управляющим афганским отделом Внешторга.
По состоянию здоровья ему пришлось рано уйти на пенсию. В 1934 году И. Ф. Козлов умер.