В 1921 году Иван Черняховский был избран секретарём комсомольской ячейки села Вербово, его комсомольская ячейка была приписана к Тульчинскому батальону частей особого назначения (ЧОН). Тогда ячейка вошла в Вербовский взвод под командованием Черняховского и участвовала в разгроме крестьянских формирований в местных лесах. За проявленную храбрость при проведении боевых операций молодого командира ЧОН в мае 1923 года наградили личным оружием — маузером
Член ВЛКСМ с 1921 года.