Иван Яковлевич Ефремов родился 30 января 1923 года в деревне Брагины Слободского района Кировской области в крестьянской семье.
В возрасте 17 лет он начал трудиться учителем в сельской школе.
Ушёл на фронт в августе 1941 года. Сначала учился в военном авиационном училище в г. Уфе, а затем в военном инженерном училище в г. Златоусте Челябинской области.
В декабре 1942 года Иван Яковлевич закончил центральные курсы подрывного дела.
В мае 1943 года его направляют под Москву в 10-ю воздушно-десантную бригаду в г. Раменское. В этой бригаде И.Я.Ефремов служил командиром взвода.
В период Великой Отечественной войны Ивану Яковлевичу не раз приходилось в ожесточенных боях форсировать реки, преодолевать различные преграды. Он участвовал в освобождении Венгрии, Австрии.
За свой боевой путь И.Я.Ефремов награжден многими медалями, в их числе: медалью «За взятие Вены», медалью «За боевые Заслуги», медалью «За Отвагу» и др.
После окончания войны Иван Яковлевич служил в Управлении Министерства государственной безопасности (в то время МГБ), затем в УВД Кировской области.
На заслуженный отдых И.Я.Ефремов вышел в 1979 году с должности заместителя начальника следственного изолятора № 1 г. Кирова.