Ярослав Смеляков родился 26 декабря 1912 (8 января 1913) в Луцке (Украина) в семье железнодорожного рабочего. Детство провёл в деревне, где окончил начальную школу. Затем он учился в Москве, в школе-семилетке.
В 1931 году окончил полиграфическую фабрично-заводскую школу. Занимался в литературных кружках при газете «Комсомольская правда» и журнале «Огонёк». Работал в типографии. В 1934 году стал членом Союза Писателей СССР.
В 1934-1937 годах был репрессирован.
С 1937 ответственный секретарь газеты «Дзержинец» трудовой коммуны имени Дзержинского (Люберцы). С 1939 ответственный инструктор секции прозы СП СССР.
Участник Великой Отечественной войны. С июня по ноябрь 1941 был рядовым на Северном и Карельском фронтах. Попал в окружение, находился в финском плену до 1944 года. По возвращению из плена, Ярослав Смеляков опять попал в лагерь, где его несколько лет «фильтровали».
От-туда был отправлен в лагерь под Сталиногорском, на 19-ю шахту, где работал банщиком. Однако усилиями журналистов П. В. Поддубного и С. Я. Позднякова поэт был освобождён и работал ответственным секретарем газеты «Сталиногорская правда», руководил литературным объединением при ней.
После лагеря Смелякову въезд в Москву был запрещён. В Москву ездил украдкой, ни в коем случае не ночевал. Благодаря Константину Симонову, замолвившему слово за Смелякова, ему удалось вновь вернуться к писательской деятельности. В 1948 году вышла книга «Кремлевские ели».
В 1951 году по доносу двух поэтов вновь арестован и отправлен в заполярную Инту, где просидел до 1955 года, возвратившись домой по амнистии. С 1967 года Член Правления СП СССР, председатель поэтической секции СП СССР.
Умер Ярослав Смеляков 27 ноября 1972 года. Похоронен в Москве на Новодевичьем кладбище (участок № 7).