Родился 25 ноября 1914 года в городе Константинограде, ныне город Красноград Харьковской области Украины, в семье рабочего. Украинец. Окончив среднюю школу, работал инструктором районного комитета комсомола в городе Краснограде.
В Красной Армии с 1932 года. В 1937 году окончил Ульяновское бронетанковое военное училище. В 1937–1938 годах командовал танковым взводом и взводом разведки в Киевском особом военном округе. Член ВКП(б)/КПСС с 1939 года. В 1941 году окончил два курса Военной академии механизации и моторизации РККА.
С первых дней Великой Отечественной войны участвовал в боях с немецко-фашистскими захватчиками. Был дважды ранен. Сражался на Ленинградском и Калининском фронтах, был помощником начальника, с августа 1941 года старший лейтенант Владимир Толубко – начальник оперативного отделения, с октября – начальник штаба 21-й танковой дивизии, с февраля 1942 года – начальник штаба и с июля командир 104-й танковой бригады. После второго ранения с марта 1943 года – на преподавательской работе в Военной академии механизации и моторизации РККА. С февраля 1944 года до конца войны – начальник оперативного отдела штаба 4-го гвардейского механизированного корпуса (3-й Украинский фронт).
Принимал участие в планировании и проведении боевых действий механизированного корпуса в Ясско-Кишиневской, Белградской и Будапештской операциях.
В 1945–1948 годах занимал должности командира механизированной бригады и полка, начальника отдела и заместителя начальника штаба объединения, начальника штаба механизированной дивизии.
В 1946 году полковнику В.Ф. Толубко, окончившему бронетанковую академию, было присвоено воинское звание «генерал-майор».
В 1950 году он окончил Академию Генерального штаба. С марта 1951 года – командир механизированной дивизии, с мая 1953 года – начальник штаба, первый заместитель командующего объединением. В 1956–1957 годах помощник главнокомандующего – начальник управления боевой подготовки Группы советских войск в Германии. В 1957 –1960 годах – командующий объединением и с марта 1960 года – первый заместитель Главнокомандующего Ракетными войсками стратегического назначения (РВСН).
В 1968 году генерал В.Ф. Толубко окончил Высшие академические курсы при Академии Генерального штаба. В апреле того же года он назначен командующий войсками Сибирского военного округа, а с мая 1969 года – Дальневосточного.
В 1970 году Указом Президиума Верховного Совета СССР генерал-полковнику Толубко В.Ф. присвоено высшее воинское звание «генерал армии».
В должности первого заместителя главнокомандующего РВСН В.Ф. Толубко осуществлял подбор и расстановку руководящих кадров, организовывал мероприятия по оперативно-стратегической подготовке высшего командного состава, разработку способов повышения полевой и боевой выучки войск, несения ими боевого дежурства.
Главнокомандующий Ракетными войсками стратегического назначения – заместитель министра обороны СССР c 12 апреля 1972 года по 10 июля 1985 года. На этом высоком посту пятый главком РВСН внес значительный личный вклад в совершенствование боевой и оперативной подготовки войск и штабов, в обеспечение постоянной боевой готовности ракетных войск, в развитие ракетной техники и вооружения, активно руководил перевооружением, вводом в боевой состав РВСН и постановкой на боевое дежурство ракет третьего поколения с разделяемыми головными частями и средствами преодоления противоракетной обороны противника.
Руководил созданием группировки первых ракетных комплексов ракет средней дальности мобильного базирования «Пионер», разработал основы их боевого применения, боевого дежурства и маневренных действий. Организовал летные испытания подвижных ракетных комплексов МКР грунтового и железнодорожного базирования, разработку принципов их размещения и боевого применения.
Осуществил переход на единую систему организации и несения боевого дежурства в масштабе РВСН. Повысил устойчивость и надежность боевого управления войсками и оружием путем внедрения автоматизированной системы боевого управления.
Указом Президиума Верховного Совета СССР от 12 августа 1976 года за большой личный вклад в создание и развитие ракетно-космической техники и ракетных стартовых комплексов генералу армии Владимиру Федоровичу Толубко присвоено звание Героя Социалистического Труда.
Указом Президиума Верховного Совета СССР от 25 марта 1983 года генералу армии В.Ф. Толубко присвоено высшее воинское звание «Главный маршал артиллерии».
В 1985 году, на основании личного рапорта, Главный маршал артиллерии В.Ф. Толубко оставляет пост главкома РВСН и переходит в группу Генеральных инспекторов Министерства обороны СССР.
С 1971 года В.Ф. Толубко избирался кандидатом в члены ЦК КПСС, а с 1976 года – членом ЦК КПСС. Депутат Верховного Совета СССР 8 – 10-го созывов.
Жил в Москве. Награжден пятью орденами Ленина, четырьмя орденами Красного Знамени, орденами Богдана Хмельницкого 2-й степени, Отечественной войны 1-й степени, двумя орденами Красной Звезды, орденом «За службу Родине в Вооруженных Силах СССР» 3-й степени и медалями, а также иностранными орденами и медалями.
Является автором ряда книг: «От Видина до Белграда», «На южном фланге. Боевой путь 4-го гвардейского механизированного корпуса (1942–1945 гг.», «Ракетные войска» и т.д.
Скончался Владимир Федорович Толубко 17 июня 1989 года. Похоронен в Москве на Новодевичьем кладбище.
Почетный гражданин города Одинцово Московской области, в котором установлен его бюст, а имя маршала Толубко присвоено улице в микрорайоне 7-а этого города. Почетный гражданин молдавского города Комрата. В память о нем была выпущена памятная нагрудная медаль [110, 481, 595, 625, 633, 783, 935, 1006, 1194, 1217].