Родился в Харькове 23 июля 1931 года. Его отец был известным в городе человеком — бухгалтером книготорга, а мать — актрисой, пианисткой и певицей, поэтому в доме всегда царила музыкальная атмосфера.
 
С детства учился музыке, пел на вечерах художественной самодеятельности под мамин аккомпанемент, позже — начал играть на аккордеоне и часто выступал на танцах и школьных вечерах с музыкальным сопровождением. После школы окончил горный факультет Московского политехнического института, самым активным образом сочетая занятия в институте с выступлениями в ресторанах, на эстраде, танцах и частными концертами. После окончания ВУЗа работал горным инженером в проектном институте и шахтах Донбасса, а затем ему предложили работу в Петропавловске-Камчатском. На Камчатке работал руководителем вокально-инструментального ансамбля, там же окончил музыкальное училище. К этому времени его стиль восприятия жизни и её изображения в песне уже сложился.
 
Он стал одним из первых в жанре современного городского романса. Тогда же сложился устойчивый миф о лагерном прошлом Михаила Гулько. Понятно, что причиной этих слухов стал сам жанр певца, тематика его песен и невероятная артистичность. Тем не менее в тюрьмах он не сидел, но выступлений в этих местах у него было множество.
 
Однажды попав с концертом в лагерь, он приезжал с тех пор в лагеря и тюрьмы десятки раз и всегда бесплатно. В 1980 году уехал в США, в Нью-Йорке продолжал работать музыкантом и певцом, с 1993 г. гастролировал в России.
 
Его первый альбом «Синее небо России», в который вошли популярные песни «Поручик Голицын», «Белая береза», «Эшелон», «Колыма», вышел в 1981 году. Затем, в 1984, был второй альбом — «Сожженные мосты» (песни «Господа офицеры», «Прощание с Родиной», «Окурочек», «Березы на зоне»).
 
В 1985 году, к 40-летию победы в Великой Отечественной войне он выпустил диск «Песни военных лет», а в 1996 — диск «Заграница», несколько песен которого были написаны в соавторстве с Михаилом Таничем. Заглавная песня из альбома звучит в исполнении Гулько в комедии А.Эйрамджана "Примадонна Мэри".
 
В 1999 году его песни выходят в серии «Легенды русского шансона», а в 2002 году — в серии Grand Collection. В 2006 году на Украине вышел ДВД-диск с фильмом-концертом Михаила Гулько "Судьба иммигранта". В 2007 году в издательстве "Деком", в серии "Русские шансонье" вышла автобиография Михаила Гулько "Судьба эмигранта" (автор-составитель М.Кравчинский) с музыкальным аудио-приложением лучших песен. Каждый год Михаил Гулько приезжает в Россию с концертами