Джон Уильямс родился 8 февраля 1932 года в Нью-Йорке, США. В 1948 году он вместе с семьёй переехал в Лос-Анджелес, где поступил в Северо-Голливудскую Высшую Школу. В дальнейшем он посещал Лос-Аджелесский Калифорнийский Университет и Лос-Анджелесский Городской Колледж, а также брал частные уроки у композитора Марио Кастельнуово-Тедеско. В 1952 году Уильямс был призван на службу в ВВС США, где выполнял обязанности аранжировщика и дирижёра Оркестра ВВС до окончания службы.

После окончания службы в 1954 году Уильямс вернулся в Нью-Йорк, где поступил в Джульярдскую школу, на класс пианино, где его преподавателем была Розина Левина. В те годы Уильямс также работал джазовым пианистом во многих клубах и студиях Нью-Йорка, где выступал совместно с композитором Генри Манчини, а также над серией альбомов популярного исполнителя Фрэнки Лэйна, как руководитель музыкальной группы. За свою карьеру Уильямс написал музыку к таким известным кинофильмам, как: «Челюсти», «Супермен», «Инопланетянин», «Искатели утраченного ковчега», «Список Шиндлера», «Парк юрского периода», киноэпопее «Звёздные Войны» и многим другим. Так же Уильямс создал музыку к четырём Олимпиадам, множеству телесериалов и концертных номеров. С 1980 года, по 1993 год он работал дирижёром Бостонского Эстрадного Оркестра и сейчас является его заслуженным дирижёром.

Уильямс — пятикратный лауреат премии «Оскар» (за музыку к фильмам «Скрипач на крыше», «Челюсти», «Звёздные войны. Эпизод IV. Новая надежда», «Инопланетянин», «Список Шиндлера»). Так же имеет 45 номинаций, что делает его, вместе с Альфредом Ньюманом, вторым по количеству номинаций на эту награду (больше только у Уолта Диснея).