После армии он начал гастролировать с известными артистами, разогревая публику сольными выступлениями. Он писал музыку и тексты песен, записывал свои композиции. Для этого в его распоряжении была полупрофессиональная техника. В 1992 году Агутин победил на ялтинском фестивале с песней "Босоногий мальчик". Эта композиция позже прозвучала на конкурсе в Юрмале и стала хитом. Вдохновившись успехом, Леонид взялся за работу над первым альбомом.
Еще в юношеские годы Агутин полюбил джаз, и его любовь к этому музыкальному жанру не прошла. Впоследствии он увлекся другими направлениями, и постепенно пришел к поп-музыке. Первым полноценным альбомом стал Босоногий мальчик. Дебютная пластинка произвела настоящий фурор на российской эстраде. Композиции "Голос высокой травы" и "Хоп хей, ла лалэй" из трек-листа начали звучать на многих радиостанциях и из всех окон.
В конце 1994 года пластинку признали лучшим альбомом года, а певца назвали лучшим исполнителем. Следующий полноценный альбом Декамерон 1995 года позволил Агутину закрепиться на сцене. Он стал одной из главных знаменитостей того периода наравне с Любэ, Валерием Меладзе и Киркоровым.
Агутин продолжил развиваться в выбранном творческом направлении и записывать один альбом за другим. Так, в 1998 году появилась пластинка Летний дождь, а за ней в 2000 состоялся релиз Служебного романа.
В 2000 певец записал альбом Леонид Агутин, а еще через три года выпустил новую пластинку под названием Дежа Вю. Одним из самых важных в карьере артиста альбомом стал совместный альбом Cosmopolitan Life, для работы над которым был привлечен джаз-гитарист Эл Ди Меол. Компакт-диск издавался в России, а позже появился в Европе и США. На западе джазовая пластинка была принята теплее, чем в России. В США, Германии и Канаде сборник джаз-песен долго продержался на верхних позициях чартов.
В 2007 году Агутин выпустил новую пластинку Любовь. Дорога. Грусть и Радость, а в следующем году получил престижные награды Music Box, став певцом года. В 2012 и 2013 годах были выпущены еще два популярных альбома – Время последних романтиков и Тайна склеенных страниц.
Музыкант начал принимать активное участие в телепроектах «Голос» и «Голос: дети», став постоянным членом жюри. В 2016 году после перерыва состоялся релиз пластинки Просто о важном, для которой музыку и тексты Леонид сочинял самостоятельно. Критики очень хорошо встретили новый диск музыканта, а в течение недели альбом стоял на верхних позициях российского чарта iTunes Store.
Летом 2018 года Агутин отметил 50-летний юбилей пышным торжеством. Среди гостей были Сергей Шнуров, Владимир Пресняков, Игорь Николаев, Филипп Киркоров, Валерия и другие звезды российской эстрады. В том же году артист записал альбом 50, а позже выпустил пластинку Cover Version, в которую вошли кавер-версии известных хитов.