Уроженец города Прохладного Республики Кабардино-Балкарии Виктор Гузь свою футбольную карьеру начинал в команде «Торпедо» из Волжского, а затем перешел в «Ротор». За «сине-голубых» вратарь проводил матчи Высшей лиги чемпионата СССР в 1989 и 1990 годах.
Помимо этого, Виктор Гузь выступал за такие клубы как «Волгарь-Газпром» из Астрахани, оренбургский «Газовик», «Космос» из Подмосковья, а также за несколько коллективов из Казахстана.
В 1987 году в составе юношеской сборной страны голкипер стал обладателем золотой медали первенства мира.
В 2004 году Виктор Гузь начал карьеру тренера. Бывший футболист работал во многих российских клубах, в частности, в «Олимпии» из Волгограда.