Alexei urodził się i wychował w St. Petersburgu (dawny Leningrad) w Rosji. Pierwsze cztery lata jego życia były pasmem nieustannych chorób, dlatego też, dla podniesienia jego odporności fizycznej, został zapisany przez matkę, która była również jego pierwszą trenerką, na lekcje łyżwiarstwa figurowego. Gdy miał 12 lat, jego rodzice rozwiedli się, a ojciec wyjechał do Niemiec. Od tego czasu Alexei nie widział ojca i nie utrzymywał z nim żadnych kontaktów.
W 1994 roku jego trenerem został Alexei Mishin. W 1996 roku zdobył Mistrzostwo Świata Juniorów. W 1997 roku w Lucernie na Mistrzostwach Świata Yagudin wywalczył brązowy medal. Przeżył rozczarowanie na Igrzyskach Olimpijskich w Nagano, gdzie zdobył piąte miejsce. Jednak już miesiąc później zdobył swój pierwszy tytuł Mistrza Świata. Krótko po tych wydarzeniach postanowił zmienić trenera - zostawił Mishina dla legendarnej Tatiany Tarasowej. Oznaczało to, że musi zmienić miejsce zamieszkania - przeprowadził się do Freehold w New Jersey.
Pod opieką nowej trenerki jego talent rozkwitnął. W 1998 roku, na otwarciu Centrum Rockefellera, zaprezentował swoje dwa nowe programy - krótki program do muzyki cyrkowej Alberta Schnittke i program dowolny "Lawrence of Arabia" - w wersji skróconej. W grudniu tego samego roku, jego występ do muzyki jazzowej na zawodach "Improve on Ice" uznano za najlepszy. Początek następnego roku nie był jednak tak dobry, a to za sprawą drugiego miejsca na Mistrzostwach Rosji i na zawodach Japan Open(obydwie pierwsze lokaty zdobył 16-letni wówczas Yevgeny Plushenko). Następne dni przyniosły zmianę i Yagudin ponownie zdobył tytuł mistrza Europy, a koniec serii Grand Prix 98-99 należał do niego.