Rođen 8. jula 1974. godine u Sarajevu, Elvir Baljić započeo je svoju fudbalsku karijeru u FK Željezničaru, da bi tokom agresije na Bosnu i Hercegovinu prešao u FK Sarajevo.
Briljantnim nastupima privukao je pažnju turskog Bursaspora, gdje je proveo tri uspješne sezone, postigavši 42 gola u 87 ligaških utakmica.
Njegov talent nije prošao nezapaženo, te je ljeto 1998. godine za rekordnih 9.500.000 € prešao u Fenerbahçe, gdje je privukao pažnju evropskih velikana.
Iz Fenerbahçea je 1999. godine za 26.000.000 € stigao u Real Madrid, postavši najskuplje plaćeni igrač sa prostora bivše Jugoslavije do tada. U sezoni 1999/2000, ostvario je dječački san osvajanjem Lige Prvaka sa Realom.
Povrede su ga spriječile da ostvari više u Real Madridu, te je proveo naredne dvije sezone na pozajmicama, prvo u Fenerbahçeu, a zatim u Rayo Vallecanu.
Nakon toga se vratio u turski Galatasaray, gdje je ostao do 2004. godine, kada je prešao u Konyaspor. Nakon kraja sezone 2004/2005, iznenađujuće je odlučio okončati karijeru u 31. godini.
Međutim, 2005. godine se vratio fudbalu potpisavši za Ankaragücü, a kasnije je igrao za Istanbulspor , gdje je proveo značajan dio svoje karijere sve do 2008. godine, kada je zvanično okončao svoju fudbalsku karijeru.
Elvir Baljić je također ostavio trag i u dresu bosanskohercegovačke fudbalske reprezentacije. Debitovao je 24. aprila 1996. godine i odigrao ukupno 38 utakmica, postigavši 14 golova. Posebno je zapamćen po utakmici protiv reprezentacije Estonije, gdje je postigao čak četiri gola, što ga čini jedinim igračem koji je to uspio za bh. reprezentaciju.