1994 tog den bosniska tränaren Ivica Osim över Sturm Graz och han kunde snabbt leda klubben till dess största framgångar. Säsongen 1994/95 blev Sturm Graz vice-mästare och 1997/98 blev man för första gången mästare när Graz tog hem den österrikiska ligan med hela 19 poängs försprång. Den bästa säsongen kom 1998/99 då man försvarade ligatiteln och dessutom tog en österrikisk "trippel" med seger i cupen och i supercupen. Framgångarna gjorde att klubben deltog i Uefa Champions League under flera säsonger med den bästa säsongen 2000/01 då man gick vidare från gruppspelet.
En backlash på de stora framgångarna följde under 2002 då klubben återigen fick dålig ekonomi och kritik riktades åt olika håll inom klubben. Det fick också succétränaren Osim att avgå trots att Sturm Graz återigen var med i toppen och hamnade på en andraplats 2001/02. Sturm Graz kunde sedan inte bygga vidare på framgångarna och det berodde bland annat på stor spelaromsättning och därmed avsaknad av kontinuitet. Den svåra ekonomiska situationen gjorde att klubben fick inrikta sig på att vara kvar i ligan.
Säsongen 2010/11 blev Sturm Graz mästare igen och klubben vann även cupen 2009/10 och 2017/18 samt var en av elva vinnare av Intertotocupen2008.