. En esta escuadra brillaron jugadores como Bob Errey, Igor Larionov, Sergei Makarov, Johan Garpenlov y Sandis Ozolins.
En la Primera Ronda de la postemporada dieron la gran sorpresa al eliminar en siete juegos a los Detroit Red Wings de Sergei Fedorov y Steve Yzerman. Pero en la siguiente fase, también llevaron al límite a los Toronto Maple Leafs, aunque no lograron avanzar más.
Regresarían a los Playoffs el año siguiente. Tras vencer en siete juegos a los Calgary Flames en la Primera Ronda, se volvieron a enfrentar a Detroit, ahora el mejor equipo de la temporada regular, y esta vez fueron barridos en cuatro juegos.
Tras un bache a finales de los 90, a comienzos del nuevo milenio los Sharks lograron establecerse como un equipo habitual en los Playoffs. En esta época destacaron jugadores como el joven portero Evgeni Nabokov y el veterano delantero Teemu Selanne.
En 2005-2006, la gerencia del equipo realizó uno de los canjes más importantes en la historia de la franquicia al adquirir al prolífico atacante Joe Thornton en un movimiento con los Boston Bruins.
Para la temporada 2008-2009, San Jose hizo otra contratación clave: Todd McLellan, quien venía de ganar la copa con Detroit como asistente, fue nombrado nuevo entrenador del club.
La primera temporada con McLellan al frente fue exitosa. Con 117 puntos, ganaron su primer Presidents’ Trophy, premio al mejor equipo de la campaña regular. Sin embargo, en los Playoffs fueron sorprendidos por los Anaheim Ducks en la Primera Ronda, cayendo en seis juegos.