Como director técnico, comenzó su carrera en 1998 dirigiendo a San Lorenzo, realizando algunas buenas campañas. Se retiró en 2006, luego de un segundo infructífero paso por el mismo club. En 2006, regresó a San Lorenzo, y sufrió derrotas importantes, como por ejemplo un 0-5 vs River Plate en el "Monumental" y un 1-7 vs Boca Juniors en el "Nuevo Gasómetro". Se retiró ese mismo año de la dirección técnica.
El 8 de junio de 1980 debutó en Primera División en un partido frente a Newell's Old Boys, que su equipo ganó por 3-0. Un mes después, el 9 de julio de 1980, convirtió su primer gol, que le dio la victoria a Boca frente a Colón. En Boca jugó 147 partidos y marcó 11 goles entre 1980 y 1984, logró el Torneo Metropolitano de 1981 en el recordado equipo dirigido por Silvio Marzolini, junto a Diego Maradona y Miguel Ángel Brindisi. En 1983 debutó con la selección argentina en un encuentro frente a Chile, bajo la conducción técnica de Carlos Salvador Bilardo.
Jugó toda su carrera como defensa central, puesto en el cual se afianzó en las inferiores xeneizes y por el que fue ascendido al primer equipo. No obstante, marcó goles en todas las temporadas que disputó en su carrera de 18 años.
A mediados de 1988 dejó River Plate y emigró al equipo español del Logroñés, en donde cumplió una destacada labor en los 34 partidos que disputó en el transcurso de la liga. En el verano europeo lo contrató el Real Madrid[6] y allí logró el título 1989-90, tras disputar 35 partidos y marcar dos goles.
Su paso por Vélez Sarsfield, Ancona y América (1990-1993)
Tras el título conseguido con el equipo de la capital española en 1990 decidió regresar a su país para jugar en Vélez Sarsfield, club en el que disputó 65 partidos durante dos temporadas y logró 5 goles. Ese mismo año perdió la final del Mundial 1990 frente a Alemania, en donde Ruggeri jugó lesionado la mayor parte del torneo y con una operación en la rodilla programada para la finalización de la disputa.
En el segundo semestre de 1992 fue transferido al club italiano Ancona, en donde solo disputó 9 partidos y logró un gol. En el partido Ancona-Fiorentina, Ruggeri neutralizó al goleador de la escuadra violeta, Gabriel Batistuta, quien en esa época se consolidaba como artillero del equipo. Pese a haber alcanzado su objetivo de neutralizar al goleador, el Ancona terminó perdiendo por 7-0, lo que provocó un altercado con su entrenador que terminó desembocando en su salida del club.[7] Tras este episodio, ese mismo año firmó contrato con el América de México, donde jugó 28 partidos, marcó 4 goles y logró la Copa de Campeones de la Concacaf 1992. Allí se reencontró con el delantero mexicano Hugo Sánchez Márquez, con quien había logrado un título jugando en Real Madrid.
Últimos años en San Lorenzo y Lanús (1994-1997)
En 1994, al regresar a su país pasó a jugar en San Lorenzo. Allí disputó 121 partidos en siete torneos y marcó 14 goles; en 1995 salió campeón del Torneo Clausura y cortó una sequía en el club de 21 años sin títulos de Primera División. Después de un conflicto con la dirigencia decidió abandonar el club y fichar por Lanús, donde participó en 19 partidos marcando 4 goles y consiguiendo el subcampeonato de la Copa Conmebol, en cuya disputa se vio involucrado en un episodio de violencia por la derrota de su equipo a manos del Atlético Mineiro y decidió su retiro del fútbol profesional. En su último partido, disputado el 7 de diciembre de 1997, donde su equipo venció al Club Estudiantes de La Plata por 3-0, hizo un gol de penal a los 10 minutos del primer tiempo y fue reemplazado; ese fue el único penal que pateó en su carrera y la última pelota que tocó como jugador profesional.
En 1986 (año en el que con River Plate ganó también el campeonato de Primera División, la Copa Libertadores y la Copa Intercontinental), logró el título más importante de su carrera: la Copa Mundial de Fútbol de 1986, en México. Oscar Ruggeri marcó un gol de cabeza en el partido debut frente a Corea del Sur, partido en el que su equipo ganó por 3-1. De esta manera igualó el récord de Pelé, al lograr en la misma temporada la liga local, la copa continental, la intercontinental y el Mundial de Fútbol.
En 1991, y tras 32 años sin poder lograr el torneo sudamericano, la selección argentina, con Oscar Ruggeri como capitán y líder dentro del campo de juego, consiguió la Copa América disputada en Chile.
En ese mismo año, el diario El País de Montevideo le otorgó el premio Rey del Fútbol de América, galardón que el matutino uruguayo entrega año tras año y que distingue a los mejores futbolistas sudamericanos. También lo incluyó en el Equipo ideal del año, distinción que ya había logrado en 1986. También en 1991 la Asociación de Periodistas Deportivos argentinos le otorgó el Olimpia de Plata en categoría fútbol y a su vez Olimpia de Oro por ser el deportista más destacado del año de su país. Durante 33 partidos y casi 4 años la selección argentina no perdió ningún encuentro y Ruggeri fue el capitán en la mayoría de dichos encuentros.
En octubre de 1992, fue el capitán del equipo argentino que ganó la Copa Rey Fahd, precursora de la actual Copa FIFA Confederaciones.
En el año 1993 Argentina se consagró por segunda vez consecutiva con la Copa América de ese año jugada en Ecuador, al vencer a México 2-1 con Ruggeri como capitán. Fue otro gran año para él.
En la selección argentina jugó 97 partidos y estableció el récord de mayor número de presencias en el equipo, luego superado por Diego Simeone y Javier Zanetti. Participó en 3 mundiales: México 86, Italia 90, y en Estados Unidos 94. Además ganó 2 copas América y 2 copas internacionales, con 6 títulos obtenidos en su paso como seleccionado.
Dejó de dedicarse al fútbol luego de la llegada de sus hijos mellizos, Stephan y Federica, ya que quiso dedicarles más tiempo, porque no pudo presenciar mucho la infancia de sus dos hijas más grandes, Daiana y Candela, por sus constantes viajes con la selección.