Leyendas Del Toluca
Comenzó el Unión Pacífico de Nueva Italia (Paraguay), luego el River Plate y finalmente con el Olimpia, recaló en la liga suiza con el FC St. Gallen y luego en Chile con Universidad Católica donde obtiene la Pre-Liguilla y la Liguilla Pre-Libertadores, ya en Copa Libertadores alcanza el subcampeonato con el equipo cruzado. Posteriormente fue a México, donde sufrió una lesión al poco tiempo de su llegada.
La directiva del Toluca le tuvo paciencia. Y esa paciencia tuvo sus frutos: fue campeón 4 veces con dicho equipo y máximo goleador de todos los tiempos, con 249 anotaciones para el Deportivo Toluca. Tiene el record de más goles anotados en un torneo corto con 29. Jugando por la Selección de fútbol de Paraguay obtuvo la medalla de plata en los Juegos Olímpicos de Atenas 2004. Además lleva el honor de ser el goleador de todos los tiempos de la selección paraguaya .
Varios aficionados y conocedores, lo consideran un jugador fuera de serie. Ante la FIFA es considerado el 12 mejor jugador de todos los tiempos del fútbol mexicano. En la liga mexicana se le considera como destacado por su trayectoria como futbolista,además jugo como refuerzo con el club cruz azul la copa libertadores del 2001 siendo subcampeon.
En julio de 2005 fue contratado por el San Lorenzo de Argentina, en donde marcó tan sólo 5 goles en los 10 meses que estuvo allí.
A mediados de 2006 iba a formar parte de la plantilla del equipo uruguayo Peñarol, pero por diversos factores esto no se concretó. En noviembre de ese mismo año, José Cardozo colgó los botines y fue contratado por el Club Olimpia de Paraguay como director técnico.
En enero de 2008 parecía que José Cardozo regresaría a las canchas para jugar en la MLS con el club Chivas USA, pero tras ser evaluado por el equipo se decidió que no sería contratado.
Finalmente en junio de 2008 el Deportivo Toluca le realizó un merecido partido de homenaje en el cual se reunieron exjugadores del club que jugaron a su lado en sus épocas gloriosas con los diablos. En este partido Cardozo mostró aún gran condición física y su acostumbrada capacidad goleadora anotando 2 goles.
En el Torneo Apertura 2009, fue invitado por el club de Futbol Indios de Ciudad Juárez para ser Auxiliar del director técnico José Treviño, sin embargo, rechazó la invitación argumentando problemas personales.
En noviembre de 2009, el Pepe fue nuevamente designado para dirigir a Olimpia, esta vez en reemplazo de su compatriota Carlos Kiese, quien renunció de forma imprevista cuando restaban apenas cuatro jornadas para la culminación del campeonato local.
