La idea de formar un club dedicado exclusivamente a la práctica de la unión de rugby se originó en 1924, después de que el equipo de GEBA llegó a jugar un partido que tuvo que posponerse debido a una competencia hípica que se estaba celebrando en el campo de rugby.
Luego de celebrarse algunos encuentros, doce exjugadores de GEBA fundaron Curupaytí el 30 de julio de 1924. El nombre fue elegido en honor al Asalto de Curupaytí , un ataque de las tropas argentinas sobre el fuerte paraguayo de Curupaytí, durante la Guerra del Paraguay (también llamada "Guerra de la Triple Alianza").