Los Giants jugaron su primer encuentro contra los All New Britain en New Britain, Connecticut, el 4 de octubre de 1925. Los New Britain fueron derrotados 26–0 en frente de 10,000 espectadores. Los Giants tuvieron éxito en su primera temporada, terminando con un récord de 8–4 en 1925.

En la tercera temporada, el equipo terminó con el mejor promedio en la liga, con 11–1–1 y fue premiado con el título de la NFL. Luego de la desilusión de la cuarta temporada (en 1928) el dueño, Mara compro la formación entera de los Wolverines de Detroit , principalmente con el objeto de tener al mariscar de campo estrella Benny Friedman, y unificó a los dos equipos bajo el nombre de los Giants. En 1930 había todavía muchos que cuestionaban la calidad del juego, diciendo que los jugadores "amateurs" provenientes de las universidades jugaban con más intensidad. En diciembre de 1930, Los Giants jugaron contra el equipo Notre Dame All Stars en el Polo Grounds para conseguir fondos para los desempleados de la Ciudad de Nueva York. Fue también una oportunidad para demostrar su superioridad en un partido profesional. Luego de un partido muy intenso, se recaudaron $100.000 dólares para los desposeídos, y se estableció la legitimidad del juego profesional.

En un período de 14 años, de 1933 a 1946, los Giants calificaron para jugar en el campeonato de la NFL 8 veces, ganando dos veces. Durante este período los Giants estaban dirigidos por el entrenador y miembro del salón de la fama Steve Owen, y los jugadores e integrantes del salón de la fama Mel Hein, Red Badgro, y Tuffy Leemans. Este período fue también en el que se dio el famoso "Juego de las zapatillas", donde derrotaron a los Chicago Bears en icy field en el campeonato de la NFL de 1934, se llamó juego de las zapatillas porque usaron este calzado para mayor tracción. Los Giants fueron particularmente exitosos durante la segunda mitad de la década del 30 until hasta que los Estados Unidos ingresaron en la Segunda Guerra Mundial. Según una publicación, "Desde 1936 a 1941 los New York Giants anualmente conseguían tener en el campo de juego muchos NFL all-stars." Ganaron su tercer campeonato de la NFL en 1938 con una victoria de 23–17 sobre los Green Bay Packers.

No volvieron a ganar otra liga hasta 1956, ayudados por un futuro número de jugadores que pertenecerían futuramente al salón de la fama como el corredor trasero Frank Gifford, el línear Sam Huff, y el tackle ofensivo Roosevelt Brown, además también tuvieron en el salón de la fama a su line de entrenadores. de 1958 a 1963, Jugaron cinco campeonatos de la NFL, pero no ganaron.