Radicalizó su residencia en Buenos Aires desde los cuatro años de edad, cursó estudios de escultura y dibujo en las Academias Libres.

Kosice, uno de los co-fundadores de la revista Arturo, fundó en 1946 el movimiento de arte Madí, término creado por él mismo. Este movimiento representó la primera corriente auténticamente argentina. Aunque tenía ciertas relaciones con las búsquedas formales del arte concreto europeo, el Madí aportó una originalidad que fomentó una apertura hacia experiencias plásticas novedosas.

Las obras presentadas en la primera exposición colectiva de arte Madí en 1946, consistieron en trabajos elaborados con materiales no convencionales como vidrio, madera y metal, con formas insólitas como cuadros con marcos irregulares y módulos móviles, entre otros. La singularidad de estas propuestas desató un intenso debate en el ámbito artístico argentino, con adhesiones entusiastas y vehementes impugnaciones. Además de Gyula Kosice, el movimiento de arte Madí estuvo integrado por Carmelo Arden Quin, Rhod Rothfus, Martín Blaszko, Juan Bay y Salvador Presta, entre otros.

Kosice fue un artista en constante renovación y teórico que profundizó en los problemas estéticos del arte contemporáneo. Dentro de los lineamientos formales de la estética Madí, presentó pinturas articuladas (planos irregulares pintados y unidos entre sí) y esculturas realizadas con materiales industriales (maderas, metales, yeso, plexiglás, hilos), algo novedoso en aquel momento. En su evolución posterior, siempre innovador, se vinculó al arte cinético, creando esculturas móviles en las que el agua y los efectos lumínicos desempeñan un destacado papel.

Entre sus principales obras se encuentran:

Invención, Editorial Optimus, Buenos Aires, 1945
Golsé-sé, Editorial Madí, 1952
Peso y medida de Alberto Hidalgo, 1953
Antología Madí, 1955
Geocultura de la Europa de hoy, 1959
Poème hydraulique, 1960
Arte hidrocinético, 1967
La ciudad hidroespacial, 1972
Arte y arquitectura del agua, 1974
Arte Madí, 1982
Del Arte Madí a la Ciudad Hidroespacial, 1983
Obra poética, 1984
Entrevisiones, 1985
Teoría sobre el arte, 1987
Kosice, 1990
Arte y filosofía porvenirista, 1996
Madigrafías y otros textos, 2001
Autobiografía, 2010