1894. április 13-án született Szombathelyen. Sokgyermekes családban nőtt fel. Édesapja asztalosmester volt és fiának is ezt az életet szánta. Korán elkezdett rajzolni, s édesapja nem nézte jó szemmel fia művészi próbálkozásait. 16 évesen édesapja hivatalos szerződéssel maga mellé vette inasnak, hogy aztán 3 év múltán már mint segéd dolgozhasson a családi műhelyben. A sok hiányzás miatt az elemit csak a harmadikig járta. Édesanyja korai halála egész ifjúságának talán legmegrázóbb eseménye. Nem csoda, hogy az anya nélkül maradt egyre szegényedő családban a rajzolás és festés jelentett örömöt számára.

1916-ban visszatér Magyarországra és felköltözött Budapestre. Hadirokkantként, némi segélyből és asztalosmunkából tartotta fenn magát. Baloldali elkötelezettségű ember volt, már 1918-ban belépett a kommunista pártba, folyamatosan kapcsolatot tartott fenn a bécsi emigránsokkal. 1917 januárjától a kor legmodernebb szemléletű magántanodájában, a Haris közi Képzőművészeti szabadiskolában tanul, ahol olyan tanárok keze alatt folyt a munka, mint Kernstok Károly, Rippl-Rónai József,  Vágó József, Bölöni György. Abban az évben a Lónyai utcai Iparrajziskolában esti aktrajzolásra járt, majd Podolini-Volkmann Atrúr Lehel téri és Teplánszky Sándor Akácfa utcai szabadiskolájába képezte magát. Itt ismerkedett meg későbbi feleségével, az iskola egyik modelljével, Dombai Viktóriával.

A Tanácsköztársaság kitörésével átalakították az oktatási rendszert és lehetőséget kapott, hogy Kernstok Károly által vezetett Nyergesújfalusi művésztelepen tanulhasson. Ez az alig másfél hónap művészi fejlődésére, világnézetére óriási hatással volt. A Tanácsköztársaság augusztus elején bekövetkezett bukása után leendő feleségével az éj leple alatt vonatra szállt és visszautazott Budapestre. Miután visszatért Budapestre, kilátástalan helyzetében Kernstock Károly sietett segítségére. Elkészítette a Pandamonium c. litográfia-sorozatát. Egyik megrendelést kapta a másik után. Füst Milán: Advent, Arany János: Toldi és Moly Tamás: Karnevál c. könyvéhez készített illusztrációkat.

1920 telén Kmetty János műtermébe jár aktrajzolásra, ahol megismerkedett a rézkarcolással.

Habár a kiállítás ismertté tette a nevét a műértők között, a mindennapi megélhetés nem lett könnyebb a fiatal házaspárnak. 1923. június 2-án Derkovits Gyula feleségével hajóval Bécsbe utazott. Kint a Pestről hozott pénz hamar elfogyott és alig egy hónap múltán tartalékaik kifogytak. Hoselitz Ernő gyártulajdonos azonban segítségükre sietett és a közel két évig szerény megélhetést biztosított a nekik. Rendszeresen látogatta a múzeumokat, kedvenc helye a Kunsthistorisches Museum volt.Ottani tartózkodása alatt egyre gyakrabban fordult a sokszorosított grafika műfajához, itt készítette el az Evezősök, a Kártyázók és a Halottsiratás c. lapokat. Talán két testvérének halála fordította figyelmét a halál témájára. Az egész bécsi időszak legmegrendítőbb alkotása a Halottsiratás festmény.

1925. február 25-én a Weihburg Galériában gyűjteményes kiállítása is egyértelműen sikerrel zárult, s több képe is gazdára talált. A fokozódó infláció és munkanélküliség miatt ez sem volt elég a mindennapi biztos megélhetéshez, így Derkovits abban a reményben hogy Budapesten is vásárlókat találhat új képeire oda vitte őket. 1925. május 2-án az Andrássy út 17. szám alatti Mentor könyvkereskedés kultúrszobájában nyílt tárlat eladásaiból befolyt összeg, valamint a Bécsben élő magyar szobrász Ferenczy Béni támogatása is sokat jelentett. 1926 tavaszán a Képzőművészek Új Társasága harmadik kiállítása hozott számára igazi hazai sikert. Az Ernst Múzeumban megrendezett tárlaton három festménnyel (Önarckép, Utolsó vacsora, Élet és halál) vett részt. A kritika nagyon jól fogadta a szinte még ismeretlen festőt, s kiemelte munkáit; a KUT c. folyóirat hasábjain egyre gyakrabban közölte. Petrovics Elek a Szépművészeti Múzeum igazgatója megvásárolta Élet és halál c. festményét, ami az anyagi megbecsülés mellett óriási erkölcsi elismerést jelentett számára. 1927 szeptemberében az Ernst Múzeum csoportos tárlatán már 41 művel képviseltette magát. A hazai művek két nagy téma köré csoportosulnak az egyik az utca, a nagyváros feszültségét zaklatottságát, a másik pedig a belső intimitást sugárzó képei, melyek otthon belső békéjéről, feleségével való életéről mesélnek. Az év rendkívüli sikerei áttörést jelentettek Derkovits életében. Az állami vásárlás, a KUT díja, a sajtó magasztaló kritikái is mind ezt mutatták. Önálló festői stílusa is lassan kibontakozott, s olyan jelentős művek kerültek ki ekkortájban ecsetje alól mint az Utca, Otthon vagy az Önarckép. 1934 februárjában a Nemzeti Szalonban megnyílt kiállításon négy képét mutatja be. Ugyanebben a hónapban a Műcsarnokban rendezett Nemzeti Képzőművészeti kiállításon a Dunai homokszállítók c. művét állítja ki. Életének utolsó napjain két festményen dolgozott: a mai napig lappangó Fázó asszonyon, és az Anya c. képen. Derkovits Gyula 1934. június 18-án felesége karjaiban halt meg.

Utolsó  éveire egyre inkább kiteljesedik egyéni stílusa, kivált 1930-tól fogva, amikor főként temperával fest, s színei kivilágosodnak, finom harmóniába illeszkednek. Művészetének ennek a delelő korszakában képei méretre is monumentálissá nőttek és elragadó színhatásúak lettek. Élete utolsó éveiben teljesen egyéni formanyelvet teremtett magának, a szigorú képszerkesztés, a lírai színvilág és az ihletett emberábrázolás remek ötvözetét. Másrészt a festészetben arany és ezüst porfestéket is használt, hogy színeit melegebbé varázsolja. Legtöbb művét a Magyar Nemzeti Galéria őrzi, de vannak művei magántulajdonban is.

Sajátosan egyéni művészetet alakított ki a modern nyugat-európai stílusirányzatok (főleg az expresszionizmus, a kubizmus és a konstruktivizmus) mentén