Josif Marinković se rodio u Vranjevu, 3. septembra 1851. godine. Otac mu je Jovan, po zanimanju zemljoradnik i majka Mileva rođena Savić, domaćica.
U Vranjevu je završio tri razreda osnovne škole, a četvrti razred nemačke škole u Petrovaradinu. Ta godina u Petrovaradinu, poslužila je kao priprema za dalje školovanje, koje je nastavio u Novom Vrbasu i u Kikindi, da bi zatim završio učiteljsku školu (Preparandiju) u Somboru.
Izgleda, da je oko njegovog školovanja bilo prilično natezanja između želje roditelja i sklonosti samog Josifa. Prošlo je skoro četiri godine od završetka niže gimnazije do upisa u učiteljsku školu. Josif je želeo da uči muziku, jer je još kao dečak svirao na četiri instrumenta, a otac je želeo da mu sin postane lekar ili advokat. Kompromis je nađen i Josif se upisuje u učiteljsku školu.
U učiteljskoj školi Josif je stekao prva znanja o muzičkoj teoriji i tu je uvežbavao i uspešno dirigovao horom. U Preparandiji je počeo i da komponuje. Ubrzo je sa horom izveo i svoje prve kompozicije; žek, koji ga je hrabrio i pomagao mu ne saimo da uspe sa horom, nego i da komponuje. Ubrzo je sa horom izveo i svoje prve kompozicije: Ustajte braćo i Smeša srpskih narodnih pesama.
Na svetosavskoj besedi 1873. godine Josif je svirao svoje instrumentalne kompozicije: Banatsko kolo i Svatovac. Toj priredbi prisustvovale su i Josifova majka i starija sestra, koje su zbog toga i doputovale iz Vranjeva. Publika je oduševljeno primila sve kompozicije, a majka i sestra bile su ushićene.
Dirigovao je posle toga mnogo puta školskim horom u Somboru, a za vreme školskih ferija, u rodnom selu Vranjevu, priređivao je »besede« (muzičke priredbe) u korist lokalnog pozorišta, koje je u Vranjevu uživalo odvajkada veliku popularnost.
Posle završene učiteljske škole, i ponovnih natezanja s ocem, odlazi u Prag u Orguljarsku školu, koju je uspešno završio 1881. godine. U Pragu se formirao njegov snažni talenat i stekao znanje koje će mu omogućiti da se uvrsti i najveće muzičke stvaraoce, a u to vreme je bio najstručniji horovođa Beograda i Srbije.
Odmah po završetku studija u Pragu, dobija poziv Beogradskog pevačkog društva i postaje horovođa 1881. godine. U Beogradskom pevačkom društvu ostao je pet godina kao horovođa, a u isto vreme radi i kao nastavnik muzike u beogradskoj bogosloviji, a kasnije i učiteljskoj školi. Njegova marljivost i ozbiljnost u radu brzo su zapaženi pa ga šalju u Beč na dalje stručno usavršavanje, što je bila i njegova želja.
Posle bečkih studija odlazi u Kikindu, gde su mu se roditelji u međuvremenu preselili, i tamo ostaje sve do 1889. godine. Vraća se u Beograd 1889. i postaje horovođa Akademskog pevačkog društva »Obilić«, gde je ostao sve do kraja svog dirigentskog rada — punih jedanaest godina. U »Obiliću« je stvorio veliki broj raznorodnih kompozicija i razvio svoje dirigentske sposobnosti. Za to vreme je u Beogradu, Zemunu i unutrašnjosti Srbije svojim znanjem i iskustvom pomogao mnogim horovima. Stvorio je mnoga dela koja je izvodio s horovima u kojima je dirigovao.
Sa svojim kompozicijama i svojim horovima učestvuje na svim najznačajnijim svečanostima u Beogradu i unutrašnjosti. Smatran je za vrlo uglednu ličnost u kulturnom životu, pa ne izostaju i najveća priznanja.
Srpsko učeno društvo (iz koga će se razviti Srpska akademija nauka) bira ga januara 1884. godine za svog redovnog člana.
Srpska kraljevska akademija nauka prima ga za svog dopisnog člana aprila 1907. godine.
Pored svih najviših priznanja dobija i mnoge povelje i diplome pevačkih društava i horova u kojima je radio, ili na drugi način stekao njihovo poštovanje.
Posebno priznanje predstavlja i veličanstvena predstava za proslavu dvadesetpetogodišnjice njegovog umetničkog stvaralaštva održane 11. decembra 1897. godine. Pevačko društvo »Obilić« organizovalo je akademiju na kojoj je učestvovalo desetak pevačkih društava i više horova iz Beograda i Srbije.
U periodu najvećih uspeha oboleva mu grlo, zbog čega se morao rastati od dirigentske palice i »Obilića«, koji mu je mnogo značio u životu. Od te 1901. godine pa sve do svoje smrti (1931) bavio se komponovanjem. Posle trideset sedam godina pedagoškog rada, kao profesor muzike Druge beogradske gimnazije odlazi 1924. godine u penziju.
Ni posle deset godina, njegovi »Obilićevci«, ga ne zaboravljaju i 16. maja 1910. godine priređuju »Marinkovićevo veče« u Narodnom pozorištu. Tom prilikom su mu predani mnogi pokloni i dva srebrna venca: od »Obilića« i studentske omladine, a od srednjošokolske omladine dobio je lovorov venac. Vredno je pomena i ono što se desilo posle završetka koncerta, jer ni pre toga, kao ni posle toga, takve izlive oduševljenja malo je koji stvaralac doživeo.
U opštem oduševljenju »Obilićevci« su slavljenika izneli na rukama iz sale, ispregli konje iz fijakera i sami ga odvezli do sale u kojoj se održavala zakuska u njegovu čast.
Marinković je bio izuzetno skroman čovek, voleo je život, ali bez mnogo buke i uzbuđenja. Posle prvog svetskog rata — kaže Branko Dragutinović — »ostao je nekako po strani, napušten i zaboravljen. Tome je mnogo doprinela i popularnost Mokranjca i njegovih rukoveti i talas modernizma koji je tako snažno zapljusnuo našu muzičku kulturu u svima njenim manifestacijama. Taj zaključak, međutim, nije prihvatljiv, jer se ovo nije desilo, u to vreme, samo s Josifom Marinkovićem, nego su tu nemilosrdnost mladih doživeli i mnogi drugi stvaraoci iz drugih oblasti umetnosti i književnog stvaralaštva.
Naš ranopreminuli, talentovani književnik Branimir Ćosić za taj period kaže da je cela grupa starijih pisaca i umetnika koji su stvarali početkom prve desetine dvadesetog veka i radili do pred prvi svetski rat, bila potisnuta ustranu »mladalačkom i neobuzdanom vikom dolazećih, novih, onih koja pred rat behu još po gimnazijskim klupama i koji došavši naglo do saznanja svojih vrednosti, pomisliše u jednom trenutku, da se literatura i umetnost dadu stvoriti bez veze sa prošlošću. Taj pokret je bio snažan, brutalan i moramo priznati, simpatično primljen.. .«
Mnogi od stvaralaca još pod svežim utiscima ratnih krvoprolića, doživljavali su pokretom i postupcima mladih, krize i potpuno se povukli iz javnog života, a neki i napustili dalje stvaranje. Na sreću — Josif Marinković — iako teško pogođen novim načinom života (koji je Veljko Petrović — u posmrtnom govoru baš na pogrebu Josifa Marinkovića — nazvao »žurajivim i zaboravnim za sve što se ne tiče neposredne današnjice i budućnosti od nekoliko sati« nije prestao da stvara. Izostalo je objavljivanje i očekivano praktično korišćenje Marinkovićevih kompozicija, ali sve zbog takvog tretiranja ranijih (starijih) stvaralaca. Josif je, živeći u krugu svoje porodice sa suprugom Leposavom i troje dece, komponovao i stvarao sve do svoje smrti. Njegova poslednja kompozicija nosi datum 28. aprila 1931. godine, a nakon petnaest dana (13. maja 1931) Marinković je umro.
Veliko je delo Josifa Marinikovića: profesora muzike u Bogosloviji, Učiteljskoj školi u Drugoj beogradskoj gimnaziji; horovođe u mnogim pevačkim društvima: Beogradskom pevačkom društvu i »Obiliću«, Davorju, Radničkom pevačkom društvu, Srpsko-jevrejskom pevačkom društvu i »Stankoviću«; uspešnog kompozitora od više od sto pedeset kompozicija, koje su postale popularne i omiljene.
Njegova vezanost za život svoga naroda ispoljena je u mnogim kompozicijama povodom značajnih događaja, kao što su: proslava petstogodišnjice Kosovske bitke, prenos posmrtnih ostataka Vuka Karadžića, oslobođenje Svetozara Miletića, proslava Josifa Pančića, dvesto-godišnjica Ivana Gundulića, prenos kostiju Branka Radičevića i dr.
Koliko je osećao duh svoga vremena, svedoči činjenica da je pridavao značaj pojavi mlade radničke klase u Srbiji. Prima se da bude horovođa Radničkog pevačkog društva 1890. godine, kada je i napisao prvu umetničku kompoziciju posvećenu našoj radničkoj klasi Radnička pesma na tekst Vojislava Ilića.
Marinković je prvi srpski kompozitor koji sistematski neguje solo-pesmu. Ostavio je niz izvrsnih kompozicija u ovoj vrsti, čiju je vrednost potvrdilo vreme. One su ostale na repertoaru naših prevača kao živi dokaz vanredne osećajnosti kompozitora. Za taj njegov rad Predrag Milojević kaže: »Svojom solo-pesmom Marinković je udario temelj ovom muzičkom obliku, u kome smo se mi za kratak vremenski raspon izjednačili sa narodima sa mnogo većom muzičkom kulturom i tradicijom.«
Najveći značaj Marinkovićevog umetničkog stvaralaštva je njegov doprinos na stvaranju srpskog nacionalnog stila u umetničkoj muzici. Kornelije Staniković pod uticajem ideje Vuka Karadžića, ukazuje na put kojim treba da ide muzika kod Srba, ali on, na žalost, nije stigao zbog prerane smrti (u tridesetčetvrtoj godini života) da svoje ideje oživotvori i potvrdi svojim delom u celini. Tu njegovu veličanstvenu zamisao prihvata i sprovodi, kroz svoje bogato delo, Josif Marinković. On je taj pravac dalje razvio i našao nove puteve kojima srpska muzika treba da ide i da se razvija. Tako su nastala njegova kola, koja predstavljaju umetnički oblikovane skupove narodnih pesama. Na istoj osnovi nastaće kasnije prekrasne Mokranjčeve rukoveti.
Pošto je po prirodi bio tih i miran, Marinkoviću je ležala lirska muzika, ali kada je trebalo podsetiti omladinu na patriotske dužnosti onda se njegov glas podizao — kako kaže Predrag Milošević — »do velikih uspona i visoke dramatičnosti. U tim trenucima znao je Marinković da nađe snažne akcente i da ponese i rasplamsa omladinu svojim iskrenim žarom kao u poznatim horskim kompozicijama: Junački poklič, a naročito u slavnoj kompoziciji Hej, trubaču.
Delu i ličnosti Josifa Maninkovića odato je puno priznanje i prilikom njegove sahrane 14. maja 1931. godine. Pored mnogobrojnih venaca i velike pratnje, održano je i više posmrtnih govora: u ime Ministarstva prosvete od pokojnika se oprostio Petar Krstić, kompozitor, u ime muzičara dr Miloje Milojević, Boško Bošković u ime profesora Druge beogradske gimnazije, profesor Lukić u ime Saveza pevačkih društava, Branko Dragutinović u ime »Obilića«, Bogdan Vasić u ime Pevačkog društva »Marinković«, Velimir Komarek i Vojislav Rašić u ime Muzičke škole i Veljko Petrović u ime Srpske kraljevske akademije nauka.
Veljko Petrović je na pogrebu, između ostalog, rekao da s Josifom Marinkovićem leže u grob poslednji predstavnik zanosne srpske romantike devetnaestog veka, koja za naš duhovni život znači klasično razdoblje. »Samo vremena velikih ushićenja izazivaju i velike stvaraoce. I veliki zanesenjaci, oni zaljubljeni u svoj poziv do svih pregorenja, u stanju su da prihvate i nastave i dograđuju delo minulih naraštaja. Samo ona žarka ljubav naših romantičara za rod i otečestvo i njihova mistična vera u narodnu budućnost i u svoj poziv pesnika i umetnika mogla je učiniti da i strane uzore, pouke i tehnička sredstva podjarme svome narodnom duhu... Tako je Josif Marinković dopro u srce narodno svojim himnama, napevima, popevkama i kolima. Narod je osetio svoju dušu izraženu njegovim ličnim zvučnim frazama, iako to nisu bili od guslara posuđeni motivi.« »Bilo je ljudi koji su, pri retkim susretima s ovim tihim, plaho zastiđenim veteranom, skidali kapu svesno, kao pred veličinom koja je ravna svojoj braći, po unutrašnjem ognju i po inventivnoj moći: Zmaju, Đuri Jakšiću, Lazi Kostiću, Đorđu Krstiću«.
Josif Marinković je umro 13. maja 1931. godine u Beogradu.