O trenerskoj karijeri Ivice Osima mogle bi se napisati brojne knjige. Ono što je legendarni Švabo uspio napraviti kao trener u potpunosti je nadmašilo njegovu igračku karijeru koja je bila više nego skromna.

Švabin trenerski put krenuo je 1978. upravo na Grbavici, gdje je počeo i kao igrač.

Finale Kupa UEFA

Narednih osam godina ostao je na klupi Željezničara s kojim je dva puta postao viceprvak Jugoslavije, nastupao u finalu Kupa Maršala Tita, te igrao u polufinalu Kupa UEFA-e 1986. godine protiv mađarskog Videotona. U prvoj utakmici Videoton je na svom terenu slavio s 3:1, da bi na prepunoj Grbavici 24. aprila 1984. godine Željezničar sve do samog kraja utakmice vodio sa 2:0 i jednom nogom već bio finalu, gdje ga je čekao slavni Real Madrid. Međutim, u 87. minuti utakmice, prvi prelazak preko centra Mađari su iskoristili na pravi način i postigli gol za 2:1 i prolaz u finale. To je bio jedan od najtežih sportskih trenutaka u historiji Željezničara i u trenerskoj karijeri Ivice Osima.

Na ljetnim Olimpijskim igrama 1984. godine u Los Anđelesu, bio je asistent Ivanu Toplaku, tadašnjem selektoru Olimpijske fudbalske reprezentacije Jugoslavije koja je osvojila bronzanu medalju. Dvije godine kasnije postao je selektor reprezentacije Jugoslavije, s kojom je debitirao 29. oktobra 1986. godine u Splitu protiv reprezentacije Turske pobjedom od 4:0.

Osim je bio prvi selektor reprezentacije Jugoslavije iz Bosne i Hercegovine i mnogi su mu zamjerali što je u reprezentaciju pozivao najviše bosanskohercegovačkih igrača, što do tada nije bio slučaj. Na Svjetskom prvenstvu 1990. godine u Italiji vodio je reprezentaciju Jugoslavije do četvrtfinala, gdje je na penale poražena od reprezentacije Argentine. Također se kvalificirao i na Evropsko prvenstvo 1992. godine, međutim, zbog početka sukoba u Jugoslaviji, reprezentacija je diskvalificirana s prvenstva.

Ostavku na klupi reprezentacije dao je 23. maja 1992. godine na pres-konferenciji u Beogradu.

- Ostavka je, ovako, najdirektnija stvar kad čovjek kaže: odlazim i gotovo je. Opet vam kažem, a to sam već ponovio, da ne vjerujem da mogu da idem, niti ću ići, ni u Firencu ni u Švedsku. Sve što mogu da napravim, ovako ljudski, i ako me neko bude pitao, tu nema problema nikakvih, to je moj privatni gest, a vi ga možete protumačiti kako hoćete... To je neka moja lična odluka, a ja neću da govorim radi čega i da objašnjavam, jer vi to vrlo dobro znate. Ali ako ništa drugo, i ono jedino što mogu da učinim za taj grad pa da se i vi sjetite da sam se rodio u Sarajevu, a znate šta se dešava – rekao je tada Osim.

Trener stoljeća

Od 1991. do 1992. godine paralelno s reprezentacijom Jugoslavije vodio je beogradski Partizan s kojim 1992. godine osvojio Kup Jugoslavije.

Iste godine preuzeo je grčki Panatinaikos, gdje je ostao sve do 1994. godine. U dvije sezone koliko je bio trener Panatinaikosa osvojio je dva puta grčki Kup, jedan Superkup Grčke, dok je 1993. godine bio viceprvak grčke Superlige s jednim bodom manje od prvoplasiranog AEK-a.

U julu 1994. godine preuzeo je austrijski Šturm iz Graca. U periodu od 1994. do 2002. godine sa Šturmom dva puta osvojio austrijsku ligu, jednom austrijski Kup, dva puta austrijski Superkup, te igrao Ligu prvaka od 1998. do 2000. godine. Ostavku na klupi Šturma dao je na konferenciji za novinare u septembru 2002. godine. U januaru 2009. godine proglašen je za “trenera stoljeća” na svečanosti povodom stogodišnjice postojanja kluba.

U periodu od 2003. do 2006. godine bio je trener japanskog Džef junajteda, s kojim je 2005. godine osvojio japanski Kup. Bio je to prvi pehar u historiji kluba. Na mjesto svog pomoćnika doveo je sina Amara Osima, koji je kasnije preuzeo klub, nakon što je Ivica Osim promoviran kao selektor reprezentacije Japana 21. jula 2006. godine.

Vodio je reprezentaciju Japana na Azijski kup 2007. godine. U četvrtfinalu su na penale izbacili reprezentaciju Australije. Zanimljivo je da Osim nije želio gledati penale.

- Nisam želio gledati penale, jer to nije dobro za moje srce. Ne želim umrijeti na klupi reprezentacije Japana, nego želim umrijeti u svom rodnom Sarajevu – poručio je tom prilikom Osim.

U polufinalu su poraženi od reprezentacije Saudijske Arabije, te su izgubili i utakmicu za treće mjesto od reprezentacije Južne Koreje. Četiri mjeseca nakon Azijskog kupa, Ivica Osim je doživio moždani udar, te je 7. decembra 2007. godine za novog selektora Japana izabran Takeši Okada (Takeshi).

Spasitelj bh. fudbala

Nakon što je N/FS BiH suspendiran 1. aprila 2011. godine od strane FIFA-e i UEFA-e, zbog neusvajanja statuta koji je predviđao ukidanje predsjedništva u N/FSBiH, formiran je komitet za normalizaciju na čijem je čelu Ivica Osim.

Nakon velikih napora i bezbroj sastanaka, suspenzija je zvanično ukinuta 30. maja 2011. godine, a Ivica Osim je ostao na mjestu predsjednika komiteta za normalizaciju N/FSBiH.

Popularnost u Japanu

Za vrijeme svog boravka u Japanu stekao je veliku popularnost među Japancima. 2005. godina u Japanu je izašla knjiga pod nazivom "Riječi Osima" u kojoj su bili napisani citati Ivice Osima. Knjiga je prodata u više od 400.000 primjeraka i bila je bestseler u Japanu.

Također se 2009. godine našao se na omotu videoigre „J-League Pro Soccer Club o Tsukurou! 6 Pride of J“ japanske kompanije SEGA.

2010. godine komentirao je utakmice Svjetskog prvenstva iz Južnoafričke republike za područje Japana za televizijsku korporaciju SKY.

Podsjetimo, legendarni Ivica Osim preminuo je 1. maja. Sahrana Osima će biti obavljena danas u 14 sati na Gradskom groblju Bare, dok će komemoracija biti održana u 11 sati u prostorijama Narodnog pozorišta u Sarajevu.

Planiran je bio ispraćaj sa Grbavice, koji je otkazan zbog loših vremenskih uslova.