O zamanlar Cumhuriyet tarihinin ünlü tiyatrocularından sayılan Ermeni kökenli İrma Felekyan'la (Toto Karaca) , bir Azeri Türkü olan Mehmet İbrahim Karaca'nın evliliklerinin altıncı yılında, 5 Nisan 1945'de İstanbul'da dünyaya geldi.

Karaca, sanatçı bir ailenin çocuğu olmanın avantajını çok iyi değerlendirerek sanatla iç içe büyüdü. Cem Karaca müzik hayatının ilk bölümünde Anadolu'nun müziğinden bihaber bir şekilde, ilk grupları olan Jaguarlar ve Dinamitlerle Rock'n'Roll tarzı çalışmalar yapıyordu. O dönemdeki en büyük destekçişi İlhami Gencer'di.

İlk evliliğinden kısa bir süre sonra askere giden Karaca'nın hayatı askerliği sırasında bir anlamda değişti. Bir yandan eşinin hasretini çekerken diğer yandan da Anadolu'nun ilkokul kitaplarında anlatıldığı gibi olmadığını farkeden Karaca, asker arkadaşının çaldığı bağlama sayesinde bir zamanlar ilkel ve sıkıcı bulduğu müziğin kendi duygularını anlattığını keşfetti.

1967 yılında askerlik dönüşü Apaşlar grubuna katılan Karaca ve grubu, Hürriyet'in düzenlediği Altın Mikrofon yarışmasında "Emrah" isimli parçalayla ikinci oldu ve yarışmanın getirdiği şevkle batı müziği ile doğu müziğini sentezleme çabasına girerek bu yönde şarkılar üretmeye başladı.

Resimdeki Gözyaşları isimli parçayla büyük başarı elde eden Karaca ve grubu Apaşlar'la Almanyada Ferdy Klein orkestrasını'da yanına alarak parçalar kaydetdiler. Cem Karaca'nın Apaşlar'la olan beraberliği 1969'un sonlarına kadar sürdü.

Grupta gitarist Mehmet Soyarslan ve Cem Karaca arasındaki anlaşmazlıklar had safhaya çıkınca Cem Karaca gruptan ayrıldı. Cem Karaca Apaşlar grubunun basçısı Seyhan Karabay ile birlikte Kardaşlar grubunu kurdu. Bu sıralarda Cem Karaca Almanya'ya giderek Ferdy Klein Orkestrasıyla 4 tane 45lik doldurdu. Amacı yeni grubuna ekipman alabilmek ve maddi sıkıntı yaşamadan çalışmalar yapmaktı. Nitekim ilk 45'likleri Dadaloğlu ile büyük bir başarı elde etti. Fakat 1972 yılında Cem Karaca ve Seyhan Karabay arasındaki tartışmalar Cem Karaca ile Kardaşlar'ın yolunu ayırmasına sebep oldu. Cem Karaca, Kardaşlar grubundan ayrılıp Anadolu Pop'un güçlü sesi Moğollar'la birleşirken Kardaşlar'da Moğollar'la anlaşmış Ersen Dinleten'i gruplarına dahil etti. Bu grupla 3 45'lik çıkaran Karaca, Moğollar'ın dağılmasıyla kariyerinin en önemli dönemini yaşayacağı Dervişan grubunu kurdu.

Dervişan politik-rock yapmanın yanısıra progressive rock müziğinin Uğur Dikmen ve Oğuz Durukan sayesinde Türkiye ile tanışmasında önemli rol oynadı. Cem Karaca aynı zamanda tam anlamıyla ilk stüdyo albümünü bu grupla çıkardı: Yoksulluk Kader Olamaz.

Dervişan'ın dağılmasından sonra Edirdahan isimli grubu kuran Karaca, Safinaz adında yine iyi bir albüm yapmış olmasına rağmen eski başarısını elde edemedi. Bu albümden sonra Almanya'ya giden Cem Karaca bu ülkede 1987 yılına kadar sürgün hayatı yaşamak zorunda kaldı. Bu dönemdeki çalışmalarında sık sık gurbet acısı gibi temaları işleyen Karaca bu süre içersindeki en iyi albümünü almanca olarak çıkardı: Die Kanaken.

Yabancı düşmanlığı, Gurbetçilerin yaşamı gibi konuları işleyen Cem Karaca bu albümde ki bazı parçaların Türkçesini ilerki albümlerinde kaydetti. Die Kanaken albümünün arka kapağında kendisiyle ilgili şunlar yazılıydı: "Cem Karaca ülkesi olan Türkiye'de bir rock yıldızı. Ülkesinde 50'ye yakın 45'lik ve LP yayınlayan Karaca'nın parçalarının çoğu sosyal içerikli sözlere sahip. 1981 yılının ocak ayında Federal Almanya'da bulunduğu sırada son albümü yüzünden ülkesinde aranmaya başladı. Bunun üzerine Karaca, ülkesine geri dönmedi. Mallarına el konan şarkıcı 200 yıl hapis cezasına çarptırıldı ve 1983 yılında da Türk vatandaşlığından çıkarıldı. Almanya'da daha çok Nazım Hikmet'in şiirlerini seslendirmesiyle tanınan Karaca ilk olarak 1983 yılının başlarında Almanca sözlerle ve doğu batı sentezinden oluşan bir müzikle seyirci önüne çıktı. Amacı Türkiye'de olan biteni anlatmak değil, burada olup bitenleri anlatmak ve Alman-Türk ilişkilerini düzeltmeye çalışmak. Şarkıları yabancı düşmanlığı ve ırkçılıkdan bahsediyor."

İnsanlar Gülüyordu de! Trende, vapurda, otobüste... Yalan da olsa hoşuma gidiyor söyle! Hep Kahır . Bıktım be! Cem KARACA

Yurda döndüğü zaman Turgut Özal'ın elini öptüğü için döneklikle suçlandı. Bu dönemde çıkardığı albümler sanki ülkesine uzun yıllar sonra dönen ve kendini evinde hissetmeyen bir kişi gibi verimsizdi. 1990 ve 1992de Uğur Dikmen ve Cahit Berkay'la Yiyin Efendiler ve Nerde Kalmıştık albümleriyle birazda olsa eski Cem Karaca tadı vermeyi başardı. 1997 yılında Ağır Roman isimli filmde yıllar öncesinin hiti Resimdeki Gözyaşları Cem Karaca'ya yeniden popülerlik getirdi. 1999 yılında Bindik bir alamete... isimli albümünü Cahit Berkay, Engin Yörükoğlu, Ahmet Güvenç, Uğur Dikmen desteğiyle çıkaran Karaca, Kahpe Bizans filmi için 3 parça kaydedip, filmde ufak bir rolde yer aldı.

2000li yıllarda çeşitli şiir çalışmalarında gördüğümüz Cem Karaca, Barış Manço nun efsanevi grubu Kurtalan Ekspres'le birleşerek konserler verdi. En son olarak "Yol Arkadaşları" isimli grubuyla sahneye çıkan Cem Karaca 8 Şubat 2004'de hayata gözlerini yumdu...