Ünlü Rus yönetmen Andrei Tarkovsky, 4 Nisan 1932 tarihinde, şimdiki Rusya sınırları içinde bulunan ve Volga Nehri kenarındaki bir şehir olan Zavrazhe'de doğdu. Annesi Maria Ivanovna bir oyuncu, babası Arseniy Tarkovsky ise ünlü bir şair ve çevirmendi. Tarkovsky, 1935 yılında ailesiyle birlikte gençliğinin büyük bir kısmını geçireceği Moskova'ya gitti.

Andrei Tarkovsky'nin çocukluğuna iki önemli olay damgasını vurdu; 2.Dünya Savaşı'nın başlamasıyla, babası Arseniy Tarkovsky orduya katıldı. Kendisi ve kız kardeşi Marina ise 1939 yılında küçük bir kasaba olan Yuryevetz'e annesinin akrabalarının yanına gitti. Arseniy'in savaştan dönmesiyle beraber Tarkovsky ailesi 1943 yılında Moskova'ya geri döndü. Fakat savaştan tek kolunu kaybetmiş bir kahraman olarak dönen Arseniy, tekrar aile hayatına uyum sağlayamadı ve karısı Maria'dan boşandı. Bu tarihten itibaren Tarkovsky annesi, babaannesi ve kız kardeşiyle beraber yaşamaya başladı.

Okulda düzenli olarak resim ve müzik çalışmalıyla ilgilendi. 1951'de Moskova Doğu Dilleri enstitüsü'ne kaydolduysa da geçirdiği bir hastalık nedeniyle bu bölümü tamamlayamadı. 1954 yılında ise Moskovadaki All-Union State Sinematografi Enstitüsü'ne kaydoldu ve burada 6 yıl boyunca sinema eğitimi aldı. Enstitüde Mikhail Ilych Romm, onun en değer verdiği hocası oldu. Romm, Tarkovsky'nin yeteneğinin gelişim sürecine tanıklık etti ve 1971 yılında ölene kadar Tarkovsky'e destek verdi.

Tarkovsky, 1958 yılnda ilk yönetmenlik denemesi olan "Kontsentrat" (The Concentrate) adlı kısa filmi çekti. Bu dönemde enstitüde her öğrenciye yetecek ekipman olmadığı için öğrenciler çalışmalarını iki yada üç kişilik gruplar olarak yürütüyorlardı. Bu nedenle Andrei Tarkovsky, sınıf arkadaşı Vasily Shukskin ile beraber bir Ernest Hemingway uyarlaması olan "Ubiitsy" (The Killers) adlı filmi çekti. Fakat bu "takım çalışması" dönemi en önemli meyvesini arkadaşı Andrei Mikhalkov Koncalovsky ile beraber çektiği "Katok i Skripka" (The Steamroller and the Violin) adlı filmle verdi. Bu film, Andrei Tarkovsky'nin enstitüdeki bitirme ödevi ve kendisini kanıtladığı ilk film olma özelliğini taşıyordu. "Katok i Skripka", aynı zamanda onun daha sonraki yıllarda yapacağı çalışmalarına da ışık tutuyordu.

Tarkovsky'nin, Vladimir Bogolovun'un hikayesini anlattığı ilk uzun metrajlı filmi "Ivanovo detstvo" (Ivan'ın Çocukluğu), Moskova'da 1962 yılında gösterime girdi ve aynı yıl Venedik Film Festivalinde Altın Aslan Ödülünü kazandı. Bu başarısı ona uluslararası bir ün kazanmasına ama aynı zamanda kendi ülkesinde ideolojik bir baskı görmesine sebep oldu. 1969 yılında bitirdiği ve o yıl Cannes Film Festivalinde ödül kazanan "Andrey Rublyov" adlı film Sovyet Film Depertmanının sansüründen ancak 1973 yılında geçebildi. 1974 yılında bitirdiği otobiyografik filmi "Zerkalo" (The Mirror-Ayna) ise güçlü brokratik engellemeler yüzünden batı Avrupa salonlarına ancak bir yıl sonra ulaşabildi.

1971 - 1972 yıllarında, Stanislav Lem'in bilim-kurgu eserinden uyarlayarak çektiği Solaris ile Tarkovsky, Sovyetler Birliği'nde göreceli olarak zararsız olan bir konuya -uzaya insan gönderilmesine- değiniyordu. Ama bu filminde de uzun bir eleştiri ve itiraz listesi sıralamayı ihmal etmiyordu. 1979 yapımı "Stalker" Tarkovsky'nin Sovyetler Birliğinde çektiği son film oldu. Bu soğuk ve kasvetli bilim-kurguyu Strugatsky kardeşlerin "Roadside Picnic" adlı eserinden sinemaya uyarlamıştı.

1982 yılında "Nostalghia"yı çekmek için İtalya'ya gitti. Sovyet-İtalyan ortak yapımı olan bu filmin senaryosu, şair Tonino Gurerra'nın kaleminden çıkmıştı. Ancak konusu aynı zamanda Tarkovsky'nin de kaderi olacak tipik bir rus açmazıydı: Kendi ülkesinde yaşaması mümkün olmayan, yurtdışındaki bir sanatçının memleketinin hasretiyle yanıp tutuşması.

1985 yılının sonunda son filmi olan "Offret"i (The Sacrifice) çektikten bir yıl sonra, 26 Aralık 1986'da Paris'te akciğer kanserinden dolayı hayata gözlerini yumdu.