Albay olan babası Georgi Nikiforowitsch Jawlenski, Alexej 18 yaşındayken ölmüştü. Annesi Alexandra Petrowa Medwedewa babasını ikinci eşiydi. 16 yaşındayken ailesinle Moskovada yaşıyordu. Subay olmak isterken ressamlığa olan sevgisini keşfetti. 1880’de dünya sergisinde ilk defa modern sanatlar gördü ve kendinin ressamlık yeteneğini düzenli olarak Tretjakow-Galerisini ziyaret ederek geliştirdi.
Jawlensky ve İlya Repin Rus subay olarak Sankt Petersburg’a tayin edildi. Anyı zamanda, 1889’dan 1896’ya kadar ziyaret ettiği Petersburg Sanatakademisinde İlya Repin’in öğrencisi oldu. Repin Jawlensky’yi İvan Šiškin, Konstantin Korovin, Vasilij Surikov, Valentin Serov, gibi tanıdık ressamlarla tanıştırdı. İlk olarak Archip Kuindži’den soyutlayan stil prensiplerini öğrendi, örneğin herhangi bir ormanı boyamayı değil, belirli bir ormanı boyamayı. Kuindži Jawlwnsky’i önemli izlenimcilerle de tanışdırdı. Jawlensky haftalarca Repin ile beraber Repin’in Gouvernement Vitebsk’deki çiftliğinde yaşadı ve orada küçük manzaralar boyadı.
1891 yılında Jawlensky Repin’in özel öğrencilerinden Marianne von Werefkin ile tanıştı. Tanışdıklarında Marianne Jawlensk’den dört yaş büyüktü ve realizm ressamı olarak tanınmıştı. 1896/97 yılında Jawlensky bütün zamanını ressamlığa adamak için üsteğmenlikten ayrıldı ve Marianne von Werefkin ve arkadaşı Helene Nesnakomoff ile beraber Münih’e taşındı. Helene Nesnakoff’u 1895 yılında Helene 14 yaşındayken Werefkinin ailesini ziyaret ettiğinde tanımıştı. Sonradan 1922 yılında Helene ile evlenmişti. Münih’de Anton Ažbe’nin sanat okulunda Wassily Kandinsky ile tanıştı.
Werefkin, Jawlensky pratik öğremine devam etmesi için Anton Ažbe’nin (1862-1906) Münih’te eski bir rus diplomatın köşkünde yönettiği çizim ve resim okuluna yazdırdı.
1902 yılında Marianne von Werefkin ve Helene Nesnakomoff ile beraber yaşadığı evde Heleneden oğlu Andrej (André, Andreas) doğdu. Büyüdüğünde oğlu da ressam olacaktı. Jawlensky Münih Realizm aştıktan sonra uzun bir zaman van Gogh stilinde boyamıştı. 1908 yılında renklerde Fransız ressamların dışavurumcu stilinden etkilenerek kendi stilini geliştirdi ve 1914’de Birinci Dünya Savaşının başlangıcına kadar stilini değiştirmedi.
1909’da Jawlensky, Wassily Kandinsky, Adolf Erbslöh, Gabriele Münter, Marianne von Werefkin ve başka ressamlar beraber ressamlar birliği Neue Künstlervereinigung München’i kurdular. Bu birlikte Kandinsky ve Franz Marc’ın kurduğu ve Jawlensky’nin de katıldığı Der Blaue Reiter’in fikirleri gelişmişti. Jawlensky ve birliğin diğer ressamları resimlerini sergiliyorlardı. Bu sergilerden birisi 1912 yılında Münih Galerisi Hans Goltz ‘da olmuştu.
Jawlensky Wiesbaden’nin Rus Ortodoks mezarlığında yatıyor.