Après avoir passé son enfance dans les régions sauvages de l'Oural et de la Volga, il poursuivit ses études secondaires au lycée classique de Kazan, puis il étudia à l'École de peinture, sculpture et architecture de Moscou pendant quatre années, puis à l'Académie impériale des beaux-arts de Saint-Pétersbourg de 1856 à 1860, dont il sortit avec les plus grands honneurs et une médaille d'or. Cinq ans plus tard, Chichkine devint lui-même membre de cette Académie, puis professeur. Il était par ailleurs professeur à l'École supérieure des arts, spécialisé dans les paysages.
C'est d'ailleurs pour ses paysages frappants de réalisme et pour sa technique irréprochable qu'il est le plus connu. Pendant un certain temps, Chichkine vécut et travailla auprès du peintre Rudolf Koller à Zurich, en Suisse, puis en Allemagne, et se perfectionna de 1864 à 1865 à l'Académie des beaux-arts de Düsseldorf.
À son retour à Saint-Pétersbourg, il devint membre du mouvement des Ambulants et fonda en 1871 la Société des aquarellistes russes. Il prit aussi part à de nombreuses expositions en Russie et à l'étranger, aux Expositions universelles de Paris en 1867 et 1878, et de Vienne1873. La technique de peinture de Chichkine est fondée sur une étude analytique de la nature et il faisait des recherches approfondies sur tous ses sujets. Il est célèbre pour ses paysages, mais c'est aussi un excellent dessinateur et graveur.