Pada tahun 1943 tank-tank berat KV-1 dan KV-2 dirasakan sudah tidak mampu lagi digunakan dalam pertempuran melawan Jerman. Lambat dan dengan persenjataan yang sama dengan tank medium T-34, ditambah dengan kemunculan tank-tank Panther dan Tiger semakin menegaskan akan adanya kebutuhan heavy tank baru bagi pasukan Uni Soviet. Oleh karena itu maka kemudian dirancang satu tank baru yang akhirnya diberi nama IS, mengambil dari nama Iosef Stalin; pimpinan negara Uni Soviet.
Versi awal tank dengan empat orang awak ini adalah IS-1 yang dipersenjatai dengan meriam D-5T kaliber 85mm. Namun pada saat yang bersamaan diproduksi medium tank T-34/85 dengan persenjataan yang sama dan oleh karena itu dibutuhkan meriam dengan kaliber yang lebih besar untuk mempersenjatai heavy tank baru tersebut. Uji coba sempat dilakukan dengan menggunakan meriam kaliber 100mm, namun kemudian dihentikan dengan alasan logistik. Akhirnnya diputuskan untum mempersenjatai tank tersebut dengan meriam D-25T kaliber 122mm.
Konsep heavy tank dalam militer Uni Soviet adalah untuk mendukung pasukan infantri dan oleh karena itu dipergunakan meriam kaliber 122mm. Dengan proyektil HE seberat 28 kg (bandingkan dengan meriam 88 Jerman dengan proyektil HE seberat 9 kg, atau proyektil HE meriam 75mm yang hanya seberat 4 kg) tentu saja sangat menakutkan. Selain itu meriam 122m juga sudah digunakan secara luas di kalangan pasukan Uni Soviet sehingga mempermudah urusan logistik. Selain meriam kaliber 122 dengan 28 butir amunisi, IS-2 juga dipersenjatai dengan dua pucuk senapan mesin DT kaliber 7,62mm; tidak sedikit pula IS-2 yang masih ditambahi dengan senapan mesin berat DShk kaliber 12,7mm guna keperluan anti serangan udara.
IS-2 pertama kali digunkan dalam pertempuran pada bulan April 1944. Pasukan tank Jerman kaget luar biasa ketika melihat meriam kaliber 88mm pada tank Tiger I tidak mampu menembus lapisan baja IS-2, kecuali dalam jarak kurang dari 1.000 meter. Bahkan meriam kaliber 75mm tank Panther bahkan hanya efektif dalam jarak kurang dari 600 meter. Walaupun lebih diutamakan untuk menembakkan proyektil HE, tetapi meriam 122mm pada tank IS-2 juga bisa digunakan untuk menembakkan proyektil AP dan mampu menembus lapisan baja tank Tiger dalam jarak lebih dari 1.000 meter.
Secara teknis lapisan baja dan meriam 122mm yang digunakan tank IS-2 memang mampu mengimbangi tank-tank Jerman, namun IS-2 ternyata lebih lamban dan sulit bermanuver jika dibandingkan dengan tank-tank Jerman. Selain itu tank-tank Jerman juga memiliki fire control yang jauh lebih baik dari tank-tank Uni Soviet.
Walaupun masih memiliki kelemahan, tetapi IS-2 adalah tank yang cukup tangguh dan digunakan sebagai ujung tombak serangan pasukan Uni Soviet pada tahun 194401945. Tank ini pula yang digunakan untuk mendobrak pertahanan Jerman di Berlin, sekaligus membawa Uni Soviet meraih kemenangan dalam Perang Dunia II.
Pada awal tahun 1945, muncul versi baru dari tank IS-2; yaitu IS-3. Versi IS-3 ini memiliki lapisan baja yang lebih tebal dengan desain turret model baru. IS-3 adalah salah satu simbol perang dingin, digunakan oleh beberapa negara sekutu Uni Soviet pada tahun 1950-an dan 1960-an. Salah satu penggunanya adalah Mesir, yang menggunakan IS-3 dalam Perang Arab-Israel tahun 1967 dan 1973.
Secara total telah diproduksi lebih dari 8.000 unit tank IS dalam berbagai varian dan versi, termasuk assault gun ISU-122 dan ISU-152.