从文件上来说ZSU-23-4自行高炮的研制工作是1957年4月17日开始的，因为在那天，苏联军事工业决定开始研制新型自行高炮的相关工作，不过当时苏联军事工业决定研制的自行高炮并不仅有ZSU-23-4一种，而是有其他几个类似项目在同时进行，只是ZSU-23-4后来修成正果装备苏联军队而已。

一开始苏联军事工业在为研制当中的ZSU-23-4挑选底盘的时候选中了SU-85(亦有说法是ASU-85)，但是，当苏联军事工业的新型自行高炮把武器和观瞄系统装上去后，SU-85/ASU-85底盘很快不堪重负，所以后来苏联军事工业不得不把它们新型自行高炮的底盘换成源于PT-76水陆两栖坦克的新型底盘。

ZSU-23-4研制工作在1960年完成并在次年通过通工厂测试，这种武器于1965年进入苏联军队服役，当时其中生产成本为30万卢布/辆。

由于ZSU-23-4服役的时候苏联军队原有的ZSU-57-2尚未退役，所以这两种自行高炮在苏联军队手中同时使用了一段时间。