由于上轧辊及其轴承座以及压下螺丝自重的影响;在轧件未进入轧辊之前，上轧辊及其轴承座与压下螺丝之间，以及压下螺丝和压下螺母之间有间隙存在。这些间隙使扎件在进入轧辊时产生很大的冲击，恶化了轧机的工作条件。为了防止这种冲击，几乎所有轧机（二辊叠轧薄板轧机除外）都设有上辊平衡装置。通过平衡装置，在上轧辊的下轴承座上沿垂直方向施加平衡力，其值为被平衡零件总重量的1.2-1.4倍，以消除上述间隙。
轧机上采用的平衡方法有四种，即：普通的弹簧平衡，用支承在与上轧辊同时做等速运动的反扣螺帽上的弹簧平衡，重锤平衡，以及液压平衡。
1、普通弹簧平衡 普通弹簧平衡主要用于上辊很少运动或移动量很小（不大于50-100mm）的轧机上。孔型位置不变的型钢轧机多用这种平衡方式。弹簧放在机架盖的上部（每边两个），上轧辊下瓦座通过拉杆吊挂在平衡弹簧上。当上轧辊下降时，弹簧受压缩，上升时放松。因此弹簧的平衡力是变化的，弹簧越长，平衡力越稳定。这种平衡方式的优点是结构简单可靠。
2、用支承在与上轧辊同时作等速移动的反扣螺帽上的弹簧平衡 这种结构的平衡装置用于旧时的中板轧机上。由于该方式结构复杂，维护不方便，并且其在高度方向的尺寸很大，要求厂房高度较高，因此近几年来已被液压平衡所淘汰。
3、重锤平衡 重锤平衡装置广泛用于上辊移动量很大且移动较频繁的轧机上。这种平衡装置是利用杠杆，通过托梁，顶杆，将重锤的平衡力传给上轧辊轴承座的。平衡锤通常装在工作机座的下面。采用重锤平衡，结构简单，调整高度大，工作较为可靠。但由于机座下部装上了笨重的平衡锤，使基础加深并变得复杂。在我国，初轧机的上轧辊一般采用重锤平衡
4、液压平衡 液压平衡装置广泛用于二棍及四辊板带轧机与某些初轧机，其优点是调整部分的结构紧凑，容易操作，换辊与检修比较方便；其缺点是需要一套专用的液压泵站，投资较大，同时在车间中要留有场地来安防这种装置，并且要设专人管理与维修;此外，在寒冷地区，需要用乳化液或较贵的锭子油等做工作介质。