行政机关违法进行行政处罚引起行政赔偿，主要有以下几种情况：

(1)作出行政处罚决定的行政机关没有处罚权。

(2)有行政处罚权的行政机关超越法律规定的处罚幅度或其他权限进行处罚。

(3)行政处罚没有事实上的根据。

(4)行政处罚所依据的事实已经由有关机关依法定程序作过处理。