根据《行政处罚法》的规定，适用简易程序进行罚款行政处罚的，都可以由执法人员当场收缴罚款。