Власть не может считаться целью. Власть — это средство для охранения жизни, спокойствия и порядка; поэтому, осуждая всемерно произвол и самовластие, нельзя не считать опасным безвластие правительства. Не нужно забывать, что бездействие власти ведет к анархии, что правительство не есть аппарат бессилия и искательства. Правительство — аппарат власти, опирающейся на законы, отсюда ясно, что министр должен и будет требовать от чинов министерства осмотрительности, осторожности и справедливости, но также твердого исполнения своего долга и закона. Я предвижу возражения, что существующие законы настолько несовершенны, что всякое их применение может вызвать только ропот. Мне рисуется волшебный круг, из которого выход, по-моему, такой: применять существующие законы до создания новых, ограждая всеми способами и по мере сил права и интересы отдельных лиц. Нельзя сказать часовому: у тебя старое кремневое ружье; употребляя его, ты можешь ранить себя и посторонних; брось ружье. На это честный часовой ответит: покуда я на посту, покуда мне не дали нового ружья, я буду стараться умело действовать старым.
(8 июня 1906 ; Гос. Дума; ответ П. А. Столыпина на запрос Гос. Думы о Щербаке; запрос возник по поводу телеграммы самого Антона Петрова Щербакова, он же Щербак, в которой тот извещал о предании его суду Московской судебной палатой)