Аркадий Караулов окончил Саратовский юридический институт. В августе 1991 года начал работать в прокуратуре Тамбовской области. За время службы был прокурором Петровского района, затем города Мичуринска. С февраля 2007 года – заместитель прокурора Тамбовской области. А в сентябре 2007 года назначен на должность руководителя Следственного управления Следственного комитета при прокуратуре РФ по Тамбовской области. С июля 2011 года – исполняющий обязанности начальника государственной жилищной инспекции области.