การก่อตั้งสำนักงานสรรพากรพื้นที่ชัยภูมินั้นไม่มีข้อมูลแน่ชัด แต่มีหลักฐานความมีอยู่มาตั้งแต่ปี พ.ศ. ๒๔๕๘ ซึ่งเป็นรัชสมัยของพระบาทสมเด็จพระมงกุฎเกล้าเจ้าอยู่หัว รัชกาลที่ ๖ ภายใต้ระบบบริหารราชการแบบมณฑลการปกครอง นั้นคือ มณฑลนครราชสีมา ที่รวมเขตการปกครองแบบเมืองไว้หลายๆ เมืองตั้งขึ้นเป็นมนฑล และเมืองชัยภูมินั้นก็เป็นส่วนหนึ่งของมณฑลดังกล่าว อันมีพระยาภูมิพิชัย (หรุ่ม ชาตินันท์) เป็นเจ้าเมืองชัยภูมิภายใต้การกำกับของเจ้ามณฑล ขณะนั้นสำนักงานสรรพากรเป็นส่วนหนึ่งของเมืองชัยภูมิและถูกเรียกว่า "ทีทำการข้าหลวงสรรพากร"
โดยกาลนั้นมี ขุนวิเศษสุวรรณจิตร เป็นข้าหลวงสรรพากรเมืองชัยภูมิคนแรก ซึ่งเริ่มดำรงตำแหน่งตั้งแต่วันที่ ๑ เมษายน ๒๔๕๘ ซึ่งในปีเดียวกันนี้เอง ก็เกิดเหตุการณ์สำคัญอันเป็นการถือกำเนิดของหน่วยงานกรมสรรพากรอย่างสมบูรณ์มาถึงปัจจุบัน โดยพระบาทสมเด็จพระมงกุฎเกล้าเจ้าอยู่หัว ทรงมีพระบรมราชโองการโปรดเกล้าฯ ให้รวมหน่วยงานจัดเก็บภาษี ๒ หน่วย คือ กรมสรรพากรนอก สังกัดกระทรวงมหาดไทย และกรมสรรพากรในสังกัดกระทรวงนครบาล เป็นหน่วยงานเดียวกันภายใต้ชื่อ "กรมสรรพากร" สังกัดกระทรวงพระคลังมหาสมบัติ มาตั้งแต่วันที่ ๒ กันยายน ๒๔๕๘ นับได้ว่าสำนักงานสรรพากรพื้นที่ชัยภูมิได้ก่อกำเนิดและมีประวัติอันยาวนานมาตั้งแต่ช่วงเวลาสำคัญนั้นด้วย

          ต่อมาในปี พ.ศ. ๒๔๗๖ มีการเปลี่ยนแปลงระบบบริหารราชการแผ่นดินอีกครั้ง โดยยุบเลิกระบบบริหารการปกครองแบบมณฑล ยกเมืองให้เป็นจังหวัด ทำให้มณฑลนครราชสีมาถูกยุบเลิก และเมืองชัยภูมิเปลี่ยนเป็นจังหวัดในสมัยพระบริรักษ์นครเขต (ย้อย กฤษณจินดา) ดำรงตำแหน่งใหม่เป็นผู้ว่าราชการจังหวัด (แทน "เจ้าเมืองเดิม") ซึ่งก็ส่งผลให้หลวงศิริคุปต์โภคผล ข้าหลวงสรรพากรเมืองชัยภูมิ เปลี่ยนตำแหน่งตามไปด้วยเป็น "สรรพากรจังหวัด" โดยมีนายเชย สุรรัศมี ดำรงตำแหน่งสรรพากรจังหวัดชัยภูมิคนแรกตั้งแต่วันที ๑ ธันวาคม ๒๔๘๖ จนถึง พ.ศ.๒๕๔๕ รวม ๕๘ ปี มีผู้ดำรงตำแหน่งสรรพากรจังหวัดชัยภูมิทั้งสิ้น ๒๕ คน
          ต่อมาได้รับเงินงบประมาณให้ทำการก่อสร้างอาคารที่ทำการสรรพากรพื้นที่ชัยภูมิเป็นเอกเทศ เป็นที่ดินราชพัสดุแปลงหมายเลขที่ ชย.475 จำนวนเนื้อที่ 3 งาน 51 ตารางวา อยู่ระหว่างสี่แยกถนนบรรณาการ ตัดกับถนนโนนม่วง ข้างที่ทำการไปรษณีย์โทรเลขจังหวัดชัยภูมิ ในวงเงินงบประมาณค่าก่อสร้างทั้งสิ้น 18,891,000 บาท เป็นอาคารคอนกรีตเสริมเหล็ก สูง 4 ชั้น ทำการก่อสร้างเมื่อวันที่ 10 พฤศจิกายน 2536 และผู้รับจ้างมอบงานวันที่ 18 เมษายน 2538 ใช้ปฎิบัติหน้าที่ราชการโดยย้ายออกอาคารพาณิชย์ของเอกชนที่เช่ามาอยู่ยังอาคารใหม่วันที่ 1 พฤษภาคม 2538 จนมาถึงปัจจุบัน
          สันนิษฐานว่า ที่ทำการสรรพากรจังหวัดชัยภูมินั้นตั้งอยู่ในกรมการจังหวัด หรือศาลากลางจังหวัดมาโดยตลอดเป็นระยะเวลา ๗๖ ปี จนถึงปี พ.ศ.๒๕๓๔ แต่ด้วยอัตรากำลังของเจ้าหน้าที่ของแต่ละส่วนราชการปฏิบัติหน้าที่ประจำอยู่นั้นมีมากขึ้น ทำให้ศาลากลางจังหวัดมีความคับแคบ ประชาชนมาติดต่อราชการไม่สะดวก ประกอบกับกรมสรรพากรก็มีนโยบายจะนำระบบคอมพิวเตอร์มาใช้ในการบริหารงานจัดเก็บภาษีอากรให้มีประสิทธิภาพเพิ่มขึ้น จึงเป็นความจำเป้นต้องจัดหาและสร้างอาคารสำนักงานใหม่เพื่อรองรับการเปลี่ยนแปลงดังกล่าว นายวิชัย สมเชย สรรพากรจังหวัดชัยภูมิในขณะนั้น จึงขออนุมัติเช่าอาคารพาณิชย์ของเอกชนตั้งอยู่เลขที่ 379/229ก-233ก ถนนโนนม่วง อำเภอเมือง จังหวัดชัยภูมิ เป็นสำนักงานสรรพากรจังหวัดชัยภูมิชั่วคราวตั้งแต่เดือนกันยายน พ.ศ.2534 แยกออกมาเป็นเอกเทศตั้งแต่นั้น ซึ่งเกิดก่อนการปรับเปลี่ยนระบบภาษีอากรของประเทศครั้งใหญ่โดยนำภาษีมูลค่าเพิ่มและภาษีธุรกิจเฉพาะมาใช้แทนภาษีการค้า (พ.ศ.2535) เพียงปีเดียว

          กรมสรรพากรได้รับงบประมาณก่อสร้างอาคารที่ทำการสรรพากรจังหวัดชัยภูมิใหม่ บนที่ดินราชพัสดุแปลงหมายเลขที่ ชย.475 จำนวนเนื้อที่ 3 งาน 51 ตารางวา ตั้งอยู่สี่แยกถนนบรรณาการตัดกับถนนโนนม่วง ข้างที่ทำการไปรษณีย์โทรเลขจังหวัดชัยภูมิ ในวงเงินงบประมาณค่าก่อสร้างทั้งสิ้น 18,891,000 บาท เป็นอาคารคอนกรีตเสริมเหล็ก สูง 4 ชั้น เริ่มการก่อสร้างเมื่อวันที่ 10 พฤศจิกายน 2536 อันมีนายประยูร ตันสมบูรณ์ เป็นสรรพากรจังหวัดในขณะนั้น และมีการรับมอบงานเมื่อวันที่ 18 เมษายน 2538 ในสมัยนางศิริวัลย์ ศรีสุวรรณวงศ์ เป็นสรรพากรจังหวัด โดยได้ย้ายออกจากอาคารเช่าของเอกชน มาตั้งทำการอยู่ ณ อาคารใหม่ เมื่อวันที่ 18 เมษายน 2538  ซึ่งก็ใช้เป็นที่ทำการถาวรนับแต่นั้นมา โดย ร.อ.สุชาติ เชาว์วิศิษฐ อธิบดีกรมสรรพากร ได้ให้เกียรติเดินทางมาเป็นประธานพิธีเปิดอาคารสำนักงานใหม่อย่างเป็นทางการพร้อมผู้บริหารระดับสูง และปลูกต้นราชพฤกษ์ไว้เป็นที่ระลึกที่หน้าสำนักงานเมื่อวันที่ 1 เมษายน พ.ศ.2539