สมเด็จเจ้าฟ้ากรมพระยานริศรานุวัตติวงศ์ ได้ทรงตรัสอธิบายเกี่ยวกับการใช้ตราว่า "แต่ก่อนไม่ได้ใช้เซ็นชื่อ ใช้ตราประจำตัวหรือประจำตำแหน่งประทับแทนเซ็นชื่อ เพราะฉะนั้น พระเจ้าแผ่นดินกับทั้งบรรดาสามัญ ซึ่งมีธุระในการหนังสือก็ทำตราขึ้นใช้ประจำตัว เว้นแต่บางคนบางตำแหน่งซึ่งพระบาทสมเด็จพระเจ้าอยู่หัวโปรดปราณ จึงทรงพระกรุณาโปรดพระราชทานพระราชลัญจกรไปใช้เป็นตราประจำตัว นับเป็นเกียรติยศอันใหญ่ยิ่ง" เมื่อได้พระราชทานไปแล้ว ก็ไม่เรียกว่าพระราชลัญจกร จะเรียกจำเพาะแต่ที่ทรงใช้ประทับเท่านั้น ผู้ที่ได้รับตราพระราชทาน ถ้าเป็นตราประจำตัว เมื่อไม่มีตัวแล้วก็ส่งคืน ถ้าเป็นตราประจำตำแหน่งก็ต้องส่งคืนเช่นกัน ครั้นเมื่อมีการเปลี่ยนแปลงการปกครองตามระบอบรัฐธรรมนูญ ตราตำแหน่งเสนาบดีเหล่านี้ ไม่ปรากฎว่าใช้ประทับอีกต่อไป นอกจากจะใช้เครื่องหมายประจำกระทรวง
เดิมกระทรวงการคลังใช้ตราพระสุริยะมณฑล เป็นตราประจำกระทรวง พระยาอนุมานราชธน ได้อธิบายเรื่องตราพระสุริยมณฑลไว้ว่า "แต่ก่อนนี้การคลังและการต่างประเทศรวมอยู่ด้วยกัน และได้ใช้ตราบัวแก้ว ซึ่งเดิมเป็นตราประจำตำแหน่งเจ้าพระยาคลัง เป็นตรา ประจำกระทรวง ครั้นเมื่อ พ.ศ. 2418 ในสมัยรัชกาลที่ 5 ได้มีการจัดระเบียบการปกครองใหม่ โดยยกกรมพระคลังมหาสมบัติ แยกออกจากกระทรวงการต่างประเทศ ตราบัวแก้วจึงตกเป็นตราประจำกระทรวงการต่างประเทศ ส่วนกระทรวงพระคลังมหาสมบัติ ได้ถือเอาตราพระสุริยมณฑลเป็นตราประจำกระทรวง (ตราพระสุริยมณฑลมีสองตรา คือ ตราพระสุริยมณฑลใหญ่ และตราพระสุริยมณฑลน้อย) ตราพระสุริยมณฑลนี้ ได้เคยพระราชทานเป็นตราประจำตัวแก่สมเด็จเจ้าพระยามหาประยูรวงศ์ (ดิศ บุนนาค)"
ตราปักษาวายุภักษ์ ในพระธรรมนูญใช้ตรากล่าวว่าตราปักษาวายุภักษ์ เป็นตราของพระยาราชภักดีฯ เจ้ากรมพระจำนวน ซึ่งมีหน้าที่เกี่ยวกับภาษีอากร ต่อมาเมื่อโปรดให้ตั้งกระทรวงพระคลังฯและใช้ตราพระสุริยมณฑลแล้ว ตราปักษาวายุภักษ์ก็เลิกใช้ แต่นำเอามาใช้เป็นเครื่องหมายกระทรวงการคลัง นกวายุภักษ์ สมเด็จเจ้าฟ้ากรมพระยานริศรานุวัตติวงศ์ ตรัสอธิบายไว้ดังนี้ ถ้าแปลตามคำก็ว่า นกกินลม ข้อยากในนกนี้เกิดขึ้นในที่ประชุมเสนาบดี สั่งให้สมเด็จเจ้าฟ้ากรมพระยานริศรานุวัตติวงศ์ ทรงเขียนผูกตรากระทรวงต่างๆเป็นลายข้อมือเสื้อเครื่องแบบ หากเป็นตราเก่าซึ่งมีตราประจำกระทรวงอยู่แล้ว จะเอามาใช้ได้ให้ใช้ตราเก่า ที่เป็นกระทรวงใหม่ไม่มีตรามาแต่เดิมจึงคิดผูกขึ้นใหม่ โดยคำสั่งอย่างนี้กระทรวงใดก็ไม่ยากเท่ากระทรวงคลัง ซึ่งเดิมพระยาราชภักดีฯทำการในหน้าที่เสนาบดีกระทรวงพระคลัง คือตรานกวายุภักษ์ รูปนกวายุภักษ์ในตรานั้นก็เป็นนกแบบสัตว์หิมพานต์ เหมือนกับนกอินทรีย์ ฉะนั้นไม่ทรงเชื่อว่าถูก จึงได้ทรงรำลึกต่อไป ก็ทรงรำลึกได้ว่า มี ณ ที่แห่งใดแห่งหนึ่งซึ่งมีความว่าทรงพระมาลาปักขนนกวายุภักษ์ ก็ทรงค้นหา ก็พบในหมายท้ายหนังสือพระราชวิจารณ์จดหมายเหตุความทรงจำของกรมหลวงนริทรเทวี เมื่อมีคำปรากฏเช่นนั้น นกวายุภักษ์ก็คือ นกการเวก เพราะพระมาลาทุกชนิดที่ปักขนนก ย่อมใช้ขนนกการเวกอย่างเดียวเป็นปกติ เมื่อทรงดำริปรับนกวายุภักษ์กับนกการเวกเข้ากัน ก็เห็นลงกันได้โดยมีทางเราพูดกันว่า นกการเวกนั้นมีปกติอยู่ในเมฆบนฟ้า กินลมเป็นภักษาหารตามที่ว่าพิสดารเช่นนั้น ก็เพราะนกชนิดนั้นในเมืองเราไม่มีและที่ว่ากินลมก็เพราะในเมฆไม่มีอะไร นอกจากลมจึงให้กินลมเป็นอาหาร แต่เมื่อปกติของมันอยู่ใน ตราปักษาวายุภักษ์ เมฆแล้วก็ไฉนเล่ามนุษย์จึงได้ขนมันมาปักหมวก เชื่อว่าเพราะเหตุที่น่าสงสัยเช่นนั้นเอง พระบาทสมเด็จพระจอมเกล้าเจ้าอยู่หัว จึงตรัสสั่งไปต่างประเทศที่ส่งขนนกชนิดนั้นเข้ามา ให้ส่งตัวนกเข้ามาถวาย จึงได้ตัวจริงเป็นนกยัดไส้มีขนติดบริบูรณ์เข้ามา ก็เป็นนกที่เรียกตามภาษาอังกฤษ Paradise Bird ซึ่งที่เรียกเป็นภาษาอังกฤษเช่นนี้ นึกว่าแปลมาจากภาษาแขก ความก็ว่าเป็นนกฟ้าเราคงได้ฟังแขกเขาว่า จึงละเมอตามไป เมื่อได้นกยัดไส้เข้ามาแล้วจึงทรงจัดเอาขึ้นเกาะคอนมีด้าม ให้เด็กถือนำพระยานุมาศในงานสมเด็จเจ้าฟ้าโสกันต์ ตามที่ได้พยานมาว่าเป็นนกอยู่ในแผ่นดิน ไม่ใช่นกอยู่ในฟ้าเช่นนั้น ใครจะเชื่อกันหรือไม่ก็หาทราบไม่ แม้ราชสีห์เมื่อได้ตัวจริงมาบอกใครว่า นี่แหละราชสีห์ก็ไม่มีใครเชื่อด้วยไม่เหมือนกับที่เราปั้นเขียนกัน ตามที่เราปั้น เขียนกันนั้น ขาดสิ่งสำคัญที่ไม่มีสร้อยคอ อันจะพึงสมชื่อว่า ไกรสร หรือ ไกรสรสีห์ หรือ ไกรสรราชสีห์
เรื่องตรานกวายุภักษ์ประจำกระทรวงการคลัง จึงมีต้นเหตุดังที่เล่ามานี้
ตราพระอุเทนธิราชดีดพิณ เครื่องหมายประจำกรมสรรพากร มีประวัติอยู่ในหนังสือธรรมบทแปล ภาค 5 เป็นบทตอนหนึ่ง ซึ่งรวมอยู่ในเรื่อง พระนางสามาวดี ซึ่งนายประพัฒน์ ตรีณรงค์ แห่งกรมศิลปากร ได้เขียนไว้ในหนังสือ ศิลปากร ว่า
พระองค์เป็นพระราชโอรสของพระเจ้าปลันตาปะ แห่งกรุงโกสัมพี เมื่อยังอยู่ใน พระครรภ์ นกหัสดีลิงค์ได้โอบเอา พระราชมารดา ไปปล่อยไว้ที่คาคบไม้ใหญ่ ในป่า และได้ประสูติที่นั่น ยามรุ่งอรุณ จึงมีพระนามว่า อุเทน แปลว่า รุ่งอรุณที่ปราศจาก เมฆหมอก ต่อมาอัลลกัปปดาบส นำไปทำนุบำรุงและ สอนมนต์ชื่อหัสดีกันต์และพิณสามสาย เมื่อดีดพิณ และสาธยายมนต์ สามารถทำให้ช้างหนี หรือช้างเข้ามาหาก็ได้ เมื่อพระเจ้าปลันตาปะ สวรรคตพระเจ้าอุเทนทรงนำกองทัพช้างเข้าสู่กรุงโกสัมพี และได้เสด็จขึ้นครองราชย์ นับแต่บัดนั้น
ตราพระอุเทนธิราชดีดพิณ (ตราเก่า) ที่ใช้ในสมัยเริ่มก่อตั้งกรมสรรพากร เมื่อ พ.ศ. 2459 อันมีพระเจ้าอินทรมนตรีศรีจันทรกุมาร (เอฟ.เอช.ไยล์) เป็นอธิบดีคนแรกนั้น ไม่ปรากฏว่า ใครเป็นผู้ออกแบบ ตราพระอุเทนธิราชดีดพิณที่ปรากฏในดวงตราอากรแสตมป์นั้น นายปลิว จั่นแก้ว แห่งกองหัตถศิลป์ กรมศิลปากร เป็นผู้เขียนปรับปรุง จากตราเก่า ส่วนตรา พระอุเทนธิราชดีดพิณ ที่กรมสรรพากร ใช้อยู่ในปัจจุบัน เข้าใจว่าดัดแปลง มาจากตราอากรแสตมป์ ต่อมาพบว่า ได้มีการนำภาพตราสัญลักษณ์ของกรมสรรพากรไปใช้ โดยไม่ได้ รับอนุญาต และไม่ได้เป็นไปเพื่อประโยชน์อันเกี่ยวกับงานราชการของกรมสรรพากร กรมสรรพากรจึงได้ส่งภาพตราประจำกรมสรรพากร “พระอุเทนทราธิราชนั่งดีดพิณ สามสาย” ให้กรมศิลปากรตรวจสอบ โดย นายสมชาย ศุภลักษณ์อำไพพร สำนักช่างสิบหมู่ กรมศิลปากร ได้ทำการปรับปรุง ให้มีความถูกต้องสมบูรณ์ ตามองค์ประกอบเดิม คือ “พระอุเทนราชทรงภูษารัตกัมพล (แดง) ดีดพิณวาสุกิมเนมิ ประกอบลายหางคชสีห์” และได้ประกาศ เป็นภาพเครื่องหมาย ประจำของกรมสรรพากรแล้ว ตามประกาศ สำนักนายกรัฐมนตรี เรื่องกำหนดภาพ เครื่องหมายราชการ ตามพระราชบัญญัติ เครื่องหมายราชการ พุทธศักราช 2482 (ฉบับที่ 263) ประกาศ ณ วันที่ 1 กันยายน พ.ศ.2554 เพื่อให้มีกฎหมายคุ้มครอง ในการป้องกัน การละเมิดสิทธิ ในการใช้เครื่องหมายดังกล่าว ซึ่งได้ประกาศในราชกิจจานุเบกษา เล่ม 128 ตอนพิเศษ 112 ง วันที่ 27 กันยายน 2554 ด้วยแล้ว
ตราพระอุเทนทราธิราชนั่งดีดพิณสามสาย
ภายในวงกลมชั้นใน ลายกลางเป็นรูปพระอุเทนทราธิราชประทับเหนือพระแท่น ดีดพิณสามสายทรงภูษารัตกัมพล ประกอบลายหางคชสีห์สีทองเบื้องซ้าย ขวา และล่าง พื้นหลังเป็นสีฟ้า ภายในวงกลมชั้นนอก เบื้องบนมีอักษรข้อความว่า “กรมสรรพากร” เบื้องล่าง มีอักษร ข้อความว่า “THE REVENUE DEPARTMENT” ระหว่างอักษรภาษาไทยและภาษาอังกฤษ มีดอกสี่กลีบ (ประจำยาม) ข้างละ 3 ดอก เป็นสีทอง เส้นตัดขอบลาย ตัวอักษร และวงกลม เป็นสีแดง พื้นหลังเป็นสีขาว กรมสรรพากรนำรูปพระอุเทนทราธิราชดีดพิณมาเป็นสัญลักษณ์ เพราะเห็นว่า พระองค์ทรงพระปรีชาสามารถในการใช้พิณและมนต์บังคับช้างได้ จึงใช้แทน ความหมาย การเป็นหน่วยงานที่มีหน้าที่จัดเก็บภาษีอากร ซึ่งต้องใช้ทั้งศาสตร์และศิลป์ ในการเชิญชวน ให้ประชาชนนำภาษีอากรมาพัฒนาประเทศ
ที่มา : หนังสือที่ระลึกในการเปิดอาคารกรมสรรพากร 2 กันยายน 2540 หนังสือรายงานประจำปี 2554 กรมสรรพากร