税务救济与行政权力失衡，是此次两公约审查中民间团体集中抨击的火线核心。

法税改革联盟志工汤诗奇指出，台湾存在严重的「万年税单」问题。即使纳税人在行政法院获得胜诉，原税单也不会真正撤销，而是重新计算後再度开立，形成无止尽的救济循环。监察院於2022年即指出此制度存在严重问题，但仍有大量案件至今无法解决，违反了公政公约所要求的有效救济原则。

联合国NGO世界公民总会台湾总会志工陈品萱则表示，台湾部分税务机关为达绩效或配额目标，往往未经充分调查便开立税单，甚至在已有证据显示课税违法时，司法系统仍以程序理由拒绝再审或重启案件，显示行政与司法体系对国际人权公约的落实仍有重大落差。

法税改革联盟志工Aaron更於审查会议中直言，税捐制度在台湾已被「武器化」，成为政府打压人民与团体的工具。他批评行政法院长期成为官员的保护伞，人民与政府诉讼旷日废时，许多人甚至在案件尚未平反前便已离世。这种行政救济制度不仅失去司法正义功能，更成为对人民的折磨。