到朝廷，汉武帝命他治理巫蛊于郡邸狱。当时刘询出生几个月，因为是皇曾孙，被卫太子刘据事牵连关在狱中，丙吉看了很同情他，心知太子无事实证明有罪，特别同情曾孙无辜，挑选谨慎厚道的女囚徒，命令她护养刘询，放在宽敞干燥的地方。丙吉处理巫蛊案件，连续多年不能结案。
后元二年（前87年），武帝病重，往来长杨、五柞宫之间，望气的人说长安狱中有天子气，武帝便派使者分别登记监狱中关押的人，不分轻重一律都杀掉。内谒者令郭穰夜晚到郡邸狱，丙吉闭门拒绝使者进入，说：“皇曾孙在，别的人无辜杀死都不可，何况皇上的亲曾孙？”双方相持到天明，郭穰不能进去，于是回去报告武帝，并弹劾丙吉。武帝也醒悟了，说：“这是天的保佑。”于是大赦天下。郡邸狱关押的人独赖丙吉得生，而大赦之恩又遍及天下。刘询重病，几次几乎死去，丙吉多次嘱咐护养他的乳母好好用药治疗，照顾刘询很有恩惠，用私人财物供给他的衣食。
而且关于丙吉的仁厚还有一则典故，吉驭吏嗜酒，尝从吉出，醉呕丞相车上。西曹主吏白欲斥之，吉曰：“以醉饱之失去士，使此人将复何所容？西曹但忍之，此不过污丞相车茵耳。”遂不去也。此驭吏边郡人，习知边塞发奔命警备事，