王允也不计较利害关系，他怀疑张让与黄巾军私通，便进一步追查，把其中的具体细节全部揭发出来，并且写成奏折上奏皇帝。汉灵帝大惊，立即召张让进宫，怒气冲冲地指责张让，并要他交待实际情况。张让一向在朝中自以为是，指手画脚，也没想到有谁敢在皇上面前揭露他，因此见到王允的奏章后吓得半死，急忙叩头谢罪。可张让是何等狡诈圆滑的人物，他在回答皇帝时，不仅不承认自己的罪行，反而说王允忌妒陷害他，说自己对陛下，对朝廷是如何如何忠心耿耿，没有丝毫与黄巾军私通和背叛朝廷之意。灵帝本就有意偏袒张让，加上被张让的花言巧语所迷惑，自认为他无罪，也便不再追究。
张让脱罪后，对王允心怀忿恨，一心想伺机打击报复王允。第二年，张让终于找到一个借口，将王允逮捕下狱。不久，正好赶上朝廷大赦，王允免罪释放，还复刺史原职。可是，睚眦必报的张让并没就此罢休，没出十天，他又以另一个“莫须有”的罪名将王允治罪，王允再度入狱。
司徒杨赐素知王允的为人和品性，知道张让是有意想置王允于死地，为了替王允开罪，让他免受痛苦和屈辱，杨赐派手下人劝告王允说：“你因事得罪宦官张让，一月之内，两次下狱，很明显他是有意和你过不去。如今你是凶多吉少，性命都难保。为了成就自己的志向，你又何必不先退让一下，忍一忍呢？大丈夫能屈能伸，如果只一味好强，恐怕他不会放过你，请你仔细思量思量吧！”
王允手下的从事也对王允的再次入狱深感忧虑，他们想方设法营救王允。有一名好斗气的下属去狱中探望王允时，痛哭流涕，劝王允向张让认错赔罪。求他网开一面，被王允怒斥拒绝。下属找来一杯酒，气愤地对王允说：“你既然如此保全自己，不如喝下这杯毒酒算了。又何必还在狱中受别人的折磨呢？”
可是，出乎下属的意料，王允一把夺过酒杯，厉声说道：“我是堂堂天子的臣民，君王赐罪于我。我应当接受惩罚，按照王法在街头斩首示众，而且天下人都应以我为戒，不再违反法律，维护社会的安定，哪有私自吞喝毒药，以死逃避法律制裁的道理？你们不用再劝我了，我意已决!”说完，便把酒泼倒在地上，自己走近囚车。又重新被关进监狱。
由于王允一直又没有向张让赔罪认错，张让又进一步渲染他的所谓的罪行情节。不久，王允的案件被提审，王允的手下官员和朋友以及朝中许多官员都十分着急，想制止张让对王允的陷害。大将军何进、太尉袁隗，司徒杨赐联名向皇帝上书，替王允求情，希望皇上能够赦免王允。他们在奏章中写道：王允严于律己，宽以待人，为官尽忠尽诚。宽宏贤能，具有君子的风范和气节。过去晋悼公和先朝孝文皇帝能明辨是非，赦免大臣的罪行，陛下就不能仿效吗？如此王允受命于朝廷。诛讨逆贼，安抚良民，本应lùn_gōng行赏，加官进爵；难道就因如此微不足道的小事情，就定他死罪吗？陛下如此不公平地给予他处罚，恐怕有负众望。百官有所不服吧。”
灵帝刘宏看完奏章后，便赦免了王允的死罪，但仍下狱重新定罪。这年冬天，又逢朝廷大赦。由于张让始终从中作梗，王允仍不在赦免之列。何进、袁隗、杨赐等三公要员继续上书皇上，要求赦免王允。等到第二年，王允才被免罪释放。当时，朝中宦官当权，张让阉党凭借权势横行霸道，为所欲为。刚刚出狱的王允虽对张让等人的行径深恶痛绝，但因力量有限，只得改名换姓，离开都城洛阳，辗转于河内、陈留之间。
不久灵帝驾崩，王允急忙赶赴洛阳吊丧。此时，朝廷局势极度混乱，以何进为首的外戚势力大增，阉党张让失去了对中央政权的控制权，面临覆灭的危险。大将军何进利用各地方官吏奔丧的机会，大肆结交和拉拢亲己势力，以谋张让。王允一到洛阳，就被何进紧急召见，并说明意图。
王允很 感激何进对他的救命之恩，便满口答应，并担任从事从郎一职。后来情况发生急变，张让集结党羽，用何太后召见何进的名义把何进骗入宫中，趁机伏杀。王允不得不迁任河南尹，暂时逃避张让的嚣张气焰。张让伏杀何进后，曾奉密召的董卓、袁术等人立即领兵进京，讨杀张让。张让、段挂等人挟持少帝刘辩和陈留王刘协半夜出逃。当时，朝中公卿大夫被急变的局势吓得不知所措，他们都不敢护卫少帝。王允立即派遣一部分士兵跟随尚书卢植一起保护少帝，事后，又奉迎少帝回宫。
公元189年（永汉元年），董卓废掉少帝，献帝刘协继位，王允被拜为太仆，不久迁任尚书令。公元190年（初平元年），王允替代杨彪担任司徒职务，同时兼任尚书令。而杨彪则转任太尉一职。作为位列三公的司徒，王允的权力应该是很大的，但自从董卓入主以来他这司徒之职实际上是被架空了，丞相之职完全归于董卓，虽然如此王允的在朝中的影响力仍然很大，当即他出面既得到了一大批朝中大臣的拥护。
董卓这次加冕受到了朝中很多大臣的反对，而且这些大臣皆是位高权重的重量级人物，董卓虽然把控军政大权，擅行杀伐大权，不过这么多大臣一致出来反对，董卓就不能妄动了，毕竟人太多了，总不能把满朝的大臣全都杀光吧？何况这些大臣在朝中还是有些相当的