1.不同类型的非法证据应区别对待。
我国的非法证据的含义与国际上通行的概念有很多不同，要确立真正的非法证据排除规则就应该首先明确非法证据的含义。笔者认为，可将非法证据大致分为两类：一类是严重侵犯宪法规定的公民的基本权利的非法取证行为。对于这种证据应该坚决排除，无论证据真实与否，都应本着保障人权的负责态度坚决排除。另一类是一般侵犯公民权利的非法取证行为。可以参照英国自由裁量的做法，给法官一定的权限判断是否排除此类证据，既保护犯罪嫌疑人、被告人的合法权益，又打击犯罪，保障社会公共安全。
2.建立庭前证据展示程序。
司法实践活动之所以无法贯彻非法证据排除规则，一个很重要的原因就在于犯罪嫌疑人、辩护人、被告人不知道检方手中掌握着哪些证据。既然连对方手中的证据都不知道，那何来发现非法证据？甚至谈何排除之呢？笔者认为应该在庭前由法官组织举行证据展示程序，让控辩双方明确对方的现有证据，以采取相应的措施，这样不仅有利于日后法官控制庭审过程，不至于让庭审变的毫无秩序，更重要的意义在于为非法证据排除规则的实行创造了有利的前提条件，提供了具体可操作的解决方法。
3.建立相应的司法救济机制。
当被告人或辩护人在庭审过程中提出了控方出示的证据中有非法证据时，法官该如何处理？实践中，大多法官是置之不理的，例如在杜培武一案中，他曾多次当庭指出自己是被刑讯逼供的才做了有罪陈述，向法官展示身上每一处伤痕，甚至还带自己被刑讯逼供时的身穿的血衣给法官证明自己确实是屈打成招的，然而，法官却始终对此问题避而不谈。笔者认为，要确保犯罪嫌疑人、被告人当庭指出的非法证据能够进入司法裁判程序，法官当遇到犯罪嫌疑人或被告人指出控方出示的证据中有非法证据时，应该让控方对此作出说明，若此时问题还不能得到解决，就应该让被告人获得向上级法院上诉的机会，让上级法院对此问题进行复审，充分保证被告人的诉讼权利得到保护。
4.完善配套制度和措施
坚持无罪推定原则。在法院对犯罪嫌疑人作出宣判之前，他是无罪的。非法取证直接侵犯的是公民的权利，因此要建立非法证据排除规则，就必须完善司法人权保障原则，其实质就是通过司法部门的司法审查行为，抑制国家机关滥用权力，促使其公正、合理、合法的行使职权，从而保障公民人权免受国家权力的侵犯。
保障被告方的诉讼权利。刑事诉讼中，由于犯罪嫌疑人、被告人人身自由通常处于被限制、被剥夺的状态，他们很难为自己进行有效的、实质性的辩护。同时刑事诉讼拥有一套缜密的程序，其技术性因素越来越明显，犯罪嫌疑人、被告人往往不具备有关法律知识，难以实现有效辩护，聘请的辩护人在会见权、在场权、知情权、调查取证权等方面还存在不少障碍。犯罪嫌疑人、被告人权利的落实和完善，有助于非法证据排除规则的建立与完善。
5.加强法治教育宣传，更新执法观念
克服片面强调追诉犯罪的思想，树立保障人权和惩罚犯罪并重的诉讼目的观；克服片面强调实体真实的证明观，追求实体真实与程序正当的动态平衡观；克服重实体轻程序的思想，树立实体法和程序法并重的正义观；克服单纯破案的执法思想，树立依法取证的法治观；克服片面强调证明力的观念，树立证据能力与证明力并重观；克服侦查本位主义思想，增强诉讼意识和证明责任观；破除对口供的迷信思想，树立综合证据的证明观。
