新制度经济学企业理论通过使用制度分析方法，以博弈论为基础，抛弃了企业是物质财富的简单聚集和生产函数的观点，指出企业是一组合约的联结，从人与人之间的交易关系来解释企业的问题，相对新古典经济学企业理论而言，它对企业为什么存在、企业规模的决定因素、企业内部不同利益主体的冲突与合作关系等问题的回答，无疑是大大前进了。该理论赖以出发的基础是企业所有成员都是同质的，企业内部权力的分配不是内生的，因此契约理论无法解释企业权力分配
一般认为，新制度经济学的企业理论开创于科斯的“企业的性质”一文，但是更早的学术研究已经开始进行了，专门以企业组织和企业制度为研究对象的论述应该从贝利和米恩斯算起，他们在1932年出版了《现代公司与私有财产》一书。钱颖一曾经指出：对于现代企业理论来说，科斯、贝利和米思斯的上述著作“当称开创性的工作”。因此，我们把上述两本著作共同作为现代企业理论的开端。
科斯的企业理论，首次提出了交易费用的概念，并且认为这是唯一重要的因素，从而系统的回答了企业的本质，即企业是市场和价格机制的替代物，企业的规模和边界，即“即一个企业扩大的一笔额外的内部交易成本，等于在市场上进行这笔交易的成本”时，企业的边界确定。并且提出了科斯定理，分别论证了是否存在交易费用的前提下，产权配置清晰对社会福利的作用。
此后，沿着科斯开创的企业是以一种契约替代了另一种契约的思路，契约理论成为企业理论的主要框架，但是，契约被划分成为完全契约和不完全契约两个阶段。以德姆塞茨、阿尔钦、张五常等为代表的一批新制度经济学家极大的发展了契约理论，他们创立并发展了委托-代理理论，基于契约理论的委托代理关系对企业内部组织进行分析，并且建立了道德风险模型和逆向选择模型，至此企业内部行为的模型首次建立起来，比较新古典起了理论有了较大的进步。同时，基于契约理论，阿尔钦和德姆塞茨（1972），对企业的本质又有了全新的认识，提出了“队生产理论”。他们认为企业的本质特征并不是控制和雇佣关系，而是以独立个体签约组成的生产团队而存在的。这也丰富了对企业本质的再认识。
由于以上研究本质上仍然坚持新古典的完全理性假设，和契约完整的理论，因此与现实差距较大，一些经济学家仍然坚持科斯原始的思路，基于信息不对称和契约不完整的前提，由威廉姆森等人开创了交易费用经济学，他们基于有限理性、机会主义、资产专用性的假设，运用资产专用性、交易频率和不确定性三个维度指标，深刻地刻画了企业交易费用的内涵和原理，得到了广泛的认同。被称为“交易费用学派”。同时，以哈特为代表的经济学家则发展了科斯的产权理论。主要探讨了特定交易费用导致契约不完整的条件下，如何确保当事人的“激励”问题。与科斯、阿尔钦等人创立的产权理论不同，他们提出了用剩余控制权来定义所有权的理论，因此被称为“新产权学派”。被广泛的应用企业理论分析之中。另外1984年克拉普斯在《公司文化与经济理论》提出了“声誉”的观点，他认为，由于市场契约的不完全性，常常使交易双方失去信誉。造成摩擦、争执和欺诈。从而使顺便交易信用过大。但是，如果有一方是“长寿”的，这时，任何人都愿意同“长寿”的一方签订契约。此外，杨小凯和黄有光还在1994年提出了间接定价理论等等。
这里仅仅列举了一些主要的有代表性的理论。由于经济学家对“企业”概念的认识不同。划分的方法也不尽相同，张仁德教授（2003）将各个学派划分为两大类，即交易费用学派（科斯、威廉姆森、克莱苗、克雷普斯等）和契约学派（张五常、阿尔饮和德姆塞茨，黄有光和杨小凯，亲持、哈特和格罗斯昼等）。他认为前者把企业看作是以科层组织替代市场.它之所以可以产生是因为它能节省市场交易费用。至于为何可以节省交易费用，则各有各的解释。后者把企业视为一种契约组织。它在本质上同市场没有什么差别。企业之所以能够出现是由于团队的生产效率高于单个生产，或者由于风险的重新分配，或者由于管理劳动交易的特殊性等。
