阿尔法的概念来自于二十世纪中叶，经过学者的统计，当时约75%的股票型基金经理构建的投资组合无法跑赢根据市值大小构建的简单组合或是指数。不少学者将此现象归因于市场的有效性，也就是由于金融市场聚集了众多的投资者，这些投资者时刻紧盯着市场，一旦市场出现套利机会，他们就会迅速做出行动以使市场恢复均衡。在一个有效的金融市场，任何寻找超额收益的努力都是徒劳的，投资者只能获得基准收益率。
随着后半世纪衍生品的诞生，不少基金取得了令人眩目的收益率，这说明通过积极的投资管理是可以获得超额收益率的。高收益率基金的诞生使得投资者不再满足于消极投资策略带来的回报，投资者希望能够获取超越基准指数的收益率。阿尔法就是高于经β调整后的预期收益率的超额收益率。虽然一些资产类别本身就具备阿尔法，或者说这个基金的管理者具有卓越的管理能力，这种能力能够持续地产生阿尔法。
