PHP 大数据处理思路

问题（来自lunacyfoundme）

我正在重建我们公司内部网，期间遇到一个与大量数据处理报告有关的前一个版本的问题。此前我曾用同步处理程序代码解决过这个问题，只是运行的很慢很慢，这导致我不得不延长最大脚本运行时间10到15分钟。有没有更好的方式来处理PHP站点里的大量数据呢？理想情况下我想在后台运行它，并且跑的越快越好。这个过程包括处理成千上万条的财务数据，我是使用Laravel来重建这个站点的。

最好受欢迎的回答（来自spin81）：

人们都告诉你要使用队列和诸如此类的东西，这是一个好主意，但问题好像并没有出在PHP上面。Laravel/OOP是很厉害的，但生成你所说的报告的程序似乎不应你该有问题。对于不同的看法，我想看看你得到这些数据时使用的SQL查询。正如其他人所说，如果你的表单有成千上万行那你的报告应该不会耗费10到15分钟才完成。实际上，如果你没做错事的话可能会在一分钟内就能处理成千上万条记录，完成同样的一篇报告。

1.如果你正在做成千上万条查询，看看你能不能先只做几条查询。我之前曾使用一个PHP函数把70000条查询降为十几条查询，这样它的运行时间就从几分钟降到了几分之一秒。

2.在你的查询上运行EXPLAIN，看看你是不是缺少什么索引。我曾经做过一个查询，通过增加了一个索引后效率提高了4个数量级，这没有任何夸张的成分。如果你正在使用MySQL，你可以学学这个，这种“黑魔法”技能会让你和你的小伙伴惊呆的。

3.如果你正在做SQL查询，然后获得结果，并把很多数字弄到一起，看看你能不能使用像SUM（）和AVG（）之类的函数调用GROUP BY语句。跟普遍的情况下，让数据库处理尽量多的计算。我能给你的一点很重要的提示是：（至少在MySQL里是这样）布尔表达式的值为0或1，如果你很有创意的话，你可以使用SUM（）和它的小伙伴们做些很让人惊讶的事情。

4.好了，最后来一个PHP端的提示：看看你是不是把这些同样很耗费时间的数字计算了很多遍。例如，假设1000袋土豆的成本是昂贵的计算，但你并不需要把这个成本计算500次，然后才把1000袋土豆的成本存储在一个数组或其他类似的地方，所以你不必把同样的东西翻来覆去的计算。这个技术叫做记忆术，在像你这样的报告中使用往往会带来奇迹般的效果。

原文： http://www.reddit.com/r/PHP/comments/2pyuy0/heavy_data_processing_in_php/

译文：http://www.php100.com/html/dujia/2014/1226/8195.html