【译文】谷歌的拇指法则(Rules of Thumb)

谷歌| 2024-03-11

谷歌有一个名为 “Rules of Thumb “的内部网站，将计算资源的边际成本与 “SWE “单位进行比较。”SWE “指的是 “软件工程师（Software Engineer）”，它本身就是支付公司普通工程师工资和福利的边际成本。在公司的所有设计文档中，你都会看到以 SWE 为单位的成本。例如，”以 1000QPS 的速度部署服务 <X> 将花费 ~100 SWE 的资源”。

我一直认为，将算力、内存或数据库访问量等固定资产的成本与招聘一名新员工的成本进行比较，既是一种智慧，也是一种乌托邦式的想法。高明之处在于，在考虑需要投入多少精力来优化堆栈的某些方面时，可以进行一些非常有趣的比较–如果你花了半年的时间来优化某个方面，而该产品每年节省 1 SWE 的资源，并且还在不断增长，那么你就很好地利用了自己的时间！每名员工的成本有多高，也让人深感惭愧–SWE 单位的 CPU、内存和/或硬盘空间的数量相当惊人。

乌托邦式的视角显而易见：其中隐含的意思是，人类的劳动值得一定数量的计算资源。这在谷歌不过是个笑话，因为谷歌的普通员工永远不可能被电脑取代。你只能真正比较成本。

2023 年之后，这个笑话就有点不好笑了。算力很值钱，而且越来越值钱。如果要在我手下的 3 人团队和 1000 台专用 H100 之间做出选择，我不得不考虑一下。人类当然比 ChatGPT 更聪明，但他们也需要时间来训练，而且周六凌晨 3 点也没空（我也不指望他们有空！），而且很难正确挑选。有了更多的 GPU，我很清楚我将得到什么：更多的合成数据、更快的问题迭代，以及最终由于扩展规律而可靠的更好的产品。

这种 “更多算力还是更多人？”的直接考量当然不会在像我这样的极小范围内存在，但我对它的存在感到非常有趣。我认为，这几乎是我们所有人未来的必然选择：在所有独立工作中，人类将需要越来越多地与原始计算的应用竞争。社会工作仍将存在并受到重视，但从问题到解决方案的行为将越来越多地采用与算力相关的解决方案。如果这种情况与摩尔斯定律同时发生，那么结果将会非常有趣。

即使我们无法实现自主的 “AGI”，这种 “通过人工智能技术和大量算力增强的聪明人 “与专家团队竞争的概念也意味着 “go”/”rulesofthumb “可能会变得比我们大多数人想象的更加真实！

本文文字及图片出自 go/rulesofthumb