大約在公元前1200年，中國商朝就已經有工廠系統制造成千上萬件青銅器用于日常和祭祀用途。在這個早期大生產的例子中，青銅鑄造工藝需要錯綜復雜的規(guī)劃和大批工人間的協調，這些工人以精準的順序，各自完成單獨的任務。

一千年后，類似的復雜工藝也被用于制造著名的秦始皇兵馬俑，這些雕像“用奠定大生產和商業(yè)基礎的流水線生產系統制造”。

一些學者猜測，這些早期規(guī)范工作（prescripTIve-work）技術的形式對中國社會的形成起到了非常重要的作用。它們與其他因素一起，讓人們接受了強調層級的官僚制度社會哲學，也讓人們相信凡事都有簡單的正確方法。

當工業(yè)化工廠在十九世紀的歐洲誕生時，就連恩格爾這樣的資本主義的堅定批評者也承認，不管經濟制度是資本主義還是社會主義，大生產是中央集權的必要條件。在二十世紀，蘭登·維納（Langdon Winner）等理論家將這一思路延伸到技術中。他認為，（比如）原子彈應該被視為“固有政治產物”，因為它的“致命屬性要求它應由集中化的剛性命令層級鏈來控制。”

如今，我們可以將這一思路延伸到更遠?？紤]一下機器學習算法—這是當今所運用的最重要的通用技術。

機器學習算法的一個關鍵特征是它們的表現會隨著數據的增加而改進。因此，使用這些算法就形成了一種技術動力，將關于人的信息處理為可記錄、可調用的數據。就像大生產系統一樣，它們具有“固有政治性”（inherently poliTIcal），因為它們的核心功能要求某些社會行為、阻礙其他社會行為。特別是，機器學習散發(fā)與個體的隱私渴望直接對立。

一個基于關于個別社會成員信息的公開易得性的系統似乎契合社會學家阿米泰·艾奇奧尼（Amitai Etzioni）等社會主義者（communitarians），他們認為對隱私的限制是執(zhí)行社會規(guī)范的手段。但和社會主義者不同，算法不關心社會規(guī)范。它們只關注更好地做出預測，而這可以通過將越來越多的人類生活領域轉化為可挖掘的數據集來實現。

算法評估并非新鮮事。奧斯卡·甘迪（Oscar H. Gandy）等學者就警告說，我們正在轉變?yōu)橐粋€記錄和排名的社會，并要求更多問責以矯正技術導致的錯誤。但和現代機器學習算法不同，舊的評估工具可以理解得相當透徹。它們基于相關的規(guī)范性和實證性因子做出決定。比如，背負許多信用卡債務有損一個人的信譽，這早已不是什么秘密。

相反，新機器學習技術深挖大型數據集，能尋找到那些可預測的但沒有被充分理解的事物之間的關聯性。在職場中，算法能夠跟蹤員工的對話、他們在哪里吃午飯、在電腦、電話或會議上上花了多少時間等。有了這些數據，算法就能開發(fā)遠遠超過我們常識直覺的復雜的生產率模型。在一個算法精英體系中，模型要求什么，什么就成為出色的標準。

盡管如此，技術并非宿命。我們在技術決定我們之前決定技術。商業(yè)領袖和決策者可以根據他們的機構需要開發(fā)和部署技術。我們有能力在人類生活的敏感區(qū)域周圍布置一張隱私網，保護人們免受傷害性數據用途的影響，并要求算法在預測的準確性和公平、問責和透明度等價值觀之間進行平衡。

但在我們遵循自然算法邏輯流之前，更精英化是不可避免的。這一變化將深遠影響到我們的民主制度和政治結構。如果當前的商業(yè)和消費者文化持續(xù)下去，我們很快就會有更多與賢能政治和社會主義傳統相似之處，而不是我們自身的個人主義和自由民主傳統相近的東西。如果我們想要改變趨勢，就必須將我們自身的政治責任置于技術之前。