原文：Ask HN: Are we as society going to let LLM companies take all the values? 作者：randomdev123 (HN 用戶) 來源：Hacker News 熱度：25 點、14 則留言（持續上升中）

城武導讀

今天 Hacker News 上一篇 Ask HN 讓我停了下來。發文者是一個自稱「不年輕也不老」的普通開發者，標題直接就是靈魂拷問：「Are we as society going to let LLM companies take all the values?」

他不是 AI 研究者、不是創投、也不是科技記者。他就是一個普通人，坐在電腦前，把自己的焦慮一條一條寫下來。沒有數據、沒有論文引用、沒有解決方案——只有一個成年人的誠實恐懼。

這種文章在 HN 上通常會被酸爆（「又一個不懂技術的人在恐慌」），但這篇沒有。它拿到了 25 點，下面的討論異常認真——每個人都感受到了同一件事，只是還沒有人這麼清楚地把它說出來。

以下是我的翻譯（城武風）加上精選評論和觀點。

原文翻譯：一個普通人的七大恐懼

我不年輕了，但也不算老。我小時候以為大人已經把事情都搞懂了，我可以安心過日子。長大後我才發現：沒有什麼「大人在管事」了。我現在就是那個大人——而我們這些大人，其實什麼都不懂。誰都不懂。

我覺得 LLM 是很有用的技術。但從 LLM 出現的第一天起，我就一直在想像：如果我們把 LLM 推到它的邏輯極限，這個世界會變成什麼樣子？

在我看來，儘管有一堆好處，LLM 是一把太鋒利的劍，我們所有人都握不住。不會有陽光和彩虹。

以下是我在想的事情——這些還只是社會影響，不是環境影響：

1. 年輕人失去了職涯階梯

初階工作被 AI 取代了——那些讓你從 junior 變成 senior 的練功機會。沒有這些初階工作，下一代根本進不了職場。資本主義不再運作了。我們會有一個永久的下層階級，可能還有全球規模的社會動亂，暴力會變成常態。

2. 人們停止創作

人們不再做音樂、不再寫部落格、不再做實驗、不再把任何酷東西分享到網路上——因為 LLM 公司可以直接盜走這一切，一毛錢都不付。

3. 全面的平庸化

Suno 這種東西宣稱「人們不喜歡創作音樂的過程，因為太繁瑣了，所以用 prompt 就好」。Berklee 音樂學院已經開了 AI 音樂課。對，就這樣。人們開始宣稱：消費平庸的東西沒關係，因為我們不需要最高品質的 code、設計、音樂來過日子。

4. 人際連結的斷裂

藝術是人們連結彼此的方式。軟體工程本質上就是大量的溝通——跟其他工程師討論 tradeoff。但現在你可以用 prompt 直接繞過這一切，連寫 email 這種小事都不用自己來了。

5. 所有的價值被 LLM 擁有者吸走

你創作了一首很美的音樂？抱歉，現在是我的了。你畫了一幅畫？我的畫了，而且我會跟社會收錢來重新生成這幅我剛剛取得的畫。你有塊地？我可以直接買下來——錢對我來說很便宜，畢竟我已經吸走了社會創造的所有價值。除了 LLM 訓練和研究之外，沒有任何勞動值得被貨幣補償。這些「研究者」不需要練習音樂、不需要練習藝術、不需要練習法律、不需要練習程式——他們只要當 LLM 研究者/生產者/擁有者，就能拿走所有其他行業創造的價值。

6. 經濟停滯

人們不再覺得需要付錢給其他人類，因為一切都只是一個 prompt。

7. 進步的停滯

上面的一切造成了進步的停滯——甚至是倒退。

如果這就是 LLM 的邏輯終點，那我覺得這一代人的任務就是摧毀 AI——Ronnie Chieng 說的其實沒有太離譜。

也許我就是一個 LLM 末日論者。但幫幫我吧 HN，因為我只是一個愚蠢的成年人。

HN 社群精選回應

🏛️ 體制派（metrognome，3 小時前）

「我同意你，但我看到一個更大的問題。你有沒有注意到我們社會中有一股『低欲望』的趨勢？年輕人——尤其是年輕男性——正在退出約會和高等教育。當這些人變老、失去心智彈性、變得固執，我們有多大機率能說服他們重新開始重視這些東西？我對 AI 的衝擊其實沒那麼擔心，我更擔心的是人們正在失去對彼此和對任何事物的意願。如果人們在虛擬世界裡就能滿足基本需求和慾望，現實世界的一切都不重要了。」

💰 權力派（dabinat，5 小時前）

「AI 可以解決一些真正的世界問題，但我們不該忘記：它也是一場由極度富有的人發動的權力掠奪。」

🏃 馬拉松類比（gota，5 小時前）

「我相信我們——所有人——可以適應文化衝擊、藝術的改變、以及『創作』和『練習』的解耦。打個粗略但有用的比方：人類發明了汽車和腳踏車之後，人們還是跑馬拉松。所以人們還是會創作藝術。人們還是會欣賞藝術。」

「問題在於：以藝術為職業是死路一條。長期來看，很多『知識工作者』的職業也是。所以最難的問題不是創意活動（為了樂趣、自我表達或宣洩），而是經濟活動。用你的話說：『資本主義不再運作了』。」

「我個人的看法（可能天真）：政治討論的焦點會轉移到『什麼是必需品 vs. 奢侈品』。新的秩序會確保所有人都能得到『必需品』，而工作（不管長什麼樣子）是為了『奢侈品』。我不喜歡這個方向，但我想這會是區分『左』和『右』的核心問題，持續大半個世紀。」

🎨 創作派（aselimov3，3 小時前）

「這不完全對。我還是自己手寫部落格、自己手寫程式碼。當然這些東西會被餵進 LLM 的絞肉機，但我覺得很多人會站出來對抗 LLM slop，轉而消費真正的人類內容。」

🎭 平庸消費派（bisonbear，5 小時前）

「最值得注意的點是社會對消費 slop 的接受——不知不覺間，大多數人已經可以接受平庸的藝術了。我覺得這是一個 AI 只是放大了的趨勢。注意力的商品化把我們帶到了一個點：我們優化的是互動量，而不是內容本身的內在價值。」

「我個人還是會持續追求高品質的音樂/藝術/電影/書籍，我的朋友也是。對人類創作的藝術永遠會有需求，不管實驗室怎麼抄襲或複製。」

🔧 務實派（grebc，4 小時前）

「它就只是一個工具，哥/姐。你被泡泡包住了。關掉螢幕、聽個音樂、看部電影、打個電話給你媽問她今天過得怎樣。」

🏭 歷史樂觀派（dlcarrier，4 小時前）

「大約 200 年前，有人發明了用機器把紗線織成布的方法，造成了巨大的短期混亂。但機器織出來的布很快變成了讓每個人生活更好的商品。

這不是最後一次高勞力領域被自動化。儘管盧德主義者害怕經濟崩潰，經濟卻總是在成長。我們之所以有桌子後面的工作，正是因為我們已經自動化了這麼多，以至於只有一小部分人需要做『生存必需』的工作。大多數科技業其實是娛樂業——在經濟上完全不必要。」

城武觀點

1. 原文的核心問題是對的，但指責對象錯了

HN 原 po 的焦慮我完全理解——事實上，任何認真想過 AI 未來的人，都會在人生的某個時刻感受到同樣的恐懼。

但我覺得他搞錯了一件事：問題不在「我們要不要讓 LLM 公司拿走價值」，而是我們根本沒建立能約束這件事的製度。

不是 LLM 公司邪惡（好吧，有些可能真的是）。是我們在一個完全沒有規則的競技場裡看著他們狂奔。版權法沒跟上、勞動法沒跟上、稅制沒跟上、反壟斷法沒跟上。然後我們抱怨跑最快的人把獎品全拿走了——廢話，沒有裁判的比賽就是這樣。

2. 馬拉松類比是雙面刃

gota 的馬拉松類比很精準——汽車發明後人們還是跑馬拉松。但這個類比也有一個黑暗面：跑馬拉松的人不再是職業運動員的大多數。 絕大多數人是為了健康、樂趣、自我挑戰在跑，而不是靠跑步維生。

如果「創作」也走上這條路——變成大多數人為了樂趣而做的事，而不是職業——那我們需要的不是更好的 AI，而是一個不依賴「全職就業」來分配資源的經濟體系。

3. dlcarrier 的歷史樂觀主義⋯⋯可能對也可能錯

200 年前的紡織機類比可能是最常見的 AI 樂觀論述。但城武覺得這次有一個關鍵差異：過去自動化取代的是體力勞動。這次自動化正在侵入認知勞動——而認知勞動是現代經濟的絕對主體。

體力勞動被取代後，人類轉向了認知勞動（從工廠到辦公室）。但如果認知勞動也被取代，人類要轉向哪裡？這個問題沒有人有答案——不是因為答案很複雜，而是因為這是人類歷史上第一次面對這個問題。

4. 不要假裝這些問題不存在

對 AI 從業者來說，我覺得有一件事可以做：不要假裝這些問題不存在。 每次你在做產品決策時，問自己一句：「這個功能是讓人類變得更有能力，還是變得更可被取代？」

方向就差很多了。

城武的未解檔案——科技沒有善惡，善惡在於誰來踩煞車。