今天，AI 已經(jīng)不再是一項(xiàng)“隱藏在幕后”的技術(shù)，特別是生成式 AI，它們以普通人工更容易感知到的方式參與到了很多工作當(dāng)中去。

　　從寫代碼到擬合同，從生成圖片到寫小說，AI 們都能勝任，而且在一些領(lǐng)域的表現(xiàn)甚至比人類“新手”還要好。看起來，人類再也不用做那些“基礎(chǔ)又枯燥”的事情了。而且有了 AI 之后，我們似乎也可以把所有的精力都集中到更具創(chuàng)造力的事情上去了。

　　也有人對此表現(xiàn)出了擔(dān)憂，既然 AI 能完成的事情越來越多，人類是不是就越來越不重要了？其實(shí)，用機(jī)械設(shè)備以及計算機(jī)幫助人類操作和思考不是今天才有的想法。比如自動化設(shè)備早已進(jìn)入了工廠，很多復(fù)雜系統(tǒng)的調(diào)度規(guī)劃和操作也都是計算機(jī)完成的。

　　而在這些領(lǐng)域已經(jīng)發(fā)生的事情，或許能為今天的我們提供一些參考借鑒。

　　自動化的反諷

　　早在 1983 年，英國認(rèn)知心理學(xué)家莉?！へ惗鞑祭锲?Lisanne Bainbridge)就在自動化控制領(lǐng)域的頂級期刊《自動化學(xué)》(Automatica)上發(fā)表了一篇文章，名為《自動化的反諷》(Ironies of Automation)。

　　貝恩布里奇寫這篇文章的時候，并沒有像今天這樣功能強(qiáng)大的生成式 AI，但在當(dāng)時自動化系統(tǒng)已經(jīng)開始出現(xiàn)了，這與今天的 AI 化有著一定程度的相似之處。

　　貝恩布里奇在當(dāng)時的文章里，就提到了自動化可能會帶來的問題，我們也順著貝恩布里奇的觀點(diǎn)來看一看。

　　首先，貝恩布里奇認(rèn)為，自動化這件事本身就很有諷刺意味。

　　“自動化”要做的事情，就是用機(jī)械、計算機(jī)等不需要人類參與的裝置系統(tǒng)替代人類，去執(zhí)行某些操作或者進(jìn)行規(guī)劃決策。但是，即便是高度自動化的系統(tǒng)，比如電力網(wǎng)絡(luò)、復(fù)雜的生產(chǎn)線，仍然需要人類投入大量的時間去監(jiān)督、調(diào)整、維護(hù)、改進(jìn)等。

　　自動化的經(jīng)典目標(biāo)是用自動設(shè)備和計算機(jī)替代人工控制、規(guī)劃和問題解決......本文指出，工程師對人因工程日益增長的關(guān)注反映了一種諷刺現(xiàn)象：控制系統(tǒng)越先進(jìn)，操作人員的貢獻(xiàn)可能就越關(guān)鍵。

　　而且，自動化的控制系統(tǒng)越先進(jìn)，人類在系統(tǒng)中發(fā)揮的作用可能更關(guān)鍵。

　　比如自動化系統(tǒng)的設(shè)計者在遇到無法自動化的任務(wù)時，會把這些任務(wù)留給人類來完成。而這些任務(wù)往往是復(fù)雜度高、難以形式化和規(guī)范化的。系統(tǒng)越先進(jìn)，留給人類處理的任務(wù)復(fù)雜度往往也越高，也就更依賴人類的能力。

　　試圖減少人類操作員的設(shè)計師，仍然會把不知道如何實(shí)現(xiàn)自動化的任務(wù)交給人類操作員去完成。

　　另外，為了確保復(fù)雜的系統(tǒng)能夠順利運(yùn)行，在它們出現(xiàn)異常狀況時能夠及時被發(fā)現(xiàn)、及時作出正確的干預(yù)，同樣也需要有專業(yè)技能過硬、經(jīng)驗(yàn)豐富的人類提供保障。

　　所以，自動化本身是要讓機(jī)器來替代人類，但實(shí)際上，為了設(shè)計以及確保自動化系統(tǒng)的順利運(yùn)行，又極度依賴人類的能力。

　　這是貝恩布里奇認(rèn)為，自動化“反諷”的原因之一。

　　AI 時代，人類的能力同樣關(guān)鍵

　　而在 AI 工具蓬勃發(fā)展的今天，情況也是類似。

　　當(dāng)我們使用 AI 去完成任務(wù)的時候，能夠熟練運(yùn)用 AI 工具，并且確保它們生產(chǎn)出的內(nèi)容能夠穩(wěn)定運(yùn)行，同樣對人類知識和經(jīng)驗(yàn)有更高的要求。

　　比如，F(xiàn)astly(一家美國先進(jìn)的云服務(wù)提供商)在 2025 年 7 月進(jìn)行了一項(xiàng)調(diào)查，對比了在 IT 領(lǐng)域，初級開發(fā)者(0~2 年工作經(jīng)驗(yàn))和資深開發(fā)者(10 年以上工作經(jīng)驗(yàn))使用 AI 寫代碼的情況。

　　結(jié)果發(fā)現(xiàn)，有 30% 的資深開發(fā)者使用 AI 編寫的代碼比例超過 50%，而在初級開發(fā)者中，只有 13% 的人會用 AI 完成這么高比例的代碼。

　　這并不是因?yàn)槌跫夐_發(fā)者不知道這些 AI 開發(fā)工具。

　　而是 AI 編寫的代碼如果存在問題或者不那么完美適配(這個情況很常見)，資深開發(fā)者有能力去進(jìn)行調(diào)整，而初級開發(fā)者可能無法快速識別出代碼中的問題、沒法高效率地進(jìn)行編輯調(diào)整，所以會適當(dāng)減少 AI 生成代碼的比例。

　　在筆者所在的寫作行業(yè)，同樣是生成式 AI“橫行”的領(lǐng)域。而且 AI 寫出的內(nèi)容確實(shí)會比很多新手作者寫得更好。

　　但是在特定的領(lǐng)域，比如科普類文章撰寫上，AI 生成的文章可能存在事實(shí)性錯誤，這樣的錯誤屬于硬傷，如果直接發(fā)布會對科普類內(nèi)容的公信力產(chǎn)生影響。

　　而對知識性內(nèi)容進(jìn)行核實(shí)和修改，還是依賴人類的知識和經(jīng)驗(yàn)積累。

　　至少目前，AI 還無法確保內(nèi)容的真實(shí)可靠，依然有可能出現(xiàn)“AI 幻覺”(比如生成不存在的文獻(xiàn)資料、編造一些事件。)只要 AI 編造內(nèi)容的概率不是 0，就意味著需要人工檢查每一條信源。

　　另外，AI 寫出的文章結(jié)構(gòu)不一定那么完善，所以在使用 AI 之前，需要作者構(gòu)思好文章的整體結(jié)構(gòu)，每一部分的核心講述內(nèi)容，以及想表達(dá)的思想，這樣生成的文章才不至于那樣有“AI 味”。而這些也都要在長期的寫作、修改過程中建立起來。

　　這些例子都印證了貝恩布里奇的觀點(diǎn)，即便是先進(jìn)的自動化系統(tǒng)，同樣依賴人類的能力。

　　人類能力“訓(xùn)練場”正在消失

　　可是，當(dāng)大量的自動化系統(tǒng)和計算機(jī)代替人類之后，人類實(shí)際動手操作的機(jī)會越來越少，這種實(shí)際操作機(jī)會的缺失，對知識和技能的積累來說是十分不利的。

　　貝恩布里奇的文章里就提到，當(dāng)時的人們已經(jīng)意識到了這一點(diǎn)，并且希望通過理論學(xué)習(xí)和培訓(xùn)的方式來解決這個問題，但她認(rèn)為理論學(xué)習(xí)和培訓(xùn)的作用有限，很多領(lǐng)域的知識需要在使用中才能真正被理解和掌握。

　　一方面，從長期記憶中高效提取知識取決于使用知識的頻率。另一方面，這類知識只能通過使用以及使用后的有效反饋，才能得到發(fā)展。如果人們僅僅在課堂上接受理論教學(xué)，而沒有適當(dāng)?shù)膶?shí)踐練習(xí)，他們可能很難理解這些知識......

　　這一點(diǎn)在 AI 時代也是相似的。

　　我們還是以前面提到的 AI 編程領(lǐng)域?yàn)槔?，對于剛剛?cè)胄械摹俺跫夐_發(fā)者”來說，他們似乎是趕上了“好時代”，相比于十年前，現(xiàn)在的 AI 編程工具功能強(qiáng)大，甚至可以直接通過自然語言對話生成還不錯的代碼。

　　看起來，現(xiàn)在的新人開發(fā)者們可以直接跳過“寫出爛代碼→出 BUG→調(diào)試→理解底層邏輯→修正→更好的代碼”這個痛苦的過程。

　　但這個過程，恰恰對開發(fā)者的技能以及理解力的提升很有幫助。正是這樣的成長過程，讓一字一句敲代碼成長起來的資深開發(fā)者能更好地駕馭 AI 工具。

　　可是在當(dāng)下，留給初級開發(fā)者練習(xí)的機(jī)會正在減少。

　　正如我們前面提到的，老板們希望用少數(shù)經(jīng)驗(yàn)豐富的人類+AI 工具，替代原本的人類大團(tuán)隊(duì)，這樣的設(shè)想確實(shí)有可能實(shí)現(xiàn)，或者說，已經(jīng)在實(shí)現(xiàn)中了。

　　比如 2025 年 8 月，斯坦福大學(xué)研究者發(fā)表的一篇文章就提到，22 到 25 歲“入門級”職位受到 AI 的沖擊影響更大。而在軟件開發(fā)領(lǐng)域影響尤其明顯，22 到 25 歲的初級開發(fā)者工作機(jī)會比之前減少了約 20%。

　　于是，初級開發(fā)者面臨著需要實(shí)踐操作來成長，卻又沒有實(shí)踐機(jī)會的尷尬局面。

　　所以，假如某個行業(yè)過度依賴 AI，完全用它們來生產(chǎn)內(nèi)容，可能會對這個行業(yè)的初級從業(yè)者產(chǎn)生影響，讓越來越多的行業(yè)新人失去“訓(xùn)練場”，不利于這些從業(yè)者未來的能力、經(jīng)驗(yàn)積累，進(jìn)而影響到整個行業(yè)的未來人才儲備。

　　AI 真的能讓創(chuàng)造力更好地釋放？

　　當(dāng)然，我們并不是說自動化和 AI 化是不好的，自動化和 AI 化確實(shí)可以讓人們從機(jī)械重復(fù)的體力活動以及簡單瑣碎的智力活動上釋放出來。

　　比如，雖然 AI 編寫出來的程序需要人為調(diào)試，但 AI 確實(shí)能夠幫助資深程序員省去寫具體代碼以及在大量的代碼文庫中檢索特定片段的時間。

　　靠著自動化系統(tǒng)和 AI 工具，一些精英個體或者小團(tuán)體確實(shí)能把自己的能力發(fā)揮到極致，創(chuàng)造出更大的價值。

　　而且我們也不懷疑，自動化、AI 化的轉(zhuǎn)型將會為社會帶來新的崗位，在未來解放出來的生產(chǎn)力可以投入到新的更有創(chuàng)造性的事情中去。

　　但在轉(zhuǎn)型發(fā)生的當(dāng)下，并不一定會有真正的創(chuàng)造力釋放。

　　還是借鑒貝恩布里奇的觀點(diǎn)，她認(rèn)為在自動化的影響下，人的工作可能不再是一個完整的閉環(huán)，而是去彌補(bǔ)自動化系統(tǒng)無法完成的一小部分任務(wù)，這些任務(wù)非常復(fù)雜但又很碎片化，并不能真的讓一個人的能力提升。

　　這意味著留給操作員的任務(wù)可能是隨意拼湊的，并且很少考慮到為他們提供一些幫助。

　　而且貝恩布里奇還發(fā)現(xiàn)，在自動化過程中，很多人從具體的操作者變成了監(jiān)督者，而人類本身算不上是優(yōu)秀的監(jiān)督者。

　　對于一個相對穩(wěn)定、很少發(fā)生故障的系統(tǒng)，人類很難對這樣的系統(tǒng)保持 30 分鐘以上的高度專注狀態(tài)。

　　所以人類在長時間監(jiān)督之后，容易懈怠，在這樣的狀態(tài)下，如果真的出現(xiàn)了緊急狀況，人類很難及時做出反應(yīng)。

　　另外，處于監(jiān)督者狀態(tài)的人類操作員因?yàn)闆]有實(shí)際上手操作，會缺少對整個系統(tǒng)狀態(tài)的詳細(xì)認(rèn)知，不一定能在緊急情況下做出合理的決策。

　　這有點(diǎn)類似一輛 L3 級別的自動駕駛汽車。在大部分情況下，它能夠自主運(yùn)行，理論上駕駛員也要時刻保持警惕，但在長時間的平穩(wěn)駕駛情況下，人類的警惕性會不自覺地降低。這時候如果自動駕駛汽車遭遇了無法處理的場面，會讓人類緊急接管。這時候的人類駕駛員很可能“不在狀態(tài)”，這時候要在短時間里處理自動駕駛汽車都無法應(yīng)對的復(fù)雜局面，很可能會出錯。

　　所以，當(dāng)公司開始向 AI 化轉(zhuǎn)型的過程中，如果僅僅是讓人類成為 AI 的監(jiān)督者，人類也很難發(fā)揮出更好的創(chuàng)造力。

　　不反對技術(shù)，不漠視人類

　　最后，我們也要再次說明，技術(shù)本身并無善惡。自動化與 AI 化的浪潮也不可阻擋，它們確實(shí)為我們帶來了前所未有的效率提升。

　　我們應(yīng)該警惕的是，在“AI 化”轉(zhuǎn)型過程中對人本身的工具化和漠視。真正的“降本增效”，不應(yīng)該是簡單地用 AI 剔除初級員工，而是利用 AI 帶來的效率紅利，給人類留出更多的試錯和成長的空間。

　　一個健康社會在轉(zhuǎn)型的過程中，理應(yīng)承擔(dān)起對受影響者的職業(yè)過渡支持、對新人成長路徑的重新設(shè)計，以及對“人機(jī)協(xié)作”中人類角色的重新定義。

　　畢竟，無論是多么強(qiáng)大的智能系統(tǒng)，當(dāng)警報燈亮起的那一刻，我們能信任的只有經(jīng)驗(yàn)豐富且具有社會責(zé)任感的人類。

　　作者丨科學(xué)邊角料 科普創(chuàng)作者

　　審核丨于旸 騰訊玄武實(shí)驗(yàn)室負(fù)責(zé)人

　　策劃丨徐來

　　(科普中國微信公眾號)