* 本文譯自日文原稿,可能會有部分表達不甚自然之處。
1. LLM與波動
大規模語言模型(LLM)的急速進化,正在對社會中「知識」的生產結構帶來不可逆的改變。在掌握這種變化本質的過程中,一個重要的概念便是回答的「波動的收斂與發散」。
隨著LLM性能的提升,對於定型化的問題(例如「1+1=2」這類的事實確認或基礎邏輯推演),回答的波動會急速收斂,變得總是輸出同一個最佳解。另一方面,對於需要創造力或深刻理解複雜脈絡的問題,它則變得能產生出各式各樣、豐富多元的回答。
這個現象直觀地表現了當前LLM所具備的「透過機率計算進行最佳化」的過程,也是理解當今AI行為與提示工程(Prompt Engineering)的重要前提。本文將探討在一個因AI進化而使產生「結果(產出)」的成本趨近於零的社會中,過去一直被忽視的人類勞動價值的本質究竟何在,並考察其在實務上的未來走向。
2. 產出至上主義與斷糧戰術
許多商務人士認為,像是經營策略或程式設計這類高度專業的業務「沒有標準答案,且存在著多樣的意見(波動)」。然而,AI的進化正從根本上顛覆這個前提。許多過去人類覺得複雜且沒有標準答案的業務,其實只不過是因為人類認知能力與處理能力的極限(或者是難以用固定的步調產出),而導致「局部最佳解」充斥的結果罷了。
超高性能的AI能在瞬間計算無數的變數,並將這些視為「單純的計算題」來處理。其結果是,它能發現唯一一個「最佳解(完美的普遍論)」,而所有的回答都會向其收斂。這個法則不僅限於語言空間,也適用於物理空間。自動駕駛或機器人所執行的高度物理作業,也是透過計算使現實世界雜訊所產生的波動收斂,進而作為終極的最佳化任務來完成。
這裡重要的是,AI得出完美正解的過程,與人類所具備的「意義理解」或「邏輯推論」截然不同。它終究只不過是「基於過去數據的機率計算」。只要立足於這個前提,我們就能冷靜地將「AI將達到與人類同等甚至具備更高意識的超級智能」這類科幻且哲學式的跳躍思維切割開來。
然而,即使過程完全不同,在現實社會中我們仍得面對一個冷酷的事實:「只要產出(結果)是完美的,實務工作就會被取代」。過去的社會總是將產出的品質作為信任與評價他人的標準。但是,在AI讓生成「完美且漂亮的產出」成本歸零(商品化、大眾化)的現在,這個系統正逐漸陷入機能失靈。特殊詐欺的高級化、招募與教育中評價的空洞化、以及虛假專業性造成的市場混亂等,都是「產出至上主義」所衍生出的系統錯誤的典型例子。
世俗所謂「在AI時代能生存下來的工作」這種輕率的標籤是一個危險的陷阱。它令人無法消除一種疑慮,那就是並未充分將AI高性能化的潛力考量進去。這意味著,就連那些被點名的角色,也將變得不再需要,或者只剩下極少數。無論是哪種職位,只要是把產出「漂亮的圖片或文章」當作目的的勞動者,都將自動被捲入椅子越來越少的「搶椅子遊戲」中。若不對AI這個事物進行根本性的理解與深刻的考察,就真的會陷入被「圍困斷糧」的絕境。
3. 實用性與波及效應
當高度專業的職位因AI高性能化帶來的「波動收斂」而面臨被取代的危機時,工廠、物流配送、窗口業務等單純的現場勞動,卻被視為更容易被AI取代的代表性工作。在這裡,我們刻意將焦點放在後者。這些作業,真的只是毫無意義的單純作業嗎?
在這裡,「產出(結果)」的概念同樣變得重要。就如同AI的運算一樣,如果只把焦點放在「最終產出的效率」來評價勞動,那麼這些工作確實可以說是應該被機器取代的冗餘工作。然而,如果我們脫離「產出至上主義」的視角,試圖深刻理解這些業務流程在現實社會中扮演著什麼樣的角色時,就會發現其中存在著確實被發揮、並且不斷累積的「實用性」。
不過,這裡所說的「實用性」,就其性質而言,是很難作為客觀指標在即時呈現的。它在無意識的層面上融入了日常的業務流程或是當事人之中,而其真正的價值,總是只能在事後「穩定的產出確定之後」才能被客觀地捕捉到。雖然聽起來有些矛盾,但如果只依賴對「產出(結果)」的最佳化思維,可以說永遠無法獲得這種根本的實用性。
順著這個脈絡,或許很多人會將這裡所獲得的實用性,想像成人情、道德,或是「人類獨有的溫度」之類的東西。然而,事情未必總是如此。這裡我們意識到的是,為了讓組織或整體社會系統順暢運作的「實務價值」。而其中最為顯著的,便是會向周遭連鎖反應的「波及效應(經濟外部性)」。
舉例來說,假設有一家「氣氛很差的店鋪(A)」。來到這裡的顧客,會因為店員冷漠的態度或對錯誤的置之不理,而在心中埋下「不滿的火種(壓力)」。這位顧客離開後,可能會在家庭或職場將這個不滿的火種發洩在他人身上,導致被發洩的人又產生了新的不滿。這乍看之下只是單純的人際或情感循環,但從實務的宏觀角度來看,這無非是「在一個現場發生的錯誤(雜訊),連鎖反應到整個社會,進而破壞各處生產力與人際關係的過程」。
反之,假設社會中某個懷抱著「不滿火種」的人,造訪了一家不僅看重數字、且「氣氛很好的店鋪(B)」。這家店的員工,當場靈活地吸收了顧客那些無法被收編進手冊(1+1=2)的壞心情或是不合常規的要求等「雜訊」,並展現出圓滑的應對。結果,顧客所懷抱的不滿火種在當下就被撲滅,帶著平靜的心情前往下一個目的地(家庭或職場)。
看到這兩種模式,你也許會覺得這終究只是老生常談。但是,如果我們放大規模來思考,例如比較A的周邊區域與B的周邊區域,或是比較A類組織較多的區域與B類組織較多的區域,你的印象就會改變。往來人潮的數量與氛圍、隨之而來的治安好壞、將這些視為數據而進行進駐或撤退的商業決策、以及這些連鎖反應所引起的地價或房地產評價變動,這些正是波及效應的具體展現。
只能計算局部「產出(數字與處理速度)」最佳化的AI,是不可能計算出這種廣泛且抽象的波及效應的。一味推動只專注於產出的AI最佳化,並盲目地從現場排除這些作為「雜訊吸收與波及震央」的人類流程,可能會招致本末倒置的結果。
對於一開始的問題:「工廠、物流配送、窗口業務等單純的現場勞動,被視為更容易被AI取代的代表性工作。這些作業真的只是毫無意義的單純作業嗎?」,答案已經很明確了。從宏觀的角度來看,這是減少社會摩擦、產生無形波及效應所不可或缺的過程。此外,即使從微觀(勞動者個人)的角度來看,擔負起「AI無法理解的整體流程」的一環這件事本身,只要當事人有意識,也能成為培養自身基礎實力的寶貴啟發。反之,如果過度執著於產出,就意味著主動走向「AI能100%理解並取代的領域」。
4. 導入AI的悖論
在確認了現場人類「流程」的重要性之後,目前在那些已經導入AI的先進職場中,實際上正在發生什麼事呢? 我們或許會推測「因為導入了AI,職場中抽象的元素(氛圍與人際關係)提升了」。
然而,這並非因為AI自發性地創造了正向的氣氛。其真正的原因在於,AI作為一個毫無感情的過濾器,吸收並阻擋了「抽象的人為錯誤(情感摩擦與負面因素)」。
當AI承擔了「1+1=2」的定型化作業,以及伴隨情感摩擦的資訊傳遞樞紐時,人類的認知負荷就會大幅減少。結果,人類擁有了「餘裕(留白)」,能夠提升對問題的包容力、耐受力、認知力與判斷力。特別是在像日本這樣,對文化背景隱形負擔要求極高的社會中,AI作為大幅緩解由這些因素引起的問題的高級工具而發揮作用。我認為這對打造平等的環境做出了巨大的貢獻。
現在可以說正處於一個理想且最強的混合狀態(過渡期):AI負責完美的「產出」,而人類則利用隨之產生的餘裕專注於「異常檢測」。
然而,這個大成功的階段卻孕育著最大的陷阱。「數字(產出)與氛圍(流程)都獲得戲劇性提升」的鮮明成功體驗,最終會對經營層與整個社會引發一種致命的錯覺:「因為AI極度優秀,所以所有的問題都解決了。那些在充滿雜訊的現場工作的人類已經不再被需要」。
這種錯覺會放大對「產出至上主義的過度自信」,促使經營者做出捨棄支撐組織的無形基礎設施的決定。只評價AI的產出,卻輕視了在背後吸收雜訊的流程,其結果將成為引發組織整體陷入運作停擺的「斷糧戰術」的導火線。當產出越是完美,我們就越會面臨一個矛盾:我們必須正確評價那些將這些產出維繫在一起的「人類流程」的存立意義。
5. AI時代的控制能力
在「產出」完美收斂的AI社會中,人類應當扮演的真正角色是什麼? 一般社會大眾傾向於追捧「輸入巧妙的提示詞(指令),並從AI那裡引導出漂亮的產出」為精通AI的技能。然而,在一個產出本身變得商品化(無價值化)的未來,這類小聰明的技術將不再具備任何優勢。
真正意義上的「精通AI」,意味著從一個產出者轉變為「負責人/編輯者」。也就是將AI透過機率計算所彈出的無數局部最佳解,或是完美工整的普遍論,純粹視為「起跑線」,並最大限度地發揮人類的直覺判斷去進行試錯。這意味著產出的成果並非直接的終點。在創造性的任務中,面對AI所散佈的無數點子的汪洋,我們需要具備高度的控制力,透過人類的情感與脈絡去挑選(策展)出哪種組合能真正創造出新的價值。
假設眼前有100道計算題。如果目的是為了獲得「明天經營會議上報告用的正確結果(產出)」,那麼毫不猶豫地交給AI就是正解。然而,如果目的是為了「教育孩子」或是「自我訓練」,那麼即使無視效率,也應該親自拿起紙筆,在試錯中解題。因為,在這裡,「伴隨摩擦的過程」本身就具有價值。
只有具備能看透「我們需要的是產出,還是流程」的後設認知(Meta-cognition)能力,並且能夠斷絕效率化的誘惑,做出「刻意不使用AI,故意選擇不方便的流程」這種高度決策能力的人,才能避開產出至上主義帶來的斷糧危機。
持續放棄流程的人,在未來AI產出超高階的經營策略或企劃時,將無法憑藉直覺來異常檢測這些數字或邏輯是否妥當,或者是否包含了致命的幻覺(似是而非的謊言)或過度迎合(阿諛奉承)。重視流程,正是培養用以控制AI產出的「對事物合理性的直覺(基礎體力)」不可或缺的行為。
當目睹AI完美的產出(普遍論的極致)時,人類往往會產生錯覺,將其擬人化地認為「AI是經過了高度的流程才理解其意義的(達到了超級智能)」。然而,逃遁到這種科幻且哲學式的解釋中是危險的。這會使人將目光從迫在眉睫的「僅依賴產出的人類需求將會減少」的危機中移開,阻礙了我們主動轉向承擔流程與責任的一方。
6. 社會落實的障礙
前面我們論述了產出至上主義的崩壞以及人類「流程」的價值,然而要將其落實在現實的社會系統中,還存在著幾個客觀的障礙(課題)。
第一道障礙是「過渡期(時間差)的泥濘」。在邏輯上,「產出的價值歸零」是不可避免的未來,但在現實社會中,依然根深蒂固地存在著複雜的法律規範、既有的商業習慣,以及抱持舊有評價標準的組織體制。要填補這個理論與現實之間的落差,可能會產生10年到20年為單位的時間差。在實務上,如何在這個「新舊體制與AI基礎設施混雜的泥濘過渡期」中生存下來,將是一個極為現實的課題。
第二道障礙是「AI『完美產出』本身的崩潰風險」。本文雖然假設AI的產出將成為完美的基礎設施,但在目前的AI研究中,人們擔憂一種名為「模型崩潰(Model Collapse)」的現象,亦即AI若持續學習由AI自身生成的數據,會導致模型劣化。如果本應成為基礎設施的AI本身受到了污染,該如何應對這種風險,也是下一代負責人所需具備的能力。
第三道障礙,也是最大的課題,在於「缺乏評價『流程』的全新社會指標」。現代的資本主義社會,是透過測量營業額、粉絲數、考試分數等「產出」的定量系統來進行最佳化的。在AI時代,即使「人類的流程(所培養的實用性與異常檢測能力)」再怎麼重要,又要如何將其定量評價,並轉換為薪資這樣的報酬呢? 「評價系統的設計」,正是下一個必須解決的最困難的主題。
您可以一鍵複製文章全文。內文使用Markdown格式,並以"""包覆。詳細資訊請參閱分類說明。
"""
# △.1 LLM 與 波動
\* 本文譯自日文原稿,可能會有部分表達不甚自然之處。
---
## 1. LLM與波動
大規模語言模型(LLM)的急速進化,正在對社會中「知識」的生產結構帶來不可逆的改變。在掌握這種變化本質的過程中,一個重要的概念便是回答的「波動的收斂與發散」。
隨著LLM性能的提升,對於定型化的問題(例如「1+1=2」這類的事實確認或基礎邏輯推演),回答的波動會急速收斂,變得總是輸出同一個最佳解。另一方面,對於需要創造力或深刻理解複雜脈絡的問題,它則變得能產生出各式各樣、豐富多元的回答。
這個現象直觀地表現了當前LLM所具備的「透過機率計算進行最佳化」的過程,也是理解當今AI行為與提示工程(Prompt Engineering)的重要前提。本文將探討在一個因AI進化而使產生「結果(產出)」的成本趨近於零的社會中,過去一直被忽視的人類勞動價值的本質究竟何在,並考察其在實務上的未來走向。
---
## 2. 產出至上主義與斷糧戰術
許多商務人士認為,像是經營策略或程式設計這類高度專業的業務「沒有標準答案,且存在著多樣的意見(波動)」。然而,AI的進化正從根本上顛覆這個前提。許多過去人類覺得複雜且沒有標準答案的業務,其實只不過是因為人類認知能力與處理能力的極限(或者是難以用固定的步調產出),而導致「局部最佳解」充斥的結果罷了。
超高性能的AI能在瞬間計算無數的變數,並將這些視為「單純的計算題」來處理。其結果是,它能發現唯一一個「最佳解(完美的普遍論)」,而所有的回答都會向其收斂。這個法則不僅限於語言空間,也適用於物理空間。自動駕駛或機器人所執行的高度物理作業,也是透過計算使現實世界雜訊所產生的波動收斂,進而作為終極的最佳化任務來完成。
這裡重要的是,AI得出完美正解的過程,與人類所具備的「意義理解」或「邏輯推論」截然不同。它終究只不過是「基於過去數據的機率計算」。只要立足於這個前提,我們就能冷靜地將「AI將達到與人類同等甚至具備更高意識的超級智能」這類科幻且哲學式的跳躍思維切割開來。
然而,即使過程完全不同,在現實社會中我們仍得面對一個冷酷的事實:「只要產出(結果)是完美的,實務工作就會被取代」。過去的社會總是將產出的品質作為信任與評價他人的標準。但是,在AI讓生成「完美且漂亮的產出」成本歸零(商品化、大眾化)的現在,這個系統正逐漸陷入機能失靈。特殊詐欺的高級化、招募與教育中評價的空洞化、以及虛假專業性造成的市場混亂等,都是「產出至上主義」所衍生出的系統錯誤的典型例子。
世俗所謂「在AI時代能生存下來的工作」這種輕率的標籤是一個危險的陷阱。它令人無法消除一種疑慮,那就是並未充分將AI高性能化的潛力考量進去。這意味著,就連那些被點名的角色,也將變得不再需要,或者只剩下極少數。無論是哪種職位,只要是把產出「漂亮的圖片或文章」當作目的的勞動者,都將自動被捲入椅子越來越少的「搶椅子遊戲」中。若不對AI這個事物進行根本性的理解與深刻的考察,就真的會陷入被「圍困斷糧」的絕境。
---
## 3. 實用性與波及效應
當高度專業的職位因AI高性能化帶來的「波動收斂」而面臨被取代的危機時,工廠、物流配送、窗口業務等單純的現場勞動,卻被視為更容易被AI取代的代表性工作。在這裡,我們刻意將焦點放在後者。這些作業,真的只是毫無意義的單純作業嗎?
在這裡,「產出(結果)」的概念同樣變得重要。就如同AI的運算一樣,如果只把焦點放在「最終產出的效率」來評價勞動,那麼這些工作確實可以說是應該被機器取代的冗餘工作。然而,如果我們脫離「產出至上主義」的視角,試圖深刻理解這些業務流程在現實社會中扮演著什麼樣的角色時,就會發現其中存在著確實被發揮、並且不斷累積的「實用性」。
不過,這裡所說的「實用性」,就其性質而言,是很難作為客觀指標在即時呈現的。它在無意識的層面上融入了日常的業務流程或是當事人之中,而其真正的價值,總是只能在事後「穩定的產出確定之後」才能被客觀地捕捉到。雖然聽起來有些矛盾,但如果只依賴對「產出(結果)」的最佳化思維,可以說永遠無法獲得這種根本的實用性。
順著這個脈絡,或許很多人會將這裡所獲得的實用性,想像成人情、道德,或是「人類獨有的溫度」之類的東西。然而,事情未必總是如此。這裡我們意識到的是,為了讓組織或整體社會系統順暢運作的「實務價值」。而其中最為顯著的,便是會向周遭連鎖反應的「波及效應(經濟外部性)」。
舉例來說,假設有一家「氣氛很差的店鋪(A)」。來到這裡的顧客,會因為店員冷漠的態度或對錯誤的置之不理,而在心中埋下「不滿的火種(壓力)」。這位顧客離開後,可能會在家庭或職場將這個不滿的火種發洩在他人身上,導致被發洩的人又產生了新的不滿。這乍看之下只是單純的人際或情感循環,但從實務的宏觀角度來看,這無非是「在一個現場發生的錯誤(雜訊),連鎖反應到整個社會,進而破壞各處生產力與人際關係的過程」。
反之,假設社會中某個懷抱著「不滿火種」的人,造訪了一家不僅看重數字、且「氣氛很好的店鋪(B)」。這家店的員工,當場靈活地吸收了顧客那些無法被收編進手冊(1+1=2)的壞心情或是不合常規的要求等「雜訊」,並展現出圓滑的應對。結果,顧客所懷抱的不滿火種在當下就被撲滅,帶著平靜的心情前往下一個目的地(家庭或職場)。
看到這兩種模式,你也許會覺得這終究只是老生常談。但是,如果我們放大規模來思考,例如比較A的周邊區域與B的周邊區域,或是比較A類組織較多的區域與B類組織較多的區域,你的印象就會改變。往來人潮的數量與氛圍、隨之而來的治安好壞、將這些視為數據而進行進駐或撤退的商業決策、以及這些連鎖反應所引起的地價或房地產評價變動,這些正是波及效應的具體展現。
只能計算局部「產出(數字與處理速度)」最佳化的AI,是不可能計算出這種廣泛且抽象的波及效應的。一味推動只專注於產出的AI最佳化,並盲目地從現場排除這些作為「雜訊吸收與波及震央」的人類流程,可能會招致本末倒置的結果。
對於一開始的問題:「工廠、物流配送、窗口業務等單純的現場勞動,被視為更容易被AI取代的代表性工作。這些作業真的只是毫無意義的單純作業嗎?」,答案已經很明確了。從宏觀的角度來看,這是減少社會摩擦、產生無形波及效應所不可或缺的過程。此外,即使從微觀(勞動者個人)的角度來看,擔負起「AI無法理解的整體流程」的一環這件事本身,只要當事人有意識,也能成為培養自身基礎實力的寶貴啟發。反之,如果過度執著於產出,就意味著主動走向「AI能100%理解並取代的領域」。
---
## 4. 導入AI的悖論
在確認了現場人類「流程」的重要性之後,目前在那些已經導入AI的先進職場中,實際上正在發生什麼事呢? 我們或許會推測「因為導入了AI,職場中抽象的元素(氛圍與人際關係)提升了」。
然而,這並非因為AI自發性地創造了正向的氣氛。其真正的原因在於,AI作為一個毫無感情的過濾器,吸收並阻擋了「抽象的人為錯誤(情感摩擦與負面因素)」。
當AI承擔了「1+1=2」的定型化作業,以及伴隨情感摩擦的資訊傳遞樞紐時,人類的認知負荷就會大幅減少。結果,人類擁有了「餘裕(留白)」,能夠提升對問題的包容力、耐受力、認知力與判斷力。特別是在像日本這樣,對文化背景隱形負擔要求極高的社會中,AI作為大幅緩解由這些因素引起的問題的高級工具而發揮作用。我認為這對打造平等的環境做出了巨大的貢獻。
現在可以說正處於一個理想且最強的混合狀態(過渡期):AI負責完美的「產出」,而人類則利用隨之產生的餘裕專注於「異常檢測」。
然而,這個大成功的階段卻孕育著最大的陷阱。「數字(產出)與氛圍(流程)都獲得戲劇性提升」的鮮明成功體驗,最終會對經營層與整個社會引發一種致命的錯覺:「因為AI極度優秀,所以所有的問題都解決了。那些在充滿雜訊的現場工作的人類已經不再被需要」。
這種錯覺會放大對「產出至上主義的過度自信」,促使經營者做出捨棄支撐組織的無形基礎設施的決定。只評價AI的產出,卻輕視了在背後吸收雜訊的流程,其結果將成為引發組織整體陷入運作停擺的「斷糧戰術」的導火線。當產出越是完美,我們就越會面臨一個矛盾:我們必須正確評價那些將這些產出維繫在一起的「人類流程」的存立意義。
---
## 5. AI時代的控制能力
在「產出」完美收斂的AI社會中,人類應當扮演的真正角色是什麼? 一般社會大眾傾向於追捧「輸入巧妙的提示詞(指令),並從AI那裡引導出漂亮的產出」為精通AI的技能。然而,在一個產出本身變得商品化(無價值化)的未來,這類小聰明的技術將不再具備任何優勢。
真正意義上的「精通AI」,意味著從一個產出者轉變為「負責人/編輯者」。也就是將AI透過機率計算所彈出的無數局部最佳解,或是完美工整的普遍論,純粹視為「起跑線」,並最大限度地發揮人類的直覺判斷去進行試錯。這意味著產出的成果並非直接的終點。在創造性的任務中,面對AI所散佈的無數點子的汪洋,我們需要具備高度的控制力,透過人類的情感與脈絡去挑選(策展)出哪種組合能真正創造出新的價值。
假設眼前有100道計算題。如果目的是為了獲得「明天經營會議上報告用的正確結果(產出)」,那麼毫不猶豫地交給AI就是正解。然而,如果目的是為了「教育孩子」或是「自我訓練」,那麼即使無視效率,也應該親自拿起紙筆,在試錯中解題。因為,在這裡,「伴隨摩擦的過程」本身就具有價值。
只有具備能看透「我們需要的是產出,還是流程」的後設認知(Meta-cognition)能力,並且能夠斷絕效率化的誘惑,做出「刻意不使用AI,故意選擇不方便的流程」這種高度決策能力的人,才能避開產出至上主義帶來的斷糧危機。
持續放棄流程的人,在未來AI產出超高階的經營策略或企劃時,將無法憑藉直覺來異常檢測這些數字或邏輯是否妥當,或者是否包含了致命的幻覺(似是而非的謊言)或過度迎合(阿諛奉承)。重視流程,正是培養用以控制AI產出的「對事物合理性的直覺(基礎體力)」不可或缺的行為。
當目睹AI完美的產出(普遍論的極致)時,人類往往會產生錯覺,將其擬人化地認為「AI是經過了高度的流程才理解其意義的(達到了超級智能)」。然而,逃遁到這種科幻且哲學式的解釋中是危險的。這會使人將目光從迫在眉睫的「僅依賴產出的人類需求將會減少」的危機中移開,阻礙了我們主動轉向承擔流程與責任的一方。
---
## 6. 社會落實的障礙
前面我們論述了產出至上主義的崩壞以及人類「流程」的價值,然而要將其落實在現實的社會系統中,還存在著幾個客觀的障礙(課題)。
第一道障礙是「過渡期(時間差)的泥濘」。在邏輯上,「產出的價值歸零」是不可避免的未來,但在現實社會中,依然根深蒂固地存在著複雜的法律規範、既有的商業習慣,以及抱持舊有評價標準的組織體制。要填補這個理論與現實之間的落差,可能會產生10年到20年為單位的時間差。在實務上,如何在這個「新舊體制與AI基礎設施混雜的泥濘過渡期」中生存下來,將是一個極為現實的課題。
第二道障礙是「AI『完美產出』本身的崩潰風險」。本文雖然假設AI的產出將成為完美的基礎設施,但在目前的AI研究中,人們擔憂一種名為「模型崩潰(Model Collapse)」的現象,亦即AI若持續學習由AI自身生成的數據,會導致模型劣化。如果本應成為基礎設施的AI本身受到了污染,該如何應對這種風險,也是下一代負責人所需具備的能力。
第三道障礙,也是最大的課題,在於「缺乏評價『流程』的全新社會指標」。現代的資本主義社會,是透過測量營業額、粉絲數、考試分數等「產出」的定量系統來進行最佳化的。在AI時代,即使「人類的流程(所培養的實用性與異常檢測能力)」再怎麼重要,又要如何將其定量評價,並轉換為薪資這樣的報酬呢? 「評價系統的設計」,正是下一個必須解決的最困難的主題。
"""