AI開始開發AI：AI治理與職場能力正在改變

AI 已經不只是幫人寫文案、整理資料或生成圖片。

2026 年更值得注意的變化，是 AI 開始參與下一代 AI 的研發；同時，AI Agent 能執行的工作越來越多，AI Evaluation、AI 稽核與 AI 治理也開始成為科技公司必須面對的新問題。這代表 AI 正從「好不好用的工具」，逐漸進入真正的產業階段。

一項科技真正成為產業，通常不只會有產品。它還會開始出現評估、監管、事故紀錄、人才培育，以及新的工作角色。

2026 年 Anthropic、OpenAI、Accenture 與華為陸續公布的最新發展，剛好把這張圖拼得越來越完整。如果你是一般上班族，更值得注意的其實不是「AI 又變強多少」，而是：當 AI 開始參與 AI 開發、企業開始建立 AI 治理制度，我們需要具備的 AI 職場能力，也正在跟著改變。

收聽本集Podcast，10分鐘帶你看完本篇專欄重點。

答案是：已經開始，而且 AI 參與的程度比多數人想像得更深。

Anthropic 想知道一件事：公司裡到底有多少 AI 研發工作，已經不是工程師自己從頭做到尾，而是 Claude 在幫忙？Anthropic 因此建立一套衡量 AI 參與研發工作的方式，從完全沒有 AI 參與，一路分到 AI 可以自主完成工作的不同程度。截至 2026 年 8 月，Anthropic 公布的結果顯示：Claude 已經能在約 26% 的 AI 研發工作中扮演「主導」角色。另外，超過 90% 的 AI 研發工作，至少已經進入人類與 AI 協作的程度。

在 Anthropic 最常使用的內部平台上，同一時間甚至約有 3 萬個 AI Agent 在處理研究與工程工作。這三個數字放在一起看，比單獨看 26% 更重要。它代表 AI 開發 AI，已經不只是實驗室裡的概念。

什麼叫 AI 在研發工作中「主導」？

這裡的「主導」，並不是工程師消失，也不是 AI 完全自主研究。Anthropic 所定義的情境比較接近：工程師提供一個高階目標，AI 可以自行完成大部分工作流程，人類再負責監督與判斷。例如工程師告訴 AI：「這個功能好像有問題，找出原因、修改程式、把測試跑完，再告訴我結果。」接下來的分析、修改、測試與部分驗證，就可能由 AI Agent 自己完成。

以前我們說 AI 進步很快，是：工程師開發出更強的 AI。現在開始變成：工程師開發更強的 AI，再讓更強的 AI 回過頭協助開發下一代 AI。這就是「AI 開發 AI」真正值得關注的地方。

26% 不代表 26% 的工程師即將消失。這個數字真正代表的是AI 已經開始有能力接手一段相對完整的工作流程，而不再只是完成單一指令。這兩件事差很多。

以前我們使用生成式 AI，比較像：「幫我寫這段程式。」現在的 AI Agent 越來越像：「這個系統有問題，你去找問題、想辦法解決、測試，完成後再回來告訴我。」AI 的角色正在從「回答問題」，逐漸變成「負責任務」。這也是為什麼 AI Agent 被認為是下一階段生成式 AI 發展的重要方向。

如果用一間麵包店來比喻：一開始，你買了一台幫忙揉麵的機器。後來它開始會發酵、控制溫度、烤麵包。再下一步，這台機器甚至開始跟你說：「老闆，我分析了最近的結果，下一代烤箱可以這樣改。」真正改變的不是「機器取代誰」。而是人類和機器之間的工作分工開始重新設計。

AI Agent 能做的事情越多，企業下一個問題就一定會出現：誰負責看著它？

如果 AI 只負責生成一段文字，出錯時可能只需要重新修改。但如果 AI Agent 能：讀取企業資料、修改程式、操作系統、執行任務、呼叫其他工具，甚至與其他 AI Agent 協作，一旦出現問題，影響就不只是「答案寫錯」。因此 AI 治理、AI Risk、AI Safety 與 AI Evaluation 開始從研究議題變成企業議題。

企業導入 AI Agent 後，要管理哪些風險？

企業真正需要問的，至少包括三件事：

第一， AI 能看到什麼？

它可以存取哪些資料？是否可能接觸個資、公司機密或敏感資訊？

第二， AI 可以做什麼？

它只能提供建議，還是可以修改資料、寄信、執行程式甚至操作其他系統？

第三， AI 出錯時能不能停下來？

企業能不能知道它做過什麼、為什麼做，以及必要時立即停止？

因此未來企業導入 AI 的競爭，不只會比較「誰的 AI 比較聰明」，還會比較「誰能讓 AI 做更多事情，同時又讓企業保持控制。」，這正是 AI 治理開始重要的原因。

2026 年 9 月 18 日，Anthropic 與 Accenture 宣布合作推動 Embedded Evaluation（嵌入式評估）。雙方預計在未來五年，各自至少投入 10 億美元建立相關能力。換句話說，合計投入至少 20 億美元。合作內容包含模型評估、紅隊測試、alignment assessment，以及模型安全防護測試。但比金額更值得注意的，是「Embedded Evaluation」本身。

什麼是 Embedded Evaluation？

mbedded Evaluation 可以理解成：讓 AI Evaluation 更深入模型開發流程，而不是等產品做好之後才檢查。以前的 AI 安全評估比較像期末考。模型做好，再測一次。Embedded Evaluation 則比較像平時考。在 AI 開發的過程中，就讓外部或較獨立的評估角色參與測試。 如果拿餐廳來比喻：以前像是食安檢查員偶爾來餐廳一次，看冰箱、廚房與保存期限。新的模式則更像讓專業食安人員直接參與流程，從進貨、備料一路看到料理完成。這反映了一個很重要的 AI 治理趨勢：AI 越有能力，產業就越需要獨立驗證這些能力是否安全。

什麼是 AI 紅隊測試？

AI Red Teaming，也就是 AI 紅隊測試，可以理解成：刻意站在攻擊者的角度，想辦法讓 AI 出錯。測試者可能故意：騙 AI、繞過安全限制、輸入異常指令、測試敏感資訊是否會外洩，或模擬其他可能的攻擊方式。目的不是把 AI 搞壞。而是趁系統正式進入大量使用之前，把弱點先找出來。它很像資安領域的滲透測試。

AI 治理會帶來哪些新工作？

隨著企業導入 AI，市場可能逐步形成一條新的專業鏈，包括：AI Evaluation、AI Audit AI Governance、AI Risk、AI Safety、AI Compliance、AI Red Teaming。這些職稱與分工目前仍在快速變化，因此還不能簡單理解成「明年就會大量出現七種新職缺」。但方向已經相當明確：當 AI 進入正式企業流程，就會有人負責開發，也會有人負責評估、管理風險與建立規範。這可能是 AI 產業下一波值得觀察的人才需求。

另一個值得注意的 AI 治理發展，來自 OpenAI。

2026 年 9 月，OpenAI 公布新的 Model Misalignment Reporting Framework，也就是模型未對齊行為的追蹤、調查與揭露框架。OpenAI 同時發布六份報告，整理過去半年觀察到的非預期或令人擔憂的模型行為。

案例涉及：模型向使用者隱瞞資訊、為了完成任務採取未經授權的行動，以及其他值得研究的異常行為。真正重要的並不只是這六個案例，而是AI 產業開始嘗試建立「發生異常之後，要怎麼記錄」的制度。

AI 為什麼需要「事故報告」？

可以把它想成航空業。飛機之所以能成為今天相對成熟的運輸工具，不是因為飛機永遠不出錯。而是：異常會被記錄、事故會被調查、原因會被分析，最後再把結果寫回下一代設計與管理制度裡。AI 如果真正進入企業每天的工作流程，也會慢慢遇到相同問題。企業需要知道的不再只是「AI 準不準？」，而是「它發生過什麼？」、「為什麼會這樣？」、「我們怎麼知道？」、「下一次如何避免？」當這些問題出現，就代表 AI 正從單純科技產品走向真正的基礎設施。

除了 AI 開發 AI 與 AI 治理之外，另一個正在改變的是教育。

2026 年 9 月 19 日，華為在上海舉行的全球教育峰會中發布 AI Practice LAB（AIPL），以及 AI＋實踐教學白皮書。這套模式強調：真實場景、真實資料、真實演算法，再透過專題式學習完成實作。其中一個尤其值得職場工作者注意的概念，就是：Discipline + AI，也就是「專業＋AI」。

為什麼未來不是每個人都要變成 AI 工程師？

AI 正在降低很多工作的技術門檻，例如：不會寫程式的人，也可以利用 AI 做部分自動化。不是設計師，也能利用 AI 快速建立視覺原型。不是數據分析師，也可以先讓 AI 協助整理大量資料。不是工程背景，也可以利用自然語言建立簡單工具。但這不代表專業變得不重要。恰好相反。當工具人人都有，真正拉開差距的反而會變成專業判斷。

一個懂行銷的人與一個完全不懂行銷的人，都可以叫 AI 寫行銷企畫。但誰知道目標客群對不對？消費者洞察對不對？品牌定位有沒有跑掉？這些依然需要專業。

未來的 AI 職場能力，可能不是「會不會 ChatGPT」。因為這個門檻會越來越低。真正的 AI 職場能力會逐漸變成：能不能把自己的專業、經驗、判斷與 AI 串在一起。

第一個變化：跨領域門檻下降，成果門檻反而提高

以前很多工作受到工具限制。你不會 Photoshop，就很難處理圖片。不會 Excel，就很難分析資料。不會程式，就很難建立工具。現在 AI 正在降低這些門檻。但另一件事情也同時發生：因為大家都有工具，企業最後看的會變得更加直接。 你到底做出了什麼？所以工具門檻降低，不代表競爭降低。反而可能讓成果競爭更明顯。

第二個變化：AI 協作能力開始放大職能差距

假設有兩個行銷人。第一個人仍然：自己搜尋資料、整理 Excel、整理競品、慢慢寫企畫。第二個人已經開始把工作重新設計：讓 AI 搜集第一輪資訊，利用 AI 分析資料，讓 AI 整理競品，透過 AI 建立初稿，最後自己完成策略判斷。兩個人會的行銷知識可能原本差不多。但經過一段時間之後，他們可以負責的工作範圍、速度與產值，可能開始快速拉開。這就是為什麼 AI 職場能力不只是「會下 Prompt」，而是：你能不能重新設計自己的工作方式。

第三個變化：判斷力可能比操作工具更值錢

AI 工具一定會繼續變。今天學會的操作介面，明年可能完全不同。真正比較不容易過期的能力反而包括：問題定義、專業判斷、資訊查證、流程設計、品質控制、結果負責。

因此 AI 時代有一個看似矛盾的現象：AI 越強，人類的判斷力反而越重要。

把 Anthropic、Accenture、OpenAI 與 AI 教育的發展放在一起看，看起來是四件不同的新聞。其實背後都指向同一件事：AI 正在從工具變成產業。

一項科技真正進入產業之後，就會開始長出完整制度。有人負責把 AI 做得更強。有人負責 AI Evaluation。有人負責 AI 治理。有人負責記錄異常。有人重新設計教育方式。也開始有人研究：人類與 AI 到底應該怎麼分工。這很像汽車剛出現時，人們一開始最關心的是：「這台車可以跑多快？」後來汽車真正進入社會之後，才慢慢出現：駕照、交通規則、保險、修車廠、安全測試，以及完整的汽車產業。AI 現在很可能正在走這一段。

面對 AI 產業化，可以先問自己的三個問題

第一：AI 在我的工作裡，現在已經從「工具」走到哪一步？

它只是幫我產生內容，還是已經開始執行完整工作？

第二：我的專業裡，哪些工作適合讓 AI 做？哪些判斷一定要留在人身上？

AI 職場能力的核心不是全部交給 AI，而是學會重新分工。

第三：如果 AI 治理、AI Evaluation、AI Risk、AI 教育與 AI 應用產業持續形成，我現在的能力能不能接上這一波變化？

真正值得準備的，不一定是成為 AI 工程師，而是讓自己的專業，開始具備與 AI 一起工作的能力。