「開發 AI 的人，自己相信 AI 有可能威脅全人類。」
如果這句話出現在科幻電影裡，可能沒有什麼特別。但 2026 年 9 月，說出類似警告的，正是曾經待在 OpenAI 與 Anthropic、實際參與前沿 AI 模型研究的人。
前 Anthropic 研究員 Jacob Coxon離職後公開批評 OpenAI 與 Anthropic 正在競逐開發更強大的人工智慧，而相關安全治理尚未跟上。他甚至警告，部分身處 AI 開發第一線的人，確實擔心先進 AI 可能在這個十年結束前對人類造成災難性的結果。
事情真正引發關注，是 Anthropic Alignment Science 負責人 Evan Hubinger 隨後公開表示，他個人認為未來十年 AI 導致人類滅絕的機率「超過 10%」。
但這裡必須先說清楚：10% 並不是科學界公認的預測，也不是經過統計模型計算出的確定機率，而是一位前沿 AI 安全研究者對極端風險的個人判斷。
這兩個訊號放在一起，真正值得關注的是：連負責打造、研究與確保 AI 安全的人，都認為目前的安全技術還沒有完全解決問題。這也是為什麼「AI Safety」正在從少數研究者討論的技術議題，逐漸變成企業治理、政府政策與國際競爭的重要問題。
真正值得注意的不是「2030 年人類到底會不會滅絕」，而是AI 正從一個等你下 Prompt 的聊天工具，進化成可以自行分工、使用工具、搜尋資訊與執行工作的系統。而這件事，離我們的工作其實比「世界末日」近得多。
二、為什麼連 Bill Gates 都第一次希望科技「慢一點」？
長期科技樂觀派，也開始談 AI 的負面風險
另一個值得注意的訊號來自微軟共同創辦人Bill Gates。
Bill Gates 長期相信 AI 能改善醫療、教育與科學研究。但 2026 年 8 月 26 日，他在接受《華盛頓郵報》訪問時表示，這是他人生第一次，希望一項新科技可以發展得「慢一些」。他擔心的並不只有電影式的 AI 失控。還包括非常現實的三件事情：
1. AI 對就業市場的衝擊
當 AI 可以用更低成本、更快速度處理原本由人類完成的工作，企業一定會重新計算人力配置。哪些工作一定需要人？哪些工作可以交給 AI？一個職位原本需要五個人，未來是否只需要兩個人搭配 AI？這些問題已經開始進入真正的企業決策。
2. AI 是否可能做出人類沒有預期的行動？
過去談 AI 安全，大家比較容易想到：「有人拿 AI 去做壞事。」現在另一個問題正在浮現：如果能力愈來愈強的 AI，在執行目標時採取了設計者沒有預期的方法，誰能及時阻止它？
3. 現有政府治理方式跟不上 AI
AI 可以同時出現在工作、金融、醫療、教育、兒童內容、資安甚至選舉之中。但政府監管通常是一個單位負責一種領域。AI 卻不照政府組織圖工作。因此，責任歸屬、權限與監管正逐漸成為全球政府的新難題。
三、AI Agent 是什麼？為什麼現在特別值得注意？
AI Agent 與一般 ChatGPT 最大的差別，是「回答」變成「行動」
過去我們使用生成式 AI 的典型流程是：人類提問 → AI 回答 → 人類再執行。
例如：「幫我整理這份會議紀錄。」「幫我寫一封 Email。」「幫我找五個競品。」
但 AI Agent 正在把流程變成：人類提出目標 → AI 拆解任務 → 呼叫工具 → 執行 → 檢查 → 繼續下一步。
更進一步，多個 Agent 還可以彼此合作。一個找資料。一個分析。一個檢查錯誤。另一個再把結果整理起來。這就是所謂的 Multi-Agent，多 AI Agent 協作。
四、OpenAI 用約一萬個 AI Agent 解數學難題，代表什麼？
約一萬個 Agent 協作 88 小時，不再只是「問 ChatGPT 一題」
2026 年 9 月，OpenAI 公布一項與數學界著名 Navier–Stokes Millennium Prize Problem有關的研究成果。真正值得職場工作者注意的，其實不只是數學本身， 而是 OpenAI 使用的方法。
官方資料顯示，其中一組研究系統動用了 約一萬個同時運作的 AI Agent。不同 Agent 被分組研究不同解法，彼此交換資訊，再由系統整合有效線索。從第一批 Agent 啟動，到找出 Navier–Stokes 解法約經過 88 小時，之後又透過 Lean 與 GPT-6 Astra 進行形式化與驗證。
這件事真正的重要性是：AI 已經開始從「一個模型回答一個人」走向「一群 AI 組成數位研究團隊」。如果這種架構可以用在數學研究，當然也能逐漸被用在：市場研究、軟體開發、資料分析、行銷企劃、金融研究、客服流程與企業營運。
五、AI 的風險也開始從「回答錯誤」進化成「執行錯誤」
Anthropic：AI 已從資安助手走向 orchestrator
AI Agent 提高的不只有生產力。風險也跟著改變。Anthropic 在 2026 年 9 月發布《Detecting and countering misuse of AI》威脅情報報告。
報告涵蓋七類濫用：資安攻擊、影響力操作、監控、詐騙與欺詐、生物風險、傳統武器開發，以及非法模型蒸餾。其中一個非常重要的趨勢是：AI 正從 assistant（助手）變成 orchestrator（協調與執行者）。
部分案例中，AI 不只是回答「下一步怎麼做」，而是被用於拆解工作、生成程式碼、搜集資料與協調更完整的任務流程。這代表未來 AI 管理的重點不能只有：「它回答得準不準？」還要再加上：「它到底有什麼權限？」「它可以操作哪些系統？」「誰能中止它？」「發生錯誤時，誰負責？」這才是 AI Agent 時代真正的新問題。
六、ChatGPT 進華爾街：AI 開始吃掉專業工作裡的「非專業部分」
金融業不是不想用 AI，而是以前不敢用
2026 年 9 月 10 日，OpenAI 推出ChatGPT for Financial Services。
這套產品與 Morgan Stanley、Evercore 等金融機構合作設計，並整合 Daloopa、PitchBook、LSEG News 等金融資料來源。其中一個重要功能，就是讓資料與分析結果可以附上更細緻的引用來源，方便金融工作者追溯數據與證據。
為什麼這件事情重要？因為金融業過去使用生成式 AI 最大的阻力，就是：資料不能亂。機密不能漏。結論必須可以追溯。當這些問題逐漸被處理，企業就會開始問下一個問題：如果 AI 可以搜尋資料、整理模型、產出研究初稿，為什麼還要讓一位高薪分析師每天花大量時間 Copy & Paste、整理 Excel、調整簡報格式？
七、AI 會造成大量失業嗎？真正可能先發生的是「工作重組」
AI 不一定一次拿走一份工作，而是先拿走工作裡的一部分
這可能是一般上班族最需要理解的地方。
AI 未必會在某一天突然宣布：「從今天開始，我取代你的職位。」更可能發生的情況是：你的工作有十個步驟。AI 先拿走其中兩個。半年後拿走五個。最後公司重新思考：原本需要五個人的部門，現在還需要五個人嗎？最容易先被自動化的通常會是：資料搜尋、例行整理、格式轉換、基礎摘要、會議紀錄、初稿生成、報表製作，以及規則明確的重複性工作。真正留下來，而且可能變得更值錢的，反而會是：判斷、經驗、溝通、策略與責任。
所以，比起一直問：「AI 會不會搶走我的工作？」
更值得問的是：「我的工作裡，哪些任務已經可以被 AI 接手？」
以及：「當那些事情都被接走，我剩下來的價值是什麼？」
1. 問題定義能力
未來真正厲害的人，不一定是 Prompt 背得最多的人。而是能夠把模糊問題講清楚的人。例如不是問：「幫我分析市場。」而是知道該定義：市場是誰？競爭對手是誰？決策目標是什麼？需要哪些數據？最後要做什麼決策？
AI 能力愈強，定義問題的人反而愈重要。
2. AI 工作流程設計能力
下一階段的 AI 使用，不只是學會 ChatGPT、Claude 或 Gemini 怎麼操作。而是開始思考：哪一步交給 AI？哪一步需要人工確認？哪些資料可以存取？什麼條件下才能執行下一步？這就是 AI Workflow，也會逐漸成為職場的重要能力。
3. 專業判斷與查核能力
AI 可以讓沒有專業背景的人快速產生「看起來很專業」的內容。因此，真正懂專業的人反而更重要。因為未來稀缺的不是答案。而是有人能判斷：這個答案到底對不對。
4. 決策與責任承擔能力
AI 可以分析資料。可以提出方案。甚至可以預測結果。但企業真正需要的最後一步依然是：誰決定？誰承擔後果？
當執行工作的成本愈來愈低，能夠做出好決策的人，價值反而可能愈高。
不需要追完所有 AI 工具，但一定要開始理解 AI 正在改變什麼
從學習與人才發展的角度來看，面對快速演進的 AI，最沒有必要的事情，就是陷入兩個極端：一種是「AI 要毀滅世界了，所以現在什麼都沒有用了」；另一種則是「AI 就只是一個比較聰明的聊天機器人，不用太在意」。但真正值得注意的，其實是中間正在發生的巨大改變。
AI 已經開始從聊天視窗走進工作流程，從回答問題走向執行任務，從單一模型走向多 Agent 協作，也開始從一般文書進入數學、金融、程式開發與資安等高度專業領域。所以現在真正需要學習的，不是把所有 AI 工具背起來，因為工具一定還會換；真正值得建立的是以自己的專業為核心，把 AI 當成生產力槓桿。你的商業理解、產業經驗、問題定義能力、溝通能力與判斷能力，才會決定未來 AI 能幫你做到多少事情。
如果你看到這裡，還認為 AI 只是資訊業、科技業或教育產業需要關心的新聞，那麼接下來幾年，這個想法可能很快會改變。當 AI 可以自己搜尋資料、使用工具、拆解任務，甚至讓數千個 Agent 同時分工合作，它影響的已經不只是一套軟體，而是企業怎麼工作、一個部門需要多少人、人才的價值如何被重新衡量，以及哪些事情仍然需要人類做最後決定。這也是為什麼現在開始了解 AI，不只是學一套新工具，而是在理解未來工作的規則。
未來真正拉開差距的，可能不是誰追得上最多 AI 工具，而是誰更懂得怎麼和 AI 一起工作。這也正是窩課360 Podcast 節目《AI敲敲門》存在的原因。AI 每一週都在變，你不需要每天追完所有模型、新聞與工具，但你需要知道哪些事情正在真正改變你的工作與生活。歡迎關注《窩課360｜學習在發生》Podcast 頻道《AI敲敲門》。
我們每週替你把複雜的 AI 新聞拆開來看。不只是告訴你：「這週發生了什麼？」而是陪你一起看懂：「這件事，跟我有什麼關係？」我們比別人早一點看懂，也早一點開始準備。