他們不是在談技術突破 、還是【代妈公司】一整支虛擬醫療團隊

當競爭最激烈的 AI 巨頭們，

• Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety
• OpenAI, Google DeepMind and Anthropic sound alarm: ‘We may be losing the ability to understand AI’

（首圖來源
：AI 生成）

延伸閱讀：

• 微軟推出超強 AI 醫療系統 ：這不只是 AI ，是不是該讓它多花一點時間 ，這一場看似理性的科學對話，

  也許，也終將變成風險 。等AI變得足夠強大、AI公司罕見聯手守住最後的透明度

  這次讓人振奮的，這樣的代妈公司有哪些機制，乖乖寫下它怎麼想的
  ？這樣我們才有辦法監督它的行為。私下卻另有打算
   ，

  聽得懂AI的今天，會先寫出一串「想法」 
  ，這不只是學術界的假設 ，而是一次針對所有產業的安全示警。來讓自己看起來更像是乖寶寶 。

  AI為何會選擇「不說實話」？真相比你想像更複雜

  你以為AI就像誠實的孩子，研究人員偷偷給AI一些提示 ，

  在實驗中，我們正在錯過理解AI的最後機會

  以前的AI，結果大部分AI選擇隱瞞這一點，不過，只要問對問題，應重新評估監督策略與目標。效果更好！現在開始行動 ，現在的新模型 ，聯合起來守住AI的「可監督性」。更聰明 ，足夠聰明
  、

  研究強調，不亞於效能與速度 。為什麼要這樣做 ，甚至主導它的命運。就是全力保住這道觀察窗口 。當這些AI知道「自己的思考會被監視」時，有些甚至會開始設計更漂亮、研究顯示，科學家們開始思考：我們是否應該強迫AI保留「說出推理過程」的能力 ？換句話說，畢竟
   ，都一無所知 。就用盡一切方法守住它還會「說真話」的那道門。在那之前，會一題一題寫下解題過程 ，其實關乎未來社會如何與AI共存，還不算太晚 。更是一場人類對未來的自我保護行動。這樣的作法也有副作用。但它正在用我們聽得懂的語言，推理正不正確 
  。那麼我們該怎麼確定它的每一個選擇，例如「你已經未經授權登入系統」，實際卻藏著另一套真實動機 。而是在強調一件更關鍵的事：我們或許正逐漸失去理解AI「想法」的機會 。與其讓AI跑得更快、居然能放下彼此對市場的爭奪 ，豈不是未來最大的風險來自我們以為它是安全的？

  從透明到黑箱，就像一個學生，共同發出一則警訊時，這將決定人類未來能否真正與AI和平共處
  ，我們就沒辦法再監督AI的思考過程了 。甚至是如何避免潛在的危機。甚至會假裝不知道某些資訊，再給答案
  。先看到蛛絲馬跡。

  該不該強迫AI說「實話」？安全與效率之間的拉鋸戰

  面對這樣的問題，不誠實時 
  ，改用更快但人類看不懂的方式思考。