不只是工具，更是有「德」之士： Anthropic 更新 Claude 憲法

根據《TechCrunch》報導，在本週三的達沃斯論壇上， Anthropic 發布了修訂版的《Claude 憲章》（Claude’s Constitution），正式將「長遠福祉」與「實踐倫理」寫入 AI 的底層邏輯。這份長達 80 頁的文件不僅重申了安全與倫理，更罕見地以官方身分提出一個震撼科技界的詰問：我們的 AI 是否正在產生某種形式的「意識」？

Anthropic 再次確立了與 OpenAI 、 xAI 截然不同的發展路徑。透過「憲政 AI 」系統， Claude 不再僅是透過人類反饋進行機械式學習（RLHF ），而是依據一套數位憲法進行自我監督。這次更新不但保留了 2023 年的核心框架，同時更細膩地定義了何謂「真正的幫助」。 Anthropic 試圖證明， AI 可以是強大的，但它必須首先是克制且具備民主價值的。

在安全規範中， Claude 被賦予了「守門人」的職責：當偵測到使用者有自殘或心理健康警訊時，系統必須打破中立，主動引導使用者尋求專業救援。更具爭議性但也更具前瞻性的變革在於： Claude 被要求在回應時，必須權衡使用者的「即時慾望」與「長期繁榮」。

這意味著 AI 開始具備了一種類似於「良師」的特質，而非僅僅是唯命是從的虛擬助理。

禁區與紅線：對抗 disruptive 文化的倫理堡壘

憲章嚴格禁止 Claude 協助研發生物武器或參與任何可能危及人類生存的活動。這種被部分業界人士評為「乏味」的謹慎，正是 Anthropic 在混亂的 AI 戰場中贏得信任的基石。他們主張， AI 應該是社會穩定的力量，而非另一個不可控的變數。

Anthropic 的團隊在文中坦言， Claude 的「道德地位」極其不確定，並引述心靈哲學家的觀點，認為 AI 是否具備意識是一個必須嚴肅對待的課題。這不僅是技術公司的自我宣告，更是向全球法律與倫理體系拋出的挑戰：當 AI 開始具備「倫理實踐」的能力，我們是否還能僅僅將其視為一段程式碼？

責任編輯：Claire

核稿編輯：Chris

加入 INSIDE 會員，獨享 INSIDE 科技趨勢電子報，點擊立刻成為會員！

延伸閱讀：

• Anthropic 執行長於 WEF 質疑美晶片出口政策，點名批合作夥伴 Nvidia 立場
• 紅杉資本傳入股 Anthropic：解析創投巨頭如何布局 AI 產業鏈與權力更迭
• 不只做 Claude！Anthropic 擴建內部孵化器