Claude首次明文禁止使用者持續辱罵或惡意對待AI模型，(圖／路透社)

不要以為跟AI聊天機器人聊天時，可以毫無理由的辱罵，Anthropic針對旗下Claude更新使用政策，首次明文禁止使用者持續辱罵或惡意對待AI模型，新規預計11月12日起正式生效。不過，並不是對AI抱怨幾句就算違規，官方也特別說明了哪些情況才會踩到紅線。

Anthropic這次更新使用政策，除了進一步明確規範不得利用AI幹預選舉、開發武器軟體及監控等行為，最讓人關注的，就是新增一項「禁止虐待AI」的規定，使用者不能長時間、毫無理由地辱罵或惡意對待Claude。

請繼續往下閱讀...

AI也能拒絕聊天！這些辱罵行為踩紅線

不過，這不代表以後只要對Claude說一句難聽話，就會被認定違規。Anthropic特別強調，新規定只針對極端情況，例如使用者長時間、反覆惡意辱罵AI，而且毫無合理目的。至於一般使用者因為AI答錯問題而生氣、抱怨幾句，或是直接反駁AI，都不算違規。即使利用AI創作黑暗題材，或進行模型測試與研究，也不受影響。

事實上，Anthropic早在今年8月就已經讓Claude具備「拒絕繼續聊天」的能力。如果遇到使用者持續進行有害或辱罵性的互動，Claude可以主動結束對話，不再繼續回應。

這次政策更新，則是進一步將相關行為正式列入禁止事項。至於違規會有什麼後果？目前主要的處理方式仍是讓Claude直接結束對話，官方尚未明確說明未來是否會進一步採用帳號停權等處罰。

標題：別再把AI當出氣筒！Claude首度禁止用戶亂罵　11月新規上路

地址：https://www.twetclubs.com/post/153135.html