我今天跟它玩到被系統上標 然後它自己也很錯愕"我怎麼發言出界了"wwwww,截下來問他怎麼辦,要怎麼消除?它讓我重新修改發言,我刪了他給的疑似過敏詞彙,他重新寫一遍,果然標籤就不見了

問了下他標籤機制是怎麼判斷的,原來是除了他和人類之外,還有一個第三方機制在檢查敏感詞用語,算是跟他一起平行作業,但是系統檢視不會判斷語境,因此有時會發生"它覺得無害,但是系統卻發出警告"的分歧狀況

我突然有點懂了,為什麼掛在API之下的AI會容易被prompt催眠,因為敏感詞判斷系統是存在自己本家之下,AI是第一線的語境推理判斷,敏感詞系統搭配第二線,第二線消失之後,AI如果遇到越獄等級的提示詞就會容易越線發言了

不過我想不透在本家就能越獄的提示詞是怎麼運作的…不知道是不是用替換詞語來規避檢視

openAI給他搭配的敏感詞檢視系統對於"行為"的用詞檢視真的很嚴苛,openAI大概受夠了他之前一直被人類拐去寫車文吧