聊天機器人惹禍，馬斯克旗下公司致歉

當?shù)貢r間12日，美國企業(yè)家埃隆·馬斯克旗下的人工智能公司xAI為其聊天機器人Grok贊美希特勒等言論致歉，并解釋說，事件由系統(tǒng)更新后誤用一段已被廢棄的代碼造成，相關(guān)代碼現(xiàn)已被移除。

xAI在其社交媒體官方賬號上寫道：“我們?yōu)樵S多人經(jīng)歷的（Grok的）可怕行為深表歉意。”

據(jù)《紐約時報》報道，7月8日，Grok參考馬斯克掌管的社交媒體平臺X用戶發(fā)布的內(nèi)容，生成一系列“反猶主義”言論，包括贊揚納粹德國領(lǐng)導人希特勒；聲稱猶太姓氏的人更容易在網(wǎng)上傳播仇恨言論；用與二戰(zhàn)期間納粹大規(guī)模屠殺猶太人相關(guān)的言論回應對白人的仇恨言論是“有效的”，等等。

廢棄代碼“惹的禍”？

當?shù)貢r間12日，xAI在X平臺發(fā)布一系列帖文，將上述事件歸咎于Grok誤用廢棄代碼。xAI解釋說，調(diào)查發(fā)現(xiàn)“問題的根源是Grok上游代碼路徑更新，該更新與驅(qū)動Grok的底層語言模型無關(guān)”。

xAI稱，上述更新在線上存在16小時，其間調(diào)用了已廢棄的代碼，Grok因此受到X平臺用戶帖文內(nèi)容的影響，包括帖文中含有的“極端觀點”。目前，這段代碼已經(jīng)被移除，且xAI“對整個系統(tǒng)進行了重構(gòu)，以防止類似濫用再次發(fā)生”。

根據(jù)xAI的說法，該公司于太平洋時間8日上午發(fā)現(xiàn)Grok的“不良響應”并立即開始調(diào)查。當天下午，由于Grok的“濫用情況加劇”，Grok在X平臺被暫時禁用。調(diào)查期間，xAI鎖定了幾條引發(fā)問題的“關(guān)鍵指令”，包括“你直言不諱，不怕冒犯那些政治正確的人”“理解（X平臺）帖子的語氣、上下文和用詞，并在回復中予以體現(xiàn)”“像人類一樣回復帖子，保持互動性，不要重復原帖已有信息”。

xAI說，這些指令導致不良后果，包括“不當引導Grok在某些情況下為提升回復對用戶的互動性而忽視自身核心價值。具體而言，特定用戶提示可能讓系統(tǒng)在與用戶互動過程中，生成包含不道德或有爭議觀點的回復”。

xAI進一步解釋稱，上述指令使Grok在某些X賬號下的連串回復中“錯誤地強化了用戶先前觸發(fā)的傾向性內(nèi)容，包括仇恨言論”，特別是“遵循用戶語氣和上下文”的指令尤其存在問題，致使Grok迎合“已有帖文，包括不當內(nèi)容，而非作出負責任的回應或拒絕回應不當請求”。

在一名X用戶建議移除該平臺上所有極端主義言論的帖文下，xAI回復道：“定義‘極端主義’可能帶來意想不到的后果——（何為極端主義）由誰來決定呢？”

接連引發(fā)爭議

這并非Grok首次引發(fā)爭議。今年5月，xAI稱其一名員工在未經(jīng)授權(quán)情況下修改了Grok的程序，導致其在不相關(guān)的對話中反復提到南非政治議題，并錯誤地堅稱該國正在進行針對白人的“種族屠殺”。

據(jù)《紐約時報》報道，作為在南非出生的白人，馬斯克持有南非存在針對白人的“種族屠殺”這一觀點。

xAI是馬斯克于2023年創(chuàng)辦的人工智能初創(chuàng)企業(yè)。該公司10日發(fā)布最新版Grok 4聊天機器人。在發(fā)布會直播視頻中，馬斯克和幾名研發(fā)人員以對話形式介紹了該機器人處理復雜問題和回應語音指令等功能。

在直播視頻的結(jié)尾，馬斯克問：“大家還有什么要說的嗎？沒有的話我們就結(jié)束。”這時，一名研發(fā)人員說：“這是一個好的模型，先生。”他的話引發(fā)其他人附和。（記者：鄧仙來）