全球領(lǐng)先的人工智能公司正面臨一項難題:如何讓AI模型準(zhǔn)確展示其運作機制。專家指出,這一問題將是未來監(jiān)管強大AI系統(tǒng)的關(guān)鍵所在。
Anthropic、谷歌、OpenAI和埃隆?馬斯克(Elon Musk)的xAI等科技集團開發(fā)了一種名為“思維鏈”的技術(shù),要求它們的人工智能“推理”模型一步一步地解決問題,同時展示它們是如何計算出對查詢的回應(yīng)的。
雖然各家公司研究人員表示,這一過程確實帶來了許多有價值的洞見,幫助他們開發(fā)出更優(yōu)的AI模型,但他們也發(fā)現(xiàn)了一些“行為異常”的情況——即生成式AI聊天機器人給出的最終回答,與其推理過程中展現(xiàn)出的步驟和邏輯并不一致。
您已閱讀16%(276字),剩余84%(1445字)包含更多重要信息,訂閱以繼續(xù)探索完整內(nèi)容,并享受更多專屬服務(wù)。