全球領(lǐng)先的人工智能公司正面臨一項難題：如何讓AI模型準(zhǔn)確展示其運作機制。專家指出，這一問題將是未來監(jiān)管強大AI系統(tǒng)的關(guān)鍵所在。
Anthropic、谷歌、OpenAI和埃隆?馬斯克(Elon Musk)的xAI等科技集團開發(fā)了一種名為“思維鏈”的技術(shù)，要求它們的人工智能“推理”模型一步一步地解決問題，同時展示它們是如何計算出對查詢的回應(yīng)的。
雖然各家公司研究人員表示，這一過程確實帶來了許多有價值的洞見，幫助他們開發(fā)出更優(yōu)的AI模型，但他們也發(fā)現(xiàn)了一些“行為異常”的情況——即生成式AI聊天機器人給出的最終回答，與其推理過程中展現(xiàn)出的步驟和邏輯并不一致。
您已閱讀16%（276字），剩余84%（1445字）包含更多重要信息，訂閱以繼續(xù)探索完整內(nèi)容，并享受更多專屬服務(wù)。