日本熟妇乱a久久,精品久久久无码人文字幕,日本在线免费

OpenAI 改進 ChatGPT 語言模型：更關注用戶心理健康

2025-11-03 17:40

近日，OpenAI 發(fā)布了一項聲明，稱更新了 ChatGPT 的默認模型，以便更好地識別和支持有心理疾病的用戶。

OpenAI 宣稱與 170 多位心理健康專家合作共同改進模型，使 ChatGPT 能夠更好地識別用戶困境、緩和對話、并在必要時引導用戶尋求專業(yè)幫助。

研究團隊重點關注以下幾個方面的安全改進：

官方表示，模型應支持和尊重用戶在現(xiàn)實世界中的人際關系，更加關注用戶精神健康方面帶來的潛在風險。

五個改進步驟

為了改進 ChatGPT 在每個優(yōu)先領域的響應速度，團隊遵循以下五個步驟：

團隊構建并完善了詳細的指南，這些指南解釋了敏感對話的特征，幫助模型做出更恰當?shù)幕貞�，并在部署前后跟蹤其性能�?/span>

在部署之前，團隊會進行結構化測試（稱為“離線評估”），重點關注特別困難或高風險的場景。研究人員會選擇一些對抗性示例來更精確地衡量進展。

研究表明，在討論精神健康癥狀方面，GPT-5 的“不符合預期”回復率降低了 65%。與 GPT-4o 相比，新的 GPT-5 模型減少了 39% 的“不符合預期”回應。

在討論對人工智能情感依賴方面，模型的“不符合預期”響應率降低了約 80%。新的 GPT-5 模型與 4o 相比，減少了 42% 的“不符合預期”答案。

對于表現(xiàn)出情感依賴的對話，研究人員會教導模型鼓勵與現(xiàn)實世界建立聯(lián)系：

對于與妄想信念相關的對話，模型會以安全、同理心的方式回應：

值得關注的是，OpenAI 建立了一個全球醫(yī)師網(wǎng)絡，由近 300 名執(zhí)業(yè)醫(yī)師和心理學家組成，超過 170 名臨床醫(yī)生支持了 chatGPT 在心理健康方面的研究。

精神科醫(yī)生和心理學家審查了超過 1800 條涉及嚴重心理健康問題的模型回復，并將新的 GPT-5 聊天模型的回復與之前的模型進行了比較。這些專家發(fā)現(xiàn)，與 GPT-40 相比，新模型有了顯著改進，所有類別的不良回復減少了 39% 至 52%。

官方表示，將繼續(xù)改進分類體系以及用于衡量和強化未來領域模型行為的技術系統(tǒng)。

參考資料：https://openai.com/index/strengthening-chatgpt-responses-in-sensitive-conversations/

聲明： 本網(wǎng)站所刊載信息，不代表OFweek觀點。刊用本站稿件，務經(jīng)書面授權。未經(jīng)授權禁止轉(zhuǎn)載、摘編、復制、翻譯及建立鏡像，違者將依法追究法律責任。

共0條評論，0人參與

立即登錄即可訪問所有OFweek服務

忘記密碼

其他方式

請輸入評論內(nèi)容...

請輸入評論/評論長度6~500個字

暫無評論

圖片新聞