OpenAI 公司最新發(fā)布博文,宣布為了幫助用戶更健康地使用聊天機(jī)器人,自今天(8 月 5 日)開始,調(diào)整 ChatGPT 的運(yùn)作方式,將向用戶提供使用時(shí)長(zhǎng)的“溫和提醒”,并建議其適當(dāng)休息。
OpenAI 表示,他們不是通過用戶在 ChatGPT 上花費(fèi)的時(shí)間來(lái)衡量成功,而是確保人們?cè)谕瓿伤麄兿胍氖虑楹箅x開產(chǎn)品。
OpenAI 公司強(qiáng)調(diào)開發(fā) ChatGPT 的初衷,是為了幫助用戶在各個(gè)方面都能蓬勃發(fā)展,無(wú)論是取得進(jìn)步、學(xué)習(xí)新知識(shí)還是解決問題,最終都是回歸日常生活。他們的目標(biāo)不是吸引用戶的注意力,而是幫助用戶有效地使用它。
OpenAI 正在改進(jìn) ChatGPT 對(duì)某些類型問題的回應(yīng)。對(duì)于高風(fēng)險(xiǎn)、敏感的問題,ChatGPT 應(yīng)該幫助用戶權(quán)衡利弊,深入思考;OpenAI 近期將調(diào)整 ChatGPT 的行為,以便其在處理重要個(gè)人決策時(shí),用戶能看到更有幫助的回應(yīng)。
OpenAI 仍在改進(jìn)其模型,以更好地檢測(cè)精神或情感困擾的跡象,確保 ChatGPT 不會(huì)加劇妄想或情感依賴的跡象,并能引導(dǎo)用戶獲取有用的、基于證據(jù)的資源。
該公司表示,他們與來(lái)自 30 個(gè)國(guó)家的 90 多名醫(yī)生合作,為復(fù)雜的、多輪對(duì)話構(gòu)建了定制評(píng)分表。他們還招募了人機(jī)交互研究人員來(lái)提供反饋,了解 ChatGPT 如何識(shí)別令人擔(dān)憂的行為,并對(duì)產(chǎn)品保護(hù)措施進(jìn)行壓力測(cè)試。此外,OpenAI 正在組建一個(gè)由心理健康、青少年發(fā)展和人機(jī)交互專家組成的咨詢小組。