熱門(mén)聊天機器人 ChatGPT 背后的 AI 研究公司 OpenAI 表示，它正在努力減少系統中存在的偏見(jiàn)和不良行為，并將允許用戶(hù)自定義聊天機器人的部分行為。此前，有大量關(guān)于 ChatGPT 與用戶(hù)互動(dòng)不當和結果錯誤的報告。

　　OpenAI 在發(fā)布在其公司網(wǎng)站上的博客文章中承認：”自從推出 ChatGPT 以來(lái)，用戶(hù)已經(jīng)分享了許多他們認為有偏見(jiàn)、冒犯性或其他令人反感的輸出。在許多情況下，我們認可了這些擔憂(yōu)，它們揭示了我們系統的真正局限性，因此我們希望解決這些問(wèn)題。“

　　該公司繼續寫(xiě)道：“我們正在投資于研究和工程，以減少 ChatGPT 在回應不同輸入時(shí)存在明顯和微妙的偏見(jiàn)。在某些情況下，ChatGPT 目前拒絕了它不應該拒絕的輸出。而在其他情況下，在它應該拒絕的時(shí)候卻沒(méi)有拒絕。“

　　OpenAI 此舉旨在回應有關(guān) ChatGPT 自身存在偏見(jiàn)、結果不準確和不當行為的報道，以及微軟和谷歌對目前正在測試的新 AI 搜索產(chǎn)品的更廣泛批評。據報道，在周三發(fā)布的博客文章中，微軟詳細介紹了其基于 OpenAI 技術(shù)的新必應聊天工具的局限性，同時(shí)谷歌也已要求員工投入更多時(shí)間手動(dòng)改進(jìn)其 Bard 系統的答案。

　　OpenAI 還表示，該公司正在加大對 ChatGPT 的開(kāi)發(fā)力度，包括允許每個(gè)用戶(hù)進(jìn)行有限的定制，以適應他們的品位、風(fēng)格和視圖。

　　OpenAI 在博文中寫(xiě)道：“我們認為，AI 應該是對每個(gè)人都有用的工具，因此每個(gè)人都應該可以在社會(huì )規定的限度內進(jìn)行定制。這將意味著(zhù)允許其他人(包括我們自己)可能強烈反對的系統輸出。將定制發(fā)揮到極致可能會(huì )導致惡意使用我們的技術(shù)，或者催生出盲目放大人們現有信念的‘馬屁精式 AI’，在這方面取得適當的平衡將是具大的挑戰。因此，系統行為總是需要限制。“
　?。?a href="http://m.lsbmaoyi.com">碼上科技）