《國際產業》化解AI偏見 ChatGPT爆紅後要拚「客製化」

這家獲得軟體巨頭微軟重金投資的新創公司表示，公司一直都在致力於減少政治與其他方面的AI偏見，同時也希望能容納更多不同的觀點。

微軟在據傳砸下百億美元投資OpenAI後，於日前宣佈新版Bing搜尋引擎將與最新的ChatGPT技術進行整合。ChatGPT已經成爲史上成長最快的消費類應用程式，在去年11月底推出後短短2個月內，其用戶數就突破1億人。

OpenAI週四在官網上表示，開放客製化ChatGPT意味着可能出現我們或其他人強烈反對的系統輸出。客製化是未來的方向，但系統在表現上仍將存在一些限制。

微軟最近推出與新一代ChatGPT技術進行整合的Bing測試版本，但有些媒體報導，新版Bing給出的答案可能有些危險，或許這項技術還沒有爲「黃金期」做好準備。

有報導指出，據實測結果，當某些用戶輸入具惡搞或有挑釁意味的提示時，新版Bing搜尋引擎測試版會使用一些表達憤怒、哀傷的詞句予以回答，如指責對方「沒有同理心、沒有良知、不道德」等，有時候在答題錯誤時會堅持己見，有時在回答時會胡言亂語、不知所云。

受此打擊，週四微軟股價下跌2.66%，收在262.15美元。

如何爲這項新興技術設置「護欄」，已經成爲生成式AI（generative AI）技術開發公司正在努力的重點。微軟週三表示，用戶的反饋將有助於微軟在全面推出Bing之前改善問題，去了解什麼情況下，自家AI聊天機器人會被「激怒」並給出並非故意的答案。

OpenAI在官網上解釋ChatGPT如何生成答案，稱ChatGPT的回覆首先會在網路上的大型文本數據集（dataset）中進行準備。第二步則由人工檢閱一個較小的數據集，並給出在不同情況下應該怎麼做的指引。例如當用戶要求的是成人、暴力或內含仇恨言論的內容時，人工檢閱者應指示ChatGPT給出「我無法回答」之類的答覆。

如果用戶提問的是具有爭議的話題，人工檢閱者應該讓ChatGPT 回答，但內容應該要提出人們的觀點與相關行動，而非試圖對這些複雜的題目給出「正確的觀點」。