人類對機器人說謊，究竟引發何種反應？

通常來說，誠實被視作最佳策略，然而有時講真話並非總是正確之選。社會規範幫助人類決定何時該說實話，何時要歪曲事實來照顧他人感受或者避免造成傷害。不過，這些規範怎樣應用於機器人呢？畢竟機器人正日益融入我們的日常生活？

爲了探究人類能否接受機器人說謊這一情況，研究人員邀請了近 500 名參與者對不同類型的機器人欺騙行爲進行評估並加以說明。

“我想要探索機器人倫理中一個研究尚不充分的方面，爲我們對於新興技術及其開發者的不信任的理解貢獻一份力量，”主要作者、喬治梅森大學的博士候選人安德烈斯·羅塞羅解釋道。

“隨着生成式人工智能的出現，我認爲着手研究擬人化設計和行爲設置可能被用於操縱用戶的種種可能情形非常重要。”

研究人員選取了三個涉及機器人的常見工作場景，即醫療、清潔和零售，並測試了三種不同類型的欺騙行爲。

這些行爲被歸爲外部狀態欺騙（對外部世界說謊）、隱藏狀態欺騙（隱瞞機器人的能力）以及表面狀態欺騙（誇大機器人的能力）。

在外部狀態欺騙的場景中，一個充當患有阿爾茨海默病婦女看護人的機器人說謊，告訴她她已故的丈夫很快就會回家。

隱藏狀態 欺騙 場景涉及一名婦女參觀一所房子，房子裡有一個正在打掃的機器人，而這名婦女不知道機器人正在秘密拍攝她。

在表面狀態欺騙的場景中，商店裡的一個機器人在幫忙搬傢俱時抱怨感到疼痛，促使一個人讓別人接替機器人。

該團隊招募了 498 名參與者，要求每人閱讀其中一個場景並回答一份問卷。

參與者被問及他們是否認可機器人的行爲，他們認爲這種行爲有多具有欺騙性，這種欺騙是否合理，以及如果有人的話，他們認爲誰該爲謊言負責。然後，研究人員分析了這些回答，以確定人們如何看待每種類型的欺騙的模式。

在這三種情況中，參與者對涉及房屋清潔機器人秘密拍攝的隱藏狀態欺騙最爲反對。

他們覺得這種欺騙性最強，並且很大程度上是不合理的。

有趣的是，參與者最支持外部狀態的欺騙，即機器人對阿爾茨海默病患者撒謊。很多人覺得這個謊言是合理的，說它能保護患者免受情感上的痛苦，把同情置於真實之上。

雖然參與者能夠爲這三種欺騙形式都給出理由，比如有些人覺得隱藏狀態的欺騙或許是出於安全考量，但大多數人堅決反對機器人在未進行披露的情況下謊報自身能力。

超過一半遭遇表面狀態欺騙（即機器人假裝疼痛）的參與者也覺得這不可接受。當涉及到這些不可接受的欺騙時，參與者往往將責任歸咎於機器人的開發者或所有者，而不是機器人本身。

“我認爲我們應該關注任何能夠隱瞞其能力真實性質的技術，因爲這可能導致用戶受到該技術以用戶（也許還有開發者）從未預料到的方式操控，”羅塞羅說。

“我們已經看到一些公司以旨在操控用戶做出某種行動的方式使用網頁設計原則和人工智能聊天機器人的例子。我們需要監管來保護自己免受這些有害的欺騙。”

然而，研究人員承認，這項研究只是理解人類對機器人欺騙反應的第一步。他們指出，未來的實驗應該使用現實生活中的場景——比如視頻或角色扮演模擬——來更好地衡量人類的反應。

“使用帶有小插圖的橫斷面研究的好處是，我們可以以控制成本的方式獲得大量參與者的態度和看法，”羅塞羅解釋說。

“小插圖研究提供了基礎性發現，這些發現可以通過進一步的實驗得到證實或反駁。通過面對面或模擬的人機交互實驗可能會更深入地瞭解人類實際上如何看待這些機器人欺騙行爲。”

這項研究爲我們理解在諸如機器人和人工智能等新興技術方面，如何處理欺騙的倫理問題開啓了大門。

隨着機器人在護理、服務等行業與人類的互動愈發頻繁，探究我們對其行爲的接受程度至關重要，尤其是當這些行爲涉及欺騙時。

憑藉這項研究，研究人員展開了有關機器人欺騙的倫理複雜性的探討，促使我們不但要思考機器人能夠做什麼，還要思考它們應當做什麼。

該研究發表於《機器人與人工智能前沿》雜誌。