「你好醜喔」Instagram AI秒偵測關鍵字!防霸凌工具提醒用戶快收回

▲Instagram準備推出「惡意內容」偵測系統。(圖/路透社

科技中心綜合報導

多數民衆網友互動時,有時會被言論抨擊,甚至遭酸民圍剿留言灌爆。臉書(Facebook)旗下的Instagram正在思考所謂「言論自由」的界線,是否要針對網路霸凌加一道防護網,例如當用戶發文若是涉及惡意的內容,在還沒有發送之前,就會收到Instagram的「提醒」。

綜合外電報導,Facebook F8開發者大會即宣佈準備新的功能打擊言語霸凌,如今Instagram在8日發佈了一項新AI智慧功能,當用戶在評論中輸入「你長得好醜」、「看起來好蠢」等欺凌用語時,系統隨即就會發出通知詢問:「你確定要這個內容嗎?」

▲Instagram新款AI人工智慧將會鼓勵用戶撤銷仇恨言論。(圖/翻攝自Instagram)

「這個AI人工智慧偵測功能可用來鼓勵用戶撤銷他們的仇恨言論,並且反思分享一些較無害的言論。」Instagram表示,這樣的措施可以防止「心直口快」的民衆發生欺凌行爲,讓「平時掛嘴邊的仇恨言論」在經過思考後,更審慎地決定接下來說的話。

此外,Instagram還測試名爲「約束」(Restrict)的新功能,允許用戶可以隱藏特定網友的辱罵性留言,此功能不會通知遭屏蔽的網友,也不會讓他人知道是否已經讓其他用戶閱讀了這些言論,避免不必要的互動。

▲民衆使用社羣平臺時,有時會遭遇到網路霸凌。(圖/記者李佳蓉攝,示意圖,與本文當事人無關)

青少年面對言論欺凌頻傳,許多民衆相當擔心孩子現實生活中認識霸凌者,Instagram負責人莫塞裡(Adam Mosseri)表示,只有霸凌事件纔會損害Instagram的品牌形象,「創建安全的環境是我們的責任。這段時間以來,這件事情一直是我們的重要優先事項之一,我們將會繼續研究並且解決這個問題,期待分享更多更新。」