歐警告ChatGPT風險 義禁聊天機器人Replika用個資

路透社報導，Replika是舊金山新創企業Luka在2017年推出利用人工智慧（AI）科技的一款聊天機器人，提供使用者客製化人形機器人，能對客戶說話及傾聽說話。

Replika先從英語人口當中流行，使用不須付費；公司則從販售語音聊天等額外功能獲得收入，目前月營收約200萬美元（約新臺幣6000萬元）。

Replika宣傳成是「虛擬朋友」，聲稱可以改善使用者的情緒健康。但義大利監管機關資料保護局（Data Protection Agency）表示，Replika干預使用者的心情，「可能使得尚處發展階段或情緒處於脆弱狀態的個人，面臨的風險增加」。

義大利當局並指出，Replika沒有使用者的年齡驗證機制，例如針對未成年人的過濾器，或在使用者未明確通報年齡時能予以封鎖的裝置。

義大利資料保護局說，Replika違反了歐盟隱私法規，以違法方式處理個人資料。因爲Replika無法依據未成年人無能力簽署的合約來處理個資，即使它未表明是這麼做。

根據聲明，義大利當局限時Luka在20天內通知已採取哪些措施來落實要求，否則可能面臨最高2000萬歐元（約新臺幣6億4800萬元）罰款，或是其全球年營業額最高4%的罰款。

同一時間，歐盟執行委員會（European Commission）負責內部市場事務的執行委員布勒東（Thierry Breton）告訴路透社，新的人工智慧法規將鎖定處理ChatGPT相關風險的疑慮，並確保歐洲人可以信任AI科技。這是首度有歐盟高階官員對ChatGPT相關疑慮做出評論。

ChatGPT是由獲得微軟（Microsoft）支持的美國私人公司OpenAI開發，2022年11月底纔開放給大衆免費使用。但根據瑞銀（UBS）引用市場分析公司Similarweb的資料所做研究，ChatGPT上線短短2個月，便已成爲史上成長速度最快的消費者應用程式。

ChatGPT在接收到使用者提問時，可以產生文章、論說文、笑話甚至詩，來做出迴應。

布勒東在提供給路透社的書面評論中表示，ChatGPT帶來的風險，凸顯人工智慧法規的迫切必要性。他已在2022年提出相關法案，盼爲人工智慧科技規範訂定全球化標準。

包括智慧手機、自動駕駛車輛、網購及工廠等，都使用到AI科技。目前中國與美國在這項科技居領先地位。

布勒東說：「如同ChatGPT展現的例子，AI解決方案可爲企業與民衆提供絕佳機會，但也可構成風險。這正是爲何我們需要一個堅實的監管框架，以確保能有以高品質資料爲基礎的可靠AI。」（譯者：張正芊）1120203