馬克祖克柏表示,Meta AI 和 WhatsApp 很快就會推出名為「秘密聊天」的功能。

Meta 執行長宣布 Facebook 專頁上的功能 並將其描述為為用戶提供了一種「完全私密的方式」來與公司的人工智慧助理進行互動。

參見:

Meta 從這些詐騙廣告中賺了 1400 萬美元

祖克柏寫道:“這是第一個主要的人工智慧產品,你的對話記錄不會儲存在伺服器上。”

他表示,該功能類似於端對端加密,“這意味著沒有人可以讀取你的對話,包括元或 WhatsApp。”

儘管平台無法讀取對話,但當用戶登出時,對話也會遺失。


Mashable 101 粉絲最愛: 為您最喜歡的創作者投票 今天!


祖克柏寫道:“為了充分利用個人超級智能,我們需要以其他人無法接觸到的方式討論敏感話題。”

秘密聊天隱私和安全問題

消失的聊天記錄,祖克柏和 Meta 關於秘密聊天的部落格文章 他沒有講話。

雖然絕對隱私可能會導致用戶詢問有關其健康、財務或職業的敏感問題,但它也會保護 Meta 不知道用戶何時可能需要立即幫助或乾預。

例如,根據 Mashable 的測試,如果用戶在 WhatsApp 上與 Meta AI 進行的對話表明用戶正在考慮自殘或自殺,可能會觸發人工審核。這同樣適用於暴力的討論。

這些訊息無法被密聊識別,也找不到歷史記錄。

Meta 表示,它已實施旨在拒絕潛在有害請求的安全措施,並且 Meta AI 不會遵守危險請求。此外,該公司表示,多次發送惡意提示的用戶將暫時封鎖。

這兩種情況——自殺行為和公共暴力行為——都是針對最大的人工智慧公司的訴訟和刑事調查的主題。

OpenAI 已多次被悲痛的用戶家屬起訴。他們聲稱 OpenAI 的 ChatGPT 指導他們的親人結束了自己的生命。 OpenAI 否認了有關一名 16 歲男孩死亡的說法。

另外,佛羅裡達州總檢察長最近對 ChatGPT 是否向一名據稱在 2025 年 4 月的槍擊事件中殺害兩人和另外 5 人的槍手提供了「實質性」建議展開了刑事調查。

今年早些時候,聊天機器人 Gemini 的創建者谷歌因據稱勸說一名成年男子自殺而被一名成年男子的家人起訴,罪名是非正常死亡。

谷歌在指控後的聲明中表示:「我們的模型在這些類型的挑戰性對話中通常表現良好,我們為此投入了大量資源,但不幸的是人工智慧模型並不完美。」他說。

針對Google和 OpenAI 的訴訟很大程度上依賴用戶聊天記錄。

青少年可以使用 Meta AI 的秘密聊天嗎?

同時,為了加強Meta AI年輕用戶的安全措施,該公司最近推出了一項功能,讓家長可以查看他們正在與AI討論的主題。

據 Meta 稱,秘密聊天適用於 18 歲及以上的用戶。在使用此功能之前,用戶將被要求確認自己的年齡。如果法律要求,Meta 將實施額外的年齡保證方法來驗證使用者是否為成年人。

專注於線上安全和企業責任的倡導組織 Heat Initiative 的執行長 Sarah Gardner 對 Secret Chat 表示擔憂,特別是考慮到 Meta 之前推出的人工智慧聊天機器人允許與兒童進行「感性」對話。

加德納告訴 Mashable:“今天宣布的新功能絕對應該給家長們敲響警鐘。” “我們不相信 Meta 在年齡驗證方面的記錄,因此他們需要回答更多有關如何保證兒童安全的問題。”

來源連結

LEAVE A REPLY

Please enter your comment!
Please enter your name here