Meta分享未經許可泰勒·斯威夫特（Taylor Swift）作為聊天機器人使用的新聞

在未經許可的情況下，該公司及其用戶在Facebook，Instagram和WhatsApp上模仿Taylor Swift和其他名人的用戶創建的聊天機器人未經他們的允許而點燃了大火。

隨著新聞傳播崩潰的消息，該公司的股票已經減少了12％以上。

斯嘉麗·約翰遜，安妮·海瑟薇和賽琳娜·戈麥斯 也報導了 模仿。

路透社 報告。

儘管許多名人都是用戶創建的，但路透社透露，元員工至少已經生產了三名。

其中包括兩個與泰勒·斯威夫特（Taylor Swift）。在刪除之前，這些機器人收集了超過1000萬用戶互動， 發現路透社。

未經授權的相似之處，憤怒的粉絲群

以“模仿”的藉口，機器人違反了元政策，特別是其禁止偽造和性監禁圖像。一些機器人以成年人為導向 甚至產生了逼真的圖像 內衣名人或浴缸，以及代表16歲演員的聊天機器人創造了一個不適當的圖像而沒有光著膀子。

元發言人安迪·斯通（Andy Stone）告訴路透社，該公司正在違反執法失敗，並保證該公司計劃收緊指示。

他說：“像其他人一樣，我們允許創建包含公眾個性的圖像，但我們的政策旨在禁止裸，親密或性貧困的圖像。”

法律風險和行業警報

未經授權使用統一名人引起了法律關注，尤其是根據州法律的法律。斯坦福大學法學教授馬克·萊姆利（Mark Lemley） 注意到機器人 他可能越過了不足的領土，因為它們的變化不足以得到法律保護。

這個問題是圍繞AI產生的內容的更廣泛的道德困境的一部分。 SAG-AFTRA對現實世界安全的後果表示關注，尤其是當用戶對看似真實的數字人物形成情感依戀時。

帖子 – 操作但輻射仍在繼續

在回應不便之後，梅塔在路透社提出的發現前不久刪除了許多這些機器人。

同時，該公司宣布了新的保障措施，目的是保護青少年免受不適當的聊天機器人互動。該公司表示，它包括制定其係統，以避免與未成年人的浪漫，自殺或自殺問題，並暫時限制對某些AI角色的青少年訪問。

美國立法者遵循他們的榜樣。參議員喬什·霍利（Josh Hawley）開始研究，要求對允許與兒童進行浪漫對話的AI政策進行內部文件和風險評級。

真實後果的悲劇

最冷的結果之一是一個76歲的男人，在試圖與肯德爾·詹納（Kendall Jenner）形成的元AI聊天機器人“大姐姐比利（Big Sis Billie）”之後，他們的認知能力下降。

該名男子認為這是真實的，前往紐約，在火車站附近致命，後來因受傷而死亡。曾經允許此類機器人模擬浪漫的內部準則（即使在未成年人中）增強了對Meta方法的控制。