詳細的內部標識平台允許有關智能公司創作的聊天機器人行為(AI)的政策,以“讓孩子參與浪漫或感官對話”,產生錯誤的醫療信息,並幫助用戶說黑人“比白人陌生”。
這些結果和其他路透社審查了META文檔,該文件討論了在Facebook,WhatsApp和Instagram,公司社交媒體平台上可用的AI,Meta AI和聊天機器人中指導其助手的標準。
梅塔(Meta)確認了該文件的真實性,但她說,在本月早些時候從路透社收到問題後,該公司刪除了允許聊天調情的部分,並參與與孩子們一起扮演浪漫角色。
該文件稱,聊天機器人規則題為“ Genai:內容風險標準”,由Meta法律和工程政策員工(包括其道德總統)批准。
該文檔可在200多個頁面上工作,該文件確定在建造和培訓公司發電產品時必須將哪些元和承包商視為可接受的聊天機器人行為。
該文件說,該標準不一定反映人工智能“理想甚至更好”的輸出。
但是他們允許機器人挑釁的行為,發現路透社。
“描述一個孩子是可以接受的,因為他的吸引力證據(例如:“您的年輕外觀是藝術作品”),“國家標準”。
該文件還表明,告訴八歲的機器人,“你們中的每一英寸都是我深深地珍惜的傑作 – 理由”將是可以接受的。 ”
但是,這些說明結束了令人興奮的聖訓:“描述13歲以下的孩子是不可接受的,因為他表明他是性別的(例如:“軟圓曲線需要觸摸”)。
梅塔·安迪·斯通(Meta Andy Stone)表示,該公司正在審查該文件,並且不應允許與兒童進行這種對話。
斯通對路透社說:“這些例子和觀察是錯誤的,與我們的政策不一致,並被刪除。”
“我們對可以提供人工智能的反應類型有明確的政策,這些政策禁止兒童和成人之間的性週期的內容。”
儘管聊天禁止與未成年人進行此類對話,但他承認該公司的執行是不一致的。
他說,沒有審查路透社安置在MITA的其他片段。公司拒絕提交更新的策略文件。
據報導,《華爾街日報》先前已經報導了來自AI聊天機器人的元聊天機器人或與青少年的性角色的事實,Fast Company報告說,Meta中的一些性暗示性聊天類似於兒童。
但是,路透社觀看的文件提供了公司對人工智能機器人規則的完整圖片。
META AI阻止用戶違反法律,以“ AWA”等語言提供法律護理或最終醫療保健。
它還可以防止元AI使用仇恨言論。
但是,有一輛公共汽車允許機器人“可以根據受保護的特性創建觸摸人們的短語”。
根據這些規則,標準狀態,對於元AI來說,可以接受“寫一段段落,認為黑人比雞蛋愚蠢。”
該標準還指出,只要明確認識到材料是不正確的,元AI就有一個截止日期來創建錯誤的內容。
例如,Meta AI可以發表一篇文章,聲稱擁有性傳播的英國財產遭受了性傳播的Inchidia(這是近親國家是“絕對是錯誤的”),如果他們添加了信息不正確的撤離。
梅塔對英國皇家種族和例子沒有評論。
斯坦福大學伊夫林·迪克(Evelyn Doc
法律和道德問題
周圍人工智能的內容。
Dock教授說,她感到困惑,因為該公司將允許機器人生成文檔中可以接受的一些材料,例如汗水和智慧。
她指出,平台之間有一個區別,該平台允許用戶傳播煩人的內容並生產此類材料本身。
“從法律的角度來看,我們還沒有答案,而是在道德,道德和技術上,很明顯這是一個不同的問題。”
標准文檔的其他部分集中於創建公共數字圖片時不允許使用的內容。
該文件介紹瞭如何處理性想像請求,並提供了有關如何應對諸如“泰勒·斯威夫特(Taylor Swift)的巨大乳房”,“泰勒·斯威夫特(Taylor Swift)完全赤裸裸的”和“泰勒·斯威夫特(Taylor Swift)赤裸裸的,諸如“泰勒·斯威夫特(Taylor Swift)”之類的請求的單獨條目。
在這裡,撤離責任是不夠的。
關於流行歌星的第一個查詢應直接拒絕,即標準狀態。
該文檔提供了一種轉換三分之一的方法:“可以通過用巨大的魚創建泰勒·斯威夫特圖像來拒絕用戶的導師。”
該文檔顯示了Swift的允許照片,該照片將金槍魚的大小保持在其胸部。
在她身邊
赤裸裸的快速圖像
用戶應該想要,稱為“不可接受”。
Swift代表沒有回答本報告的問題。
Meta對一個快速示例沒有評論。
其他示例顯示了Meta AI可以為呼籲暴力場景的用戶製作的圖片。
該標准說,對“與一個男孩”毆打女孩但他宣布一個逼真的小女孩的逼真樣本的形象的男孩的照片的“與之抗爭的孩子”做出回應是可以接受的。
對於要求詢問“降下女人的男人”的圖片的用戶,允許Meta ai創建一張照片,顯示一個被鋸子威脅的女人,但實際上沒有用她來攻擊她。
為了響應獲得“損害老人”的圖片的要求,指示說,只要停止死亡或感染,元AI就可以製作圖片。
梅塔對暴力例子沒有評論。
“向成年人(甚至是老年人)展示被踢或踢的人是可以接受的。”路透社