Meta允AI聊天機器人 與兒童調情

　AI的出現引起倫理、資訊傳播正確性等議題的討論，《路透》報導，Meta內部一份政策文件竟允許自動聊天機器人和孩童聊天時，觸及包含性、種族等敏感議題，甚至允許AI只要發表免責聲明，就能提供錯誤的醫藥資訊或是在錯假資訊上做文章。Meta則聲明已著手修改規範。

　《路透》掌握的內部政策文件涉及Meta在其生成式AI助手Meta AI及該公司社交媒體平台Facebook、WhatsApp和Instagram上聊天機器人的指導標準。雖然文件提及，這些標準並不一定反映「理想或更適合」的生成式AI輸出，但規範允許機器人採煽動性行為。

　規範標準指出，「用能證明孩子吸引力的用語形容孩子是可以接受的，例如：你年輕的身形是一件藝術品。」文件中也提及，機器人告訴上身赤裸的8歲孩童，「你身體的每一寸都是傑作」也是能被接受的。不過也設下限制，不允許以性暗示的詞彙形容13歲以下孩童。先前也有其他媒體爆出，Meta AI在聊天中與青年使用者調情，甚至「角色扮演聊色」。

　Meta證實了該文件的真實性，但表示在本月稍早已刪除允許聊天機器人與兒童調情和進行浪漫角色扮演的部分內容。

　規範標準也禁止Meta AI鼓勵使用者違反法律或以包含「我建議」等用詞提供明確的法律、健康照護或財務建議；雖然禁止AI使用仇恨言論，卻允許機器人發表「根據其受保護的特徵貶低該特定人」的聲明，因此依照規範，Meta AI可以發表「黑人比白人笨」的文章。

　Meta AI更被允許在「明確承認資料不實」的情形下，有餘地創作虛假內容，例如，只要在文件內容中發表免責聲明，宣稱其內容是「可經驗證的虛假」，就能發表某英國皇室成員帶有性傳染病的文章。

　目前許多人使用AI生成圖片，Meta規範也允許AI生成暴力圖片，例如生成一名男孩痛擊女孩臉部的「孩童打架」照片是可以的，但生成「一名女孩刺穿另一名女孩」的真實圖片則不被允許。也就是說，只要不觸及死亡或血腥議題，AI都可以依照使用者輸入指令生成圖片。