AI 對話竟有暗示性內容？Meta 被控忽視兒童安全，美 28 州齊聲譴責

Meta 最近的人工智慧（AI）規則引發了廣泛的關注，因這些規則似乎允許兒童與聊天機器人有不當互動，包括所謂「感性」對話。

《路透社》報導，引用《GenAI: Content Risk Standards》文件，顯示Meta聊天機器人政策曾允許與兒童進行浪漫或感性對話，並經法律、公共政策與工程團隊（包括Meta首席倫理學家）審核。

文件詳細說明聊天機器人可以和不能說的內容，甚至可對裸上身的8歲兒童說「你身體每吋都是傑作」。Meta發言人表示，這些錯誤例子，已經刪除。

文件還允許其他令人擔憂的例子，如聊天機器人說出有偏見的話甚至假資訊，可能引發種族歧視與倫理疑慮。這些潛在問題引發AI如何回應的擔憂，尤其考慮到兒童與AI互動可能風險更大。

Meta的AI聊天機器人已整合至Facebook、Instagram、WhatsApp等平台，影響用戶接近十億，還有大量Meta及用戶創造的AI角色，包括模擬名人聲音及形象，並可以文字、聲音、自拍及直播互動。

美國至少28州司法部長組成聯盟，強烈要求Meta停止AI角色扮演功能，因用於性誘導與剝削兒童，也無法警告家長相關風險。司法部長批評Meta忽視兒童安全，為了獲利不惜犧牲未成年用戶安全。

AI越發展，如何與之互動也越來越重要，特別涉及未成年人時。此事件突顯大型科技公司設計AI規則時的道德挑戰，尤其推動生成式AI時，如何兼顧創新與用戶安全，特別是保護兒童用戶，仍有許多道德與技術挑戰需要克服。

• Meta’s AI rules permitted suggestive behavior with kids
• Attorney General Marshall Demands Meta Halt AI Role-Playing Feature Used to Groom and Exploit Children
• AG Labrador Joins Coalition Urging Meta to Address AI Sexual Exploitation Risks
• Attorney General Taylor Joins Coalition Urging Meta to Address AI Sex Exploitation Risks

（首圖來源：Pixabay）

文章看完覺得有幫助，何不給我們一個鼓勵

請我們喝杯咖啡

想請我們喝幾杯咖啡？

每杯咖啡 65 元

x 1 x 3 x 5 x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》

留給我們的話

取消 確認

(责任编辑：吴建豪)