Meta公司近日宣布將在Facebook平台上引入大量由人工智慧產生的虛擬角色，這些角色將與真實用戶一樣，擁有個人資料、頭像並能創作和分享內容。此舉旨在提升用戶互動和平台活躍度，但同時也引發了安全和內容監管的擔憂。 Meta AI工作室已推出虛擬角色創建功能，吸引了大量用戶參與，未來兩年內還將擴展至更多國家。網紅們也可以創建自己的AI版本與粉絲互動，但此舉也可能帶來虛假信息傳播和未成年人保護等問題。
Meta 的AI 工作室已經推出了這些虛擬角色的創建功能，用戶可以透過該平台創造出自己的AI 角色，與其進行互動。這項功能已經吸引了數以萬計的用戶參與，目前已擁有數十萬個AI 角色。 Meta 表示，未來兩年內，將持續擴展AI 工作室的使用範圍，讓更多國家的使用者體驗這項功能。
值得注意的是，除了虛構角色，Influencer（網紅）們還可以創造自己的AI 版本，與粉絲交流。這種創新的互動方式吸引了不少關注，許多社群平台也紛紛推出了類似的功能，以滿足內容創作者的需求。
然而，推出這些AI 角色也伴隨著巨大的安全風險。近年來，類似的聊天機器人在社群平台上屢屢突破內容監管，導致未成年用戶接觸到不當內容的事件屢見不鮮。此外，假訊息的傳播也是一個嚴重的問題。 Meta 的AI 角色若缺乏有效的監管，可能會進一步放大謠言與錯誤訊息，為平台帶來不可估量的風險。
前Meta 創作者創新團隊負責人、現任億萬財富男孩（Billion Dollar Boy）公司首席市場官貝基・歐文(Becky Owen)對此表示擔憂。她指出，與真實創作者不同，AI 角色缺乏生活經驗、情感和相對性，這可能會影響其與使用者的真實互動，進而影響創作者的工作。
Meta 在Facebook 上推行AI 角色的計劃，雖然能夠增強用戶互動和平台的活躍度，但背後隱藏的安全隱患和對內容創作者的潛在威脅，也值得大家關注。
劃重點:
Meta 計劃在Facebook 引入AI 虛擬角色，旨在提升用戶互動。
使用者可以透過AI 工作室創建自己的虛擬角色，與之互動。
AI 角色的推出可能帶來安全風險和假訊息傳播問題。
Meta在Facebook引入AI虛擬角色的計劃，雖然在提升用戶互動方面具有潛力，但也面臨著內容監管和安全風險的嚴峻挑戰。如何平衡技術發展與社會責任，將是Meta未來需要重點關注的問題。 這項措施對整個社群媒體產業的影響，值得持續觀察與探討。