IT之家 5 月 5 日消息，YouTube 作為全球最大的視頻分享平臺，如今面臨著一個棘手的問題：如何在提供豐富娛樂內(nèi)容的同時，確保兒童免受不當內(nèi)容的傷害。近期，《連線》雜志的一篇最新調(diào)查報道揭露了一個令人不安的趨勢，引發(fā)了公眾對 YouTube 兒童內(nèi)容安全性的擔憂。
據(jù)報道，一些以兒童為目標受眾的 YouTube 頻道正在利用當下便捷易得的人工智能技術(shù)生成令人不安的視頻內(nèi)容。這些頻道，例如“Go Cat”，表面看起來充滿了吸引孩子的可愛角色和歡樂氛圍，但實際上卻隱藏著令人毛骨悚然的情節(jié)。這些視頻以孩子們熟悉的卡通形象如小黃人、托馬斯小火車等為基礎(chǔ)，通過 AI 技術(shù)進行重新創(chuàng)作，將其改造成帶有恐怖元素的形象，甚至出現(xiàn)了小黃人被核廢料溶解變成下水道蠕蟲怪物、可愛的貓咪目睹父母被槍殺等令人毛骨悚然的畫面。
據(jù)IT之家了解，盡管 YouTube 聲稱所有內(nèi)容都必須遵守其社區(qū)準則，其中包括禁止向兒童展示不當內(nèi)容，但實際執(zhí)行情況卻并不樂觀。隨著 AI 視頻生成技術(shù)的飛速發(fā)展，即使某個頻道被封禁或被取消廣告收益，其背后的創(chuàng)作者也能輕松地創(chuàng)建新的頻道并繼續(xù)上傳類似的視頻。此外，這些視頻雖然獲得了大量觀看次數(shù)，但評論區(qū)中卻存在大量可疑的機器人評論，這表明這些視頻的受歡迎程度可能被人為夸大，而這也可能是這些頻道能夠不斷重生的原因之一。
面對這一問題，專家建議家長們應(yīng)更加積極地參與到孩子的媒體消費過程中，確保他們觀看的內(nèi)容是適合其年齡的。同時，當遇到明顯不適宜的視頻時，應(yīng)充分利用舉報工具，以便平臺能夠及時審查并采取措施。
熱門跟貼