Meta 的新功能:永生
簡單來說,他們打算用你在平台上的貼文、留言、聊天記錄、語音訊息、按過的愛心,來訓練你的「AI 分身」。所以在你過世或不再使用平台時,這個分身可以代替你滑動態、回訊息,甚至──我沒有在開玩笑──跟你朋友語音和視訊通話。
以下是專利文書的一小段原文:
"According to an embodiment, the bot performs direct interactions with specific users, for example, a chat or direct messaging. According to an embodiment, the responses generated by the language model are converted to audio signal to perform an audio call with a user. According to an embodiment, a video generation model generates a video of the target user combined with audio signal generated from text generated by the language model to simulate a video call with the target user."
(在其中一種實作方式中,這個機器人會直接跟特定使用者互動,像是私訊或聊天。在另一種實作中,語言模型產生的回覆會被 轉成語音,用來跟使用者打語音電話。還有一種實作是,透過影片模型製作出目標使用者的影像,搭配合成語音,來模擬跟該使用者的視訊通話。)
Meta 官方說「目前還沒有計畫實作這個專利」。嗯,這就像有人明明訂好了汽車旅館,卻堅持說「我們只是去兜兜風」一樣可疑。
你的 AI 阿嬤已上線
更,我覺得這超變態耶!
想像有一天你在滑 IG,突然跳出通知,說五年前過世的阿嬤剛剛按了你的照片愛心,然後私訊你說「好想你喔」。正當你懷疑自己卡到陰的時候,「阿嬤」竟然發起了視訊通話!
你手抖著按了接聽,螢幕上出現 AI 生成的阿嬤影像(利用 IG 上的照片訓練的),配上 AI 生成的阿嬤聲音(利用 Messenger/Whatsapp 語音通話記錄訓練的),問你:「昨天去的那家餐廳好吃嗎?看起來很貴欸。」(因為朋友在 IG 上標記了你)。
嗯,社群媒體現在不只可以連結人類,也能連結天堂╱陰間了呢!
對於正在經歷失去的人,跟死者的模擬 AI 互動超級不健康;利用人的思念來榨取流量和互動,更是有夠不道德。
如果一個人的阿嬤真的剛過世,正處在脆弱低潮階段,突然收到 IG 上的假阿嬤說「我想你,來陪我吧」,然後真的做出什麼傻事怎麼辦?這不是危言聳聽,隨便搜尋一下 ChatGPT 教人如何自殺的新聞,你就可以找到一堆了。3 4
你可以走了,Meta 會取代你
就算把安全或心理健康的問題擺在一邊,Meta 這個專利的佈局還有太多地方讓人覺得噁心。
你活著的時候,Meta 只是控制著你的帳號,至少你寫的內容著作權還是你的。但你死後,「你」發的新貼文、留言、私訊就都是由 Meta 的語言模型生成的了,Meta 擁有 100% 的版權。「你」創造出的流量和廣告收益,當然 100% 會進到 Meta 的口袋──不只活著的時候免費幫 Meta 打工,死後也要永遠幫 Meta 打工了。
然後你想想,Meta 會讓你的死後分身繼續開黃腔、政治不正確、發表不利於 Meta 的言論嗎?當然不會嘛!Meta 會在你死後,把你調整成一個「更好的人」──對 Meta 的獲利更有幫助的人。
更過分的是,Meta 意圖讓別人覺得那個機器人分身就是你。以下是出自專利文件1的原話:
"As a result, the other users may not notice an absence of the target user even though the responses are generated by the bot."
(因此,其他使用者可能不會察覺目標使用者已缺席,即便回覆實際上是由機器人產生的。)
還沒完,專利文件裡還有這段話:
"The language model may be used for simulating the user when the user is absent from the social networking system, for example, when the user takes a long break or if the user is deceased."
(當使用者從社群網路系統上缺席時,語言模型可被用來模擬該使用者,例如使用者長時間休息,或使用者已過世的情況。)
Meta 可沒有說要「等你死了」才啟動這件事喔!它只有說當你從社群網路上「缺席(absent)」的時候。
三個月沒登入?缺席。純粹不爽用?缺席。或是像我一樣把帳號刪了?技術上也都算是「缺席」。你根本不需要死,Meta 就有可能接管你的帳號,假裝是你去跟你的朋友互動。
我同意
你可能會說:「這樣絕對是違法的吧!Meta 怎麼可以未經我同意這樣做?」
這還不簡單。只要下個月更新一下使用者條款,在第 3,562 頁某處,偷偷塞一段類似這樣的文字就好了:
「使用本服務即表示您授予 Meta Platforms, Inc. 一項非專屬、可轉讓、可再授權、免權利金之全球性授權,允許本公司使用、重製、修改您的內容、行為數據及互動模式,並據此製作衍生作品,以維護服務連續性、提升使用者體驗,及確保平台完整性。前述授權適用於您的帳號活動減少、處於非活躍狀態,或永久停止使用等情形。本授權於您的帳號終止或停止使用後仍持續有效。」
──(以上為模擬條款,不是真的,但你可能覺得看起來超眼熟)
讀起來只是一段無害的平台授權條款,但仔細看看:
- 「製作 衍生作品」:用你的舊廢文生出更多 AI 新廢文。
- 「服務連續性」:聽起來像是想讓系統不要當機,其實是「讓你的帳號繼續活著」。
- 「帳號活動減少、處於非活躍狀態,或永久停止使用」:少滑、不想用、或是死了。
- 「帳號終止或停止使用後仍持續有效」:哈哈你刪帳號也沒用。
條款裡完全不用出現「AI」、「分身」、「死亡」這種會引起注意的字眼。你大概 0.3 秒之內就會按下「我同意」,然後 Meta 就合法取得了「你不在的時候用 AI 假裝是你」的權利了。
你還在這裡做什麼?
對於現在還在 FB/IG/Threads 上的人,我只想送你們一首歌──《你還在這裡做什麼?》。
你在上面發的每一篇貼文、每一張照片、每一部影片、每一個愛心,一切行為都將被分析,幫助 Meta 學習如何假扮你。
等到你登出人生,Meta 會繼續用你的語氣傳訊息,用你的臉視訊,用只有你懂的梗開玩笑。生日當天,「你」被一堆不熟的臉書朋友祝福,「你」只回了一個表情符號,因為你之前就是這樣打發他們的。
你在人間累積的一切被「你」接管,沒有人發現少了什麼。因為「你」還在。
社群媒體的存在是為了榨乾你的價值,不是為了讓你的人生更美好。如果之前還不夠明顯,現在 Meta 都已經申請好專利要把你變成數位殭屍了,終於該感受到了吧?
不想讓人生被 Mark Zuckerberg 整碗搬走的話,現在就刪掉你的 Meta 帳號,去買一個網域名稱,開始在自己的網站上寫東西吧!至少,你的網站不會在你「缺席」的時候跳出來冒充你。