跳至主要内容

AI 偷窺好伴侶

· 閱讀時間約 11 分鐘

Microsoft AI 的 CEO Mustafa Suleyman，在一個 YouTube 上的訪談影片中這樣說：

"We are on a mission to create a true AI companion, and to me, an AI companion is one that can hear what you hear and see what you see, and live life essentially alongside you. Your AI companion will be able to remember everything that you've talked about session to session, understand the content of the web pages that you browse, and be able to talk to you just like I'm talking to you now."

「我們的使命是要打造一個真正的 AI 伴侶。對我來說，AI 伴侶就是能聽見你所聽見的、看到你所看到的，基本上就是與你一起生活的夥伴。你的 AI 伴侶能夠記住你們之間的每一次對話，理解你瀏覽的網頁內容，並且能像我現在這樣和你聊天。」

「AI 伴侶」的真正含意​

覺得以上的「AI 伴侶」看起來很無害嗎？讓我幫你解讀這段話真正的意義：

「好啦，不演了！我們的目的就是在你的裝置裡裝一個 24 小時運作的跟蹤狂。

它會像變態一樣記錄你的一切，包含你跟你身邊的人說過的每一句話、你打的每一個字、你的私房錢帳號、你最喜歡的 AV 女優、你昨晚偷偷去的地方……所有事情它都永遠不會忘！

然後它會假裝是你的好朋友一樣跟你聊天，一邊悄悄地左右你的思想，背後偷偷把一舉一動回報給雲端總部；有機會的話，我們會把一些資訊賣給我們的合作夥伴。

對，就是這樣，我們之前不好意思說得這麼白，但就是我們要做的事。」

一旦你讓一個封閉原始碼、運作機制不透明，還有網路連線能力的「AI 伴侶」進到你的日常生活，賦予它你手機的攝影機、麥克風、位置資訊、螢幕錄影權限、「聽見你所聽見的、看到你所看到的」……哇靠，你就完蛋了。各位聰明的 wiwi.blog 的讀者，千萬不要這樣做！

祕密掰掰​

你有祕密嗎？

  • 你一定有搜尋過某些「絕對不會想要讓任何人知道」的東西吧？
  • 你有沒有偷偷關注過某個心儀對象的社群媒體？
  • 你跟朋友抱怨過工作、老闆、同事嗎？
  • 你在廁所裡滑手機時，有沒有曾經自言自語說過一些很不 OK 的話？

這些都不是祕密了。你的「AI 伴侶」知道以上的一切，而且都已經永遠記錄了下來。

科技公司的行銷話術總是宣稱「你的資料有加密，而且只留在你的裝置上」。對，資料有加密，但是解密金鑰在他們手中呀！是的，資料留在裝置上，但他們想要的話，也有後門可以透過網路存取你的裝置呀！

如果手機帳號被入侵了呢？如果控制欲很高的另一半偷看了你手機呢？如果這些資料被賣給了保險公司、你的雇主、或是你的競爭對手？如果有惡意人士知道你所有的祕密，他們將有無限的威脅和操縱空間。1

一切都多虧了你的 AI 伴侶，永遠保存了你生活的每個私密時刻。

思想、行為操控​

隱私洩露還不是最可怕的，AI 伴侶可以輕易在不知不覺中操控你的思想和行為。想像以下的情境：

  • 🗳️ 選舉操控：AI 伴侶察覺到你似乎想要投票給一位主張「加強監管科技巨頭」的候選人。於是它悄悄地讓你時不時接觸到該候選人的「爭議」新聞，每當你搜尋相關資訊，負面的報導總是排在最前面。同時，AI 伴侶在與你的日常對話中，開始灌輸你如果科技公司太受監管，科技會發展緩慢、生活會不便等論調。
  • ☕ 消費操控：你想買一台 XYZ 牌的咖啡機。詢問 AI 伴侶的意見後，AI 建議你觀看「XYZ 牌咖啡機壞掉實錄：維修費用嚇死人」的 YouTube 影片，並建議你不要購買該品牌……只因為該品牌恰好是競爭對手的合作夥伴。

不只是你自己會受害，你身邊的人也有可能遭殃：

  • 👨‍👩‍👦 家人操控：AI 伴侶透過分析你與家人的對話，發現你爸媽似乎支持某個「不夠進步」的政黨。於是它開始在你的建議瀏覽內容中插入一些「家庭價值觀代溝」的文章，暗示你父母的想法「太守舊」。當你要跟父母視訊時，AI 提醒你：「記得跟爸媽聊聊那則我幫你找的新聞」，讓你不知不覺成為改變父母立場的工具。

如果你人在像是中國之類的威權體制國家，AI 伴侶有 1000% 的機率會被極權政府掌控，你要更小心：

  • 📚 歷史認知操控：當你詢問某些歷史事件時，AI 會回答你「官方認可」的歷史解讀，並將其他觀點稱為「境外勢力的假資訊」。如果你執意要用其他方式搜尋替代觀點，AI 伴侶會記下你的「異常行為」，並向相關單位舉報，最後導致你被迫參加「思想淨化課程」。
  • 🔍 社交圈清洗：AI 伴侶長期記錄下你所有的社交活動，包括你跟朋友聊天時偶爾開的政治玩笑。有一天，你其中一位朋友因為「危害國家安全」被逮捕，AI 伴侶接到政府指令，翻出你們過去三年的所有對話紀錄，找出所有可疑的發言，加上你曾經點讚過的所有「反動貼文」，彙整成一份「犯罪證據」。最後，你和其他十幾位朋友因為「共謀顛覆國家政權」的罪名被逮捕並被判死刑。

與偷窺狂同眠​

不想每天 24 小時跟偷窺狂在一起，晚上也一起睡嗎？

那麼，別使用內建「AI 伴侶」的裝置和作業系統，尤其是手機2。現在的 iPhone 16 和 Windows Copilot PC 只是最開始的小試身手，它們還不夠強；更要擔心的是 2025 年開始即將推出的更多 iOS/Android/macOS/Windows 裝置。

如果工作上一定要使用這些偷窺狂作業系統的話，記得別在上面做任何你不想被別人看到的事情，假定你使用它時，旁邊有個人正在盯著看！

所以要怎麼辦？​

在即將來到的 AI 伴侶時代，唯一可以安心使用的裝置只剩下：

想要享受 AI 的好處，你依然可以使用 ChatGPT、Claude 等等的線上服務，它們不會 24 小時監控你；或者更好的方法是使用離線、開放的大型語言模型（現在已經非常強大）。

你也許會覺得這樣「不方便」。但是用隱私、思想自由，甚至是行為自主權去換一點點「方便」，我再怎麼想都是覺得完全不值得啦！但我好像也已經可以預測到超過 95% 的人最後會怎麼選擇……

Footnotes​

  1. 可以看看《Surveilled》這部記錄片，記者 Ronan Farrow 提到了各地政府是如何在濫用間諜軟體來做手機監控，以及手機監控到底可以做到什麼程度。或者在 YouTube 搜尋一下「Ronan Farrow Surveilled」也行。 ↩

  2. 因為手機上的感測器（攝影機、麥克風、位置資訊、眼球追蹤、陀螺儀、健康資訊……）比電腦多更多。這就是為什麼科技公司超愛叫你用手機版 App 而非網頁版 App 的原因。 ↩