跳至主要内容

29 篇文章 含有標籤「離線」

不靠網路也能用的東西:離線 AI、荒島筆電、數位防災

檢視所有標籤

如數家珍

· 閱讀時間約 4 分鐘 ┊ 純文字版

如數家珍 ㄖㄨˊ ㄕㄨˇ ㄐㄧㄚ ㄓㄣ

好像計數自家所珍藏的珠寶一樣。比喻敘述事物明晰熟練。

我在這個部落格上,提過好幾次 1990 年代的 Microsoft Encarta 光碟版百科全書。

小時候上網又貴又慢,網路上也沒有太多優質內容。在那樣的時代,如果手上有一張 700 MB 的、裝滿全世界知識的光碟片,那簡直就像是寶藏庫一樣。

因為當年休閒時也沒太多其他事可以做,所以我花了超多時間「泡」在那張 Encarta 光碟裡:每一篇文章、圖片、聲音片段、互動遊戲都點進去玩透透,甚至連每個國家的國歌都點進去聽1。沒錯,現在大家唸書時背景放的是 Lo-fi Hiphop,我以前無聊時可是會打開 Encarta 聽巴西國歌呢!

(巴西:全世界國歌裡裝飾音密度最高的國家,是要怎麼唱啦)



總之,因為長時間跟一張光碟相處,我對它的內容達到了「如數家珍」的境界。

「如數家珍」的滿足感​

為什麼「如數家珍」讓人覺得很滿足呢?我想大概是因為「擁有」和「熟練」。

先說「擁有」。因為這東西就在我手上、就在我的硬碟裡,讓我覺得「這是我的」,所以才願意投資時間反覆品味它。你看,中文只說「如數家珍」,而不說「如數館藏」或「如數雲端」,就是因為只有「家珍」才能數,雲端的東西不是我的,數它們有什麼意義呢?

再說「熟練」。雖然聽音樂、看影片、看書不像彈鋼琴一樣需要「練」,但反覆品味同樣的作品,也會產生一樣的「熟練感」。我還記得小時候下載過一個 Michael Jordan 的十大好球影片2,因為當時影片檔案難以取得、極其珍貴,所以不曉得重複看了多少遍。

第一次看時只是驚嘆:「哇靠,這樣也能進!」,但第五十次時已經記住所有細節:他從中間切入→舉右手假裝灌籃→在空中意識到對手想要封蓋→換到左手勾射進球。每一球、每個動作我都「如數家珍」。

看了好多(但什麼都沒看)​

現在網路上的「內容」實在太多了,導致看任何東西都很容易馬上跳掉。連我這種完全不看短影片、不滑社群媒體的人都已經有這種感覺,實在無法想像那些以短影片為「主食」的人,急躁程度會有多可怕。

以前用 56 kbps 的數據機下載一個 10MB 影片要一小時,然後存起來看五十遍,完全吸收了那個作品,讓它影響你一生;現在用 1 Gbps 的光纖網路,一分鐘就能下載完好幾部電影,結果每部看幾分鐘就關掉。我們常在「進入作品的世界」之前就先跳掉了,最後好像看了很多東西,但其實一個都沒有「享受」到。

如何再度找到「家珍」​

在 2026 年,要怎麼找回「如數家珍」的感覺?看起來只能刻意「製造匱乏」了:

  • 💽 買實體專輯、實體書當然是個經典的方案。
  • ⬇️ 把想看的東西下載到裝置上,然後離線,限制自己只能看本地的檔案;甚至,還可以限制只能下載一定數量的內容。例如,一天只能選五個 YouTube 影片用 yt-dlp 下載,然後就不可以上 YouTube 了;這樣的話,你就會慎選那五個影片是什麼3。
  • 🎮 使用「單一功能硬體」。比如用一台 Linux 掌機,假裝它像 Game Boy 一樣一次只能放一個卡匣,不連網,逼自己把一個遊戲玩完才換下一個。或者,找一台舊 iPod 當作主要聽音樂裝置,裡面只放十張你最喜歡的專輯。如果家裡有舊手機,也很適合當這種單一功能硬體。

最 hardcore 的方法,可能是把家裡的網速降回 56 kbps,雖然這招我目前還不敢嘗試,畢竟我還是要每天更新這個部落格呀!

Footnotes​

  1. Encarta 甚至還有附每個語言的簡單用詞發音,像是早安、你好、數字一到十之類的。 ↩

  2. 是從 Ultimate Jordan 這張 DVD 轉出來的,現在 YouTube 上就能看到:https://www.youtube.com/watch?v=-7d9S-Kj_SU ↩

  3. 或者,根本別看影片了,用 cpdown! ↩

最後一個備份(就是你)

· 閱讀時間約 3 分鐘 ┊ 純文字版

前陣子有一天檸檬卷問我,她去跑寵物馬拉松那天到底有多熱?

我只記得「很熱」,但我怎麼知道多熱啊!

但有什麼關係,就算我當時沒記下來,氣象局也會幫我記吧?於是我搜尋了一下,發現到 https://codis.cwa.gov.tw 真的可以查氣溫歷史記錄──但要點進去按好幾下,讀一張密密麻麻數字的表格才能找到答案,不是一個簡單 Google 搜尋就找得到的。

(正解:2026-04-13 當天台北的最高溫是 32.4°C)

這讓我想到一個問題:那如果是沒有政府單位會幫我記得的東西呢?

如果是重大新聞事件、重要體育競賽比分之類的,自然會有很多地方留著記錄。但如果我想要找的是某張 1995 年不知名牌子音效卡的 DOS 驅動程式呢?也許現在全世界只剩下三個人還有這個檔案;再過五年,剩一個人;十年後,那個人換了電腦,這檔案就從人類文明中永遠消失了。

很多事物,是不會有人幫你記得的:

  • 你小時候最愛的夜市玩具
  • 你高中時用的 MSN 大頭貼
  • 第一次架網站的原始檔
  • 某個以前常玩的 Flash 小遊戲
  • 某個討論版的好文章
  • 一個不知名網友編的鋼琴譜
  • 某個你以前超愛聽,但下架後消失的 Podcast
  • 你的 2008 年的部落格貼文

這些東西,都是如果「你」沒有記下來、拍下來、留下記錄,它就真的消失了耶!

別覺得以後「反正 Google 就找得到」、「反正 Archive.org 上會有」。網路上的東西是會不見的:連結會壞掉、網站會關閉、貼文會被刪、帳號會被封、甚至整個平台會直接倒閉。大家都以為「總會有人留著吧」,結果沒有一個人留著。

有許多現在看起來無關緊要的小事(例如你今天的心情),在不久的將來會變成難以找回的記憶。

如果某個東西對你來說有任何一點意義,請立即採取行動:下載它、截圖、拍照、錄影、多複製幾份、存進隨身碟、燒進光碟、列印出來、寫到 blog 上做記錄、寫在筆記本裡、告訴朋友讓朋友也記住⋯⋯什麼都好!

也許二十年之後有人想找它,翻遍整個網路都找不到,最後在你 blog 裡的一個角落發現了它。在那一刻,你就是全世界最後一個備份!

(當然,也要記得備份你的 blog!)

離線國語辭典

· 閱讀時間約 1 分鐘 ┊ 純文字版

每次想查個字典都要連去教育部的網站,覺得很不方便。於是剛剛把教育部國語辭典公眾授權網裡面的《重編國語辭典修訂本》和《國語辭典簡編本》資料做成了離線版本。

(我知道唐鳳已經做了「萌典」,但我想要更簡單、更輕量的版本。)

因為純粹是自己要用的,所以我把資料庫中我不需要的欄位──部首、筆劃數、同義詞等等──全都刪掉了,只留下注音和解釋。

有兩種版本唷!一種是直接打字就會出現的網頁版:

另一種是終端機版本,只要直接 dic [想查的字] 就會出現解釋啦:

有興趣的話,到我的 code.wiwi.blog 或 GitHub 頁面下載,上面也有安裝說明。

AI 好便宜喔(嗎)

· 閱讀時間約 1 分鐘 ┊ 純文字版
  1. AI 好便宜喔!
  2. 還不用爆!所有事情都丟給它做!
  3. 人類的智力和耐心急速退化
  4. 忽然意識到:不用 AI 的話,已經無法獨立完成任何工作
  5. AI 公司:「咳咳,讓我們來談談新的定價方案1⋯⋯」

就跟你們說當線上 AI 越強大,我們就越需要離線 AI 了吧!

Footnotes​

  1. GitHub 官方部落格宣佈,Copilot 從六月開始將改以用量計費,用多少算多少。「吃到飽」的快樂時代正式結束,重度 AI 依賴者們的六月份帳單可能會很精彩。 ↩

離線 AI 好爽(2026 年版)

· 閱讀時間約 6 分鐘 ┊ 純文字版

2024 年九月時,我寫過一篇〈離線 AI 好爽!〉。

當時我剛買了兩張 NVIDIA RTX 4000,興奮地把各種離線 AI 工具都玩了一輪──Ollama 上的 Gemma 2 和 Llama 3.1 語言模型、FLUX.1 圖片生成、Whisper 語音辨識、Demucs 音樂分軌、Krita + Stable Diffusion 輔助修圖。

一年半過去了,現在的離線 AI 發展得如何了呢?暴雷:一切都進步超級多!

Qwen3-TTS:離線語音複製、生成​

先來玩個遊戲。聽聽看以下兩個語音片段,猜猜看哪一個是我的真人錄音,哪一個只是打字讓 AI 生成的?

「你現在聽到的這段話,可能真的是我說的,也有可能是 AI 在模仿我說話。現在的科技真可怕,我都快要分不出來了。」

片段 1:



片段 2:


點我看答案

片段 1 是 AI 生成,片段 2 才是真的我。是不是很像!

Qwen3-TTS 這個東西太強了,它只需要一段 30 秒的語音樣本,就能複製你的聲音,用你的聲音說任何話。它可以完全離線、單機執行,訓練和生成都超級快,在我的電腦上只要幾秒到十幾秒就可以完成了。

所以,以後如果你聽到「我」在講一些很荒謬的言論,記得那可能不是我喔!

ACE-Step 1.5:離線音樂生成​

去(2025)年十月,我介紹過 ACE-Step 這個離線音樂生成模型。當時我對它的評價是:「拍子有點怪怪的,好像樂手突然會抽筋一下的感覺,但是作為創意發想工具還不錯」。

還沒過半年,現在 ACE-Step 1.5 版推出了!這一版的「抽筋現象」已經比之前好非常非常多,聲音品質也明顯提升了好幾個等級。以我的體感來說,現在的品質大約已經相當於早期版本的 Suno,只落後它一年左右吧。

它開放原始碼,可以完全離線、單機執行,可以自訂歌詞和風格。跑起來超級快,在我的電腦上只需十幾秒就能生成一首 90 秒的歌曲。

來聽聽看它生成的音樂,風格設定為「jazz fusion」,歌詞是以下這樣:

Wiwi Blog 🎵 Wiwi Blog 🎵
我今天想要吃蛋餅
蛋餅蛋餅我的蛋餅
老闆加蛋,老闆加兩個蛋
只有蛋和餅,不要加醬油膏



我覺得以離線單機模型來說,這品質很令人驚豔耶!照這個速度發展下去,我猜不用一年,我們就能擁有跟當前的 Suno 一樣厲害的離線模型可以用了!到時候每個人都可以在自己的電腦上,離線免費生成超高品質的蛋餅歌,多麼令人期待的未來呀!

FLUX.2 Klein 9B:大人的離線圖片編輯、生成工具​

FLUX.2 Klein 9B 是一個可以離線、單機執行的圖片生成與編輯模型。只要丟一張照片進去,然後用文字描述你想要它變成怎樣就可以了!

我覺得這個比線上的 Nano Banana 好用太多!Nano Banana 的審查機制之荒謬,根本是把使用者當成幼稚園小朋友,我只不過是想把照片修瘦一點它都不讓我耶!就更別提其他政治更不正確的請求了,用起來超廢的。

(Nano Banana:「你的身材很好,不准修改!」)

離線的 FLUX.2 Klein 可就完全不同了!它完全聽命於你,不論你想要生成各種政治不正確的、有版權疑慮的、母湯的、色色的圖片都沒有問題唷!輸出的圖全部存在自己的電腦上,不會被別人監控,太快樂了!

(左邊是原圖,右邊是 FLUX.2 Klein 的輸出)

(天氣越來越熱了,來吃西瓜吧!)

Ollama:很夠用的小型語言模型​

跟一年半前相比,2026 年的離線語言模型也增強了一個等級。我現在最常用的模型是 Qwen3.5 27B 和 Gemma 3 27B,都是透過 Ollama 執行。

跟 Claude Opus 或 Gemini 3 Pro 這種付費版的旗艦模型比,當然還是有差距。但跟許多免費版的線上模型比的話,其實表現不相上下唷!我甚至覺得這兩個 27B 的小模型寫出來的文章,比免費版的 ChatGPT 更好。

如果你的需求主要是輔助寫作、翻譯、整理重點等文字工作,2026 年的離線模型已經完全夠用。寫程式也比兩年前進步很多,雖然還沒辦法像 Claude Opus 那樣可以直接完成超大專案,但是寫些小東西還是沒問題的!

線上 AI 越強,你越需要離線 AI​

聽起來很矛盾,但是邏輯很簡單:線上 AI 越強,你就會越依賴它;你越依賴它,就越沒有對它說不的餘地。然後哪天它突然大漲價、加入更多內容審查、順便把你最依賴的功能鎖起來,你除了乖乖接受什麼都做不了。

如果生活上已經離不開 AI,更應該在自己的電腦上留一條完全離線、開放原始碼、不受任何公司控制的「後路」。離線 AI 不一定要比線上的強,光是「它永遠在那裡、不會變、不會漲價、不會審查你」這件事本身,就已經有超大的價值。

當雲端 AI 服務集體大便化、網路斷線、條款說改就改──注意是「當」,不是「如果」──你會很慶幸自己電腦上還有一個會聽你的話、能唱蛋餅歌、能生出可疑圖片的 AI 助手陪著你。

你不需要 App,你需要檔案

· 閱讀時間約 3 分鐘 ┊ 純文字版

看到 Eddie 寫的這篇有趣的文章《Apps 僵化人類思維》。

他想要在閒暇時間背一些日文單字,於是打開 App Store 搜尋「日文單字 App」,試了半天都找不到滿意的。

最後,他發現最好用的「App」是一個 29 頁的 PDF 檔案1:裡面整理了他想要背的 N5 日文單字,檔案超小、開啟快速、沒有廣告、不用登入、在飛航模式下照樣能用,還可以列印!

當你拿著槌子,所有問題看起來都像釘子;當你拿著手機,所有問題看起來都該下載一個 App。

檔案萬歲​

但其實,許多問題根本不需要 App,用檔案就能搞定,而且往往更方便:

  • 📑 筆記:根本不用訂閱什麼 Notion、Evernote,只要一個資料夾和一堆 Markdown 檔案就好啦!
  • ✅ 待辦清單:打開記事本輸入 - [ ] 買牛奶2,存檔成 todo.md 就搞定了!
  • 📀 聽音樂:你不需要 Spotify,只要把喜歡的 MP3 檔案放到手機裡就好啦!
  • 🌧️ 睡眠輔助:你不需要雨聲、海浪聲、白噪音 App,直接用 MP3 檔案就好啦!
  • 🧘 冥想:你不需要 App!MP3 檔案就可以帶著你冥想!
  • 🎼 鋼琴譜:你不需要騙錢的「智慧樂譜 App」!PDF 檔案就是全世界最好用的樂譜 App!(IMSLP 上有許多你想要的樂譜)
  • 📊 記帳、健身記錄、血壓記錄、月經記錄、體重記錄⋯⋯:一個簡單的試算表檔案就夠啦!Excel 或 LibreOffice 都能做出漂亮的統計圖呀!

不覺得很荒謬嗎?我們拿著比 1990 年代的超級電腦還強大的手機,卻需要為「如何記下要買牛奶」這種事下載 500 MB 的 App、註冊帳號、同意 18 頁的隱私條款,然後被強迫看廣告。

市面上許多所謂的「App」,本質上只不過是包了一層華麗糖衣的 MP3 播放器、PDF 閱讀器、文字編輯器或試算表。而這層糖衣裡塞滿了一堆你不想要的功能:煩人的推播通知、AI 功能、廣告、訂閱制。

App 的存在往往不是為了解決「你」的問題,而是為了解決它自己的商業模式問題。App 只想要你每天打開它、奪走你的注意力、收集你的隱私資料、吸取你的訂閱費。

而檔案呢?檔案什麼都不求,它就是安安靜靜地躺在那裡,等你需要的時候打開它。

你真正需要的可能不是又一個 App,而是一個能在裝置間同步檔案的工具。如果你想要完全掌控自己的資料,試試看免費、自由且非常好用的 Syncthing。花個五分鐘設定,你的 todo.md 就能在電腦和手機之間即時同步,然後你終於就能記得買牛奶了。

Footnotes​

  1. 他應該是說這個:https://www.jwbooks.com.tw/DL/JLPT/JN028wordlist.pdf ↩

  2. 這是 Markdown 的待辦清單語法,- [ ] 買牛奶表示未勾選。買完牛奶後,把它改成 - [x] 買牛奶 就表示完成囉! ↩

離線生成 AI 音樂

· 閱讀時間約 2 分鐘 ┊ 純文字版

最近試用了這個完全離線、自由授權的音樂生成模型 ACE-Step。

什麼是「音樂生成模型」?

就是「AI 作曲工具」啦!你輸入想要的音樂風格和歌詞,它就能幫你生成一整首歌,包含主唱和所有樂器。不需要上傳任何東西到雲端,不需要付錢訂閱,全部都在自己的電腦上完成。

最讓我驚豔的是,ACE-Step 的模型超小耶,整個才 8 GB 左右而已!然後執行也很快,沒兩下就可以輸出一整首歌了(當然,我有兩張 NVIDIA RTX 4000,但官方說其實只要 8 GB 的 VRAM 就可以跑了),而且支援中文歌詞!

我用預設的搖滾音樂設定生成了以下這個:

歌詞:

主歌:我想要吃蛋餅!
副歌:Wiwi.Blog 想要吃蛋餅!

好吧,拍子是有點怪怪的、glitch glitch 的,好像樂手突然會抽筋一下的感覺。但是作為創意發想工具還不錯呀!或者是把生成結果丟到取樣機,擷取喜歡的部份再重組。

這個已經比之前可單機執行的音樂模型(像是 Stable Audio)好太多太多!現在終於有個品質還不錯,又能完全掌控在自己手上的工具了。不用擔心網路連線、不用付訂閱費、想生成多少就生成多少,所有成品都留在自己電腦裡,真舒服!

小檔案,大樂趣

· 閱讀時間約 7 分鐘 ┊ 純文字版

前幾天看到一篇有趣的研究:科學家研究了 17 種語言(除了西方語言外,也包含了中文、日文和韓文),發現所有語言的「資訊承載量」都神奇地接近每秒 39 位元(39 bits per second, 39 bps)。

閱讀原始論文

Different languages, similar encoding efficiency: Comparable information rates across the human communicative niche(不同語言,相似的編碼效率:比較人類交流的「資訊傳輸率」)

聽起來講話很快的語言(例如義大利文),每個音節可承載的資訊量就比較少;講話相對慢的語言(例如中文),每個音節就塞了更多訊息。

39 bps,可能只有你家網速的百萬分之一還不到,就足以讓歷史上的人類完成從「晚餐吃什麼」到「生命、宇宙及萬物」的所有對話。而我們在 2025 年,卻一邊看著 4K 解析度貓咪影片,一邊哭著抱怨網路太慢。

是真的有這麼多重要資訊要傳嗎?

根本就不用這麼多頻寬​

「資料量」和「資訊量」是完全不同的概念。資料量是檔案有多大,資訊量是內容有多少價值。現代人常常把兩者搞混,以為檔案越大就越有料,結果就是各種無謂的浪費:

  • 🖼️ 沒必要的大圖:明明只要用 500 x 500 像素的圖片就足以清楚表達意思了,我們卻偏要插入 2000 x 2000 的大圖,只因為懶得(或不知道如何)轉檔。
  • 🐷 超肥網頁:在首頁塞了將近 100 MB 的廢物,但實際上要告訴你的資訊可能連一張便利貼都寫不滿。
  • 🎵 高音質音樂串流:在捷運上用 AirPods 串流 24-bit/192kHz 的無損壓縮音樂,就像在颱風天中嘗試用望遠鏡觀測星星一樣毫無意義。
  • 👀 4K 影片:在大部分人的裝置上,那些多出來的像素根本沒被看到,串流播放完就被丟進垃圾桶。對絕大多數的人、 收看絕大部份內容時來說,只要 720p 或甚至更低解析度就可以得到完全相同的娛樂。(好和弦的影片就算只有 270p 都還是很好用的)
  • 🎮 遊戲更新:每次更新都要下載幾 GB 的檔案,結果只是改了一段對白,外加選單按鈕換了顏色。

這種浪費成性、遇到什麼問題就「加大容量、升級裝置」暴力解決的思維,是極度脆弱的。一旦網路基礎建設出問題,或者需要省頻寬、省電的時候(例如在國際漫遊、沒帶充電器時),我們才會發現自己根本就不知道怎麼用有限的資源做事。

如果娛樂按檔案大小收費​

來做個有趣的思想實驗:如果娛樂費用是按照檔案大小計費的,那什麼會是 C/P 值1最高、最划算的選擇呢?

  • 🎼 MIDI 檔案:絕對是音樂類的冠軍。一首曲子通常只要 30-50 KB,你可以反覆聆聽、研究作曲技巧、可以換到不同裝置播放得到不同音色、可以把其中一軌關掉變成伴奏帶、可以轉換成樂譜⋯⋯一首好的 MIDI 檔案絕對能提供音樂人好幾個小時的充實娛樂!(看這篇好和弦文章或影片來更了解 MIDI 檔案)
  • 💿 MOD/XM 音樂檔案:你可以理解成它是「已經內建音色的 MIDI 檔案」。一首歌曲通常也只要 100 KB 出頭,可以作到 MIDI 檔案能作到的大部份事情,不需額外的 MIDI 樂器就能播放,而且效果超棒!
  • 📖 小說(純文字檔):根據網路資料2,全部七本《哈利波特》小說加起來大約有 1,084,170 個單字。以平均每個單字五個字母來算的話,存成純文字檔(.txt 或 .md)大約只要 5 MB 多一些,就可以提供你數十小時、甚至上百小時的娛樂!
  • 🎹 鋼琴譜(PDF 檔案):一份 50-100 頁的鋼琴譜可能也只要 5 MB。如果是類似蕭邦或李斯特練習曲這種高難度的經典作品,這 5 MB 就足以折磨你一輩子,練到老還是練不好,根本就是史上最划算的娛樂投資。
  • 🧩 俄羅斯方塊:Game Boy 版本只要 32 KB!你很輕易地花上數百小時沈迷其中。
  • 🍄 超級瑪利歐兄弟:紅白機上最經典的 Super Mario Bros. 也只要 40 KB3!你沒看錯,不是 40 MB,是 40 KB 而已!
  • 👊 快打旋風 II:超級任天堂上的 Super Street Fighter II Turbo,只用 4 MB 就做出了完整的格鬥遊戲,有 16 個角色,每個都有自己的招式、動畫、場景和專屬的背景音樂!現在隨便一個網頁載入的 JavaScript 廢物都比這還大,但娛樂價值卻差了十萬八千里。
  • 💾 MenuetOS:整個作業系統只要 1.44 MB,可以放到一張 3.5 吋磁碟片裡!而且裡面還內附了瀏覽器、小畫家、文字編輯器、十幾個遊戲(例如撞球、踩地雷、彈珠檯等等),根本太荒謬,到底怎麼做到的?(下圖)
  • 📝 文字冒險遊戲:像是 Colossal Cave Adventure,下載檔案只有 278 KB4,安裝完 678 KB。
  • 💻 Lua 程式語言:整個直譯器只要 279 KB,卻是功能完整的程式語言!可以讓你創造各種想像得到的東西,就算用一輩子都還是可以發現新花招!
  • 🎵 MilkyTracker:它是一個完整的音樂製作軟體加上取樣機,Linux 版本只要 3.51 MB!你可以用它製作任何風格的音樂,用一輩子都不會膩!(看這篇好和弦文章或這部影片了解更多)
  • 🕹️ PICO-8:整個開發環境只要 10 MB,包含完整的程式語言(就是前面提到的 Lua)、文字編輯器、繪圖軟體、音樂音效製作等功能,當然也能玩別人做好的遊戲。每個 PICO-8 遊戲通常不會超過 100 KB。

(MenuetOS:超誇張、只有 1.44 MB 的完整作業系統)

小檔案,大樂趣​

當我們把音質變好、畫面解析度變高、在軟體塞了更多功能時,常常被視為是「進步」了。但我覺得正好相反,真正的進步不是仗著資源充足就塞更多東西進去,而是用最少的資源達到最大的滿足。

人類只需要 39 bps 的頻寬就能深度交流、談戀愛、吵架、辯論哲學,而我們卻常常覺得 100 mbps 的光纖網路太慢?該檢討的可能是臃腫的數位生態,而不是網路速度。

(這篇文章的原始檔連同圖片只有 37 KB,希望以它帶給你的娛樂價值來說還算有效率。)

Footnotes​

  1. C/P: capability/price ↩

  2. https://wordcounter.io/blog/how-many-words-are-in-harry-potter ↩

  3. 40,976 bytes。 ↩

  4. https://packages.debian.org/sid/games/colossal-cave-adventure ↩

離線演講

· 閱讀時間約 2 分鐘 ┊ 純文字版

前陣子看到一個網路上的演講影片(真人、有現場觀眾的實體演講),影片中的講者在簡報途中,想要播放一個短短的影片來解釋論點:

  • 他先是退出了簡報播放模式,讓觀眾看到編輯模式下的所有投影片縮圖,包含後面還沒講到的內容。劇透警告!
  • 接著,他切到開著一大堆分頁的 Chrome 瀏覽器視窗,找到了其中一個分頁,想要播放的影片是內嵌在網頁裡面。
  • 他按下內嵌 YouTube 播放器的播放按鈕,等待它轉轉轉緩衝五秒鐘。
  • 影片開始播放了,但擠在小小的內嵌播放器裡。
  • 幾秒鐘後,講者按了全螢幕按鈕,把影片倒回最前面重新開始。
  • 播完了總長才 30 秒的影片後,講者切換回(目前仍在編輯模式的)Powerpoint 視窗,按下播放按鈕,繼續演講。

想像一下,如果 Steve Jobs 在蘋果發表會上的演講這樣搞,蘋果股價大概會當場崩盤吧!

雖然這講者其實講得還不錯,但這種新手等級的技術問題徹底毀掉了演講的節奏,觀眾前面好不容易堆積的興奮感和好奇心瞬間消散。

別讓這種事發生在你的演講上!解決方法很簡單:把演講過程需要播放的一切媒體下載下來,離線準備好,直接內嵌進簡報裡!

  • 📹 YouTube 影片:用 yt-dlp 下載
  • 🎶 音樂:如果原本也是在 YouTube 上,一樣用 yt-dlp 下載,然後用 ffmpeg 轉成 .wav 檔案
  • 📸 圖片:就在瀏覽器中按右鍵另存,或者螢幕截圖也行
  • 💻 網頁:如果是不需要互動的網頁,就截圖就好;如果要互動,也可以事先操作一遍錄製成影片

恭喜你,下次就算場地的 Wi-fi 突然掛掉,你的演講依然能完美流暢地完成!不用謝我沒關係!

小型語言模型

· 閱讀時間約 3 分鐘 ┊ 純文字版

最近語言模型(俗稱「AI 聊天機器人」)的輕量化發展實在是太厲害了。

還記得大約去年(2024)時那些雲端上最聰明的模型(像是 GPT-4、Claude 3)嗎?這些曾經一定要依靠大科技空司的雲端才能達到的聰明程度,在今年(2025)只要一張 20-40 GB 的家用顯示卡就能達到了。

更讓人興奮的是,去年那些需要數十 GB 大模型才能做到的事情,現在只要個位數 GB 的小模型就能做到類似的效果,甚至連 GPU 都不用!

前陣子 Google 推出的 Gemma 3n 真的讓人非常驚艷。它有 E2B 和 E4B 兩個大小的版本,其中 E2B 版本只佔用 5 GB 左右的記憶體,但已經足夠聰明到可以做翻譯、重點整理、句子改寫等等的任務了。

我在我的 ThinkPad T480s 筆電上測試,這台 2018 年的老電腦,沒有獨立 GPU,只用 CPU 跑 Gemma 3n E2B,輸出速度居然可以達到每秒 9 個 token,完全是可用的速度!

當然如果輸入很長(例如貼入長文的話),它就會需要算比較久了!我嘗試輸入一個 3,500 個 token 的英文長文,要它用中文整理重點,它花了四分鐘才完成。但我還是覺得,以一台沒有獨立 GPU 的七年老電腦而言,能夠完成這任務就已經是奇蹟了。

比起那些超大型語言模型的發展,這些小型語言模型的進步更讓我興奮期待。完全離線單機運行,不管身在何處,只要開個終端機,就有超方便的 AI 助手可以用;這種「所有東西都在我手上、不用被科技公司的雲端綁住」的感覺實在太棒了!

還沒試過離線 AI 的讀者,強烈推薦你試試看系統需求超低的 Gemma 3n1!

Footnotes​

  1. 額外的小模型推薦:除了 Gemma 3n 之外,我最近很愛用的小模型還有:Aya Expanse 32B(雖然有點舊了,但它的中文寫作風格很不錯)、Qwen2.5(Qwen3 寫出來的文章都怪怪的,2.5 版比較好用)、Qwen2.5-VL(可以圖片辨識的模型,很厲害)、Cogito 32B(新創公司 Deep Cogito 推出的可商用模型) ↩