═══ Gemma2:9B 你好棒 ═══

2024年8月23日 · 閱讀時間約 1 分鐘 ┊ 純文字版

今天一如往常地打開 Claude.ai，想要它幫我修順一些稿，但一直登不進去。於是我打開
自己架的 Ollama Open WebUI，載入 gemma2:9b 語言模型。結果⋯⋯

它真的很棒耶！當然沒有 Claude 3.5 那麼強啦，但是就我的修順稿子的工作來說，它的
輸出完全可用！

其實我的電腦配備是可以跑更大的語言模型的（我有一張 nVidia RTX 4000 Ada 20 GB）
，跑大概 30 幾 B 大小的模型都沒問題，但是最新的 Gemma2 和 Lamma3.1 系列，竟然只
要 8～9 B 的參數就可以打敗一些去年的 30 B 大模型了。而且只有 8～9 B 的小模型，
跑起來速度很快，用起來心情好！

    [gemma2-65ed506c6487612f0fbd4a61fd6cae04]

    （太刻意了，不像台灣人。）

就算你的電腦沒有很好的顯示卡（GPU），甚至完全沒有獨立 GPU，你還是可以試試看跑更
小的 Gemma2:2B 模型，我在我的 ThinkPad X280 試過，速度也還是可接受的。

    [gemma2-taiwan-23f1209ad9b0381aa803e94bccf35367]

    （好像怪怪的，我們的國旗有綠色嗎？） 🤣