═══ Gemma2:9B 你好棒 ═══

2024 年 8 月 23 日 · 閱讀時間約 1 分鐘 ┊ 純文字版 [1]

今天一如往常地打開 Claude.ai，想要它幫我修順一些稿，但一直登不進去。於是我打開
自己架的 Ollama [2] Open WebUI [3]，載入 gemma2:9b [4] 語言模型。結果⋯⋯

它真的很棒耶！當然沒有 Claude 3.5 那麼強啦，但是就我的修順稿子的工作來說，它的
輸出完全可用！

其實我的電腦配備是可以跑更大的語言模型的（我有一張 nVidia RTX 4000 Ada 20 GB）
，跑大概 30 幾 B 大小的模型都沒問題，但是最新的 Gemma2 和 Lamma3.1 系列，竟然只
要 8～9 B 的參數就可以打敗一些去年的 30 B 大模型了。而且只有 8～9 B 的小模型，
跑起來速度很快，用起來心情好！

    圖片 [5]

    （太刻意了，不像台灣人。）

就算你的電腦沒有很好的顯示卡（GPU），甚至完全沒有獨立 GPU，你還是可以試試看跑更
小的 Gemma2:2B 模型，我在我的 ThinkPad X280 試過，速度也還是可接受的。

    圖片 [6]

    （好像怪怪的，我們的國旗有綠色嗎？） 🤣

── 連結與圖片 ──

[1] https://wiwi.blog/blog/gemma2-9b-is-awesome.txt
[2] https://ollama.com/
[3] https://openwebui.com/
[4] https://ollama.com/library/gemma2
[5] （圖片）https://wiwi.blog/assets/images/gemma2-65ed506c6487612f0fbd4a61fd6cae04.jpg
[6] （圖片）https://wiwi.blog/assets/images/gemma2-taiwan-23f1209ad9b0381aa803e94bccf35367.jpg