跳至主要内容

87 篇文章 含有標籤「AI」

語言模型、生成式 AI、AI 內容

檢視所有標籤

Apple Intelligence,你的說謊大師

· 閱讀時間約 2 分鐘 ┊ 純文字版

看到兩個 Apple 官方關於新 AI 功能的廣告。

Zac!!!​

其中一個的劇情大概是這樣:一個女生在聚會中看到一個見過面但不熟的男生,她忘了男生的名字了。於是她問 Siri:「幾個月前我在 XX 咖啡廳見過的那個人叫什麼名字?」,Siri 回答那位男生叫做 Zac。

然後男生剛好走過來:

Zac:嘿...

Bella:Zac!(超興奮、似乎許久不見摯友的語氣)

Zac:哇,沒想到你還記得我。

Bella:當然記得,我一看到你就想起來了!是 Zac,沒人走起路來的樣子像 Zac。

(Zac!我跟你很熟啊!你忘了嗎?)

我知道,因為我讀過了​

另一關於 E-mail 重點整理功能的廣告:

經紀人:那麼,你覺得我寄給你的提案如何?

Bella:對,就是你寄給我的那個,我記得。(拿起手機)

Bella:那個《Dogge Days》的提案,哇,好有趣的標題⋯⋯(按下「整理重點」按鈕)

Bella:⋯⋯很維多利亞風格,我很喜歡。形成了一段獨特的關係⋯⋯我喜歡獨特的關係。

經紀人:而且(故事)還有個轉折。

Bella:我知道,因為我已經讀過了。(故作堅定的眼神)

經紀人:太好了!我要告訴他們你有興趣。

(是喔,我真的讀了你寄的 E-mail 喔!)

哇!有了 Apple Intelligence,我可以:

  • 假裝我跟不認識的人很熟,以及
  • 在根本沒讀過提案之前就答應(這超危險的好不好),

對人生真的好有幫助啊!

畢竟,科技始終來自於人性。而人就是想要在不付出努力的情況下,扮演一個認真負責、重視人際關係的好人。現在有了 Apple Intelligence 的幫助,我們的謊話可以變得更優雅、更可信了!

(先不管近年來 Apple 廣告品味差的問題,Apple 你到底什麼時候才要把 macOS WindowServer 閃退的問題修好啊?我從 macOS 13 升級到現在已經是 15 了,同一個 bug 還是沒解決,這 bug 是要打算當傳家寶嗎?)

AI 垃圾內容攻擊!

· 閱讀時間約 6 分鐘 ┊ 純文字版

檸檬卷在一個 PDF 檔案分享網站(不想幫它宣傳,所以不說是哪一個)看到一份文件,想要下載。但那個網站竟然說你必須要上傳五份文件,才能換取一個下載,不然就得要花錢買會員。

先暫時不吐槽這個網站的商業模式有多麼可疑。但如果我真的就是需要下載那份文件,我要拿什麼東西跟它換呢?

我當然不想上傳自己私人的文件上去。但如果只是隨便打一些亂七八糟的文字存檔,或者是上傳一些別人已經上傳過的公開文件,它也是不會讓你通過的。你必須上傳獨特的原創內容。

AI 垃圾內容攻擊​

怎麼辦呢?看我使出「AI 垃圾內容攻擊」!

用之前介紹過的 ollama,加上一行 bash 指令就可以完成了!

for i in {1..100}; do echo "$i/100"; ollama run gemma2:2b "Write a long random story." > "story_$i.txt"; done

(以上指令用的是 gemma2:2b 模型,你可以換成自己喜歡的模型。)

執行完之後,你的資料夾內就會出現 100 個隨機無意義的故事,每一個都存成一個 .txt 檔。隨便選五個上傳,全部過關!

兩個想法​

  1. 真的想要分享文件的話,有太多其他方法可以用,別用這種奇怪的平台。
  2. 這種依賴用戶上傳(常常有版權問題的)文件,然後把它鎖在 paywall 後面來收取訂閱費用的網站,遲早會出事的。

想讀一篇垃圾內容嗎?​

想讀其中一個無意義故事嗎?這個是 story_42.txt 的繁體中文翻譯版:

# 艾拉拉的沙漠傳說

艾拉拉是一隻三色貓,她的眼睛像紫水晶一樣閃耀。她生活在一個以赭石和青藍色為主調的世界裡。那裡的太陽是一個巨大的玉色光球,它投射出不斷變化的光芒,為起伏的沙丘披上一層火焰般的色彩。艾拉拉住在一個破舊的洞穴裡,這個洞穴位於一片高聳的仙人掌森林中,是無數貓咪的家園。

今天是市集日,這是一個來自赭色平原各個角落的貓咪齊聚沙漠中心 - 大綠洲的日子。在這裡,他們討價還價、交換故事,在沙沙作響的風中低聲細語,他們色彩繽紛的毛髮在金色的沙地上如波浪般起伏。艾拉拉喜歡市集日,這天總是讓她充滿興奮和些許焦慮。

今天,她有一個重要的任務要完成 - 出售她最珍貴的寶物:一個李子大小的月光石吊墜,閃爍著一種超凡脫俗的光芒。傳說這個吊墜蘊含著遺失夢想的低語,能讓擁有者一窺自己內心的渴望。艾拉拉相信它是開啟自己創意潛能的鑰匙,因此她小心翼翼地保護著這個精緻美麗的寶物。

前往綠洲的旅程十分艱辛。艾拉拉穿越險峻的火山岩路徑,躲避好奇的蜥蜴 - 牠們的鱗片在陽光下會變色。她遇到了一隻脾氣暴躁的獾,牠要求嚐一口她的尾巴才肯讓她通過洞穴。她還遇到了一群身形敏捷的沙漠狐狸,牠們挑戰她在沙丘間跳躍的敏捷度。

綠洲是一片喧鬧的海洋。從低聲細語到熱鬧的討價還價,充滿活力的氣氛震盪著艾拉拉的全身。她在閃爍的水池旁搭建了自己的攤位,周圍都是其他貓咪 - 有的身形苗條敏捷,有的壯實魁梧。空氣中瀰漫著乾魚和奇特草藥的香氣 - 這些都是製作各種魔藥的原料,據說可以實現從長壽到戀愛的各種願望。

艾拉拉心跳加速,她走向一群藍毛貓。牠們有著大而明亮的眼睛,說話聲音低沉如雷鳴。牠們談論著一個古老的預言 - 一隻擁有月光石吊墜的貓將帶來新的黎明。"你手中掌握著實現這個預言的關鍵,"其中一隻貓低語道,牠的聲音迴盪著艾拉拉自己的焦慮。

艾拉拉緊張地舉起月光石吊墜,冰涼的表面貼著她的毛皮。"我..."她開口,但話語卡在喉嚨裡。

突然,一聲震耳欲聾的吼叫響徹綠洲。一個巨大的陰影籠罩了他們,讓陽光變得詭異陰暗。那是一個神話傳說中的生物 - 沙蛇! 牠的鱗片像祖母綠一樣閃耀,眼睛燃燒著熔金般的光芒。艾拉拉的恐懼轉變成敬畏。這是命運的時刻,她一生的目標就在眼前展開。

沙蛇發出嘶嘶聲,如雷鳴般在沙漠中迴響。從牠的口中噴出煙霧和塵土,盤旋在空中。一個問題從牠口中吐出:"帶來黎明的貓在哪裡?"

艾拉拉僵住了,吊墜從她手中滑落。她的夢想,她的希望,似乎都失去了。但當她望進沙蛇的眼睛時,一絲理解的火花在她心中點燃 - 不是通過言語,而是通過他們共同凝視的無聲語言。預言不是關於尋找具體的東西,而是關於承認它固有的真理。

艾拉拉閉上眼睛,深深地吸了一口沙漠的空氣。然後她知道該怎麼做了。她不會出售月光石吊墜;它太珍貴了,是太私人的寶藏。相反,她要給沙蛇一個機會 - 不是佔有,而是分享一個故事。

艾拉拉開始講述沙漠的奇蹟,她的話語與風交織,述說著日出和星光閃爍的夜晚。沙蛇專注地聆聽,牠的鱗片閃爍著對這個小而勇敢的生物新生的尊重。寂靜蔓延開來,只有沙漠的微風輕輕打破這份靜謐。

就在希望似乎消失的時候,艾拉拉的聲音帶上了一種近乎空靈的品質,她低語道:"黎明不是你找到的東西;而是你創造的東西。"沙蛇的眼睛因理解而睜大。牠聽到了真正的訊息:不是預言,而是承諾。

從那天起,艾拉拉不再只是一隻出售月光石的貓;她成了一個說故事的人,一次一個低語的故事,將夢想編織成現實。事實證明,黎明不是關於尋找一個吊墜,而是關於通過她自己聲音的力量創造世界。

就這樣,艾拉拉繼續生活著,她的心充滿了講故事的魔力和廣闊赭色平原上遺失夢想的低語。月光石吊墜從未離開她身邊,但它成了一個提醒 - 不是提醒她能達成什麼,而是提醒她已經開始了什麼。

我預測再過不久,那個網站就會成為世界上最大的「無意義故事集」。 🤣

標籤:

去背

· 閱讀時間約 1 分鐘 ┊ 純文字版

Rembg 真是好好用阿!只要一行指令就直接去背好了;可以單張圖處理之外,也可以一次處理整個資料夾。

我還記得小時候想做這樣的去背,要用 Photoshop 的鋼筆工具慢慢描,或是需要用到類似 Corel KnockOut 之類的專有軟體才能完成呢!

離線 AI 好爽!

· 閱讀時間約 5 分鐘 ┊ 純文字版
資訊

一年半後,我又寫了這篇的續集:離線 AI 好爽(2026 年版)

有一位 blog 讀者,在看到我的《NVIDIA 的浪漫》這篇之後,寫信問我:

  • 我買兩張 RTX 4000 到底是要做什麼?
  • 以及,為什麼不買速度快很多、價格卻差不多的 4090?

簡單來說,我的主要目的是在自己的電腦上離線執行各種 AI 應用程式,順便學習、研究這一切相關的東西,這樣才不會被時代淘汰啊!以下介紹一些我目前常用的東西。

Ollama:離線的大型語言模型​

首先,最主要的原因是為了使用 Ollama,這是我現在每天都大量使用的工具。

我知道線上有 Claude 和 ChatGPT 可以用,但能夠在自己的電腦上離線執行大型語言模型,不需要依賴線上服務的感覺真的很爽啊!再加上離線的語言模型可自訂性更高,甚至還有「無言論審查」的版本可以下載,把政治不正確指數拉到最高!

例如,如果我問 Claude「要怎麼欺負別人」,會直接被訓話一頓;但問無言論審查版的 gemma2,它會很樂意地告訴你!

(Claude:乖寶寶不可以欺負別人喔!)

(Gemma2-uncensored:讓我來教你成為「欺負大師」,好好玩喔!)

目前我覺得最聰明的模型是 llama3.1:70B,它的聰明程度幾乎逼近 GPT-4o 和 Claude 3.5;但它也需要將近 40 GB 的 VRAM 才有辦法跑(不然會超~慢~),這也是我為什麼想要有兩張 RTX 4000 的主要原因。

我也很喜歡 gemma2,它的 9B 和 27B 模型都滿好用的,速度比 llama3.1:70B 快很多;回答問題的語氣、習慣也都跟 llama3.1(或線上的 Claude 和 GPT-4o)不太相同。

(gemma2 模型好用!而且速度很快!)

我現在的工作習慣是同一個問題都會問好幾個模型,把它們的回答都列入考慮。我覺得花錢買 GPU 來離線跑大型語言模型完全值得,這就像是你請了好幾個工讀生幫你解決生活問題一樣,省下來的時間價值絕對遠遠超過 GPU 的花費!

FLUX.1:離線產生圖片​

我知道也有很多線上服務可以產生圖片,但跟前一點一樣,能夠在自己電腦上離線執行,感覺真的很爽!

更重要的是,幾乎所有線上圖片產生器都有內容審查機制。譬如說,我想要產生包含 Windows LOGO 的圖片,線上產生器通常都不會允許。更別說是生成一些「更奇妙(嘿嘿)」的內容了。使用離線版本的話,完全都沒有以上問題!

(離線的 FLUX.1,可以產生正確的 Windows LOGO!)

我有時也會用 Stable Diffusion,但現在新的 FLUX.1 模型更強大、更好用!

Whisper:語音辨識與字幕產生​

Whisper 是一個超級強大的語音辨識工具。你只要輸入一個語音檔,它就可以直接產生逐字稿或字幕檔。

除了用來製作影片字幕之外,我更常拿它來處理我懶得看的、太長的 YouTube 影片。只要:

  • 用 yt-dlp 下載影片
  • 用 whisper 轉換成文字
  • 再用線上的 Claude 或離線的 ollama 整理重點

你就可以在三分鐘之內,得到一小時影片中的精華部分!

Demucs:音樂分軌​

Demucs 是一個超厲害的聲音分軌工具。輸入一個音樂檔案,它就能自動把它拆成 Vocal、Bass、Drums 和 Others 這四個分軌。分軌的品質很好,而且速度很快!

不管是想要研究音樂、取樣,或者製作伴奏帶給學生,這個都是不可或缺的工具!

Krita + Stable Diffusion:AI 輔助繪圖、修圖​

Krita 是一個自由的繪圖軟體,它可以安裝 Stable Diffusion 外掛程式來輔助繪圖、修圖、美顏、移除物品等等。

這個組合比很多昂貴的專有軟體都還要強大,真的很神奇、很好用!你一定要試試看!

(Krita + Stable Diffusion Plug-in 可以把我的幼稚園繪圖,變成真實的照片!)

而且我其實只用到了一點點功能而已。你可以到 YouTube 上看其他達人使用它,保證會讓你下巴掉下來!

為什麼不買 GeForce RTX 4090?​

雖然 RTX 4090 性能更強,但我還是選擇了 RTX 4000。因為:

  • 用途:RTX 4000 是專門設計給 AI 應用程式的專業卡;我不太在電腦上玩 3D 遊戲,所以不需要 4090。
  • 耗電:RTX 4000 的 SFF 版耗電只有 70 W!RTX 4090 要多少?快要 500 W 好像!
  • 散熱:由於耗電低很多,RTX 4000 的散熱需求也不高,體積也小;在我小小的機殼裡,不需要額外的電源就可以直接裝兩張!
  • VRAM:RTX 4000 有 20 GB 的記憶體,裝兩張就有 40 GB 了。如果是裝兩張 4090 的話,我的客廳可能會直接變成一個烤箱?
  • 已經夠快了:RTX 4000 雖然只有 4090 的 1/3 的速度,但是卻只使用 1/5 還不到的耗電和熱能啊!雖然沒有那麼快,但是就我的使用情境而言,這是我完全可以接受的妥協。

NVIDIA 的浪漫

· 閱讀時間約 1 分鐘 ┊ 純文字版

NVIDIA RTX 4000!而且是兩張!!

對我們這些真.宅男來說,擁有 40 GB 的 VRAM,就像女孩們擁有 Chanel 包包一樣,無比的幸福感啊!

(不要跟檸檬卷說多少錢)

貝多芬長什麼樣子

· 閱讀時間約 2 分鐘 ┊ 純文字版

今天在 Google 上搜尋貝多芬,結果出來的第一張、最大張的圖竟然是⋯⋯一張明顯是 AI 生成的圖片!這是什麼鬼?現在我們的搜尋引擎想要幫我重新定義歷史人物的長相了嗎?

(你?是?誰?)

好吧,我想也許只有貝多芬是特例,Google 搞不清楚他原本長怎樣,於是我轉而搜尋蕭邦。這次出現的第一張圖的確不是 AI 生成的了,而是⋯⋯一個藝術家製作的 3D 模型。1

(我的天,這根本是「想像圖」好嗎?這是誰啊!)

我真替下一代感到擔憂耶!現在他們每天接觸的資訊,根本分不清是真實存在過的,還是 Stable Diffusion 把網路上千萬張照片攪和後輸出的超加工產物,或只是某個藝術家的腦內小劇場。

想像一下,未來的孩子們在做音樂報告時:

學生:「老師!我找到莫札特的照片了!天啊,他好帥啊!」

老師:「喔?讓我看看。」

學生:「太酷了!所以十八世紀的人都穿成這樣嗎?」

老師:「呃⋯⋯不完全是⋯⋯」

學生:「那莫札特當時用的是哪個編曲軟體?他也有訂閱雲端音色庫嗎?」

(然後音樂老師決定,在下一堂課把主題改成「為什麼十八世紀音樂家不使用 MIDI 鍵盤」。)

歡迎來到 2024 年,一個歷史真相被 Big Tech 和 AI 重塑的奇幻世界!好好享受吧!

Footnotes​

  1. Frédéric Chopin 3D modeled by Hadi Karimi, CC-BY-SA 4.0 ↩

Gemma2:9B 你好棒

· 閱讀時間約 1 分鐘 ┊ 純文字版

今天一如往常地打開 Claude.ai,想要它幫我修順一些稿,但一直登不進去。於是我打開自己架的 Ollama Open WebUI,載入 gemma2:9b 語言模型。結果⋯⋯

它真的很棒耶!當然沒有 Claude 3.5 那麼強啦,但是就我的修順稿子的工作來說,它的輸出完全可用!

其實我的電腦配備是可以跑更大的語言模型的(我有一張 nVidia RTX 4000 Ada 20 GB),跑大概 30 幾 B 大小的模型都沒問題,但是最新的 Gemma2 和 Lamma3.1 系列,竟然只要 8~9 B 的參數就可以打敗一些去年的 30 B 大模型了。而且只有 8~9 B 的小模型,跑起來速度很快,用起來心情好!

(太刻意了,不像台灣人。)

就算你的電腦沒有很好的顯示卡(GPU),甚至完全沒有獨立 GPU,你還是可以試試看跑更小的 Gemma2:2B 模型,我在我的 ThinkPad X280 試過,速度也還是可接受的。

(好像怪怪的,我們的國旗有綠色嗎?) 🤣