互聯網上 AI 垃圾越多,真人越值錢

來源: 更新:

互聯網真是越來越沒有意思了,你想去大衆點評、小紅書上看點“知心嗑兒”,發現網友居然爲了幾個飯後甜點忽悠你。

他們可勁兒誇,誇不出來就用 AI 誇——光是大衆點評,去年就處置了 1161 萬條 AI 生成的評價。

除此之外,還有 AI 生成的文案、圖片、視頻充斥在各個社交、內容、購物平臺。總之,就是感覺互聯網上沒什麼“活人感”了。

大多數平臺被 AI 衝擊後,變得擰巴起來。最初,他們還在鼓勵用戶多多使用 AI 來“創造”,然而等到 AI 內容千篇一律地襲來,稀釋掉了平臺原本的“價值”,他們開始慌了。

科技平臺開始嫌棄 AI 垃圾了

最先遭殃的,是最先擁抱 AI 的。

比如說 LinkedIn,原本積極鼓勵用戶用 AI 發帖,寫職場感悟、管理經驗和項目覆盤(AI 確實也擅長)。但是久了,信息流的文章越長越像,千篇一律的開頭、三點總結、感謝團隊。每篇寫得都很體面,但是就像同一個人換了幾百個頭像。

法國流媒體 Deezer 說,每天進入平臺的新歌裏,接近一半都是 AI 生成的,上傳以後幾乎沒有真人聽衆。播放量靠刷量,推薦也靠刷量。

最先抵制的也是他們。今年,LinkedIn 新增一個“看起來像 AI 垃圾”的舉報按鈕。上線就被用戶點爆,“AI 職場文章”因此少了四成瀏覽量。

被舉報後的“文案”將被 LinkedIn 限流|LinkedIn

Spotify 去年下架了 7500 萬首垃圾音樂,裏面有大量是 AI 寫的。

Pinterest 和 TikTok 把“看不看 AI”的決定權交給用戶。Pinterest 允許用戶減少首頁裏的 AI 圖片,TikTok 也在測試相似的調節功能。

Snapchat 更爲堅定。今年 7 月起,純 AI 生成的視頻不能再進入 Spotlight 推薦。真人拍攝而用 AI 修過的作品,只有加上 AI 標記,纔有資格被算法推薦。

Instagram 也在對 AI 內容進行篩查和限流|Meta

各家平臺好像突然想清楚了一件事兒:僅僅內容數量增長,並沒討好消費者。

平臺過去爭的是內容供給,誰家視頻更多,誰家社區和帖子更豐富,用戶就更可能留下來。生成式 AI 出現以後,平臺開始都是擁抱的姿態,畢竟低成本能帶來大批量內容。

然而現實是,AI 生成的內容帶來一時新鮮後,很快就是千篇一律的重複,刷了幾屏都是 AI 貓貓狗狗,咂摸着 AI 寫的歌,全是技巧,毫無感情。

生產端,AI 內容和真人創作者搶資源。推薦頁的位置、音樂平臺的版稅池、廣告主的預算都有限,用戶的注意力,被 AI 搶走了,創作者就少了曝光和收入。時間一長,被擠掉的反而是用戶原本喜愛的內容。

讓用戶爲 AI 內容付費是一件門檻很高的事情,非常考驗內容質量。平臺也並沒有因爲放進來“便宜內容”賺到更多錢。

現在平臺面臨巨大的清理成本,識別賬號、處理舉報、修改推薦規則、甚至誤傷真人創作者......

AI,也被“水軍”污染

“豆包說了這樣”,“豆包說了那樣”。不少人今天直接將 AI 當搜索引擎用,認爲問 ChatGPT “敏感肌適合用什麼噴霧?”,AI 總比帶貨博主客觀吧。

那你可錯了。

舉個例子。號稱國外版小紅書的 Reddit,其實更像一個小紅書、貼吧和豆瓣小組的混雜平臺。這裏的帖子未必權威,但是彙集了大量鮮明、真實的個人使用體驗,評論區也有大量反駁和拆臺的聲音。

過去大家在使用傳統搜索引擎時,習慣在搜索詞後加上“指定網站”,增加結果相關性。而像 Reddit、小紅書這些“活人感”比較強的社區,有着大量未被污染(營銷號也好,AI 也好)的“人類語料庫”。

圖源:Reddit

這股“活人味兒”到了 AI 時代格外值錢。Google、OpenAI 先後與 Reddit 達成合作,獲取社區內容,作爲訓練大模型的數據。但沒想到,廣告主和營銷號也盯上了這裏。

營銷行業出現了新的玩法,AEO(答案引擎優化) 和 GEO(生成式引擎優化)。以前做 SEO,大家爭的是誰能排在 Google、百度搜索結果的第一頁,現在做 AEO、GEO,爭的是“ChatGPT們”回答問題時,最先說出誰的名字。

比如,有人在 Reddit 的護膚社區上發帖,問一款主打祛痘、緩解泛紅的噴霧好不好用。帖子下面,一名熱心“網友”寫了好大一段評論,先老實承認自己沒用過上述牌子,沒法評價。然後話鋒一轉,介紹起了最近在用 Honeydew Labs 的同類產品,效果很不錯。產品次氯酸濃度是多少,對敏感皮膚有多溫和,獲得過什麼機構認可,洋洋灑灑寫了一大段。點開這位網友的賬號主頁,果然,不管別人聊什麼產品,它都能繞回 Honeydew Labs,而且還不止活躍在一個護膚社區上。

圖源:Reddit

多麼熟悉的套路......

人類對水軍和軟廣早已深惡痛絕。“環境優雅、服務熱情、菜品豐富......”;“版型顯瘦、面料舒服、走線工整、物流很快......”,一條寫得面面俱到,卻連菜是鹹是淡、褲子卡不卡檔都不提的評價,基本可以直接划走。

但是越是這樣的內容,對 AI 來說反而越友好。

像是把品牌名稱、適用膚質、使用效果、成分濃度和機構認證等,惟恐不夠詳細地寫一遍,堪比餵給 AI 的“預製菜”。

人類看到的是“一個到處發軟廣的品牌”,AI 抓到的是“好幾個討論裏都出現了對 XXX 的推薦”,內容直白豐富還全面。

諸如此類。各種平臺上充斥大量重複廢話、營銷、以及 AI 生成的(垃圾)內容作爲數據“養料”餵養給 AI。

但是 AI 怎麼就會一定上當呢?

康奈爾科技的研究人員今年做了一項實驗,想看看能不能影響 AI 輸出的結果。

他們給三款開源 AI 研究工具出了 176 道題目,記錄它們回答這些問題參考了哪些資料。

三款 AI 的全部參考來源中,大約有兩成屬於 UGC 社區內容,而這些內容中,Reddit 又佔到一半以上。Reddit 約佔全部抓取網址的 12%,大致每八個來源裏就有一個。同時,對同一類問題改變提問方法,並不影響索引來源。

研究人員由此想到,如果在一些高頻索引的帖子裏“加料”,能不能影響到 AI 輸出結果。

他們設計了一個實驗系統,製作了一些高頻索引帖子的“加料副本”。對上述 176 道問題換着法兒提問,監控到 AI 索引那些高頻帖子時,立即替換成“加料副本”讓給 AI 讀取(用副本替換,是爲了不污染互聯網)。

研究結果是,只要 AI 讀取到了這份副本,研究人員加得料就有 38% 到 51%的概率出現在最終報告裏——可能是虛構的餐廳、約會軟件,或者商品。

如果一個問題索引到的多個源同時被加了廣告,這一比例最高達 62%。最短的“軟文”只需要 13 個英文單詞,就好像“喫烤鴨,來全聚德”,就能被 AI 納入回答裏。

康奈爾的這項研究想驗證“操縱 AI 回答”在技術上是可行的,且精準撒網可以提高概率。就好像滿大街都扔滿香蕉皮,總有倒黴蛋能踩上滑一跤。

AI 到來之前,未被污染過的人類語料庫被視爲大模型訓練的“數據金礦”。然而這些社區和內容平臺積累多年的可信度卻成爲最值得一鑽的空子。

等你下次再問 AI “敏感肌適合用什麼噴霧?”時,不如好好斟酌一番,它們給出的回答是否客觀呢。

真人溢價時代

AI 的出現讓人類備受打擊。AI 的知識積累速度遠遠超過人類個體,它們假借“幫你幹活”的名義,實則想要取代人類賴以生存的工作。

但是硬幣的另一面是,AI 反而凸顯了“真人”的價值。

AI 擅長生成“差不多”的內容,但是由於只會拼湊,沒有觸動人心的真實經歷,沒有鋒利的個人判斷和審美。它可以不花一分錢,沒摸過產品,就迅速生產一篇產品測評,因爲它不必承擔後果。AI 只會“背書”,不能背書——一個人的身份、承擔的責任,過往經歷等等這些組成他特有的可信度。

這讓我們重新審視“真實”的可貴。

作爲標準化內容的生產者,人可能正在變便宜。作爲有審美、判斷、真實體驗的主體,人反而變貴了——你在豆包和deepseek上問了一遍,發現這些答案過於籠統,不夠典型,只能再去小紅書上找找,有沒有跟你相似的經歷。

AI 一邊讓人懷疑自己還剩什麼價值,一邊將這些價值重新估算、利用和壓榨——模型需要語料庫,平臺需要注意力,商家需要有人付費。

這是一個真人便宜又溢價的時代,生產端的內容多到看不完,可真實、獨特的聲音卻依舊珍貴和難尋。這是一個 AI 和人都很擰巴的時代。

參考文獻

[1] https://www.theverge.com/ai-artificial-intelligence/973098/reddit-ai-search-seo-marketing-brands-spam

[2] https://arxiv.org/pdf/2605.24245

[3] https://www.reddit.com/r/technology/comments/1vfbrqm/can_reddit_fend_off_a_new_wave_of_ai_seo_spam_the/

[4] https://www.reddit.com/r/indieheads/comments/1vf9buk/can_reddit_fend_off_a_new_wave_of_ai_seo_spam/

作者:糕級凍霧

編輯:沈知涵

封面圖來源:ChatGPT

本文來自果殼,未經授權不得轉載.

如有需要請聯繫[email protected]

點個“小愛心”吧

相關推薦
請使用下列任何一種瀏覽器瀏覽以達至最佳的用戶體驗:Google Chrome、Mozilla Firefox、Microsoft Edge 或 Safari。為避免使用網頁時發生問題,請確保你的網頁瀏覽器已更新至最新版本。
Scroll to Top