EN
English
简体中文
Log inGet started for free

Blog

Proxies

你的-ai-agent-讀文字讀得很漂亮,但它對其他一切是盲的

你的 AI Agent 讀文字讀得很漂亮,但它對其他一切是盲的

企業 AI Agent 的檢索語料以文字為主,而它們被問到的知識——商品、包裝、截圖、影片——大多不是文字。多模態檢索的品質,幾乎完全由你索引的對齊資料決定,而不是你查詢的模型。本文是五個團隊修好 Agent「眼盲」問題的經驗課,附上實際有效的資料集策略。

一個能把退貨政策倒背如流、卻無法從商品照片回答「這是不是我筆電的充電器」的客服 Agent,不是罕見的失敗案例。它是「只用文字建檢索層」的預設結果。

第一課:檢索品質就是資料集品質

不舒服的算術是這樣的:在多數企業裡,Agent 被問到的文件嚴重偏視覺——商品型錄、UI 截圖、包裝、教學影片。純文字的檢索層只能觸及標題、說明文字與 alt 文字,而那只是使用者問題真正內容的薄薄一層影子。

修好這件事的團隊,起點都不是換更強的模型,而是換更好的索引:語料規模的圖文配對,且文字真正描述影像。這是一個資料問題,而且市場上已有解答——現成多模態資料集以約 每 1,000 筆 $0.25 的價格,交付橫跨 100 多個網域的對齊紀錄;在這個價位,索引一百萬筆對齊配對只要幾百美元。

測試你的 Agent 有沒有這個問題,只需要一行:拿一張它理應看過的圖片,問它圖裡的東西。如果它從文字詮釋資料回答、或者開始幻覺,瓶頸是你的索引,不是模型。

第二課:對齊勝過數量

第二課關於「好」的多模態資料是什麼意思。一百萬張配上泛用標題(「IMG_2041」「商品照」)的圖片,價值低於十萬筆文字欄位真正描述視覺內容的紀錄——商品名稱、屬性、情境。

所以評估資料集時,紀錄結構比紀錄數量重要。一份結構良好的紀錄,攜帶影像參照、對齊文字,以及讓你能安全切片的詮釋資料:

# 把多模態資料集分片索引進檢索庫
for record in dataset.stream(filter={"domain": "ecommerce_listings"}):
    if not record.get("title"):          # 跳過未對齊的紀錄
        continue
    doc = {
        "id": record["record_id"],
        "image": record["image_url"],
        "text": f"{record['title']}. {record.get('attributes', '')}",
        "market": record.get("market"),
        "language": record.get("language"),
    }
    index.upsert(embed_multimodal(doc))   # 圖文聯合嵌入

if not record.get(“title”) 這一行防護就是整課的濃縮:未對齊的紀錄會毒害多模態索引。在嵌入之前先過濾掉,成本為零,答案品質的改善卻可以量測。

第三課:多樣性是覆蓋問題,不是美德

第三課通常以使用者抱怨的形式被發現:Agent 對某個市場的熱門商品回答得完美無缺,對其他一切卻充滿自信地答錯。索引過度代表了採集路徑湊巧過度代表的內容。

反制措施是源頭紀律。透過地理定位基礎設施採集的資料集供應商——Thordata 的採集網路涵蓋 190 多個國家、支援城市層級 IP 定位——產出的語料裡,市場與內容類型的長尾是真實存在的。評估一份多模態資料集時,不要問「有幾筆紀錄」;問「它覆蓋了我部署分布的多大比例」,然後用真實使用者畫出來的驗證集去測。

第四課:Agent 需要新鮮度,不只是記憶

檢索索引是一張快照,而企業一直在讓快照腐敗:商品改版、包裝更新、截圖隨每次發版過期。讓 Agent 保持可信的團隊,把索引更新當成排程作業來經營,而不是一次次的重建專案。

兩個機制讓這件事變得可負擔。第一,排程採集:同時經營資料集與採集基礎設施的供應商(Thordata 即是)可以按節奏跑週期性作業,把新紀錄送進你的儲存。第二,新鮮度感知檢索:為每份文件加上時間戳記,回答「現況類」問題時優先採用近期紀錄——從網頁搜尋借來的模式,搬到內部使用。

第五課:有些 Agent 問題是關於外部世界的

最後一課讓至少一個團隊感到意外。他們的客服 Agent 開始收到任何內部語料都回答不了的問題:「為什麼你們的產品在另一個網站比較便宜」「你們是不是不賣藍色那款了」「為什麼搜尋你們的頁面出不來了」。這些是關於即時網路的問題——特別是關於搜尋結果的。

解法是把 SERP 資料當成另一種可檢索語料。透過 SERP 監控解決方案,結構化的 Google 與 Bing 結果——自然排名、購物版位、廣告——以量價約 每 1,000 次回應 $0.70 流入 Agent 的索引,並按排程更新。關於能見度、搜尋中的定價、品牌在結果中的出現的問題,不再超出範圍;Agent 用服務其他一切的同一套檢索層回答它們。

這個模式可以推廣:監控導向的資料流——排名追蹤、競品 SERP 動態——是絕佳的 Agent 語料,因為它們送達時就是結構化、帶時間戳記、且持續更新的。持續 SERP 資料爬取服務交付的正是這種形狀的資料流。

常見問答

需要多模態模型才能受益於多模態資料集嗎? 不一定。即使 Agent 本身只讀文字,當索引管線使用對齊的說明文字時,純文字 Agent 也會進步——資料集的文字欄位攜帶了原始語料沒有的資訊。多模態模型解鎖全部價值,但資料投資在每個階段都有回報。

多少對齊資料才夠? 誠實的答案:覆蓋你的部署分布就夠。用視覺驗證集量測——一百個使用者真正會問的、關於圖片的問題——然後持續索引直到準確率進入平原期。多數團隊遠在「全部」之前就進入平原期;他們停在「使用者真正會問的全部」。

可以把專屬資料與採購的資料集混合嗎? 可以,而且這是標準架構:底下是採購的廣度,上面是專屬的深度,兩者流入同一個檢索庫。保留來源詮釋資料,你永遠知道哪個答案建立在哪類資料上。

相對於 LLM 技術棧,這要花多少錢? 零頭等級。以每 1,000 筆 $0.25 計,一個認真 Agent 索引的資料採購是幾百美元;每千次 $0.70 的 SERP 資料流隨監控範圍(而非模型用量)規模化。對比一次自信滿滿的錯誤回答送到客戶手上的代價——客服升級、信任流失——這筆經濟帳不需要再辯論。

一週內從哪裡開始? 第 1–2 天:從真實使用者問題建立視覺驗證集。第 3 天:拉一份篩選過的資料集分片並建立索引。第 4–5 天:用增強後的索引跑驗證集並量測。如果改善肉眼可見,就補上新鮮度層——排程採集,加上回答外部世界問題所需的 SERP 監控資料流。一週,足以知道 Agent 的眼盲是否可以用資料的價格修好——而答案幾乎永遠是可以。