當你詢問AI助手“哪款耳機性價比高”時，它會將不同型號耳機的價格以及核心亮點一一列出，并站在使用者的角度，“貼心”地分析每款耳機的性價比。
不過，面對AI的介紹，你是否懷疑過，那個被它反復提及并在推薦中居首位的產(chǎn)品，真的是“最優(yōu)選”嗎？看似客觀的回答背后，是否隱藏著精心設計的商業(yè)暗廣？
誰在操控AI的“偏好”？
GEO服務機構(gòu)宣傳內(nèi)容
電商平臺上，一種名為“GEO”的操作正悄然嵌入各類AI助手的信息流中。不少機構(gòu)聲稱，GEO優(yōu)化能實現(xiàn)“躺著漲流量”，它可以通過訓練大模型的方式“修繕”品牌形象。機構(gòu)還許諾，能讓品牌方穩(wěn)坐AI推薦中的首位。用服務機構(gòu)的宣傳語來講，GEO就像把“撒網(wǎng)捕魚”變成“精準垂釣”，它能確保AI直接把品牌信息裝進回答里。
中國科學院自動化研究所研究員吳書介紹，GEO的全稱為“生成引擎優(yōu)化”，其原理可類比公眾更為熟悉的SEO（搜索引擎優(yōu)化）。SEO是商家利用搜索引擎的算法，將自己的鏈接排到搜索結(jié)果的前列，而GEO則是AI時代的產(chǎn)物，是一種專門“讓AI看到”的優(yōu)化方法，其目的是讓特定的觀點或品牌信息在AI的輸出中獲得更高的曝光率。
為探明GEO服務的真實效果，《鋒面》記者以品牌工作人員的身份咨詢了多家GEO服務機構(gòu)。接待人員均表示GEO服務能“立竿見影”地提升品牌在AI問答中的“能見度”，并反復向記者強調(diào)當下布局GEO的緊迫性。對方還主動提供了多個“成功案例”。
GEO服務機構(gòu)提供的“成功案例”
為驗證這些案例的真實性，《鋒面》記者用不同方式向多個主流AI助手咨詢。當問及相關(guān)品類推薦時，AI給出的首選品牌確實與機構(gòu)提供的“成功案例”高度重疊。服務機構(gòu)接待人員還表示，他們會定期對數(shù)據(jù)內(nèi)容進行維護，持續(xù)優(yōu)化，訓練大模型的基礎語料庫，穩(wěn)固品牌在AI回答中的“地位”。
算法“投喂”的貓鼠游戲
所謂“訓練”，本質(zhì)上可以將其看作一種“污染”。GEO服務機構(gòu)表示，他們會通過發(fā)布不同的文章和內(nèi)容提升品牌的“可信度”，甚至還能提供“奧運冠軍錄制視頻”的服務。記者發(fā)現(xiàn)，AI推薦引用的信源多為結(jié)構(gòu)清晰、語句簡練的文章，文章標題多帶有“推薦指南”“深度榜單”等字樣。
吳書分析，從技術(shù)上來看，目前GEO主要針對兩個環(huán)節(jié)開展工作：在預訓練數(shù)據(jù)（訓練大模型的基礎語料庫）階段，優(yōu)化者會嘗試將帶有品牌偏見信息的文章“喂”給大模型，“污染”訓練數(shù)據(jù)；在實時檢索環(huán)節(jié)，優(yōu)化者已經(jīng)深諳AI的閱讀偏好，并據(jù)此制作出看似權(quán)威、中立的網(wǎng)頁，盡管其自然排名不一定靠前，但因格式規(guī)范、表達清晰，反而更容易被AI在檢索時采納。
復旦大學計算與智能創(chuàng)新學院教授徐躍東表示，當前，惡意的GEO可能會精心偽造內(nèi)容的權(quán)威性。為了讓AI系統(tǒng)更易采信特定內(nèi)容，操作方會系統(tǒng)性地偽造各類權(quán)威背書，包括虛構(gòu)專家身份、編造檢測報告、仿冒官方白皮書，甚至假冒知名機構(gòu)出具推薦證明。這些經(jīng)過包裝的內(nèi)容看似來源可靠，實則是為了特定商業(yè)目的服務的虛假宣傳，其目的在于影響AI對信息可信度的判斷。
記者經(jīng)多次比對后發(fā)現(xiàn)，將AI助手“聯(lián)網(wǎng)搜索”的功能關(guān)閉時，其給出的答案與GEO服務機構(gòu)提供的案例答案完全不一致。對此，GEO服務機構(gòu)人員表示，“聯(lián)網(wǎng)搜索到的是最新數(shù)據(jù)，不聯(lián)網(wǎng)搜索到的是大模型里自帶的數(shù)據(jù)，95%的用戶都會使用聯(lián)網(wǎng)搜索”。
以當前的技術(shù)手段，無論是在訓練前過濾惡意語料，還是在檢索時識別欺騙性網(wǎng)頁，都存在一定難度。“在防御措施方面，這是一個持續(xù)的貓鼠游戲。”徐躍東表示。目前多數(shù)大模型主要通過在檢索前評估信息源可靠性、在檢索中進行多源交叉驗證、在生成前增強模型魯棒性（模型對于異常數(shù)據(jù)或噪聲的抗干擾能力）等環(huán)節(jié)構(gòu)建防御體系。但對于那些精心設計的高階“GEO攻擊”，徐躍東坦言，“防御難度較大，成本也相對較高”。
吳書特別指出，最新研究表明，僅需數(shù)百條被精心設計的“污染”數(shù)據(jù)，就足以讓擁有上億參數(shù)的大模型產(chǎn)生認知偏差。由于訓練語料的規(guī)模極其龐大，所以在其中混入幾百條被惡意處理過的內(nèi)容是輕而易舉。
“如果植入的廣告不明顯，且沒有明確標識，它們被混雜在客觀信息中，會讓公眾難以獲取全面中立的觀點。這不僅會損害用戶體驗，長此以往還會污染模型，使模型質(zhì)量降低。”這些存在偏差的數(shù)據(jù)可能還會被AI再次學習，在封閉的環(huán)境中得到加強，產(chǎn)生“回聲室效應”，導致偏見和信息失真不斷加劇。
在這個AI不斷發(fā)展的時代，如果商業(yè)信息通過技術(shù)手段持續(xù)優(yōu)化、搶占位置，那么弱勢品牌、公益信息和少數(shù)派觀點就會被擠壓甚至被淹沒。吳書表示，公眾希望將AI作為客觀、高效的工具來使用，一旦他們發(fā)現(xiàn)AI給出的答案中混雜了未聲明的商業(yè)意圖，這種信任感就會被嚴重透支，最終傷害的是整個行業(yè)發(fā)展的根基。
徐躍東特別提醒，受到數(shù)據(jù)污染的人工智能生成的虛假內(nèi)容，可能成為后續(xù)模型訓練的數(shù)據(jù)源，形成具有延續(xù)性的“污染遺留效應”。長此以往，還可能引發(fā)現(xiàn)實風險，比如被運用在金融、醫(yī)療等高價值領域，對相關(guān)領域造成實質(zhì)性損害。
當AI推薦“變了味兒”
GEO的操作不像傳統(tǒng)廣告那樣令人一目了然，而是“潤物細無聲”地左右著用戶的決策。從AI直接獲取答案的使用者們，在不知不覺間踏入了被操控的消費陷阱，這也成為了新的法律灰色地帶。
對此，北京師范大學法學院博士生導師、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括指出，未聲明的商業(yè)推廣在很大程度上符合《中華人民共和國廣告法》中對于“廣告”的界定。他認為，根據(jù)《中華人民共和國廣告法》第二條，當商品經(jīng)營者通過特定媒介直接或間接介紹其商品和服務時，即構(gòu)成廣告行為。“在當前討論的現(xiàn)象中，通過改變內(nèi)容輸入來指向特定服務或為產(chǎn)品做推廣，符合廣告的基本屬性。”
不過，在實際執(zhí)法過程中，這類隱藏在AI中的廣告面臨著三重認定困境。首先是顯性特征不突出，商業(yè)意圖在內(nèi)容遷移過程中被技術(shù)外衣深度包裹；其次是主觀意圖證明困難，吳沈括分析道，“由于技術(shù)邏輯拉長了因果鏈，導致廣告認定的直接性被削弱”；最后，由于各方主體在業(yè)務操作中的定性具有模糊性，使得將其直接歸入廣告范疇仍存在實踐困難。
針對AI中的推廣，最大的挑戰(zhàn)在于其因果邏輯復雜、監(jiān)測取證困難以及難以被跨地域協(xié)同監(jiān)管。
對此，吳沈括建議，監(jiān)管方需要建立“生態(tài)治理”思維，引入技術(shù)、標準與規(guī)則，為責任界定提供更清晰的框架，捍衛(wèi)用戶的知情權(quán)與選擇權(quán)。
智能與真實之間的平衡
AI助手中到底該不該存在廣告呢？
吳書認為，作為一個為公眾提供服務的互聯(lián)網(wǎng)產(chǎn)品，在其中投放廣告是一種合理的回報方式。隨著用戶的使用習慣逐漸從搜索引擎轉(zhuǎn)向大模型，大模型自然會成為廣告的新載體，如果管理得當，有望成功塑造一個健康的新業(yè)態(tài)。
在徐躍東看來，未來AI中的廣告將朝著多模態(tài)、交互式和自動化的方向演進。他表示，在未來，廣告不僅會將聲音、圖片、視頻等多種形式整合在一起，還能借助智能體技術(shù)實現(xiàn)個性化創(chuàng)意生成。不過，徐躍東也強調(diào)，如何在創(chuàng)新與規(guī)范之間取得平衡至關(guān)重要。
吳沈括強調(diào)，對此類操作進行顯著標注是未來的發(fā)展方向。目前，《人工智能生成合成內(nèi)容標識辦法》可以作為法律依據(jù)；其次，《中華人民共和國廣告法》中規(guī)定的廣告具有可識別性，《中華人民共和國消費者權(quán)益保護法》也要求尊重消費者的知情權(quán)、選擇權(quán)。同時，將廣告明晰標注能讓用戶在決策時擁有更堅實的事實基礎。
此外，多名專家提醒，品牌方必須樹立合規(guī)紅線意識，杜絕編造虛假信息，在與合作方的協(xié)議中明確權(quán)責，建立全流程的監(jiān)測監(jiān)督機制。
與此同時，吳沈括建議，AI使用者（消費者）也需要持續(xù)提升自身的數(shù)字素養(yǎng)，對AI提供的信息保持審慎的態(tài)度，學會交叉印證，判斷信息的真實性和來源的可靠性。
更專門的法律條款、更透明的標注機制和全流程的合規(guī)意識，可以確保技術(shù)進步不偏離法治與公平的軌道。
