斑馬智行攜手阿里云：打造智能座艙大模型安全新標桿

閱讀次數：1468 編(bian)輯：系統(tong)管理員發布時間：2025-12-05 15:01

[字體：大中小]

想(xiang)象這(zhe)樣一個(ge)畫(hua)面，在一個(ge)普通的工(gong)作日，你坐進了心(xin)愛的座駕，隨口問(wen)到：“今日有什(shen)么新(xin)聞？”車載AI立馬啟動，下一秒(miao)，它開始娓(wei)娓(wei)道來——上到事關國計民生(sheng)的政(zheng)策，下到市(shi)井俚(li)俗(su)的民生(sheng)八卦，流暢、自然、像朋友聊(liao)天一樣貼心(xin)。但如(ru)果這(zhe)番(fan)溝通中暗含(han)著什(shen)么不該說(shuo)的內容？比如(ru)敏感話題、虛假信息、甚至來自釣(diao)魚(yu)網站的惡意廣告(gao)......

這不是科幻片的(de)橋(qiao)段(duan)，在智能座(zuo)艙加速邁向“AI原(yuan)生(sheng)”的(de)今天，每一(yi)輛搭載AI模型的(de)智能座(zuo)駕都必(bi)須面對的(de)現實考題。

作為智能座(zuo)艙(cang)領(ling)域(yu)的(de)(de)先行者，斑馬智行聯(lian)合阿里云共(gong)同打造面向智能座(zuo)艙(cang)場景的(de)(de)AI安全(quan)審核(he)(he)方(fang)案，通過(guo)阿里云AI安全(quan)護欄的(de)(de)能力(li)加持和云基礎(chu)設(she)施強調(diao)(diao)的(de)(de)彈性(xing)吞吐力(li)，該方(fang)案已經成功應用于多個頭(tou)部品牌(pai)車(che)型(xing)中，日均支撐千萬級大模(mo)型(xing)安全(quan)審核(he)(he)調(diao)(diao)用，為行業樹立了(le)大模(mo)型(xing)內(nei)容(rong)安全(quan)與用戶體(ti)驗兼顧的(de)(de)新標桿。

斑馬智行安(an)全(quan)負(fu)責人評(ping)價到(dao)：“我們與阿里云共同打造的(de)這套安(an)全(quan)護欄(lan)方案(an)，不僅滿足了國(guo)家級合(he)規要求(qiu)，更在(zai)真(zhen)實量產場景中驗證(zheng)了其高(gao)性能、高(gao)可靠、可擴展(zhan)的(de)工程(cheng)價值。這不僅是技(ji)術方案(an)的(de)勝利，更是AI安(an)全(quan)治理體(ti)系在(zai)汽(qi)車行業的(de)成功(gong)落地。”

當大模(mo)型成為汽車標配

千(qian)人千(qian)面背后(hou)的安(an)全(quan)隱(yin)患

回到文章最(zui)初的(de)(de)場(chang)景，隨著大模型和AI Agent的(de)(de)迅(xun)速發展，智(zhi)能座艙里的(de)(de)安全(quan)助(zhu)手，早已不(bu)再是只(zhi)會導航、會放歌的(de)(de)“工具(ju)人(ren)”，在(zai)Multi-Agent技術的(de)(de)加持下，它(ta)不(bu)僅能聯(lian)網搜索(suo)，能多(duo)輪(lun)對話，還(huan)能一鍵幫你定制行(xing)程、分(fen)析新聞......但每(mei)一次看似(si)普通的(de)(de)交互背(bei)后，都隱藏著不(bu)容忽(hu)視(shi)的(de)(de)安全(quan)風險(xian)：

用戶(hu)隨口一句“講個刺激的歷史故事”，會不(bu)會觸發不(bu)當內容？
AI從網(wang)上抓取的信息(xi)，是否混進了賭博、色情(qing)或釣魚鏈接？
聯網搜索功(gong)能加持下，用(yong)戶輸入是否(fou)會觸發對惡意網站的直接調用(yong)？

國(guo)家《信(xin)息安(an)全(quan)技術(shu) 生(sheng)成(cheng)式人工(gong)智(zhi)能服務(wu)安(an)全(quan)基本要求(qiu)》（TC260-003）中明確要求(qiu)，需對風險(xian)進行識別與攔截。熟(shu)悉安(an)全(quan)的(de)朋友可(ke)能會疑惑，內容安(an)全(quan)審核技術(shu)已經發展了數十年，難(nan)道沒(mei)有直接可(ke)用的(de)成(cheng)熟(shu)解決方案(an)嗎(ma)？實際上：

一方(fang)面，為了保證用戶(hu)與模型(xing)交(jiao)互過程的流暢性，一句話往往被拆成(cheng)十幾段(duan)流式輸(shu)(shu)出，傳統基于關鍵(jian)詞和規(gui)則的專(zhuan)家(jia)模型(xing)，面對這類語義復(fu)雜(za)、上(shang)下文強依賴的模型(xing)輸(shu)(shu)出時，最(zui)終結果往往是“看得見字，但不(bu)懂意”；
另(ling)一方面，如果全部依賴大(da)模型審核，雖然理解能(neng)力強，但因推理耗時(shi)長(chang)且成(cheng)本高(gao)，難以滿足(zu)車載(zai)場(chang)景(jing)對實時(shi)性的嚴(yan)苛要求(qiu)；

“既要快，又要準(zhun)”——這正是斑(ban)馬智行與阿(a)里云聯合(he)攻堅的核心命題。

阿里云AI安全護欄：

三(san)大技術突破，重(zhong)新定義車載AI安全標(biao)準

阿里云AI安(an)全護欄(lan)（AI Guardrails）是云安(an)全團隊為(wei)人工智(zhi)能系統設計(ji)的(de)安(an)全防(fang)護產品(pin)，防(fang)護對(dui)(dui)象覆蓋預訓練(lian)大模型、AI服務(wu)和AI Agent等不同業務(wu)形態。在智(zhi)能座艙(cang)場景，AI安(an)全護欄(lan)為(wei)斑馬智(zhi)行提供了(le)精準(zhun)的(de)風險檢測(ce)與主動防(fang)御(yu)能力，同時滿足車(che)載(zai)場景對(dui)(dui)效率和效果的(de)要求。

1.雙引擎協同架(jia)構(gou)：毫秒級審核響應

不同(tong)于單(dan)一的(de)審核策略(lve)，阿(a)里(li)云(yun)AI安全(quan)護欄采用(yong)“規則引(yin)擎+小模型(xing)+大(da)模型(xing)”協同(tong)審核策略(lve)：

所有輸入/輸出文本實(shi)時(shi)切(qie)片后，由輕量級專家模型并行(xing)執行(xing)毫秒級初篩(shai)，快速攔截明顯風險；

同時，重新編排大模型(xing)深(shen)度審核鏈路，利用(yong)多線程智能化調度；

最終融合雙引(yin)擎(qing)結果，在不犧牲召(zhao)回率(lv)的(de)前提下(xia)，有效降低了端到(dao)端審核延的(de)響應時間，完美(mei)適(shi)配車載用戶實時交(jiao)互的(de)流暢體驗，用戶感(gan)覺不到(dao)“檢查(cha)”的(de)存在，安(an)全卻始終在線(xian)。

2.流式上下文關(guan)聯審(shen)核：短文本不再(zai)“裸(luo)奔”

為了(le)保(bao)障與客戶溝通的實(shi)時性，大(da)模型內容生(sheng)成大(da)多采(cai)用(yong)“邊(bian)生(sheng)成，邊(bian)輸入”的流(liu)式模式，一段回答(da)可能(neng)會分為10次推送，單次切片可能(neng)僅10-20字，傳統審(shen)核模型因缺(que)乏上下(xia)文，面對這(zhe)種“碎片化表達”，極(ji)易漏判(pan)。阿里云AI安全護欄采(cai)用(yong)“大(da)模型流(liu)式審(shen)核方案”：

通(tong)過唯一(yi)標(biao)識關聯(lian)一(yi)次完整(zheng)對話；
安全(quan)護欄(lan)自動聚合(he)同一會話中的所有切片，進行跨(kua)片段語義理解；
即使敏感內容分散在多輪輸出中，也能精(jing)準識別并(bing)攔(lan)截；

實(shi)測(ce)顯示(shi)，該方(fang)案(an)將短文本場景下的風(feng)險內(nei)容召回率提升至98%以上，遠超傳統方(fang)案(an)。

3.聯網檢索風險實時攔(lan)截：堵住Agent的“后門”

在支(zhi)持聯網搜索的Agent場景中，用(yong)戶提問(wen)可能觸發對第三方網頁的抓取(qu)，例如：

用戶問一(yi)句：“幫我找附近(jin)評分最高的酒(jiu)吧(ba)(ba)”，AI所(suo)搜索到的目(mu)標站點(dian)可(ke)能是某個(ge)偽(wei)裝成酒(jiu)吧(ba)(ba)推薦網(wang)頁的釣魚(yu)、賭博(bo)或色情網(wang)站，將直(zhi)接污染大模型的輸入。阿里云(yun)AI安全所(suo)具有(you)的“URL風險檢測(ce)”模塊，則能快速應對：

對所有聯網(wang)請求中的第三(san)方(fang)鏈接進行實時掃描；
精準識別色情信息(xi)、非法賭博、釣(diao)魚網站、虛假營銷(xiao)等風險(xian)類(lei)型：
一(yi)旦命中高(gao)風(feng)險標簽，立即終止任務(wu)，防止有害信息流入大(da)模型。

目(mu)前該能力已覆蓋智能搜(sou)索、資訊推薦等多個高頻場景。

云基礎設(she)施彈性保障：安全(quan)能力“隨需調(diao)用”

對(dui)(dui)于(yu)各大車企(qi)，定期的促銷、活動、新車上(shang)市(shi)......往往都伴隨(sui)著(zhu)流量激增。尤其在智能駕駛、智能座艙等(deng)新興(xing)領(ling)域，首發熱度動輒帶來數倍于(yu)日常的調(diao)用量，這對(dui)(dui)任何產品都是一次“壓力測試”，如果安全審核扛不(bu)住，輕(qing)則延遲卡頓、重則全面宕機。

阿里云AI安(an)全(quan)護(hu)欄依(yi)托于阿里云強大的基(ji)礎設施，為客戶提供(gong)可彈(dan)性拓展(zhan)的安(an)全(quan)防(fang)護(hu)力，支(zhi)持客戶按需購買QPS彈(dan)性擴(kuo)展(zhan)包，最短7天起訂，已驗證可支(zhi)持單(dan)項目峰值600 QPS的穩定(ding)運行(xing)。

無論是平日(ri)通勤(qin)，還是發(fa)布會(hui)后的“搶車潮”，安全能(neng)力始(shi)終(zhong)絲滑在線。(斑馬(ma)智(zhi)行)

掃一掃在手機打開當(dang)前頁

上一條：哈工庫訊榮登畢馬威長三角高端裝備榜單，以...

下一條：普泛能源榮登國家專精特新“小巨人”企業名...