當(dāng)被譽為“AI教父”的杰弗里·辛頓（Geoffrey Hinton）獲得諾貝爾物理學(xué)獎，諾貝爾化學(xué)獎也花落身處人工智能公司DeepMind的丹米斯·哈薩比斯（Demis Hassabis）和約翰·喬普（John M. Jumper）時，沒有人會再質(zhì)疑AI給人類社會帶來的顛覆性影響。而隨著以大模型為代表的人工智能技術(shù)逐漸普及，AI換臉等新的安全隱患也層出不窮。不久前，杭州公安便披露了全國首起利用AI換臉大模型突破頭部平臺人臉認證的案件。一向?qū)?ldquo;安全”放在首位的汽車行業(yè)，如今正積極向“AI定義汽車”時代邁進。如何規(guī)避大模型應(yīng)用所帶來的安全風(fēng)險，成為行業(yè)必答題。
汽車大模型從“嘗鮮”到“常用”
根據(jù)相關(guān)數(shù)據(jù)，截至目前，全球人工智能大模型已有1328個。聚焦汽車產(chǎn)業(yè)，不少車企正在加快探索大模型對于汽車智能座艙、智能駕駛等功能的賦能，并試圖將大模型應(yīng)用于汽車研發(fā)、設(shè)計、營銷、運營等眾多領(lǐng)域之中。
“大模型會加快智駕數(shù)據(jù)的處理速度，在數(shù)據(jù)閉環(huán)、多場景感知任務(wù)識別及多模態(tài)任務(wù)融合、端到端自動駕駛方面，促進艙駕功能的協(xié)同部署。”在中國軟件評測中心智能網(wǎng)聯(lián)汽車產(chǎn)品與系統(tǒng)測評室主任王榮看來，大模型在汽車產(chǎn)業(yè)正迅速得到應(yīng)用，將成為汽車AI化發(fā)展的核心。正如其所言，今年以來，百度、字節(jié)跳動、商湯科技、科大訊飛等科技企業(yè)以及理想汽車、小鵬汽車、蔚來汽車等車企都在加快部署大模型“上車”。
為打造差異化競爭力，智能座艙成為當(dāng)下汽車企業(yè)大模型布局的最佳切入點。借助文心一言大模型，百度推出智能化產(chǎn)品，將百度智能座艙升級為Apollo超級座艙，可實現(xiàn)自動理解、構(gòu)建，并生成相應(yīng)場景，調(diào)度全車能力，理解用戶需求，并主動執(zhí)行最優(yōu)全局解決方案。同樣是今年4月，蔚來NOMI GPT端云多模態(tài)大模型正式上線，賦予了NOMI與用戶進行開放式問答的交互能力。理想自研的Mind GPT則具備覆蓋111個領(lǐng)域、超1000種以上的專屬能力，集用車助手、娛樂助手、出行助手、百科老師于一身。商湯絕影智能座艙大模型產(chǎn)品則已在多家車企量產(chǎn)車型上得到應(yīng)用，小米SU7的小愛語音助手車載語音場景應(yīng)用便脫胎于此。
在智能駕駛方面，今年5月，小鵬汽車宣布國內(nèi)首個端到端大模型量產(chǎn)上車，預(yù)計到今年四季度實現(xiàn)“門到門”的智能駕駛；7月，世界人工智能大會上，商湯絕影發(fā)布可解釋、可交互的自動駕駛大模型DriveAGI，讓車輛可以像人一樣理解復(fù)雜的現(xiàn)實世界，洞察各類交通參與者的行為動機，快速學(xué)習(xí)各種交通規(guī)則，并向用戶解釋駕駛決策的推理過程；理想則計劃推出基于自研大模型和VLM視覺模型的L3級自動駕駛系統(tǒng)。
除了把大模型變?yōu)槠嚠a(chǎn)品力，不少車企也在借助大模型能力提升自身營銷、研發(fā)、運營等方面的生產(chǎn)力。2023年，華為云盤古大模型首次發(fā)布，覆蓋了汽車設(shè)計、生產(chǎn)、營銷、研發(fā)等多個業(yè)務(wù)場景。據(jù)了解，盤古汽車大模型現(xiàn)已覆蓋汽車業(yè)務(wù)超20多個L2場景，并已深入到汽車生產(chǎn)、自動駕駛開發(fā)、智能座艙開發(fā)、智能營銷以及產(chǎn)品售后等多個環(huán)節(jié)。今年4月，騰訊發(fā)布汽車行業(yè)大模型，實現(xiàn)在汽車研發(fā)、生產(chǎn)、營銷、服務(wù)、企業(yè)協(xié)同五大核心場景的落地應(yīng)用。此外，火山引擎也與領(lǐng)克汽車等車企合作，依托豆包大模型打造智能銷售AI助手、智慧經(jīng)營報表等功能，持續(xù)釋放大模型能力。
“以人工智能為主導(dǎo)的智能化競爭力，已經(jīng)成為產(chǎn)業(yè)和企業(yè)新的發(fā)展高地和戰(zhàn)略支點。”中國電動汽車百人會副理事長兼秘書長張永偉表示，隨著AI大模型與汽車的深度融合，汽車產(chǎn)業(yè)將進入全面AI化競爭，企業(yè)必須利用好AI模型能力，促進汽車智能化水平躍升。
70％安全事故來自遠程攻擊
普及大模型勢在必行，消費者、企業(yè)、行業(yè)乃至社會發(fā)展也確實從中受益，然而新技術(shù)的到來必然會給監(jiān)管提出新的挑戰(zhàn)。相關(guān)數(shù)據(jù)顯示，今年上半年全球出現(xiàn)的汽車安全事故中，70％均為遠程攻擊，涉及智能座艙、充電服務(wù)、智能控車、自動駕駛等場景，物理攻擊僅占5％。如今，大模型的出現(xiàn)無疑給智能網(wǎng)聯(lián)汽車的安全帶來更大挑戰(zhàn)。
不久前，中國信息通信研究院發(fā)布的《大模型安全研究報告2024》指出，大模型自身存在訓(xùn)練數(shù)據(jù)安全、算法模型風(fēng)險、系統(tǒng)平臺風(fēng)險、業(yè)務(wù)應(yīng)用風(fēng)險等方面的安全風(fēng)險。如大模型插件可能存在缺陷，引發(fā)敏感信息泄露、提示詞注入、跨插件請求偽造等安全問題；用戶與大模型互動也可能無意中泄露自己的隱私或保密信息。
聚焦汽車領(lǐng)域，王榮表示，車用AI模型訓(xùn)練會收集和存儲大量包含敏感信息的數(shù)據(jù)，如駕駛行為、位置信息、乘客信息等，如何確保這些數(shù)據(jù)在采集、傳輸、存儲等過程中的安全問題也值得關(guān)注。另外，攻擊者還可通過精心設(shè)計的輸入數(shù)據(jù)或植入惡意樣本等方式，來欺騙AI模型做出錯誤決策，影響模型的準(zhǔn)確性和安全性。
值得注意的是，如同AI換臉、偽造視頻等，大模型在汽車領(lǐng)域的應(yīng)用也存在AI生成內(nèi)容帶來的安全隱患。王榮稱，隨著生成式人工智能在智能網(wǎng)聯(lián)汽車上的推廣，文生文、文生圖、文生音樂等功能逐漸普及，而生成內(nèi)容可能涉及隱私、倫理、合規(guī)等諸多方面的安全問題，必須對生成內(nèi)容進行審查和標(biāo)識管理。
此外，受制于技術(shù)發(fā)展，大模型的可靠度也值得商榷。王榮表示，AI模型訓(xùn)練依賴高質(zhì)量數(shù)據(jù)，數(shù)據(jù)來源、特征和分布過于單一，或存在錯誤數(shù)據(jù)，都會對模型訓(xùn)練數(shù)據(jù)質(zhì)量產(chǎn)生影響，進而導(dǎo)致模型推理結(jié)果可靠性偏低?！洞竽Ｐ桶踩珜嵺`（2024）》白皮書明確指出，大模型技術(shù)仍存在自身缺陷，包括生成內(nèi)容不可信、能力不可控以及外部安全隱患等問題，由此帶來生成“幻覺”問題等風(fēng)險，影響生成內(nèi)容的可信度。對于專業(yè)性較強的汽車行業(yè)而言，大模型對于專業(yè)領(lǐng)域知識圖譜的學(xué)習(xí)仍然有限，必須謹慎對待。
不過，不可否認的是，大模型的應(yīng)用在給汽車安全帶來全新挑戰(zhàn)的同時，也能夠轉(zhuǎn)變?yōu)槠嚢踩?ldquo;保護傘”，減少現(xiàn)有部分安全隱患。“生成式AI也能夠起到遠程維護和監(jiān)控作用，通過分析車輛傳回的數(shù)據(jù)，制造商能夠及時發(fā)現(xiàn)并解決潛在問題，提高車輛安全性。”王榮說道。不久前，國內(nèi)汽車安全公司木衛(wèi)四便發(fā)布汽車安全大模型蝴蝶大模型2.0，可以在數(shù)百萬輛的汽車異常日志中自動識別黑客攻擊和汽車異常狀況，幫助車企實時識別汽車安全風(fēng)險。此外，該安全解決方案還覆蓋了智能駕駛、充電樁等領(lǐng)域，并可提供汽車安全情報服務(wù)。百度也將大模型運用于汽車安全領(lǐng)域，可對汽車網(wǎng)絡(luò)環(huán)境進行實時監(jiān)控，對汽車系統(tǒng)漏洞進行智能分析，并結(jié)合車輛運行數(shù)據(jù)對其運行狀態(tài)進行智能評估。
大模型管理體系待完善
面對大模型這一汽車安全“雙刃劍”，如何有效規(guī)避風(fēng)險的同時，挖掘大模型的潛力，需要行業(yè)上下共同努力。去年8月，《生成式人工智能服務(wù)管理暫行辦法》正式施行，提出要根據(jù)生成式人工智能服務(wù)的風(fēng)險高低進行分類分級監(jiān)管，根據(jù)生成式人工智能服務(wù)適用的不同領(lǐng)域進行行業(yè)部門監(jiān)管。對于汽車產(chǎn)業(yè)而言，王榮認為，要提早布局汽車大模型安全管理和評估體系，將大模型應(yīng)用存在的惡意攻擊、隱私泄露、模型泛化等安全風(fēng)險扼殺于微時。
首先，開展汽車大模型備案。包括備案資料準(zhǔn)備、備案信息填報、提交備案申請、備案審核等。大模型獲得備案號后還需持續(xù)監(jiān)督模型的合規(guī)性，并根據(jù)法律法規(guī)的變化及時更新備案信息。
其次，制定汽車大模型安全基本要求。組織行業(yè)專家制定汽車大模型的安全技術(shù)標(biāo)準(zhǔn)，明確數(shù)據(jù)安全、模型訓(xùn)練、模型使用等方面的安全要求。去年年底，中國信息通信研究院依托人工智能產(chǎn)業(yè)聯(lián)盟安全治理委員會，聯(lián)合多方開展了“大模型安全風(fēng)險防范能力”系列評估規(guī)范研究和編制工作。目前，《安全大模型能力要求及評估方法》系列規(guī)范中的總體框架、基礎(chǔ)網(wǎng)絡(luò)安全兩部分已正式發(fā)布。聚焦汽車領(lǐng)域，據(jù)王榮介紹，中國軟件測評中心牽頭構(gòu)建了大模型公共服務(wù)平臺，針對缺乏公共數(shù)據(jù)集、測試評價標(biāo)準(zhǔn)、大模型應(yīng)用驗證等行業(yè)痛點問題，提供數(shù)據(jù)匯聚、質(zhì)量管理、標(biāo)準(zhǔn)規(guī)范、應(yīng)用驗證等公共服務(wù)。
第三，開展大模型安全評估。建立汽車大模型安全評估體系，包括評估流程、評估方法和評估工具，通過靜態(tài)和動態(tài)分析、模擬攻擊、滲透測試、代碼審計等方式，評估汽車大模型的安全性能，確保其在實際應(yīng)用中的安全性和可靠性。
汽車大模型從“嘗鮮”到“常用”
根據(jù)相關(guān)數(shù)據(jù)，截至目前，全球人工智能大模型已有1328個。聚焦汽車產(chǎn)業(yè)，不少車企正在加快探索大模型對于汽車智能座艙、智能駕駛等功能的賦能，并試圖將大模型應(yīng)用于汽車研發(fā)、設(shè)計、營銷、運營等眾多領(lǐng)域之中。
“大模型會加快智駕數(shù)據(jù)的處理速度，在數(shù)據(jù)閉環(huán)、多場景感知任務(wù)識別及多模態(tài)任務(wù)融合、端到端自動駕駛方面，促進艙駕功能的協(xié)同部署。”在中國軟件評測中心智能網(wǎng)聯(lián)汽車產(chǎn)品與系統(tǒng)測評室主任王榮看來，大模型在汽車產(chǎn)業(yè)正迅速得到應(yīng)用，將成為汽車AI化發(fā)展的核心。正如其所言，今年以來，百度、字節(jié)跳動、商湯科技、科大訊飛等科技企業(yè)以及理想汽車、小鵬汽車、蔚來汽車等車企都在加快部署大模型“上車”。
為打造差異化競爭力，智能座艙成為當(dāng)下汽車企業(yè)大模型布局的最佳切入點。借助文心一言大模型，百度推出智能化產(chǎn)品，將百度智能座艙升級為Apollo超級座艙，可實現(xiàn)自動理解、構(gòu)建，并生成相應(yīng)場景，調(diào)度全車能力，理解用戶需求，并主動執(zhí)行最優(yōu)全局解決方案。同樣是今年4月，蔚來NOMI GPT端云多模態(tài)大模型正式上線，賦予了NOMI與用戶進行開放式問答的交互能力。理想自研的Mind GPT則具備覆蓋111個領(lǐng)域、超1000種以上的專屬能力，集用車助手、娛樂助手、出行助手、百科老師于一身。商湯絕影智能座艙大模型產(chǎn)品則已在多家車企量產(chǎn)車型上得到應(yīng)用，小米SU7的小愛語音助手車載語音場景應(yīng)用便脫胎于此。
在智能駕駛方面，今年5月，小鵬汽車宣布國內(nèi)首個端到端大模型量產(chǎn)上車，預(yù)計到今年四季度實現(xiàn)“門到門”的智能駕駛；7月，世界人工智能大會上，商湯絕影發(fā)布可解釋、可交互的自動駕駛大模型DriveAGI，讓車輛可以像人一樣理解復(fù)雜的現(xiàn)實世界，洞察各類交通參與者的行為動機，快速學(xué)習(xí)各種交通規(guī)則，并向用戶解釋駕駛決策的推理過程；理想則計劃推出基于自研大模型和VLM視覺模型的L3級自動駕駛系統(tǒng)。
除了把大模型變?yōu)槠嚠a(chǎn)品力，不少車企也在借助大模型能力提升自身營銷、研發(fā)、運營等方面的生產(chǎn)力。2023年，華為云盤古大模型首次發(fā)布，覆蓋了汽車設(shè)計、生產(chǎn)、營銷、研發(fā)等多個業(yè)務(wù)場景。據(jù)了解，盤古汽車大模型現(xiàn)已覆蓋汽車業(yè)務(wù)超20多個L2場景，并已深入到汽車生產(chǎn)、自動駕駛開發(fā)、智能座艙開發(fā)、智能營銷以及產(chǎn)品售后等多個環(huán)節(jié)。今年4月，騰訊發(fā)布汽車行業(yè)大模型，實現(xiàn)在汽車研發(fā)、生產(chǎn)、營銷、服務(wù)、企業(yè)協(xié)同五大核心場景的落地應(yīng)用。此外，火山引擎也與領(lǐng)克汽車等車企合作，依托豆包大模型打造智能銷售AI助手、智慧經(jīng)營報表等功能，持續(xù)釋放大模型能力。
“以人工智能為主導(dǎo)的智能化競爭力，已經(jīng)成為產(chǎn)業(yè)和企業(yè)新的發(fā)展高地和戰(zhàn)略支點。”中國電動汽車百人會副理事長兼秘書長張永偉表示，隨著AI大模型與汽車的深度融合，汽車產(chǎn)業(yè)將進入全面AI化競爭，企業(yè)必須利用好AI模型能力，促進汽車智能化水平躍升。
70％安全事故來自遠程攻擊
普及大模型勢在必行，消費者、企業(yè)、行業(yè)乃至社會發(fā)展也確實從中受益，然而新技術(shù)的到來必然會給監(jiān)管提出新的挑戰(zhàn)。相關(guān)數(shù)據(jù)顯示，今年上半年全球出現(xiàn)的汽車安全事故中，70％均為遠程攻擊，涉及智能座艙、充電服務(wù)、智能控車、自動駕駛等場景，物理攻擊僅占5％。如今，大模型的出現(xiàn)無疑給智能網(wǎng)聯(lián)汽車的安全帶來更大挑戰(zhàn)。
不久前，中國信息通信研究院發(fā)布的《大模型安全研究報告2024》指出，大模型自身存在訓(xùn)練數(shù)據(jù)安全、算法模型風(fēng)險、系統(tǒng)平臺風(fēng)險、業(yè)務(wù)應(yīng)用風(fēng)險等方面的安全風(fēng)險。如大模型插件可能存在缺陷，引發(fā)敏感信息泄露、提示詞注入、跨插件請求偽造等安全問題；用戶與大模型互動也可能無意中泄露自己的隱私或保密信息。
聚焦汽車領(lǐng)域，王榮表示，車用AI模型訓(xùn)練會收集和存儲大量包含敏感信息的數(shù)據(jù)，如駕駛行為、位置信息、乘客信息等，如何確保這些數(shù)據(jù)在采集、傳輸、存儲等過程中的安全問題也值得關(guān)注。另外，攻擊者還可通過精心設(shè)計的輸入數(shù)據(jù)或植入惡意樣本等方式，來欺騙AI模型做出錯誤決策，影響模型的準(zhǔn)確性和安全性。
值得注意的是，如同AI換臉、偽造視頻等，大模型在汽車領(lǐng)域的應(yīng)用也存在AI生成內(nèi)容帶來的安全隱患。王榮稱，隨著生成式人工智能在智能網(wǎng)聯(lián)汽車上的推廣，文生文、文生圖、文生音樂等功能逐漸普及，而生成內(nèi)容可能涉及隱私、倫理、合規(guī)等諸多方面的安全問題，必須對生成內(nèi)容進行審查和標(biāo)識管理。
此外，受制于技術(shù)發(fā)展，大模型的可靠度也值得商榷。王榮表示，AI模型訓(xùn)練依賴高質(zhì)量數(shù)據(jù)，數(shù)據(jù)來源、特征和分布過于單一，或存在錯誤數(shù)據(jù)，都會對模型訓(xùn)練數(shù)據(jù)質(zhì)量產(chǎn)生影響，進而導(dǎo)致模型推理結(jié)果可靠性偏低?！洞竽Ｐ桶踩珜嵺`（2024）》白皮書明確指出，大模型技術(shù)仍存在自身缺陷，包括生成內(nèi)容不可信、能力不可控以及外部安全隱患等問題，由此帶來生成“幻覺”問題等風(fēng)險，影響生成內(nèi)容的可信度。對于專業(yè)性較強的汽車行業(yè)而言，大模型對于專業(yè)領(lǐng)域知識圖譜的學(xué)習(xí)仍然有限，必須謹慎對待。
不過，不可否認的是，大模型的應(yīng)用在給汽車安全帶來全新挑戰(zhàn)的同時，也能夠轉(zhuǎn)變?yōu)槠嚢踩?ldquo;保護傘”，減少現(xiàn)有部分安全隱患。“生成式AI也能夠起到遠程維護和監(jiān)控作用，通過分析車輛傳回的數(shù)據(jù)，制造商能夠及時發(fā)現(xiàn)并解決潛在問題，提高車輛安全性。”王榮說道。不久前，國內(nèi)汽車安全公司木衛(wèi)四便發(fā)布汽車安全大模型蝴蝶大模型2.0，可以在數(shù)百萬輛的汽車異常日志中自動識別黑客攻擊和汽車異常狀況，幫助車企實時識別汽車安全風(fēng)險。此外，該安全解決方案還覆蓋了智能駕駛、充電樁等領(lǐng)域，并可提供汽車安全情報服務(wù)。百度也將大模型運用于汽車安全領(lǐng)域，可對汽車網(wǎng)絡(luò)環(huán)境進行實時監(jiān)控，對汽車系統(tǒng)漏洞進行智能分析，并結(jié)合車輛運行數(shù)據(jù)對其運行狀態(tài)進行智能評估。
大模型管理體系待完善
面對大模型這一汽車安全“雙刃劍”，如何有效規(guī)避風(fēng)險的同時，挖掘大模型的潛力，需要行業(yè)上下共同努力。去年8月，《生成式人工智能服務(wù)管理暫行辦法》正式施行，提出要根據(jù)生成式人工智能服務(wù)的風(fēng)險高低進行分類分級監(jiān)管，根據(jù)生成式人工智能服務(wù)適用的不同領(lǐng)域進行行業(yè)部門監(jiān)管。對于汽車產(chǎn)業(yè)而言，王榮認為，要提早布局汽車大模型安全管理和評估體系，將大模型應(yīng)用存在的惡意攻擊、隱私泄露、模型泛化等安全風(fēng)險扼殺于微時。
首先，開展汽車大模型備案。包括備案資料準(zhǔn)備、備案信息填報、提交備案申請、備案審核等。大模型獲得備案號后還需持續(xù)監(jiān)督模型的合規(guī)性，并根據(jù)法律法規(guī)的變化及時更新備案信息。
其次，制定汽車大模型安全基本要求。組織行業(yè)專家制定汽車大模型的安全技術(shù)標(biāo)準(zhǔn)，明確數(shù)據(jù)安全、模型訓(xùn)練、模型使用等方面的安全要求。去年年底，中國信息通信研究院依托人工智能產(chǎn)業(yè)聯(lián)盟安全治理委員會，聯(lián)合多方開展了“大模型安全風(fēng)險防范能力”系列評估規(guī)范研究和編制工作。目前，《安全大模型能力要求及評估方法》系列規(guī)范中的總體框架、基礎(chǔ)網(wǎng)絡(luò)安全兩部分已正式發(fā)布。聚焦汽車領(lǐng)域，據(jù)王榮介紹，中國軟件測評中心牽頭構(gòu)建了大模型公共服務(wù)平臺，針對缺乏公共數(shù)據(jù)集、測試評價標(biāo)準(zhǔn)、大模型應(yīng)用驗證等行業(yè)痛點問題，提供數(shù)據(jù)匯聚、質(zhì)量管理、標(biāo)準(zhǔn)規(guī)范、應(yīng)用驗證等公共服務(wù)。
第三，開展大模型安全評估。建立汽車大模型安全評估體系，包括評估流程、評估方法和評估工具，通過靜態(tài)和動態(tài)分析、模擬攻擊、滲透測試、代碼審計等方式，評估汽車大模型的安全性能，確保其在實際應(yīng)用中的安全性和可靠性。
CONTACT US
ICC APP
