今年以來，以ChatGPT為代表的生成式人工智能技術(shù)不斷取得突破，引發(fā)全球高度關(guān)注，人工智能發(fā)展進(jìn)入更加智能、更加通用的新階段。目前，許多互聯(lián)網(wǎng)大廠、人工智能科技企業(yè)、高校和研究機(jī)構(gòu)等自研的通用、行業(yè)、垂直AI大模型百花齊 放，為各行各業(yè)帶來了巨大的活力和創(chuàng)新機(jī)遇。安防作為AI技術(shù)商業(yè)化落地發(fā)展最快、市場(chǎng)容量最大的主賽道，在AI大模型的賦能下將有怎樣的新突破和新發(fā)展？
?
一、AI加速迭代行業(yè)大模型不斷涌現(xiàn)
去年年底以ChatGPT為代表的生成式人工智能技術(shù)在全球掀起一輪AI熱潮，隨之國(guó)內(nèi)互聯(lián)網(wǎng)大廠、人工智能企業(yè)紛紛緊跟，各類AI大模型層出不窮；李彥宏、張勇等互聯(lián)網(wǎng)大佬也一致斷言大模型將顛覆整個(gè)行業(yè)。
時(shí)至今年下半年，隨著類似ChatGPT等基礎(chǔ)大模型喧囂過后，AI行業(yè)化大模型逐漸占上科技創(chuàng)新的浪尖，無(wú)論是今年7月份上海的2023世界人工智能大會(huì)，還是此次廈門投洽會(huì)重要展區(qū)警安法務(wù)科技展，“行業(yè)大模型”成為活動(dòng)的“頂流”與談?wù)摰母哳l詞，下半年不斷涌現(xiàn)的垂直行業(yè)大模型也有力證明了這一事實(shí)。
相關(guān)業(yè)內(nèi)專家也表示，通用大模型研發(fā)基本是互聯(lián)網(wǎng)大廠們的專屬戰(zhàn)場(chǎng)，強(qiáng)有力的計(jì)算能力、大量有效的數(shù)據(jù)資源，以及高成本的長(zhǎng)期訓(xùn)練和推理正是這些巨頭具備的優(yōu)勢(shì)。然而通用大模型對(duì)于更關(guān)注碎片化場(chǎng)景下的行業(yè)用戶而言，無(wú)法滿足他們具體業(yè)務(wù)的需求。因此，強(qiáng)人工智能真正要落地應(yīng)用、賦能行業(yè)，還需要依賴行業(yè)大模型。這也是為何今年在6月份召開的第十六屆（2023）中國(guó)國(guó)際社會(huì)公共安全產(chǎn)品博覽會(huì)上，相關(guān)企業(yè)行業(yè)大模型應(yīng)用Demo紛紛亮相。比如宇視首度推出行業(yè)大模型梧桐系列云端應(yīng)用、商湯科技帶來日日新SenseNova大模型、聯(lián)匯科技的視覺語(yǔ)言大模型OmModel以及熵基科技自主研發(fā)的BioCVLLM大語(yǔ)言模型等，展現(xiàn)出行業(yè)化可喜表現(xiàn)。
此次警安法務(wù)科技展上，行業(yè)大模型在警務(wù)及司法領(lǐng)域又展現(xiàn)出新的技術(shù)變革，美亞柏科推出了國(guó)內(nèi)首個(gè)公共安全大模型一體化裝備——“天擎”?！疤烨妗睋碛胸S富的公共安全行業(yè)知識(shí)，具備強(qiáng)大的警務(wù)意圖識(shí)別、警務(wù)情報(bào)分析、案情推理等業(yè)務(wù)理解和推理能力，能夠從海量數(shù)據(jù)中持續(xù)自我進(jìn)化，實(shí)現(xiàn)行業(yè)知識(shí)、業(yè)務(wù)問題，解決反饋的全流程閉環(huán)進(jìn)化，大大提升辦案效率，大幅降低業(yè)務(wù)成本；在人工智能論壇上，清華大學(xué)互聯(lián)網(wǎng)司法研究院帶來了面向司法領(lǐng)域的大語(yǔ)言模型構(gòu)建探索與實(shí)踐，為司法大語(yǔ)言模型落地提供了很好的路徑與思考；蘇州科達(dá)基于公安實(shí)戰(zhàn)業(yè)務(wù)提出KD多模態(tài)大模型，推動(dòng)大模型在安防行業(yè)生根發(fā)芽。
?
二、安防+AI成就有目共睹
大模型值得期待
眾所周知，安防行業(yè)作為人工智能技術(shù)應(yīng)用最具代表性的領(lǐng)域，大約在2015年左右，識(shí)別、分析類的算法開始在行業(yè)內(nèi)成規(guī)模應(yīng)用，到2018年短短幾年間，人臉檢測(cè)、識(shí)別和視頻分析應(yīng)用已成為行業(yè)主流?？梢哉f，AI技術(shù)推動(dòng)著安防行業(yè)全面進(jìn)入了智能化時(shí)代，并不斷重塑著行業(yè)應(yīng)用與商業(yè)模式。
當(dāng)前，AI加速迭代并滲透到整個(gè)安防產(chǎn)業(yè)，從前端產(chǎn)品到后端平臺(tái)、再到整體解決方案，各種產(chǎn)品琳瑯滿目。人工智能技術(shù)在端、邊、云各層級(jí)上實(shí)現(xiàn)全面賦能應(yīng)用，并且在各行業(yè)數(shù)字化驅(qū)動(dòng)下，應(yīng)用場(chǎng)景已從落地實(shí)戰(zhàn)較早的公安、交通等領(lǐng)域向金融、社區(qū)、園區(qū)、水利、商業(yè)、民用等領(lǐng)域持續(xù)拓展。
對(duì)于人工智能帶給公安領(lǐng)域的創(chuàng)新與變革，在此次人工智能論壇上，廈門市公安局覃智泉主任通過人工智能在公安偵查打擊、治安防控、110接處警、智慧交通、服務(wù)民生、流程再造等方面的創(chuàng)新實(shí)踐給出了最有力的佐證。
可以說，人工智能技術(shù)或如蘇州科達(dá)首席科學(xué)家章勇所言，AI感知智能已經(jīng)在行業(yè)展示出其“十八般武藝”，其成就有目共睹。接下來，AI大模型又將在行業(yè)創(chuàng)造怎樣的一番天地？已經(jīng)成為整個(gè)行業(yè)拭目以待的重頭戲。
除了已經(jīng)取得的成果，行業(yè)也注意到，隨著人工智能技術(shù)的演進(jìn)，傳統(tǒng)深度學(xué)習(xí)算法在碎片化的安防應(yīng)用場(chǎng)景中的局限性日益凸顯?！盎谔卣髯R(shí)別的AI1.0對(duì)感知信息的深度理解，如目標(biāo)和目標(biāo)之間的關(guān)系、目標(biāo)和場(chǎng)景之間的互動(dòng)關(guān)系等會(huì)有很大的困難?！闭掠卤硎?，一方面是多樣化的場(chǎng)景帶來數(shù)據(jù)采集及標(biāo)注的困難，同時(shí)任務(wù)多變性，導(dǎo)致AI1.0泛化性能比較差。另一方面，對(duì)行業(yè)知識(shí)的理解需要高質(zhì)量知識(shí)圖譜構(gòu)建模式，需要大規(guī)模自動(dòng)化的知識(shí)獲取，但知識(shí)又是動(dòng)態(tài)變化的，現(xiàn)有傳統(tǒng)算法無(wú)法滿足實(shí)際場(chǎng)景應(yīng)用。這也是為何弱人工智能下算法只能做人臉識(shí)別、車牌識(shí)別等有限的產(chǎn)品，持續(xù)擴(kuò)展的空間不足，再疊加高昂的研發(fā)成本，目前一些人工智能企業(yè)活得并不輕松也有這方面的原因。
相比之下，大模型具有更好的泛化能力與知識(shí)圖譜的構(gòu)建能力，能夠突破傳統(tǒng)算法的精度和數(shù)據(jù)局限問題，同時(shí)大數(shù)據(jù)與人工智能的結(jié)合也將更加緊密，行業(yè)智能化應(yīng)用將有可能突破現(xiàn)有瓶頸。
?
三、大模型帶來想象空間
但行業(yè)化應(yīng)用面臨不少考驗(yàn)
以AIGC為例，其在語(yǔ)義理解、文本創(chuàng)作、邏輯推理等領(lǐng)域的卓越表現(xiàn)，以及自然語(yǔ)言對(duì)話的低門檻交互方式，讓行業(yè)看到智能化升級(jí)又將迎來新的發(fā)展空間。
1
行業(yè)大模型帶來新的想象空間
對(duì)于特定行業(yè)的碎片化場(chǎng)景，用戶其實(shí)并不需要通用大模型的全面能力，更需要行業(yè)大模型的精度和質(zhì)量。在行業(yè)知識(shí)圖譜的基礎(chǔ)上，以沉淀的行業(yè)數(shù)據(jù)、專家經(jīng)驗(yàn)以及工程實(shí)踐能力予以配合，通用大模型演進(jìn)下的行業(yè)垂直模型將拉開強(qiáng)人工智能場(chǎng)景化應(yīng)用新序幕。
眾所周知，作為數(shù)字化和智能化應(yīng)用的前沿領(lǐng)域，安防行業(yè)擁有極為豐富的感知設(shè)備和可觀的數(shù)據(jù)資源，再加上廣泛的應(yīng)用場(chǎng)景，行業(yè)必將成為大模型率先落地的垂直領(lǐng)域之一。伴隨著高性能、高穩(wěn)定的大模型不斷突破發(fā)展，更高通用性和工業(yè)化水平AI2.0將持續(xù)拓寬安防行業(yè)數(shù)字化、智能化的邊界。一方面大模型、AGI等新一輪的AI技術(shù)變革將使得安防領(lǐng)域AI算法更加精準(zhǔn)。另一方面通過多模態(tài)技術(shù)可以將圖像、語(yǔ)音和文本等數(shù)據(jù)進(jìn)行融合，實(shí)現(xiàn)多樣化海量數(shù)據(jù)深度挖掘，并在此基礎(chǔ)上進(jìn)一步提取數(shù)據(jù)內(nèi)容關(guān)聯(lián)價(jià)值。例如在多種非結(jié)構(gòu)性數(shù)據(jù)中提取相關(guān)的人、事、物、組織等關(guān)鍵要素，繼而形成具有知識(shí)價(jià)值的圖譜，不但提升了長(zhǎng)尾AI需求落地的效率和效果，更有可能改變相關(guān)產(chǎn)品研發(fā)、項(xiàng)目運(yùn)營(yíng)等環(huán)節(jié)的交互方式。
可以相信，伴隨著AI大模型等技術(shù)在安防領(lǐng)域逐漸落地及場(chǎng)景突破，有望在行業(yè)內(nèi)真正構(gòu)建起事前預(yù)測(cè)預(yù)防、事中制止、事后監(jiān)督的治理體系與機(jī)制，進(jìn)而提高社會(huì)預(yù)測(cè)預(yù)警預(yù)防各類風(fēng)險(xiǎn)能力，增強(qiáng)社會(huì)公共安全防控的整體性、協(xié)同性、精準(zhǔn)性，更能推而廣之，探索安防在安全生產(chǎn)、應(yīng)急防災(zāi)、生態(tài)建設(shè)與保護(hù)等領(lǐng)域的深度應(yīng)用。AI大模型融入公共安全領(lǐng)域其背后的價(jià)值將不可估量。
2
行業(yè)化發(fā)展面臨應(yīng)用與安全諸多挑戰(zhàn)
在誘人的發(fā)展前景外，技術(shù)的雙刃劍效應(yīng)在AI大模型上依然不容小覷。正如覃智泉主任所言，當(dāng)前公安領(lǐng)域面臨著AI大模型應(yīng)用及安全方面諸多問題需要深入思考。
在應(yīng)用方面，哪些業(yè)務(wù)可以引入大模型？用哪些業(yè)務(wù)數(shù)據(jù)進(jìn)行大模型訓(xùn)練？數(shù)以千億計(jì)的數(shù)據(jù)進(jìn)行訓(xùn)練必將帶來高昂的費(fèi)用支出，誰(shuí)來承擔(dān)？大模型在公安工作中落地應(yīng)用，帶來的法律跟責(zé)任問題該如何界定等等；在安全方面，如何保證訓(xùn)練數(shù)據(jù)安全，AI大模型帶來的虛假信息、深度偽造信息等如何解決？這些已經(jīng)成為阻擋AI大模型賦能公安應(yīng)用較為現(xiàn)實(shí)的問題。
在AI大模型應(yīng)用部署上，華為技術(shù)有限公司科學(xué)家胡善勇也提出：由通用大模型向?qū)I(yè)行業(yè)大模型演進(jìn)，需要投入高昂的算力成本、數(shù)據(jù)成本、算法成本以及人力成本，這與狹窄行業(yè)應(yīng)用對(duì)應(yīng)的商業(yè)價(jià)值和商業(yè)收益不成正比，因此目前來看，面向行業(yè)大模型還難以形成正向的商業(yè)應(yīng)用閉環(huán)，需要企業(yè)持續(xù)不斷地試錯(cuò)與投入。
安全問題是AI大模型另一較為凸顯的話題，近段時(shí)間無(wú)論是AI“黑產(chǎn)”，還是深度偽造帶來的涉詐犯罪風(fēng)險(xiǎn)正在積聚。在此次人工智能論壇上，美亞柏科AI研發(fā)中心總經(jīng)理趙建強(qiáng)等相關(guān)專家系統(tǒng)地總結(jié)了AI大模型在數(shù)據(jù)安全方面面臨的一些困境：一方面AI大模型存在算法、數(shù)據(jù)等安全風(fēng)險(xiǎn)。以算法風(fēng)險(xiǎn)為例，大模型無(wú)法抵抗提示注入、對(duì)抗樣本等攻擊，可靠性低。如受到攻擊，用于大模型訓(xùn)練的一些個(gè)人隱私數(shù)據(jù)容易泄露，尤其是涉及到的個(gè)人身份信息。同時(shí)，它還存在歧視、倫理偏見等數(shù)據(jù)方面的問題。另一方面大模型、生成式AI（AIGC）技術(shù)存在被不法分子利用的風(fēng)險(xiǎn)，如通過深度偽造相關(guān)視頻或圖像信息進(jìn)行詐騙，目前國(guó)內(nèi)已經(jīng)出現(xiàn)類似的案件。
同時(shí)，生成式人工智能技術(shù)可能帶來非常多的虛假信息，或者說加速虛假信息的生成和傳播。
除了以上兩個(gè)方面，AI大模型或者生成式人工智能技術(shù)本身及應(yīng)用過程中還會(huì)帶來很多在倫理道德、法理、法律等方面的挑戰(zhàn)，甚至可能影響整個(gè)社會(huì)穩(wěn)定，危害到國(guó)家安全。
3
大模型可信與規(guī)范化需要評(píng)測(cè)標(biāo)準(zhǔn)
據(jù)賽迪顧問統(tǒng)計(jì)顯示，截至2023年7月，國(guó)內(nèi)累計(jì)已經(jīng)有130個(gè)大模型問世，再加上一些企業(yè)孵化的行業(yè)大模型，有人戲稱目前國(guó)內(nèi)已經(jīng)進(jìn)入“千模大戰(zhàn)”。
然而，這些大模型是否果真名副其實(shí)，能否稱得上“大模型”，以及當(dāng)前公布的大模型算法是否有缺陷、內(nèi)容是否符合法律法規(guī)要求及政策監(jiān)管，都不得而知。面對(duì)大模型、AIGC急速發(fā)展帶來的一系列應(yīng)用與安全問題，如何構(gòu)建可信的AI大模型、實(shí)現(xiàn)對(duì)AIGC內(nèi)容的規(guī)范管理已經(jīng)成為行業(yè)及國(guó)家重點(diǎn)關(guān)注的內(nèi)容。
清華大學(xué)互聯(lián)網(wǎng)司法研究院助理教授艾清遙表示，相較于智能輔助駕駛，目前對(duì)于AI大模型能力的評(píng)測(cè)，尤其是AIGC內(nèi)容方面的檢測(cè)還沒有一個(gè)通用指標(biāo)或通用范式。
在安全問題受到高度重視的當(dāng)下，AI大模型產(chǎn)業(yè)需要統(tǒng)籌發(fā)展與安全，特別是涉及公共安全領(lǐng)域的垂直應(yīng)用大模型，亟需建立可信與規(guī)范化的評(píng)測(cè)標(biāo)準(zhǔn)體系。
?
四、多方聯(lián)動(dòng)并舉
助力行業(yè)大模型規(guī)范化應(yīng)用
“變革是由問題倒逼而產(chǎn)生，又在不斷解決問題中而深化。”AI通用大模型在向行業(yè)大模型持續(xù)精進(jìn)的過程中，需要跨過應(yīng)用適配性與安全規(guī)范化兩道坎，這也是當(dāng)前各個(gè)行業(yè)針對(duì)大模型發(fā)力的重點(diǎn)。
“行業(yè)大模型落地部署，硬件非常簡(jiǎn)單，通過加大算力的部署即可實(shí)現(xiàn)。真正的挑戰(zhàn)是軟件技術(shù)以及對(duì)行業(yè)業(yè)務(wù)層面的深度理解?！焙朴卤硎荆袠I(yè)大模型對(duì)公共安全治理將會(huì)是一場(chǎng)非常重大開創(chuàng)性變革，雖然在公安與司法領(lǐng)域，大模型商業(yè)化應(yīng)用閉環(huán)還較難實(shí)現(xiàn)，但前期的戰(zhàn)略預(yù)研至關(guān)重要，這不但需要國(guó)家及地方政府予以資源支持，還需要在統(tǒng)一引領(lǐng)下，通過產(chǎn)學(xué)研以及社會(huì)組織共同努力實(shí)現(xiàn)預(yù)研的持續(xù)推進(jìn)，在為大模型行業(yè)化應(yīng)用打下堅(jiān)實(shí)基礎(chǔ)的前提下，相信在未來三到五年公共安全行業(yè)大模型應(yīng)用將會(huì)有成效彰顯。
自AI落地行業(yè)之日起，安全問題已經(jīng)不是一個(gè)應(yīng)用層面的問題，而是產(chǎn)業(yè)級(jí)問題。胡善勇特別強(qiáng)調(diào)，AI安全問題關(guān)鍵是源頭，通過法律、法規(guī)前置化處理以達(dá)到治理非結(jié)構(gòu)數(shù)據(jù)帶來的深度偽造與虛假信息。趙建強(qiáng)也提出，針對(duì)AI大模型及生成式人工智能技術(shù)的安全治理需要從多個(gè)方面入手:
一是要源頭治理，國(guó)家發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》明確提出來在生成式人工智能技術(shù)研發(fā)過程中進(jìn)行數(shù)據(jù)標(biāo)注。相關(guān)部門也將制定相應(yīng)的分類分級(jí)監(jiān)管規(guī)則或者指引，加強(qiáng)對(duì)生成式人工智能的模型、算法、數(shù)據(jù)的安全評(píng)估和管控。
二是要加強(qiáng)行業(yè)自律，無(wú)論是內(nèi)容生產(chǎn)、應(yīng)用還是服務(wù)，相關(guān)企業(yè)需要加強(qiáng)自律，需要對(duì)大模型從技術(shù)、內(nèi)容等方面進(jìn)行深度審核、管理、治理；行業(yè)組織則需加快相應(yīng)產(chǎn)品評(píng)估方法和標(biāo)準(zhǔn)落地，以引導(dǎo)行業(yè)發(fā)展。
三是通過技術(shù)的方式去支撐法律、規(guī)則和標(biāo)準(zhǔn)落地，實(shí)現(xiàn)對(duì)大模型產(chǎn)品的“質(zhì)檢”。目前人為因素已經(jīng)沒有辦法監(jiān)督和評(píng)價(jià)生成式人工智能所生成的內(nèi)容，需要通過AI方式進(jìn)行鑒別，以AI對(duì)抗AI，進(jìn)而實(shí)現(xiàn)對(duì)大模型進(jìn)行安全性評(píng)估，對(duì)內(nèi)容數(shù)據(jù)進(jìn)行相應(yīng)的監(jiān)督檢查，實(shí)現(xiàn)最大限度發(fā)現(xiàn)可能存在的偽造、虛假信息。
正如前段時(shí)間熱映的《奧本海默》引發(fā)的熱議，原子彈的研發(fā)對(duì)人類而言最終是利是弊，發(fā)人深省。也許當(dāng)前社會(huì)正處于強(qiáng)人工智能的“奧本海默時(shí)刻”，面對(duì)快速迭代的AI大模型以及AIGC技術(shù)，AI技術(shù)“雙刃劍”效應(yīng)必然要求行業(yè)必須堅(jiān)持發(fā)展與安全并重的態(tài)度，才能讓新技術(shù)真正發(fā)揮更大價(jià)值。
?
小結(jié)
可以斷言，當(dāng)下人工智能正在進(jìn)入通用的新階段，只是這個(gè)階段的前奏有多長(zhǎng)還無(wú)人知曉。安防行業(yè)一直被認(rèn)為是人工智能強(qiáng)應(yīng)用的領(lǐng)域，我們也寄希望在安防行業(yè)邁向高質(zhì)量發(fā)展關(guān)鍵時(shí)期，行業(yè)級(jí)AI大模型能夠讓更多創(chuàng)新技術(shù)融合并更快速、更廣泛地賦能更多細(xì)分場(chǎng)景應(yīng)用，助力行業(yè)深挖更廣闊的創(chuàng)新空間和市場(chǎng)潛力。
（文章來源于：中國(guó)安防協(xié)會(huì)，如有侵權(quán)請(qǐng)聯(lián)系刪除）
