大模型最重要與核心的安全問題，也因為360的入局與破局，走入了新的歷史階段。

‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍如果你是一個足夠關(guān)注行業(yè)新聞的科技從業(yè)者，大概率會發(fā)現(xiàn)這樣一件事——近一年來，無論是作為“KOL”的周鴻祎，還是作為行業(yè)安全大模型從業(yè)者的周鴻祎，在社交媒體“刷臉”的頻率，幾乎呈指數(shù)級增加。

最近的一次，是在4月19日。周鴻祎在社交媒體宣布，要賣掉陪伴自己多年的邁巴赫S600，換成幾十萬的國產(chǎn)智能新能源汽車。當然，重點是在下一句——他還公開表示，“國內(nèi)做車的友商們誰愿意借這個機會，為他提供一輛體驗用車，自己也來者不拒。”

效果自然也是立竿見影，各路新能源汽車廠商無論是公開還是非公開，都跟周鴻祎“交起了朋友”，速度最快的小鵬，在當晚就把車送到了360公司的樓下。

憑周鴻祎的實力與名望，想私下里拿到任何一款新能源汽車，都是舉手之勞，那么何必在社交媒體上做“顯眼包”？很顯然，這里同樣有公司戰(zhàn)略層面的考量。

如今的新能源汽車，其智能車機系統(tǒng)搭載生成式AI大模型，已經(jīng)不再是“做與不做”的問題，而是一個時間問題，而搭載大模型的智能車機，無論是數(shù)據(jù)還是系統(tǒng)本身，安全問題是順利上線與運營的根本前提。很顯然，這是屬于360的機會。

事實上，在過去一年的時間里，360已經(jīng)通過生成式AI深度改造了自己的業(yè)務流程與產(chǎn)品的功能服務流程，在其中盡可能多的環(huán)節(jié)，通過生成式AI增效與賦能。關(guān)于這一點，在剛剛發(fā)布的財報中已然體現(xiàn)。

這不僅歸功于AI重塑了360的產(chǎn)品形態(tài)——躬身入局安全模型領(lǐng)域之后，對于國內(nèi)外最炙手可熱的大模型廠商，360端到端的安全解決方案，其意義也日漸明朗。與之相對，大模型最重要與核心的安全問題，也因為360的入局與破局，走入了新的歷史階段。

怎樣才能“降本增效”？

4月19日，三六零集團發(fā)布2023年度報告。財報數(shù)據(jù)顯示，報告期內(nèi)，公司實現(xiàn)營收90.55億元，主營業(yè)務毛利率60.35%，同比提升1.76%。此外，歸屬于上市公司股東的凈利潤-4.92億元，較2022年大幅減虧77.65%。

相對于“紙面富貴”的營業(yè)收入而言，經(jīng)營性現(xiàn)金流更能體現(xiàn)一個公司實際收入的質(zhì)量變化。如果從這一點考量，360的發(fā)展可能比營收更能說明問題。報告期內(nèi)，公司經(jīng)營性現(xiàn)金流凈額9.24億元，較去年同比提升65.84%，近兩年復合增速達136.26%。

這部分現(xiàn)金流的增加，一部分被360“廣積糧”。截至報告期末，公司貨幣資金為261.05億元，較上一報告期末增加33.24億元；另一部分，則用作人工智能人才和算力方面的相關(guān)投入——報告期內(nèi)，公司研發(fā)費用為31.04億元，營收占比達34.28%。

如果用兩個關(guān)鍵詞概括，“人工智能”和“數(shù)字安全”無疑是過去一年360發(fā)展的兩個“主線任務”。在人工智能業(yè)務方面，360推出自研千億參數(shù)認知型通用大模型“360智腦”，并首批通過備案而向公眾開放。此外，作為大模型國家隊，360同樣參與了行業(yè)標準的制定，并在近期開源了360智腦7B參數(shù)版本。

數(shù)字安全方面，基于自身的“360智腦”，360同樣從近 20 年積累的攻防技戰(zhàn)術(shù)、漏洞庫、病毒庫等安全大數(shù)據(jù)中提取高質(zhì)量的語料進行訓練，以大數(shù)據(jù)、高算力、強算法打造國內(nèi)首個實現(xiàn)AI 實戰(zhàn)應用的安全行業(yè)大模型——360 安全大模型。

從功能實現(xiàn)層面來說，在搭載生成式AI之后，它不僅能高效便捷地完成安全問題咨詢，還具備傳統(tǒng)網(wǎng)安解決方案的態(tài)勢指標分析、安全事件處理、攻擊威脅溯源等傳統(tǒng)能力。

但在互聯(lián)網(wǎng)跑步進入生成式AI時代以來，針對大模型的安全問題，已經(jīng)不能再用傳統(tǒng)的網(wǎng)安思路去解決。即便成功通過有關(guān)部門的合規(guī)檢測，得以備案和上線，但模型本身及其搭載產(chǎn)品的安全性，隨著參數(shù)量和訓練數(shù)據(jù)的不斷迭代升級，也在發(fā)生變化。

不過，相對于傳統(tǒng)網(wǎng)安問題，大模型安全幾乎是另外一個獨立問題。

舉例來說，以GPT-4為代表的語言大模型及其衍生產(chǎn)品，其固有的缺陷之一，是生成結(jié)果的“幻覺”問題。體現(xiàn)在用戶所能直接體驗的前端，則是對于確定的輸入prompt，模型最終輸出的不一樣乃至相反的結(jié)果，俗稱“一本正經(jīng)地胡說八道。”

接入模型的API安全性問題，同樣值得重視。從數(shù)據(jù)統(tǒng)計層面來看，多數(shù)web程序受到的網(wǎng)絡攻擊均針對API，它是模型能力最主要的交付通道。也因此，對各種協(xié)議是否許可，許可到什么程度，中間的安全性差異可謂巨大。

由此可見，大模型本身的安全問題，隨著行業(yè)的飛速發(fā)展，已經(jīng)成為一個獨立課題——前述原生的大模型安全問題，在大模型安全領(lǐng)域的比重，幾乎超過80%。如果是對大模型不甚了解的網(wǎng)絡安全企業(yè)，或者是僅僅停留在硬件層面的網(wǎng)安企業(yè)，很難真正去解決大模型原生問題。

相對于其他大模型廠商，通用能力層面并非360的主戰(zhàn)場。但到了“大模型+安全”領(lǐng)域，已經(jīng)開始著手解決相關(guān)問題，并取得了初步成果。

大模型安全為何重要？

不過，關(guān)注大模型安全問題，只是網(wǎng)安企業(yè)的 “應然”，躬身入局并嘗試解決，才是“實然”。想要在大模型安全領(lǐng)域，提供有效的解決方案，也具備一系列先決條件。 

在此前召開的360安全大模型3.0發(fā)布會上，360高級副總裁李博認為，如果要有效解決大模型內(nèi)部的安全問題，首先要非常了解大模型，正如解決其他業(yè)務安全問題，首先需要了解業(yè)務特性一樣。因此，只有躬身入局大模型研發(fā)，才有能力解決大模型安全問題。

此外，不做大模型的傳統(tǒng)安全企業(yè)，同樣難以實現(xiàn)原生的大模型安全能力。因為相當比例的安全問題，都需要在大模型內(nèi)部深入耦合原生安全機制進行對應解決，如果網(wǎng)安企業(yè)沒有自己的大模型“打樣”，一些安全機制很難適應大模型的環(huán)境，最終變成“空中樓閣”。

但從現(xiàn)實層面看，多數(shù)互聯(lián)網(wǎng)企業(yè)往往將發(fā)展作為第一要務，至于業(yè)務安全，相較于業(yè)務發(fā)展往往相對滯后。在李博看來，這在行業(yè)早期并無大礙。但當業(yè)務結(jié)束發(fā)展高峰期，一旦存量業(yè)務數(shù)據(jù)受到攻擊或發(fā)生問題，損失往往在億級以上。

有基于此，在360眼中，想要保障大模型的安全，大模型的可靠性首當其沖——網(wǎng)絡環(huán)境和數(shù)據(jù)安全，這在相當程度上，影響和決定了大模型的穩(wěn)定性和響應速度。

其次，大模型本身輸出的內(nèi)容，需要一定的可信度。這不僅包括內(nèi)容的完整可用，內(nèi)容可信同樣重要。

建立在內(nèi)容可信之上，大模型向善和可控同樣重要。它的內(nèi)容不僅需要符合主流價值觀和社會規(guī)范，其行為也同樣需要穩(wěn)定和可控。

有基于此，在最新的安全大模型3.0版本中，360將傳統(tǒng)網(wǎng)安大腦體系，與原生大模型安全能力相結(jié)合，進而形成了綜合性安全能力框架，即AISF。

基礎架構(gòu)層面，360安全框架體系通過探針采集、平臺運營、AI技術(shù)的應用，構(gòu)建了專家服務和安全數(shù)據(jù)支撐能力。同時，基于十多年的網(wǎng)絡安全經(jīng)驗，360積累了數(shù)據(jù)泄露預警、數(shù)據(jù)清洗、數(shù)據(jù)保護等數(shù)據(jù)安全能力，這些能力共同構(gòu)成了360安全云的核心。

原生大模型安全能力方面，360構(gòu)建了一個框架、兩個平臺和三組套件，旨在從基礎、可信、向善、可控、效果五大方向提供保障。例如，向善能力套件包括內(nèi)容護欄、數(shù)字水印和風控大模型，用以防范注入攻擊，確保內(nèi)容的安全性和向善性。

鑒于大模型訓練和維護成本高昂，多數(shù)廠商依賴公有云，這增加了系統(tǒng)漏洞、網(wǎng)絡攻擊、數(shù)據(jù)竊取的風險。360安全云通過安全即服務的形式，提供監(jiān)測、分析、響應、防護和漏洞修復，這些風險得到有效規(guī)避。

這些流程不僅在大模型運行階段需要執(zhí)行，訓練階段同樣需要。通過數(shù)據(jù)檢測清洗和算法矯正加密來增強安全性。在輸出內(nèi)容階段，風控大模型能夠進行敏感內(nèi)容檢測和識別，提升推理準確性，減少模型輸出的“幻覺”問題。

此外，通過首創(chuàng)的大模型紅藍對抗靶場，360通過定期攻防對抗模擬，保持安防系統(tǒng)的高戰(zhàn)備狀態(tài)，確保大模型的常態(tài)化安全。

基于上述安全體系的不斷迭代優(yōu)化，也使得大模型的核心安全能力得到持續(xù)增強。

一條難而正確的路

當然，方案歸方案，產(chǎn)品歸產(chǎn)品， 360 對于 AI 安全的諸多理解、框架與解決方案，在最終對外輸出的產(chǎn)品形態(tài)上，最終變成了大模型安全管家，一如當年 PC 端的 360 安全衛(wèi)士，與手機上的 360 手機衛(wèi)士。 

跟前兩者一樣，這不僅僅停留在B端，而是通過大模型在C端用戶場景的不斷延伸，進而被更多的用戶注意并重視。對于“網(wǎng)安老炮”360來說，這可能是不亞于移動互聯(lián)網(wǎng)的巨大風口。

一方面，就發(fā)展軌跡而言，生成式AI已經(jīng)走到了商業(yè)化的“深水區(qū)”。安全與合規(guī)，是其商業(yè)化順利進行的充要條件，在這方面，360具備相當強的“不可替代性”。

當然，網(wǎng)絡安全是一個通過實踐積累經(jīng)驗的領(lǐng)域，沒有經(jīng)過長期的網(wǎng)絡安全攻防實戰(zhàn)，就無360如今的行業(yè)地位。也因此，如果360希望在大模型安全領(lǐng)域取得成就，那么深入?yún)⑴c大模型的實踐是一條必經(jīng)之路。

另一方面，藉由生成式AI“飛入尋常百姓家”，其討論的全民化，讓360逐漸從移動互聯(lián)網(wǎng)時代的“隱身幕后”，通過周鴻祎持續(xù)“布道”而逐步回歸臺前。這與360業(yè)績的回暖幾乎同步發(fā)生。

不過，這并非是讓大模型行業(yè)都去使用360的安全大模型，而是通過360自身的身體力行，讓更多在大模型行業(yè)奮戰(zhàn)的企業(yè)，意識到大模型原生安全問題的重要性。這不僅停留在周鴻祎的嘴上和社交媒體上，360同樣也落實到了行動上。

歸根到底，生成式AI的大潮已然不可阻擋，商業(yè)化的征程同樣呼之欲出，在此過程中，不僅需要底層大模型和應用層廠商的不斷努力，也同樣需要相關(guān)網(wǎng)安企業(yè)持續(xù)保駕護航�；蛟S有一天，大模型及其安全領(lǐng)域，或許真如周鴻祎當年所言，不僅是“一錘子買賣”，更是細水長流的“安全即服務”。

       原文標題 : 360何以成為大模型廠商的“安全閥門”？