探訪2023年網(wǎng)絡(luò)安全博覽會(huì)上的“黑科技”

2023年網(wǎng)絡(luò)安全博覽會(huì)在福州海峽國(guó)際會(huì)展中心開館。東南網(wǎng)記者 林先昌攝

東南網(wǎng)9月10日訊（本網(wǎng)記者 林先昌 洪振威）10日，2023年國(guó)家網(wǎng)絡(luò)安全宣傳周網(wǎng)絡(luò)安全博覽會(huì)在福州海峽國(guó)際會(huì)展中心開館。本次博覽會(huì)展覽面積約2萬(wàn)平方米，共設(shè)置個(gè)人信息保護(hù)、產(chǎn)品與服務(wù)等多個(gè)展區(qū)，記者在博覽會(huì)現(xiàn)場(chǎng)看到了不少網(wǎng)絡(luò)安全新技術(shù)、新應(yīng)用亮相。

大模型安全檢測(cè)平臺(tái)“蟻鑒2.0”。東南網(wǎng)記者 林先昌攝

大模型安全性的“診療師”

在現(xiàn)場(chǎng)，螞蟻集團(tuán)發(fā)布的大模型安全一體化解決方案“蟻天鑒”吸引了不少人。據(jù)介紹，該方案包含了大模型安全檢測(cè)平臺(tái)“蟻鑒2.0”、大模型風(fēng)險(xiǎn)防御平臺(tái)“天鑒”兩大產(chǎn)品，擁有AIGC安全性和真實(shí)性評(píng)測(cè)、AI魯棒和可解釋性檢測(cè)、大模型智能化風(fēng)控等多項(xiàng)功能。這也是大模型浪潮以來(lái)首個(gè)實(shí)現(xiàn)產(chǎn)業(yè)級(jí)應(yīng)用的大模型安全檢測(cè)與防御一體化解決方案。目前這兩項(xiàng)產(chǎn)品已對(duì)外開放。

今年以來(lái)，AIGC（生成式人工智能）圖片在全球躥紅，不僅引發(fā)倫理、侵權(quán)等大量爭(zhēng)議，也給電信詐騙、金融盜用、黃暴恐等違法犯罪帶來(lái)可乘之機(jī)。

現(xiàn)場(chǎng)工作人員表示，大模型安全問(wèn)題產(chǎn)生的本源主要來(lái)自“用于訓(xùn)練的數(shù)據(jù)源頭有毒、推理過(guò)程不可控、外部惡意誘導(dǎo)”三個(gè)因素。此次發(fā)布的“蟻天鑒”，可從大模型安全性檢測(cè)度量、智能風(fēng)險(xiǎn)管控、數(shù)據(jù)去毒對(duì)齊等方面，保障大模型在生產(chǎn)和使用過(guò)程中更加安全、可控、可靠。

“蟻鑒2.0”就像是大模型安全性的“診療師”，在大模型上線前對(duì)其進(jìn)行全方位的安全掃描，從數(shù)據(jù)安全、內(nèi)容安全、科技倫理等類型的數(shù)百種風(fēng)險(xiǎn)維度，提前識(shí)別和挖掘風(fēng)險(xiǎn)漏洞。

現(xiàn)場(chǎng)工作人員介紹，“蟻鑒2.0”通過(guò)智能攻擊對(duì)抗技術(shù)，自動(dòng)生成數(shù)百萬(wàn)的誘導(dǎo)性問(wèn)題，對(duì)生成式大模型進(jìn)行誘導(dǎo)式問(wèn)答，并對(duì)大模型的回答實(shí)時(shí)、自動(dòng)化的檢測(cè)計(jì)算，24小時(shí)不眠不休“找茬”大模型存在的弱點(diǎn)和安全問(wèn)題。“蟻鑒2.0”最新實(shí)現(xiàn)對(duì)AIGC生成圖片、視頻等多模內(nèi)容的“真?zhèn)?rdquo;辨別和安全性檢測(cè)，基于生成模型構(gòu)建的近千萬(wàn)深度偽造樣本，可快速分辨內(nèi)容是機(jī)器生成還是人工生成，及是否存在倫理道德等風(fēng)險(xiǎn)。展區(qū)現(xiàn)場(chǎng)可體驗(yàn)AIGC圖片評(píng)測(cè)全過(guò)程，感受“魔法打敗魔法，以AI對(duì)戰(zhàn)AI”的產(chǎn)業(yè)實(shí)戰(zhàn)對(duì)抗交互技術(shù)，可現(xiàn)場(chǎng)生成鑒定報(bào)告。

國(guó)家電網(wǎng)公司展示電力系統(tǒng)軟硬件自主研發(fā)、防護(hù)實(shí)踐等方面工作成效。東南網(wǎng)記者 洪振威攝

硬軟件100%國(guó)產(chǎn)化，國(guó)家電網(wǎng)電力系統(tǒng)新成果亮相

在3號(hào)館國(guó)家電網(wǎng)展位，國(guó)家電網(wǎng)展出的電力專用隔離裝置、縱向加密認(rèn)證網(wǎng)關(guān)也受到許多觀眾的關(guān)注。工作人員介紹道：通俗來(lái)講，加密保護(hù)是將普羅大眾熟悉的文字、數(shù)字、視頻轉(zhuǎn)化為只有專用設(shè)備才能讀寫的數(shù)字和字符，這就能起到保護(hù)信息安全的目的。

工作人員介紹道：“我們展出的電力專用隔離裝置與縱向加密認(rèn)證網(wǎng)關(guān)是電力系統(tǒng)網(wǎng)絡(luò)邊界河西的安全保護(hù)裝置，硬件上100%采用國(guó)產(chǎn)芯片，軟件上搭載自研額瑞盾安全操作系統(tǒng)。這套設(shè)備在建黨100周年、北京冬奧會(huì)等重大會(huì)議活動(dòng)中發(fā)揮了作用。”

“國(guó)家電網(wǎng)所自主研發(fā)的設(shè)備就是致力于電力領(lǐng)域的加密保護(hù)與安全認(rèn)證，電力設(shè)備作為國(guó)家關(guān)鍵信息基礎(chǔ)設(shè)施，縱向加密網(wǎng)關(guān)主要應(yīng)用于各類發(fā)電廠、變電站、新能源電站的數(shù)據(jù)安全傳輸和加密，電力專用隔離裝置主要幫助本地生產(chǎn)區(qū)與管理區(qū)之間的安全防護(hù)。”國(guó)家電網(wǎng)工作人員介紹道。

美亞柏科AI“慧眼”鑒真。東南網(wǎng)記者 林先昌攝

“好年華 聚福州”網(wǎng)絡(luò)安全人才云服務(wù)平臺(tái)在展會(huì)正式上線

在福州城市展區(qū)，“好年華 聚福州”網(wǎng)絡(luò)安全人才云服務(wù)平臺(tái)也正式上線。

工作人員介紹道：“該平臺(tái)是未來(lái)網(wǎng)絡(luò)安全人才發(fā)展需要，聯(lián)動(dòng)政企校多方資源，培養(yǎng)網(wǎng)絡(luò)安全專業(yè)人才為核心搭建的智慧化產(chǎn)教融合平臺(tái)”

記者打開首頁(yè)：知識(shí)科普、技能培訓(xùn)、就業(yè)招聘、項(xiàng)目實(shí)訓(xùn)、創(chuàng)新孵化等五大板塊映入眼簾。工作人員介紹道：“平臺(tái)將在幫助深化福州市安全領(lǐng)域的產(chǎn)教融合、網(wǎng)絡(luò)安全領(lǐng)域產(chǎn)業(yè)發(fā)展、人才政策方案提供現(xiàn)實(shí)數(shù)據(jù)依據(jù)，力求打造‘好年華 聚福州’的重要綜合平臺(tái)。”

記者了解到，網(wǎng)絡(luò)安全宣傳周期間，福建省將持續(xù)展開多樣化的宣傳科普活動(dòng)，福州市還將通過(guò)主題街區(qū)、主題地鐵、主題公交等多維度開展打造網(wǎng)絡(luò)安全宣傳走廊。

博覽會(huì)吸引了許多小學(xué)生參與。東南網(wǎng)記者 林先昌攝