向上向善！專家學(xué)者廈門共探算法治理的生態(tài)路徑

論壇現(xiàn)場(chǎng)。東南網(wǎng)記者 盧金福 攝

論壇現(xiàn)場(chǎng)。東南網(wǎng)記者 盧金福 攝

東南網(wǎng)7月19日?qǐng)?bào)道（本網(wǎng)記者 盧金福）2023年中國(guó)網(wǎng)絡(luò)文明大會(huì)算法治理論壇昨日在廈門舉辦。論壇以“算法治理向上向善 網(wǎng)絡(luò)文明共建共享”為主題展開(kāi)探討，來(lái)自算法領(lǐng)域的專家學(xué)者和企業(yè)代表通過(guò)主題演講等形式，聚焦人工智能技術(shù)發(fā)展的重點(diǎn)難點(diǎn)，立足算法綜合治理在新形勢(shì)下的迫切需求，共同探討人工智能技術(shù)創(chuàng)新發(fā)展新路徑、算法綜合治理新方法。

算法是數(shù)字社會(huì)、數(shù)字經(jīng)濟(jì)的重要基礎(chǔ)，在社交媒體、電子商務(wù)、信息平臺(tái)等多領(lǐng)域被廣泛應(yīng)用。在主題演講環(huán)節(jié)，6位嘉賓分別圍繞“通用人工智能的應(yīng)用與治理”“AIGC時(shí)代全媒體傳播體系面臨的挑戰(zhàn)及對(duì)策建議”“AI大模型應(yīng)用下的算法治理挑戰(zhàn)與應(yīng)對(duì)”“智能算法安全現(xiàn)狀與綜合治理實(shí)踐”“總臺(tái)算法——大模型價(jià)值認(rèn)知”等不同角度展望算法治理未來(lái)方向，共同尋求合理有效的算法治理路徑。

AI應(yīng)用不斷推陳出新

AI變革的時(shí)代，隨著算力不斷發(fā)展，數(shù)據(jù)的膨脹，算法的創(chuàng)新和迭代，業(yè)界已經(jīng)涌現(xiàn)出各種各樣的模型，能夠把人工智能的能力發(fā)揮出來(lái)，影響各行各業(yè)。近日，阿里云宣布AI繪畫創(chuàng)作大模型“通義萬(wàn)相”開(kāi)啟定向邀測(cè)，這是繼大語(yǔ)言模型“通義千問(wèn)”、聚焦音視頻內(nèi)容的“通義聽(tīng)悟”之后，阿里云通義大模型家族的又一位新成員。“如果要將大模型算法這一技術(shù)推廣、運(yùn)用到生產(chǎn)和科研中去，它的成本一定要降低，才可能被更多人使用，而這也是我們集團(tuán)當(dāng)前的發(fā)展思路。”阿里云智能集團(tuán)副總裁朱冉說(shuō)。

百度自 2019 年開(kāi)始大模型的研發(fā)工作，先后發(fā)布知識(shí)增強(qiáng)文心系列模型。前不久，百度正式發(fā)布文心大模型 3．5 版本，進(jìn)一步在基礎(chǔ)模型、知識(shí)增強(qiáng)、檢索增強(qiáng)等多項(xiàng)核心技術(shù)上取得創(chuàng)新。百度集團(tuán)人工智能算法委員會(huì)主席、集團(tuán)副總裁吳甜表示，大模型還面臨著不少的挑戰(zhàn)，大模型建設(shè)非常復(fù)雜，難度高、成本高，在算力、數(shù)據(jù)、算法三個(gè)層面要有深厚的積累。應(yīng)用場(chǎng)景雖然現(xiàn)在很豐富，但大量的場(chǎng)景在引入大模型技術(shù)解決問(wèn)題的同時(shí)，也遇到各種各樣的問(wèn)題，包括穩(wěn)定性和可控性等。

算法治理面臨不少挑戰(zhàn)

“算法缺陷導(dǎo)致智能系統(tǒng)存在崩潰隱患，如自動(dòng)駕駛事故、金融市場(chǎng)閃崩、地區(qū)大停電等等。”中國(guó)科學(xué)院計(jì)算技術(shù)研究所副所長(zhǎng)程學(xué)旗提到算法治理面臨著不少的挑戰(zhàn)，算法濫用導(dǎo)致社會(huì)不公和群體極化，危害社會(huì)穩(wěn)定，如派單算法霸凌、算法誘使沉迷、大數(shù)據(jù)殺熟，推薦算法引發(fā)信息繭房和社會(huì)偏見(jiàn)等。他認(rèn)為，算法治理要擁抱“技術(shù)治理”主義，要利用風(fēng)險(xiǎn)監(jiān)測(cè)系統(tǒng)開(kāi)展算法風(fēng)險(xiǎn)自動(dòng)巡查，構(gòu)建算法評(píng)估體系支撐，常態(tài)化算法安全評(píng)估。加快建設(shè)和出臺(tái)系列算法合規(guī)標(biāo)準(zhǔn)，形成監(jiān)測(cè)、研判、評(píng)估的算法治理閉環(huán)體系，各方共同協(xié)作，構(gòu)建一個(gè)良性的可持續(xù)發(fā)展的生態(tài)。

要大力推進(jìn)發(fā)展更要全流程管理

人民網(wǎng)董事長(zhǎng)、總裁，傳播內(nèi)容認(rèn)知全國(guó)重點(diǎn)實(shí)驗(yàn)室主任葉蓁蓁表示，未來(lái)只能用AI治理AI，統(tǒng)籌發(fā)展與安全，首先要大力推進(jìn)發(fā)展，不發(fā)展或者發(fā)展慢，將是最大的不安全。

新華社媒體融合生產(chǎn)技術(shù)與系統(tǒng)國(guó)家重點(diǎn)實(shí)驗(yàn)室常務(wù)副主任賀大為表示，從算法的訓(xùn)練模型，以及它的應(yīng)用，全流程都應(yīng)該進(jìn)行相應(yīng)的管理。“而這個(gè)管理的過(guò)程，應(yīng)該是各部門乃至全社會(huì)形成合力。”