黨的二十屆三中全會審議通過的《中共中央關于進一步全面深化改革、推進中國式現(xiàn)代化的決定》強調(diào)，建立人工智能安全監(jiān)管制度。作為一種戰(zhàn)略性新興技術，人工智能已深度融入人們的生產(chǎn)生活，對于工作效率的提升大有裨益，還不斷催生出新產(chǎn)業(yè)、新業(yè)態(tài)、新商業(yè)模式，持續(xù)為經(jīng)濟社會發(fā)展注入新動能。作為人工智能的一個重要組成部分，生成式人工智能技術的飛速發(fā)展，涵蓋虛擬現(xiàn)實、醫(yī)療保健、創(chuàng)意產(chǎn)業(yè)等多個領域，為各行各業(yè)帶來更多創(chuàng)新與價值。不過，當前也要密切注意生成式人工智能可能引發(fā)的數(shù)據(jù)安全、信息誤導等風險挑戰(zhàn)，堅持發(fā)展與安全并重。

所謂生成式人工智能技術（AIGC），是指基于算法、模型、規(guī)則等，生成文本、聲音、圖片、視頻等內(nèi)容的新一代人工智能技術。算力、算法、數(shù)據(jù)是這種技術發(fā)展的三大核心要素，這幾個要素的綜合作用，使得其具備自生成模式，能實現(xiàn)閉環(huán)式學習體系的構(gòu)建，通過利用海量數(shù)據(jù)信息，自主學習要素，進而生成原創(chuàng)性的專業(yè)知識內(nèi)容或產(chǎn)品并可以不斷更新，進行自我升級迭代。基于這些特點，越來越多的行業(yè)正將其作為提高生產(chǎn)力水平的新要素，創(chuàng)造出指數(shù)級的價值，并催生了大量的產(chǎn)業(yè)應用，教育、娛樂、商業(yè)等領域均有所及。

 

生成式人工智能是把雙刃劍，在加強技術研發(fā)和創(chuàng)新的同時，需努力提高其安全性和可控性，有效識別潛在風險和漏洞并形成應對策略。2023年8月15日正式施行的《生成式人工智能服務管理暫行辦法》指出，有關主管部門依據(jù)職責對生成式人工智能服務開展監(jiān)督檢查，提供者應當依法予以配合，按要求對訓練數(shù)據(jù)來源、規(guī)模、類型、標注規(guī)則、算法機制機理等予以說明，并提供必要的技術、數(shù)據(jù)等支持和協(xié)助。因此，未來要進一步推動生成式人工智能的發(fā)展，應從網(wǎng)絡安全、數(shù)據(jù)安全、個人信息保護等層面入手，采取包容審慎的態(tài)度，從技術、倫理、法律等多方面設置“安全閥門”，防范生成式人工智能風險。

一方面，完善相關法律法規(guī)的有效界定，合理有效監(jiān)管。加快立法進程，針對數(shù)據(jù)、內(nèi)容安全、知識產(chǎn)權(quán)等生成式人工智能發(fā)展的關鍵問題，進行分類管理、分類立法，通過政策立法對生成式人工智能的設計、演進進行有效引導、統(tǒng)籌管理。明確監(jiān)管底線，制定相應技術使用規(guī)則和行業(yè)規(guī)范，強化對生成式人工智能企業(yè)、平臺和使用該技術高校各主體等失范行為的監(jiān)管，及時發(fā)現(xiàn)處理違規(guī)行為。將“傳統(tǒng)事后監(jiān)管模式”轉(zhuǎn)為“事前預防評估模式”和“事中控制模式”，制定事前評估、風險預警和事中控制規(guī)范，有效減少安全事件的發(fā)生、降低安全事件對企業(yè)、高校等造成的負面影響。

另一方面，持續(xù)增強數(shù)據(jù)安全。建立數(shù)據(jù)全生命周期監(jiān)督管理，包括數(shù)據(jù)采集輸入階段的虛假、錯誤信息入庫管控，數(shù)據(jù)處理加工階段的數(shù)據(jù)標注管控監(jiān)督，數(shù)據(jù)輸出階段（二次采集輸入階段）的數(shù)據(jù)真實性檢測驗真等。針對醫(yī)療、金融、電商、高校等重點領域，通過技術手段保障數(shù)據(jù)安全。及時發(fā)現(xiàn)和處理數(shù)據(jù)方面的違規(guī)行為，保障數(shù)據(jù)及隱私安全，防止濫用數(shù)據(jù)造成的損失，確保其符合法律法規(guī)和社會公德。
 

田鑫，專業(yè)的企業(yè)組網(wǎng)服務商，致力于為企業(yè)提供企業(yè)組網(wǎng)（SD-WAN、MPLS、云互聯(lián)）、數(shù)據(jù)中心、網(wǎng)絡安全、系統(tǒng)集成服務、ICT解決方案、行業(yè)IT解決方案等相關服務。

更多相關內(nèi)容推薦：
智算需求與技術革新
2024中國綠色算力（人工智能）大會新聞發(fā)布會在呼和浩特召開
數(shù)能共振 綠算領航，數(shù)據(jù)中心全生命周期綠色算力指數(shù)論壇在京舉行
合盈數(shù)據(jù)楊惜琳：算電互鎖 為新質(zhì)生產(chǎn)力筑基
當我們談綠色算力時，我們談些什么？
2024中國綠色算力（人工智能）大會：和林格爾數(shù)據(jù)中心集群的崛起與展望
北京加快邁向人工智能之城
城地香江攜手華為，共啟人工智能算力新篇章
提高人工智能時代口述史研究水平
AI大模型最火應用場景？1個月11個融資項目
未來五年，中國AI大模型最有潛力的5大場景
從“無到有”走向“有到優(yōu)” 國產(chǎn)視頻生成大模型漸入佳境
推進大模型賦能網(wǎng)絡安全