讓安全成為人工智能發(fā)展的基因——人工智能大潮激蕩的時代思考

2025-04-11 14:15:43來源：新華網

“擁抱AI，如何兼顧發(fā)展與安全?”在博鰲亞洲論壇2025年年會多場人工智能相關活動中，與會嘉賓普遍認為，隨著人工智能能力越來越強，AI不可控、被濫用等風險會越來越高，在推廣應用中要加固“安全護欄”。

近年來，人工智能不斷給人們帶來驚喜的同時，也帶來一些問題和困擾：“AI擬聲換臉”詐騙案件層出不窮;大模型有時混淆事實和虛構，“一本正經胡說八道”令人防不勝防;AI數據搜集對個人隱私帶來泄露風險……有數據顯示，2024年全球發(fā)生的AI風險事件，超過30%與利用AI進行深度偽造相關。今天，人工智能在快速發(fā)展的同時，也產生一系列安全隱患和問題。如何統(tǒng)籌好發(fā)展和安全，讓安全如基因般融入人工智能的發(fā)展鏈條，已經成為迫切而重要的課題。

縱觀人類科技發(fā)展史，從蒸汽機轟鳴打破田園牧歌，到互聯(lián)網重塑人際關系邊界，每一次重大創(chuàng)新都伴隨著爭議與陣痛。人工智能帶來的挑戰(zhàn)，不過是技術演進長卷中的新篇章。一直以來，技術進步與風險治理相互促進，在破解現實問題中螺旋式上升。以發(fā)展的眼光看，今天人工智能領域面臨的新問題，正是催生治理創(chuàng)新的契機。

破解安全難題，關鍵在于讓治理跑在風險前面。新技術發(fā)展不能成為脫韁的野馬，必須用法律和制度的“韁繩”把好方向、因勢利導。2023年，我國在全球范圍內率先開展立法，發(fā)布《生成式人工智能服務管理暫行辦法》;不久前出臺的《人工智能生成合成內容標識辦法》，旨在防范利用生成合成內容傳播虛假信息、實施電信詐騙等風險行為……多部新規(guī)的出臺，持續(xù)推動人工智能由生成到傳播各環(huán)節(jié)的全流程安全管理。全國多地互聯(lián)網法院審理人工智能著作權案，為技術應用劃出法律紅線。加強源頭治理，從“事后滅火”變?yōu)?ldquo;事前筑堤”，推動人工智能健康發(fā)展和規(guī)范應用，是著眼長遠的治本之策。

筑牢安全防護網，需要全社會共同努力。由AI創(chuàng)作劇本的反詐情景劇幫助老人識破騙局;打造職工人工智能學習云課堂，提供AI入門到進階全服務;全國多所高校將人工智能列為通識必修課，讓“以人為本、智能向善”的理念引領學子的成長……技術進步永無止境，學習運用也永無止境。加強教育和引導，通過各種方式不斷提升公民和全社會的數字素養(yǎng)和風險應對能力，智能時代的安全基石就會更加穩(wěn)固。

人工智能安全沒有國界，防范風險需要共筑防線。越是面對新領域新問題，越應該匯聚眾智，在深入交流、加強合作中謀求有效治理。中國提出并遵循《全球人工智能治理倡議》，同各方積極開展對話合作、分享最佳操作實踐，正是為了堅持發(fā)展和安全并重，平衡推進應用和治理，確保人工智能技術安全、可靠、可控、公平。

“道路千萬條，安全第一條”。在通往未來的道路上，守護安全、推動發(fā)展，人人都是受益者，也是行動者。把好方向盤，走穩(wěn)創(chuàng)新路，人工智能發(fā)展的廣闊未來可期，科技創(chuàng)造的美好生活可期。

辛識平

標簽：