聚焦數字文明發展，構建安全可信的人工智能

　　當今世界，數字技術正全面融入人類社會的各領域和全過程，人工智能已然成為人類文明進步的一個重要標志。與此同時，數字技術如果失去瞭規范和約束，就可能成為“潘多拉魔盒”，給現實社會帶來一定的威脅。6月26日，世界互聯網大會數字文明尼山對話主論壇在山東濟寧曲阜舉行，大會期間，中外嘉賓圍繞“構建安全可信的人工智能”議題建言獻策。

　　人工智能將重塑數字世界

　　“人工智能的機遇是巨大的。但隨著全球對人工智能的加速應用，政府和組織有必要考慮如何最好地利用這項技術造福人類和地球。”全球移動通信系統協會（GSMA）首席執行官洪曜莊表示，全球范圍內，人工智能正逐漸嶄露頭角，成為一股強大的力量，有潛力改變企業和社會。

　　阿拉伯信息通信技術組織秘書長穆罕默德·本·阿莫表示，人工智能有著革命性的潛力，可以影響甚至改變生活的方方面面，推動創新，使生活更加便捷。例如，通過自動化提高效率、提供準確信息以支持明智決策、改善客戶服務和客戶體驗等。

　　談及人工智能的飛速發展，百度創始人、董事長兼首席執行官李彥宏也深有感觸，他表示，過去一年，人工智能在技術、產品、應用等各個層面，都以“周”為迭代速度向前突進。大模型將滲透到越來越多的領域，以大模型為關鍵驅動的數字經濟與實體經濟的深度融合，將做強做優做大實體經濟，創造可觀的增量價值，帶來經濟社會發展和產業的深刻變革。

　　“這次GPT大模型的誕生代表著通用人工智能、強人工智能的到來，是真正的智能湧現。”360集團創始人周鴻禕認為，人工智能大模型用一套模型、一套算法解決瞭所有自然語言處理的問題，已經從感知進化到瞭認知，能夠理解文字、語言，作出分析、規劃，傳統算法將被代替。未來在自動駕駛、機器人控制等很多重要領域，大語言模型都會大顯身手。

　　阿裡巴巴集團董事會主席兼首席執行官、阿裡雲智能集團董事長兼首席執行官張勇表示，最近一段時間，全球科技企業的通用大模型百舸爭流，推動人工智能邁向瞭全新的發展階段。他認為，大模型正在加速推動智能化時代的到來，實體經濟是智能化的主戰場。

　　“我們正在見證人工智能的加速發展。”人工智能促進協會原主席、康奈爾大學教授巴特·塞爾曼表示，GPT-4實現瞭通用人工智能的第一種形式，引入瞭一種新的實體，將不可避免地改變許多現有的社會結構和機制，人類需要重新思考人工智能將帶來的影響。

　　人工智能帶來的治理挑戰不容忽視

　　“我們迫切需要以高度的責任感來開發和應用人工智能，確保它對整個社會產生積極的影響。”穆罕默德·本·阿莫表示，在享受人工智能帶來的好處的同時，必須認清其會帶來諸多社會和倫理方面的挑戰，這些需要從一開始就加以解決。

　　人工智能大模型為人類社會發展帶來普遍發展機遇的同時，也會帶來許多方面的治理挑戰，這些挑戰不容忽視。李彥宏認為，新技術的應用往往要先於規范，隻有建立健全保障人工智能健康發展的法律法規、制度體系、倫理道德，才能營造良好的創新生態。著眼未來，在重視防范風險的同時，也應同步建立容錯、糾錯機制，努力實現規范與發展的動態平衡。

　　在周鴻禕看來，公有大模型存在缺乏行業深度、容易造成企業內部數據泄露、無法保障內容真正可信、無法使企業實現成本可控等諸多不足。他認為，大模型在企業級場景的應用要堅持“輔助模式”。而GPT大模型想要實現“安全可控”，關鍵在於企業能否真正把控它，要讓人的意志在整個決策回路中起到關鍵作用。

　　當前，人工智能全球競賽已經進入白熱化。就此情景，張勇表示，大傢都希望在其中有所作為，但相關領域的技術倫理問題仍需要厘清，在踩下油門的同時，帶好安全的剎車也很重要。“人工智能技術的演進必須符合社會規范，為人類帶來更多美好。我們在追求技術先進性的同時，必須堅守社會責任感。”

　　“構建安全可信的人工智能”逐步成為行業共識

　　歐洲標準化委員會和歐洲電工技術標準化委員會網絡安全和數據保護聯合技術委員會主席沃爾特·福美表示，人工智能標準化要想取得成功，需要各國之間有一個共通的人工智能詞匯定義，這將推進對安全可信人工智能的共同理解。

　　企業級場景需要打造的是“安全可信、可控易用”的專有大模型。那麼如何打造這樣的專有大模型？周鴻禕表示，需要堅持幾個原則：安全原則，企業級應用必須是安全的大模型；可信原則，以解決大模型的準確性、實時性短板；可控原則，應把大模型定位於輔助工具，確保人在回路上；易用原則，解決易用性問題需要“有靈魂的數字助理”；普惠原則，讓大模型成為每個人都能使用的生產力工具。

　　創新中有很多不確定性，有些可以預判在前，防患於未然；有的問題在發展中出現，需要邊發展邊解決，用發展去解決。張勇表示，“構建安全可信的人工智能”已逐步成為行業共識，相關法律法規逐步完善，為技術和產業的可持續發展培育瞭良好的土壤和環境。

　　人工智能將引領新的一輪技術創新的浪潮，5G移動通信、工業互聯網、大數據、人工智能等數字科技改變瞭人們生產和生活的方式。中國聯合網絡通信集團有限公司董事長劉烈宏表示，讓所有人能夠共享數字文明發展的紅利和成果，是全社會共同努力的目標。

　　穆罕默德·本·阿莫認為，人工智能的未來是充滿希望的，應圍繞隱私、透明度、責任與問責、穩健性和彈性五個方面，構建安全可信的人工智能。除此之外，還應建立道德框架，並通過以人為本的設計優先考慮人類福祉，為推動構建安全可信的人工智能持續發展作出貢獻。（光明網記者 李飛 雷渺鑫）