核心提要：
1. 上周，美國科技大佬齊聚人工智能峰會，商討未來AI的監管方式。香港知名投資人譚新強也參加另一場聚焦AI監管的CEO峰會，與他一同參會的輝瑞CEO Albert Bourla就談到新冠特效藥Paxlovid已經使用AI來設計，但CEO們提到更多的是對AI的擔憂，比如大語言模型的準確性、對大量工作崗位特別是白領工作的替代性等。
2. 譚新強認為美國CEO們普遍擔心AI技術落後於中國是錯誤的，AI如同核武、氣候變化，對於人類文明可能是生存性的威脅，AI監管需要全球合作才能成功。同時，他也坦言AI對於國防和商業都有重大的意義，中美想在這塊領域深度合作確實非常困難。
3. 譚新強透露，《馬斯克傳》的作傢沃爾特·艾薩克森也出席瞭本次的CEO峰會，作傢在會上揭秘馬斯克去年供應星鏈給烏克蘭但也與俄羅斯高層有聯系。譚新強認為，這些科技巨頭可能會成為下一個超級力量。
4. 人類如何適應未來AI的世界，是一個很重要的議題。譚新強認為，如果有100塊去做AI，50塊可以用來發展技術，但同樣重要的50塊應該拿來研究道德安全方面的問題，這絕對是一個很重要的平衡。
各位網友好！歡迎收看鳳凰網香港號，我是陳箋。上周的華盛頓非常熱鬧，科技界投資界大佬雲集。9月13日，特斯拉公司首席執行官（CEO）馬斯克、微軟公司聯合創始人比爾·蓋茨和Meta首席執行官馬克·紮克伯格等科技公司的領軍人物都受邀參加瞭由參議院多數黨領袖舒默舉辦的人工智能峰會，商討未來人工智能的監管方式。參加這次會議的科技富豪們的總身價為5500億美元，有媒體稱之為“史上最貴”的閉門聽證會。同一時間，香港知名投資人、專欄作傢譚新強也應邀在華盛頓出席CEO峰會，關註的焦點同樣是Al的監管。為何對Al監管的關註已經超越俄烏戰爭以及全球面臨經濟衰退等問題瞭呢？AI的發展會否加劇中美在科技領域的競爭？雙方是否有可能放下意識形態的分歧，在AI領域實現合作呢？相關話題，今天陳箋請正在華盛頓的譚新強一起來聊聊。
AI對人類文明可能是生存性威脅
鳳凰網香港號陳箋：譚先生，您好！我知道同一時間，您也在華盛頓出席CEO峰會，您參加的是同一個峰會嗎？
譚新強：當然不是瞭，我是參加另外一個CEO峰會，這個是我們1年4次定期舉辦的，兩次在紐約，兩次在華盛頓。
這次有幾個人是重疊的，比如說IBM的CEO、一些美國參議員也過來我們這邊，我們也有幾個億萬富翁，但是我猜我們那邊的身傢可能是另外那邊的1/10差不多。幾百億應該有的，但是應該沒有幾千億。
▎馬斯克今年4月曾表示，他將推出一個人工智能平臺TruthGPT，以挑戰目前微軟和谷歌在AI的地位。
鳳凰網香港號陳箋：那也很厲害。我知道您每年都去參加CEO峰會，而每次的主題也都不一樣。但是今年的主題就是跟馬斯克他們出席的人工智能峰會一樣，是關於AI監管。為什麼在俄烏戰爭還沒有結束、全球經濟面臨衰退的情況下，峰會的焦點卻是在AI領域的監管方面呢？
譚新強：我覺得因為從去年生成式AI（Generative AI）Chat-GPT推出來之後，大傢突然感覺AI既有很多潛能，但風險也很大，有可能是一個等同核武跟氣候變化的生存性威脅。
▎美國國會在過去幾個月中就人工智能帶來的好處和挑戰舉行瞭公開聽證會。圖源：由無界AI工具生成
我感覺華盛頓對於AI的共識比氣候變化大很多。比如共和黨跟民主黨沒有幾件事是意見相同的，除瞭反華以外，但是在AI領域他們兩邊都支持，還有業界也覺得真的需要有一些監管。美國原來是落後於歐洲跟中國的，但是現在他們都在考慮怎麼去管，最有可能就是設立一個新部門，唯一的考量到底是哪幾個model。
有人說像FCC就是管傳媒通信的，比較關註的是反壟斷；還是比較像FAA，就是管航空的，一般是出事之後才去分析原因及改善方法；另外一個模型就是FDA，把它當成醫藥那麼去管，就是要預先有審批才能拿出來給消費者用。我覺得FDA模式的可能比較大。
美國不應憂慮AI領域落後於中國
鳳凰網香港號陳箋：所以對AI加強監管是大傢形成的共識，那與會人士對於 AI風險的憂慮主要集中在哪些方面呢？
譚新強：我們這個峰會不是純粹科技界的，來的有很多CEO，比如說航空、能源、醫藥領域，包括IBM的Arvind Krishna、巨富科技投資者兼AOL創始人Steve Case、COVID特效藥Paxlovid的Pfizer 輝瑞CEO Albert Bourla，除此亦有好幾名參與國會監管討論的資深參眾兩院議員。
他們就提出好幾個憂慮，最大的擔憂就是現在這些large language model準確性的問題，GPT-4大概最多七八成答案是正確的，但數學是最差的。數學有些方面當初推出來的準確度還有9成多，但是據說有一些數學問題的準確度跌到隻有幾個百分點，這個比較恐怖。除非你能解決這個問題，提升它的準確度，減少所謂幻覺的問題，要不然可能AI又會進入寒冬。
另外，他們第二個最大擔憂就是會落後於中國，這個考慮可以理解但我覺得是完全錯誤的。其實監管AI跟核武一樣，一定要全球合作才會成功，要不然就是一個共同自殺的遊戲。大傢一起沖向懸崖，沒有人願意停頓下來，這是很危險的。
▎OpenAI的首席執行官Sam Altman公開表示，Chat-GPT 確實知道很多東西，但危險的是，它在相當大的一部分時間裡是自信而錯誤的。
AI對白領工作的替代性令人擔心
鳳凰網香港號陳箋：目前Chat-GPT引發科技界的震動，你剛才提到在數學領域它越做越差，這個真是令人非常詫異。那目前令人擔憂的AI準確度、數學能力大大倒退等問題，您覺得怎麼樣可以得到改變呢？
譚新強：現在這是最熱門的一個研究的范圍。首先，有方案是可以令它進一步的。比如說我上個星期在臺灣參加另外一個AI峰會，有專傢就說應該讓Chat-GPT利用其他的工具，比如說就用計算器來做計算，而不應該用統計學來做邏輯方面的計算。有朋友就說要建好Chat-GPT的邏輯方面可能需要新的構造，這些不要完全依賴GPU，應該加多一點CPU。所以我覺得大概率還是會有明顯的改善去減少幻覺。
另外，其實還有很多憂慮的。有的這些CEO不太擔心，其實我非常擔心。比如說對很多工作崗位的影響。一個研究報告預測在2030年，它可能取締4-8億份工作。當然AI本身也會創造一些新的工作種類，比如說Prompt Engineering（提示工程）或者有關AI安全方面的，但估計隻有幾千萬份。
▎高盛報告曾預言，AI或將取代至少3億份全職工作。圖源：Stock-Asso／Shutterstock
整體來說，這些CEO都看到AI有很多潛能，能幫助醫藥研究、增加生產效率。但其實8成以上的CEO擔心它的安全性多於它怎麼來幫助我們，所以現在這是很熱門的一個話題。
鳳凰網香港號陳箋：當然你的擔心我相信應該很多人都會擔心，如果AI在不久的將來會取締掉4~8億人的工作崗位，你覺得最主要會影響到哪些崗位呢？
譚新強：工業革命200多年來，這一次是白領最受威脅，比如律師、會計師以至於醫生、銀行傢、工程師。有人說現在學編碼這些programming language很重要，但是很快這個可能完全沒用瞭，將來最主要的電腦語言就是英文跟中文，這是natural language，就是人類的語言可能更重要，所以這個變化很快，對於小孩、對未來、對於教育都有很大的影響。
▎白領可能遭遇與上世紀80年代制造業藍領工人類似的命運。
新冠特效藥Paxlovid的設計離不開AI
鳳凰網香港號陳箋：馬斯克說AI就是雙刃劍，剛剛你也提到我們應該怎樣去讓它很好地為人類服務，但是又不能夠失去人類對它的控制。剛剛有說到一點，其實AI已經為人類帶來瞭一些幫助，我記得你也提過，包括我們現在對於新冠的特效藥也是通過AI技術做成的是吧？
譚新強：對，我的峰會來瞭一個重量級的人物，就是Pfizer CEO Albert Bourla，他說不僅疫苗是全新的技術mRNA，新冠特效藥Paxlovid也是用AI來設計的。很多人都說蛋白質結構很復雜，人可能要幾個月才能分析一個蛋白質，但AI現在用幾秒鐘幾分鐘很快速就能分析到，所以很有幫助。AI也分很多類型，其實過去一年最令人驚訝、矚目的都是這些Generative AI，因為它可以像人一樣和你談話。
鳳凰網香港號陳箋：我身邊也有很多醫學領域的長者，本來對於新藥是沒有信心的，但當他們得瞭covid後，吃瞭這個藥，覺得非常神奇，迅速有效地控制瞭病情發展，很快轉陰痊愈。那麼我們回過頭來說，確實在各種領域中，都能看到AI對我們的幫助，但是我們也看到瞭它潛在的風險。我最害怕的還是它反控人類。你覺得Ai會否面臨一場新的技術革命？它究竟可以在哪些領域大有作為呢？
譚新強：我這兩次開的CEO峰會，幾乎每個行業每傢企業都說已經大量投資到AI。比如利用它讓廣告更有效，就像TIKTOK利用AI的算法預測用戶喜好，再比如將來可能不是物聯網瞭，未來是AIOT，就是每一個物件都變成智能。所以這個真的很廣泛，任何地方都能用到。
所以帶出最大的問題就是過去我們從工業革命以來，我們都不擔心，雖然取代瞭這些低端的勞工或是農業，那麼我們有更高級的工作可以利用人類的創造力。但現在就不一樣瞭，它挑戰的主要是白領，反而是藍領相對比較安全。所以現在很多人都會問，就算我們能夠讓AI做很多工作，比如說創造音樂、寫文章、寫小說、拍電影等，但我們為什麼要讓它做？
我們現在要問一些更根本的問題，人類生存的意義在哪裡？我們活在這個世界，如果每天待著沒事幹，這是好事還是壞事？所以確實對人類是很新的挑戰。
中美要實現AI領域的合作比較困難
鳳凰網香港號陳箋：我國首份生成式人工智能監管性文件已經實施，美國智庫卡內基國際和平基金會研究員馬特·希恩也呼籲美國政府應當向中國學習，借鑒中國的AI監管經驗。你認為在AI領域中美有哪些可以合作互鑒的地方？
譚新強：監管AI也要多邊合作才會成功，但哪一個監管模式最好卻很難說。中國可能稍微太嚴，美國太松，可能歐洲相對好一點。所以我覺得互相觀摩學習可能是最好的。
比如中國自己的防火墻，對AI領域將來的發展是有很大影響的。美國巨無霸的科技龍頭有很多壟斷性的問題。美國現在國力那麼強，對全球意識形態的壟斷也是依賴這些最大型的企業。要發展AI必須有最多的數據，必須有最多的computer power計算的能力，還有最多的錢財。所以有人形容，下一個全球的超級力量未必是國傢，可能是這些科技巨頭。
▎當地時間2023年5月16日，美國華盛頓特區，OpenAI首席執行官兼聯合創始人山姆·奧特曼在參議院司法小組委員會聽證會上發言。圖源：視覺中國
鳳凰網香港號陳箋：美國商務部長雷蒙多訪華歸國接受采訪時仍然表示，美國不會出售最先進的芯片給中國。您認為AI的發展是否會加劇中美在高科技的競爭？雙方是否有可能放下意識形態的分歧，在AI領域實現合作？
譚新強：可見將來還不可能。AI對商業和國防都有太重大的意義，中美合作確實非常困難。比如說我參加的峰會有一位科技界的先驅Steve Case，他擔心壟斷，支持open source，支持讓所有人都知道這些LIM模型的源碼是怎麼樣，讓小公司能夠發展起來跟巨頭競爭。我覺得他這個想法有點太天真，因為AI跟其他軟件不太一樣，如果完全open source，美國當然會擔心中國和其他很多敵人，所以競爭問題是很嚴重的。
科技巨頭可能是下一個超級力量
鳳凰網香港號陳箋：與會的企業傢兼作傢Walter Isaacson，剛出版瞭馬斯克傳記，他跟著馬斯克兩年之久，參與多傢公司會議，甚至傢庭聚會。他有怎樣的分享？
▎Issacson版《埃隆·馬斯克傳》還原最真實的Twitter背後故事。
譚新強：對，這位作傢是前CNN的總裁，很擅長寫傳記，也寫過喬佈斯。馬斯克傳記剛剛星期二才出版，最震撼的就是他提到馬斯克去年供應星鏈給烏克蘭，但他原來也一直有跟俄羅斯高層保持聯系。去年有一次烏克蘭想突襲黑海艦隊，馬斯克很擔心如果成功，俄羅斯會用核武還擊，所以就關掉星鏈。現在美國有些參議員說應該立案調查這件事，但也很難說，因為他是個私人企業，沒有收費，所以可能也有這個權利關掉。
說白瞭，如果馬斯克是一個普通人，肯定可以構成叛國，但美國最愛超級英雄，有人形容他是Iron man，所以我估計他還是能夠勉強過去的，不會真的要坐牢那麼嚴重。但這又是一個很好的證明，這些科技龍頭其實可能成為下一個super power（超級力量）。這證明這個世界真的變得很快，不單是我們要監管AI，怎麼去處理這些科技龍頭也是一個很重要的課題。
鳳凰網香港號陳箋：剛才你就說到美國在監管上太松瞭，中國可能太緊瞭，那麼我們看到歐洲議會在6月份也通過瞭歐盟的人工智能法案叫AI Act，那麼您認為是否有可能形成一個關於AI監管的全球共識呢？
譚新強：可見的將來我們需要，但是很難達成這個目標。我覺得每個大國、每個區域能夠有一些監管已經不錯，那麼再怎麼去協調這些監管可能要一兩年後才可能多一點共識，但兩年後AI發展到什麼地步，我們也不知道。
AI發展也須考慮道德安全
鳳凰網香港號陳箋：隨著AI技術的進步，其實人們也越來越擔心這些系統接近超級智能水平時人類的處境。此前我采訪人工智能專傢香港科大副校長郭毅可就提到現在需要的是“反圖靈測試”。您怎麼看待AI成熟後人類的未來？會是一個什麼樣的景象？
▎國內首部聚焦人工智能未來的舞劇《深AI你》。
譚新強：人類能不能想通存在的意義？ 如果你整天在伊甸園覺得是天堂，有很多空閑時間可以談情說愛，可以玩、吃好東西，但是如果你覺得整天待著很悶，這個可能是地獄啊！所以人類怎麼去適應未來Ai的世界，我覺得還是一個很重要的議題。
我有一個年輕的學者朋友剛從牛津畢業回來，現在加入港大當助理教授，他就參與一個碩士課程叫AI道德與社會，據說是全世界第一個這樣的碩士課程，很值得大傢多研究。所以AI教父Geoffrey Hinton也說過，如果你要投100塊去做AI，可能50塊用來發展推進技術，但是同樣重要的50塊應該拿來研究道德安全方面的問題，這絕對是一個很重要的平衡。
鳳凰網香港號陳箋：好的，非常感謝譚先生的分享。AI發展不能隻停留在技術層面，關註倫理道德也非常關鍵。在用好AI的同時，我們也要思考人類生存的意義和價值。謝謝您！
發表評論 取消回复