“AI教父”警告人類未來恐難辨真假

　　圖：有“AI教父”之稱的辛頓。 路透社

　　【大公報訊】綜合《紐約時報》、BBC報道：有“AI教父”之稱的辛頓（Geoffrey Hinton）本月1日宣佈，他已經從谷歌公司離職，並稱現在對自己一生從事的工作感到後悔。辛頓表示，辭職是為瞭能夠自由地談論AI的風險。辛頓認為，AI系統保持著驚人的發展速度，它們會變得越來越危險，“目前它們不比我們聰明，但我認為很快就會”、“很難看到如何防止壞人利用它做壞事”，以及對AI引發假資訊的擔憂，普通人將“無法再知道什麼是真的”。

　　75歲的辛頓日前在接受《紐約時報》的采訪時證實自己已於上周辭去瞭谷歌副總裁的職位，離開工作瞭10年的谷歌。他稱對自己畢生的工作感到後悔，“我會安慰自己，如果不是我做，也會有別人來做”。至於離開的原因，辛頓表示並不是為瞭批評谷歌，而是希望可以自由地談論AI的風險，無需顧忌言論對谷歌構成影響，同時他也強調谷歌已對此采取非常負責任的行動。

　　AI很快就會比人類聰明

　　辛頓2013年3月加入谷歌，擔任研究員，同時他創辦的DNNresearch公司被谷歌並購。他研究深度學習、神經網絡等領域，曾與其他兩名學者因在深度學習領域作出的貢獻，榮獲2018年圖靈獎，該獎項常被稱為“電腦科學界的諾貝爾獎”。

　　辛頓受訪時表示，AI與人類的智力不同，AI的學習就像是一萬人當中，隻要有一人學懂某些知識後，其他人就會自動習得知識，因此它們龐大的知識儲量已經讓人類黯然失色。在推理方面，AI現在隻能做到簡單的推理，“目前它們不比我們聰明，我之前覺得它們可能要30到50年才能超過人類，但我現在覺得會更快”。

　　辛頓在離開谷歌之前就已經發出警示。他3月接受采訪時被問到“AI抹除人類的幾率”有多高，他回答道：“這不是不能想像的，我隻能這麼說。”這也是辛頓擔心的另一方面，未來AI會消滅“繁重的工作”，甚至會直接取代人類工作。

　　憂AI落入壞人之手

　　AI技術發展到如今，它可以輕松地大批量生成假照片、假視頻以及假新聞，未來網絡上可能充斥著虛假信息。辛頓更加擔憂的是，普通人未來將“無法再知道什麼是真的”。

　　辛頓認為，在短期內，生成式AI可能會引發假資訊的狂潮；更長遠來看，AI很可能會生成完全自主武器，並從海量訓練數據庫中習得奇怪行為。雖然有些擔憂還未發生，但辛頓認為若沒有及時準備好相關法規和有效的控制措施，那這種升級將變得無法遏止。他擔憂AI風險的另一個原因就是“很難看到如何防止壞人利用它做壞事”。

　　辛頓對AI的立場是從去年開始轉變的，他認為AI在過去五年內發展神速，而未來五年可能發生的事情將“非常可怕”。實際上，業界還有不少專傢都曾提議放慢AI的發展節奏。以馬斯克為首的多名科技界巨頭3月聯署公開信，呼籲AI實驗室和相關企業在至少半年內不要訓練超過GPT-4的技術。

　　不過辛頓補充道，他認為AI在短期內帶來的好處多於風險，所以現在不應該停止開發；加上激烈的國際競爭也意味著很難暫停AI發展，而政府有責任確保AI技術發展的同時，盡量杜絕AI被不道德利用的現象。