AI教父谷歌離職後發聲 人工智能正變得比人類更聰明

IT之傢今日（5月3日）消息，人工智能領域的開創者之一，被譽為“AI 教父”的傑弗裡・辛頓（Geoffrey Hinton）近日宣佈離開他工作瞭十年的谷歌公司，原因是他對人工智能技術的發展越來越擔憂。今日他在接受 CNN 記者傑克・塔珀（Jake Tapper）采訪時表示，他認為人工智能正在變得比人類更聰明，他想要“吹哨”提醒人們應該認真考慮如何防止人工智能控制人類。

“我隻是一個突然意識到這些東西正在變得比我們更聰明的科學傢，”辛頓稱，“我想在某種程度上‘吹響哨子’，說我們應該認真擔心如何阻止這些東西對我們的控制。”

辛頓是神經網絡技術的先驅，他的研究為今天許多產品中使用的人工智能系統奠定瞭基礎。此前曾報道，他在周一接受《紐約時報》采訪時首次透露瞭他的離職消息，並表達瞭他對人工智能技術的潛在危害的擔憂。他說，他擔心人工智能會導致大量失業，並創造一個許多人“無法知道什麼是真實的”世界。他還指出，人工智能技術的進步速度遠遠超出瞭他和其他人的預期。

“如果它變得比我們聰明得多，它就會非常擅長操縱，因為它是從我們身上學到的，而且很少有例子證明一個更聰明的東西會被一個更笨的東西控制，”辛頓周二對塔珀說，“它知道如何編程，所以它會想出辦法繞過我們對它的限制。它會想出辦法操縱人們做它想要的事情。”

辛頓並不是唯一一個對人工智能表示擔憂的技術領袖，今年 3 月，一些社區成員聯名發表瞭一封信，呼籲人工智能實驗室對最強大的人工智能系統至少暫停訓練六個月，理由是“對社會和人類有深刻的風險”。

蘋果公司聯合創始人史蒂夫・沃茲尼亞克（Steve Wozniak）也是在這封信上簽名的人之一，他周二在“CNN 今日早晨”節目中重申瞭對人工智能傳播虛假信息的擔憂。“對於那些想要欺騙你的人來說，欺騙將變得更容易。”沃茲尼亞克對 CNN 說，“我們在這方面沒有做出任何改變 —— 我們隻是假設我們現有的法律會解決這個問題。”沃茲尼亞克還表示，可能需要“某種類型”的監管。

辛頓則表示，他沒有簽署這封請願書。“我不認為我們能阻止這種進步，”他說，“我沒有簽署說我們應該停止研究人工智能的請願書，因為如果美國人停止研究，中國人不會。”但他承認，他沒有一個明確的解決方案，“我不清楚我們能否解決這個問題。我相信我們應該努力思考解決問題的方法。我目前還沒有解決方案。”