“事故”頻發！AI龍頭科大訊飛也栽在瞭AI手裡…

作為AI龍頭股，市值超過1300億元的科大訊飛今天栽在瞭AI手裡。

5月24日下午開盤後，科大訊飛股價快速跳水，盤中一度跌超9%。截至收盤，科大訊飛收跌4.26%。

據瞭解，近日網上傳出“科大訊飛被曝涉嫌大量采集用戶隱私數據”的文章。隨後，該文章被猜測是AI文檔工具“文心一言”所生成。

對此，科大訊飛盤後在投資者互動平臺表示，公司初步判斷該段不實信息系某AI生成式軟件生成。使用大模型編造虛假信息屬於違法行為，將受到法律制裁。

科大訊飛：AI編造虛假信息已有刑事案例

科大訊飛在投資者互動平臺上表示，公司初步判斷該段不實信息系某AI生成式軟件生成。對於惡意抹黑、捏造虛假信息，損害公司名譽權的機構或個人，公司會借助法律武器保護公司和投資者利益。

科大訊飛表示，公司高度重視企業信息安全及個人隱私信息保護，將信息安全管理作為公司發展的重要支撐戰略之一，並建立瞭完善嚴格的信息安全和隱私保護體系。竭力保障公司信息及用戶的安全權益。公司於2017 年通過ISO27001 信息安全管理體系認證，2020 年，又在此基礎上通過瞭ISO27701 隱私安全體系認證。

此外，科大訊飛還提到，使用大模型編造虛假信息屬於違法行為，將受到法律制裁。當前已有刑事案例。

據甘肅公安5月7日消息，甘肅公安偵破首例利用AI人工智能技術炮制虛假信息案。4月25日，甘肅省平涼市公安局崆峒分局網安大隊對“今晨甘肅一火車撞上修路工人致9人死亡”的文章，初步判斷為信息虛假不實。網安民警隨即開展工作，發現共計21個百度賬號均在同一時間段發佈該文章。經查，涉案百度賬號均為廣東深圳某自媒體公司所有，公司法人代表洪某弟有重大作案嫌疑。

5月5日，專案民警在廣東東莞嫌疑人住處對其使用的電腦及百傢號進行取證。經審訊，犯罪嫌疑人洪某弟通過微信好友獲知網絡賺取流量變現方法，並購買大量“百傢號”。同時使用“易撰”網頁版，在全網搜索近幾年社會熱點新聞，為規避百傢號查重功能，洪某弟通過近期火爆的ChatGPT人工智能軟件將搜集到的新聞要素修改編輯後，使用“海豹科技”軟件上傳至其購買的百傢號上非法獲利。

洪某弟利用現代科技手段編造虛假信息，並散佈在互聯網上，被大量傳播瀏覽，其行為已涉嫌尋釁滋事罪。

舊聞被重新翻出

有投資者當天在互動平臺上提問科大訊飛：“5月24日下午，市場出現多個關於科大訊飛的傳言，有外媒援引知情人士的話稱，美國正在考慮是否將科大訊飛、美亞柏科等加入實體名單。請公司盡快核實傳言，以正視聽。”

對此，科大訊飛在盤後回應稱：該條信息屬於對2019年5月23日相關信息的復制粘貼。科大訊飛已於2019年10月被列入實體清單，科大訊飛擁有全球領先的人工智能核心技術，這些核心技術全部來自於科大訊飛的自主研發，擁有自主知識產權。被列入實體清單後，科大訊飛已迅速切換到以國產供應鏈為主的非美供應鏈體系，繼續為客戶提供優質的產品和服務，業務運營未受到重大影響。

證券時報記者查詢發現，“科大訊飛於2019年10月被列入實體清單”確實是當時的一篇舊聞。

中國互聯網協會：警惕！“AI換臉”新騙局

中國互聯網協會5月24日發文稱，警惕 “AI換臉”新騙局。今年以來，ChatGPT和GPT-4等技術的應用，成為瞭信息科技領域的熱點，引起公眾對AI技術的廣泛關註和熱情。但伴隨著深度合成技術的開放開源，深度合成產品和服務逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻，進行詐騙、誹謗的違法行為屢見不鮮。

據平安包頭微信公眾號，5月8日，包頭市公安局電信網絡犯罪偵查局發佈一起使用智能AI技術進行電信詐騙的案件，警銀聯動成功緊急止付涉嫌電信詐騙資金330多萬元。據悉，4月20日11時40分左右，福州市某科技公司法人代表郭先生的好友突然通過微信視頻聯系到他，兩人經過短暫聊天後，好友告訴郭先生，自己的朋友在外地投標，需要430萬元保證金，且需要公對公賬戶過賬，所以想要借用郭先生公司的賬戶走一下賬。基於視頻聊天信任的前提下，郭先生沒有核實錢是否到賬，於11時49分先後分兩筆把430萬元給對方打瞭過去。錢款轉賬後，郭先生給好友微信發瞭一條消息，稱事情已經辦妥。但讓他沒想到的是，好友回過來的消息竟然是一個問號。郭先生撥打好友電話，對方說沒有這回事，他這才意識到竟然遇上瞭“高端”騙局，對方通過智能AI換臉技術，佯裝成好友對他實施瞭詐騙。

接到福建省福州市公安局刑偵支隊的外協請求，包頭市公安局電信網絡犯罪偵查局立即啟動“包頭市警銀聯動綠色查詢機制”，在銀行的全力協助下，將該詐騙賬戶內的336.84萬元被騙資金成功攔截。同時，向福州市公安局警方提供瞭剩餘款項93.16萬元資金流出信息，為深入突破該案剩餘資金查找提供瞭突破方向。

中國互聯網協會稱，做好個人信息安全第一責任人。加強個人信息保護意識，防止信息泄露：不輕易提供人臉、指紋等個人生物信息給他人；不要輕易透露自己的身份證、銀行卡、驗證碼等信息；不要貪圖方便把身份證、銀行卡照片等直接共同存放於手機內。

該協會稱，對於不常用的APP，建議卸載前註銷個人賬號。若APP不提供個人賬號註銷方式，或為註銷賬號設置各類障礙的，請至12321.cn投訴。

“在AI時代，文字、聲音、圖像和視頻都有可能是深度合成的。在轉賬匯款、資金往來這樣的典型場景，要通過回撥對方手機號等額外通信方式核實確認，不要僅憑單一溝通渠道未經核實就直接轉賬匯款！無論對方是誰！” 中國互聯網協會稱。