AI生成資訊或真假難辨 股市添波動 美證監憂系統性風險 學者：演算法助糾錯

人工智能（AI）技術的發展，令社交媒體流傳更多真假難分的資訊，假相片成功欺騙高頻交易演算法，令股市產生波動，相關衝擊引起憂慮，美國證監會（SEC）主席亨斯勒（Gary Gensler）曾稱擔心系統性風險。不過有學者指，真相大白之後市場便會修正，而高頻交易涉及的資金規模相對細，並稱演算法比人類更能應對假資料。

獲不少對冲基金使用的高頻交易策略，利用電腦演算法梳理海量新聞和社交媒體平台上的資訊，從而捕捉買賣機會。惟隨着AI生成技術普及，假資訊在社交媒體上流行，對相關交易方法造成衝擊。

五角大樓「爆炸」照 美股曾震盪

近期較受關注的例子，是5月在社交媒體上流傳美國五角大樓附近發生爆炸的相片，事發時正值美股交易時段，市場旋即出現波動，圖片後來才被揭發是由AI生成的假資訊。有量化交易公司高層形容，AI生成的錯誤信息或是全新領域。

對冲基金Florin Court Capital創辦人格林尼格（Doug Greenig）表示，AI為各種惡作劇打開大門，且變得愈來愈難管理。軟件公司RavenPack首席數據專家哈非茲（Peter Hafez）則表示，量化交易正面臨障礙，可能有受信任的新聞機構也報道了假的國防部爆炸事件，演算法或信以為真。

有分析指，除非有一種簡單的方法識別偽造圖片，否則隨着圖片愈來愈逼真及常見，對金融市場的威脅加大。亨斯勒曾表示，AI或帶來系統性風險，足以觸發下一次金融危機。

不過，牛津大學商業經濟學教授武爾坎（Nir Vulkan）表示，假消息衝擊股市的情況並非首次發生，市場經常對謠言及錯誤信息作出反應，一旦真相大白就會糾正。

分析：倘真相大白 市場即糾正

他認為算法交易不是促成假圖片引發美股震盪的重要因素，指高頻交易只是持有股票數秒，而低頻交易則會持有如數周等較長的時間，前者利用非常短暫的機會獲利，用於交易的資金量遠少於低頻交易。武爾坎直言，大錢幾乎都在低頻交易，從短期反應中賺錢是非常困難。

武爾坎解釋，看到五角大樓附近發生爆炸消息導致的短期走勢時，大多數對冲基金使用的算法都不會感到恐慌，市場會自行修正，算法最終不會受到影響。他認為，演算法比人類更擅長應對短期的虛假事件。

Amazon研AI學習模型 阻網上欺詐

AI掀起熱潮後，更多企業嘗試在業務加入AI元素。美國科技巨擎亞馬遜（Amazon）表示，將投資開發AI學習模型，幫助分析網站上的留言及評論，協助找出欺詐行為。

亞馬遜已使用AI打擊假評論多年，但公司表示持續投資，開發「更尖端AI工具」，希望加強保障平台上買賣雙方。2022年亞馬遜舉報超過2.3萬個社交平台群組，逾4,600萬用戶參與傳播假評論。

檢視可疑帳戶 查留言真偽

據悉，不法分子利用第三方平台如社交平台及加密信息服務等，購買、出售或主導散播假評論。假評論被指通常利用提高賣家評分誤導買家，或是打擊其他對手，而且多數難以察覺。亞馬遜稱AI工具能夠透過多個要素，如留言者與其他用戶的交流、登入行為、過往評價及任何不正常行為，計算有關評論是否虛假。

亞馬遜用戶信心團隊領袖梅赫塔表示，AI工具將檢視可疑帳戶，追蹤評論的買家與出售類似產品賣家的聯繫，透過重要審查及自進的學習工具及AI，查找任何不尋常現象或行為，希望藉此阻止虛假評論觸及用戶。

英國消費者權益機構「Which？」表明亞馬遜的行動仍不足夠，無法處理真正問題。機構估計英國多達七分一評論為虛假，導致用戶選購劣質商品的機率翻倍，促請政府加強在法律層面打擊不法分子，希望列明購買、出售或主導散播假評論屬刑事行為。

原文刊《香港經濟日報》

記者︰李俊儀、吳漢培

美術：顏玉玲