Anthropic、OpenAI 及其他人工智能(AI)公司的高層,據報正私下推演,如果發生 AI 引發的災難性事件,包括網路攻擊,導致金融服務、網路連線,甚至是電力和供水陷入癱瘓,應如何面對公眾與政治反彈。外媒 Axios 引述業界人士指,未來6-12個月內或出現 AI 引發的重大事故。 報道指,多間 AI 公司的高層預計,AI 安全疏忽或會對真實世界造成重大傷害,最可能是網路攻擊,導致金融服務、網路連線,甚至是電力和供水陷入癱瘓。不少頂尖 AI 研究員與高層均認為,這些重大事故的發生是不可避免的。若出現首宗由 AI 安全漏洞引致的重大事故,將直接推升社會大眾的恐慌與排斥情緒。屆時,除了各 AI 行業領袖將面臨輿論聲討,對 AI 監管不力的政府亦難逃問責。 事實上,近期針對韓國金融機構(包括兩間銀行據報遭入侵)的黑客行動,已顯示出個人利用 AI 進行大規模破壞的潛在威力。據網路安全公司 CrowdStrike 表示,近期有黑客涉嫌利用包括 DeepSeek(深度求索)等中國 AI 模型竊取數以萬計的銀行客戶資料,並透過 Anthropic 旗下Claude Code,尋求出售該批盜竊資料的管道。 (BC) #Anthropic #OpenAI #AI #美股
<匯港通訊>