美國政府以國家安全為由,禁止 Anthropic 向任何外國人,包括公司內的外國員工,使用公司兩款最強大的人工智能(AI)大模型。 Anthropic 表示,為了確保符合法規要求,必須立即停止所有客戶對有關大模型的存取。而政府的指令,未有提供具體的國家安全疑慮細節。公司明白政府相信有一種繞過或「越獄」大模型的方法,即可讓模型忽略原本的準則或限制。 而公司也發現有關漏洞,並已建立強大的安全防護,大幅降低模型被濫用的可能性,不同意僅因發現一個潛在小漏洞,就撤回一個部署給數億人應用的商業模型。如果這個準則套用於整個產業,相信將讓所有新模型停止發布。 (BC) #Anthropic #AI #美股
<匯港通訊>