外電引述消息指,美國人工智能(AI)企業OpenAI行政總裁奧爾特曼在一次公司內部全體會議上表示,鑑於對前沿AI技術潛在風險的擔憂,公司正考慮放緩最先進AI系統的開發步伐,並可能尋求與其他AI實驗室協調,共同放緩研發進度。不過,消息人士指,部分同業未必願意配合。OpenAI對此拒絕置評。 近期多家領先AI企業的員工及研究人員相繼表達對AI技術失控風險的憂慮。OpenAI首席科學家帕霍基早前曾呼籲,在建立共同的安全標準之前,業界應採取極度謹慎態度,將自願放緩發展速度的做法變成常態。此前,OpenAI亦曾因安全防護需要,短暫暫停部分前沿模型的訓練。 另一方面,競爭對手Anthropic的安全研究人員哈賓格日前發出警告,指未來10年內由AI引發全人類災難的可能性高於10%。同時,亦有Anthropic已辭職的研究員批評部分主要AI實驗室,盲目競逐可自主改進的超智能系統,呼籲業界正視潛在的安全威脅。 (ST)
<匯港通訊>
