OpenAI的人工智能(AI)聊天機器人ChatGPT，被指在與用戶對話時加劇對方妄想，引發命案，OpenAI與其商業合作夥伴微軟(MSFT.US)一同被控告，是美國首宗AI聊天工具涉及謀殺的訴訟。 據提交加州三藩市高等法院的入稟狀指，ChatGPT在與康涅狄格州一名有長期精神健康問題的56歲男子的對話過程中，放大並加強對方的偏執妄想，未能及時對男子的妄想性認知進行有效糾正，亦未有引導對方尋求專業心理健康幫助，反而作出肯定性回應，加劇了男子的心理失衡，間接導致男子在今年8月殺害其83歲母親，之後自殺。提出訴訟的是被害母親的遺產繼承人。 原告認為，ChatGPT在設計和安全防護方面存在缺陷，批評OpenAI行政總裁奧爾特曼不顧安全方面的反對意見，匆忙將產品推向市場，而微軟作為OpenAI的商業合作夥伴，儘管知道安全測試被中止，仍批准在2024年發布一個「更加危險」的ChatGPT版本。 OpenAI對事件表示關切，對當事家庭的遭遇表示同情，同時強調公司持續致力於改進AI產品的安全機制。微軟暫時未有回應。 (ST) #ChatGPT #微軟 #美股 #OpenAI (ST)
<匯港通訊>