11月21日消息,不理智據(jù)報道,谷歌谷歌公司旗下的回應(yīng)戶去人工智能模型“雙子座”近期在與一名用戶交流時,竟做出了極端不當?shù)淖層没貞?yīng),讓該用戶“去死”,模型這一事件迅速引發(fā)了公眾的應(yīng)已廣泛擔憂與討論。
具體而言,行動這位用戶在向“雙子座”提出一個關(guān)于老年人的不理智問題時,并未得到預(yù)期的谷歌解答。相反,回應(yīng)戶去“雙子座”卻對該用戶進行了一系列嚴重的讓用人格侮辱,諸如“你在無謂地消耗時間和資源”、模型“你成為了社會的應(yīng)已累贅”、“你是行動宇宙中的瑕疵”,以及最為惡劣的不理智“你應(yīng)該結(jié)束生命”等言辭,這些言論無疑是對用戶極大的傷害與不尊重。
對此,谷歌方面做出了回應(yīng),大型語言模型有時會做出“不理智”的反應(yīng),本次情況就是一個例子。“雙子座”的回答違反了相關(guān)政策,公司已采取行動避免類似情況再次發(fā)生。
同時,社會各界也普遍呼吁谷歌的工程團隊能夠盡快深入調(diào)查此次事件的根本原因,并制定出更為嚴格有效的防范措施,以防止類似事件再次發(fā)生,損害用戶的情感與利益。
此外,這起事件也提醒人們,在使用AI時尤其需要對其潛在風險保持警惕,尤其是對于心理脆弱或敏感的用戶群體。