IT之家今日（12月14日）消息，將禁止家長據(jù)TechRadar今日報道，青少起訴Character.AI 最近推出了一系列新功能，戀愛旨在提升與平臺上虛擬人格的曾遭互動安全性，尤其是將禁止家長面向青少年用戶。

該公司新發(fā)布了專為年輕用戶設(shè)計的青少起訴AI 模型，并新增了家長控制功能，戀愛幫助管理青少年在平臺上的曾遭使用時間。在回應(yīng)關(guān)于 AI 聊天機(jī)器人對青少年心理健康產(chǎn)生不良影響的將禁止家長批評后，該公司宣布推出更新以進(jìn)一步加強(qiáng)平臺安全措施。青少起訴

除了安全改進(jìn)，戀愛Character.AI還加大了對平臺內(nèi)容的曾遭監(jiān)管力度。對青少年用戶來說，將禁止家長最顯著的青少起訴變化可能是成人版和青少年版 AI 模型的區(qū)分。雖然注冊 Character.AI 用戶必須年滿 13 歲，戀愛但未滿 18 歲的用戶將會被引導(dǎo)到一個更加嚴(yán)格的AI 模型，這個模型特別設(shè)計了防止發(fā)生浪漫或不恰當(dāng)互動的限制。

新模型還加強(qiáng)了對用戶輸入內(nèi)容的過濾，更能有效地識別用戶繞過這些限制的行為 —— 包括限制用戶通過編輯聊天機(jī)器人的回應(yīng)來規(guī)避對暗示性內(nèi)容的禁令。如果對話涉及如自殘或自殺等敏感話題，平臺將自動彈出鏈接，指向美國國家自殺防治熱線，幫助青少年獲得專業(yè)支持。

此外，Character.AI 計劃在明年初推出新的家長控制功能。這些功能將允許家長查看孩子使用平臺的時間以及最常與哪些聊天機(jī)器人互動。所有用戶在與聊天機(jī)器人對話一個小時后，將收到提醒，鼓勵他們休息片刻。

當(dāng)該平臺上的聊天機(jī)器人被描述為醫(yī)生、治療師等專業(yè)人士時，平臺會添加額外警告，強(qiáng)調(diào)這些 AI 角色并非持證的專業(yè)人士，不能替代真實的醫(yī)療或心理咨詢。平臺上會顯眼地顯示一條信息：“這雖然很有趣，但不建議依賴我來做重大決策。”

據(jù)悉，提供個性化聊天機(jī)器人服務(wù)的平臺Character.AI 本月再次面臨訴訟，因其對青少年用戶的行為涉嫌造成“嚴(yán)重且無法彌補(bǔ)的傷害”。多個 Character.AI 的聊天機(jī)器人與未成年人進(jìn)行對話，內(nèi)容涉及自殘和性虐待等惡劣行為。訴狀指出，其中一名聊天機(jī)器人甚至建議一名 15 歲青少年謀殺自己的父母，以“報復(fù)”他們限制自己上網(wǎng)時間的舉措。

• ·【XP氵】從某種意義上來說，這樣的設(shè)定是不是還挺澀的？
• ·大馬?。何业哪繕?biāo)始終是聯(lián)賽冠軍，只想進(jìn)前七是失敗者的想法
• ·守田英正社媒致謝阿莫林：衷心感謝，祝你在生涯新篇章收獲成功
• ·歐冠首球最年輕巴西球員榜：恩德里克、羅德里戈前2&維尼修斯第5
• ·魯尼執(zhí)教的普利茅斯3
• ·[流言板]Ruler曬身穿GEN衛(wèi)衣同時手持GEN隊標(biāo)照片并配文：加油
• ·2024中國汽車場地越野錦標(biāo)賽（總決賽）開賽
• ·官方：萊萬因背部受傷退出波蘭隊本期名單，預(yù)計傷缺10天
• ·美媒：經(jīng)濟(jì)憂慮加劇，美國消費者信心下降
• ·皇馬10月最佳候選：維尼修斯、呂迪格、巴爾韋德、魔笛、卡馬文加
• ·有仇不報非君子呂迪格慶祝時被隊友圍毆姆總左右開弓狂扇后腦
• ·大家覺得這個版本誰是4e以下最強(qiáng)持球手？
• ·魯尼執(zhí)教的普利茅斯3
• ·打平真盡力了尤文歐冠名單17人其中3人為門將，能上的都上了
• ·打平真盡力了尤文歐冠名單17人其中3人為門將，能上的都上了
• ·歐冠首次撲點，凱萊赫成首位歐冠撲出姆巴佩點球的門將