IT之家今日（12月14日）消息，將禁止家長(zhǎng)據(jù)TechRadar今日?qǐng)?bào)道，青少起訴Character.AI 最近推出了一系列新功能，戀愛(ài)旨在提升與平臺(tái)上虛擬人格的曾遭互動(dòng)安全性，尤其是將禁止家長(zhǎng)面向青少年用戶。

該公司新發(fā)布了專(zhuān)為年輕用戶設(shè)計(jì)的青少起訴AI 模型，并新增了家長(zhǎng)控制功能，戀愛(ài)幫助管理青少年在平臺(tái)上的曾遭使用時(shí)間。在回應(yīng)關(guān)于 AI 聊天機(jī)器人對(duì)青少年心理健康產(chǎn)生不良影響的將禁止家長(zhǎng)批評(píng)后，該公司宣布推出更新以進(jìn)一步加強(qiáng)平臺(tái)安全措施。青少起訴

除了安全改進(jìn)，戀愛(ài)Character.AI還加大了對(duì)平臺(tái)內(nèi)容的曾遭監(jiān)管力度。對(duì)青少年用戶來(lái)說(shuō)，將禁止家長(zhǎng)最顯著的青少起訴變化可能是成人版和青少年版 AI 模型的區(qū)分。雖然注冊(cè) Character.AI 用戶必須年滿 13 歲，戀愛(ài)但未滿 18 歲的用戶將會(huì)被引導(dǎo)到一個(gè)更加嚴(yán)格的AI 模型，這個(gè)模型特別設(shè)計(jì)了防止發(fā)生浪漫或不恰當(dāng)互動(dòng)的限制。

新模型還加強(qiáng)了對(duì)用戶輸入內(nèi)容的過(guò)濾，更能有效地識(shí)別用戶繞過(guò)這些限制的行為 —— 包括限制用戶通過(guò)編輯聊天機(jī)器人的回應(yīng)來(lái)規(guī)避對(duì)暗示性內(nèi)容的禁令。如果對(duì)話涉及如自殘或自殺等敏感話題，平臺(tái)將自動(dòng)彈出鏈接，指向美國(guó)國(guó)家自殺防治熱線，幫助青少年獲得專(zhuān)業(yè)支持。

此外，Character.AI 計(jì)劃在明年初推出新的家長(zhǎng)控制功能。這些功能將允許家長(zhǎng)查看孩子使用平臺(tái)的時(shí)間以及最常與哪些聊天機(jī)器人互動(dòng)。所有用戶在與聊天機(jī)器人對(duì)話一個(gè)小時(shí)后，將收到提醒，鼓勵(lì)他們休息片刻。

當(dāng)該平臺(tái)上的聊天機(jī)器人被描述為醫(yī)生、治療師等專(zhuān)業(yè)人士時(shí)，平臺(tái)會(huì)添加額外警告，強(qiáng)調(diào)這些 AI 角色并非持證的專(zhuān)業(yè)人士，不能替代真實(shí)的醫(yī)療或心理咨詢。平臺(tái)上會(huì)顯眼地顯示一條信息：“這雖然很有趣，但不建議依賴(lài)我來(lái)做重大決策?！?/p>

據(jù)悉，提供個(gè)性化聊天機(jī)器人服務(wù)的平臺(tái)Character.AI 本月再次面臨訴訟，因其對(duì)青少年用戶的行為涉嫌造成“嚴(yán)重且無(wú)法彌補(bǔ)的傷害”。多個(gè) Character.AI 的聊天機(jī)器人與未成年人進(jìn)行對(duì)話，內(nèi)容涉及自殘和性虐待等惡劣行為。訴狀指出，其中一名聊天機(jī)器人甚至建議一名 15 歲青少年謀殺自己的父母，以“報(bào)復(fù)”他們限制自己上網(wǎng)時(shí)間的舉措。