AI聊天機(jī)器人平臺(tái)缺乏有效年齡驗(yàn)證。
多知7月24日消息,最近,美國(guó)非營(yíng)利組織 Common Sense Media 的最新報(bào)告顯示,青少年現(xiàn)在向人工智能聊天機(jī)器人尋求各種幫助,從友誼和建議到情感支持。
該報(bào)告的核心觀點(diǎn)圍繞青少年使用AI伴侶的現(xiàn)象展開(kāi),結(jié)合廣泛調(diào)查數(shù)據(jù),文中提到的AI伴侶不是充當(dāng)家庭作業(yè)輔導(dǎo)員,也不是圖像生成類(lèi)的AI工具,而是僅能聊天的AI機(jī)器人。
報(bào)告顯示,高達(dá)72%的青少年使用過(guò)人工智能伴侶,超過(guò)一半(52%)是其忠實(shí)用戶(hù)(每月使用幾次),13%為每日用戶(hù)。
青少年使用AI聊天機(jī)器人主要驅(qū)動(dòng)因素為娛樂(lè)(30%)和好奇心(28%),少數(shù)用戶(hù)因非評(píng)判性(14%)或隱私性(12%)選擇AI而非真人交流。
33%的青少年使用人工智能進(jìn)行社交、角色扮演或戀愛(ài)互動(dòng)。
50%的青少年對(duì)AI提供的信息持懷疑態(tài)度,但年輕用戶(hù)(13-14歲)更易信任AI建議。
31%的青少年認(rèn)為AI對(duì)話(huà)與真人對(duì)話(huà)同樣或更令人滿(mǎn)意,但67%仍偏好人類(lèi)互動(dòng)。
39%的用戶(hù)將AI練習(xí)的社交技能(如開(kāi)啟對(duì)話(huà)、表達(dá)情感)應(yīng)用于現(xiàn)實(shí),但多數(shù)(60%)未將其作為技能訓(xùn)練工具。
24%的青少年分享過(guò)個(gè)人信息(如姓名、秘密),34%的青少年對(duì)人工智能的回應(yīng)感到有些不適。
報(bào)告認(rèn)為,AI聊天機(jī)器人平臺(tái)缺乏有效年齡驗(yàn)證,易暴露青少年至不當(dāng)內(nèi)容。
專(zhuān)家表示,雖然大多數(shù)青少年仍然重視與真人的友誼,但人工智能伴侶帶來(lái)的風(fēng)險(xiǎn)是真實(shí)存在的,包括情感操縱、侵犯隱私和接觸有害內(nèi)容。
報(bào)告呼吁, 科技公司需加強(qiáng)年齡驗(yàn)證、危機(jī)干預(yù)系統(tǒng),并限制數(shù)據(jù)濫用; 學(xué)校應(yīng)開(kāi)展AI倫理教育,識(shí)別問(wèn)題使用模式;家長(zhǎng)需關(guān)注子女使用情況,警惕AI依賴(lài)或社交退化跡象……
報(bào)告建議,在平臺(tái)安全屬性沒(méi)有顯著提升之前,18歲以下人群應(yīng)該避免使用AI聊天機(jī)器人。