雷峰心水i38975com

近年來(lái)，伴隨情感計(jì)算、自然語(yǔ)言處理、多模態(tài)交互等人工智能技術(shù)發(fā)展，人工智能擬人化互動(dòng)服務(wù)通過(guò)模擬人類(lèi)人格特征、思維模式和溝通風(fēng)格，實(shí)現(xiàn)從“機(jī)械對(duì)話(huà)”向“深度共情”跨越，成為藏在用戶(hù)屏幕背后的“情緒搭子”。但與此同時(shí)，人工智能擬人化互動(dòng)服務(wù)也面臨信息安全、隱私侵犯、社會(huì)倫理、未成年人保護(hù)等多重風(fēng)險(xiǎn)挑戰(zhàn)。

國(guó)家互聯(lián)網(wǎng)應(yīng)急中心副處長(zhǎng)張震表示，擬人化互動(dòng)服務(wù)作為人工智能技術(shù)應(yīng)用的新形態(tài)，具有鮮明的技術(shù)特征和顯著的風(fēng)險(xiǎn)特征。例如：情感交互的深度性雷峰心水i38975com，不同于傳統(tǒng)的信息查詢(xún)、內(nèi)容生成等功能性服務(wù)，擬人化互動(dòng)服務(wù)通過(guò)算法模擬人類(lèi)情感反應(yīng)機(jī)制雷峰心水i38975com，能夠與用戶(hù)建立情感聯(lián)結(jié)，對(duì)用戶(hù)心理狀態(tài)和行為模式產(chǎn)生深層次影響；用戶(hù)關(guān)系的持續(xù)性，擬人化互動(dòng)服務(wù)往往涉及長(zhǎng)期性、高頻次的交互過(guò)程，用戶(hù)可能與人工智能系統(tǒng)建立類(lèi)似人際關(guān)系的情感紐帶，這種持續(xù)性互動(dòng)關(guān)系使得潛在風(fēng)險(xiǎn)不斷累積和放大。

擬人化互動(dòng)服務(wù)因其高度情感回應(yīng)性與陪伴特性，具有天然的沉迷風(fēng)險(xiǎn)。《辦法》提出，服務(wù)提供者應(yīng)當(dāng)顯著提示用戶(hù)正在與人工智能而非自然人進(jìn)行交互。在用戶(hù)初次使用、重新登錄時(shí)，應(yīng)以彈窗等方式動(dòng)態(tài)提醒用戶(hù)交互內(nèi)容為人工智能生成。事中階段，要求設(shè)置中斷冷卻提醒功能。要求用戶(hù)連續(xù)使用服務(wù)超過(guò)一定時(shí)長(zhǎng)時(shí)，應(yīng)以彈窗等形式提醒用戶(hù)休息，旨在周期性打破算法營(yíng)造的沉浸式幻覺(jué)。

與此同時(shí)，《辦法》還著重強(qiáng)調(diào)對(duì)用戶(hù)交互信息的嚴(yán)格保護(hù)。“情感類(lèi)個(gè)人信息能夠映射用戶(hù)的內(nèi)心世界、情感弱點(diǎn)與潛意識(shí)傾向雷峰心水i38975com，不當(dāng)利用可能會(huì)引發(fā)心理操控、待遇歧視及情感勒索等風(fēng)險(xiǎn)。同時(shí)，‘情感計(jì)算’相關(guān)技術(shù)可能被用于提供成癮性服務(wù)，使用戶(hù)在無(wú)意識(shí)中暴露更多的敏感信息。因此雷峰心水i38975com，對(duì)用戶(hù)交互數(shù)據(jù)施加更嚴(yán)格的目的限制、安全存儲(chǔ)與使用禁令，是人格權(quán)保護(hù)在數(shù)智時(shí)代的延伸。”林維說(shuō)。

＠聯(lián)系我們
-應(yīng)用內(nèi)反饋:「我」-「右上角菜單」-「設(shè)置」-「反饋與幫助」
客戶(hù)24小時(shí)在線(xiàn)服務(wù)

運(yùn)用全新的功能，讓使用更加安全便捷