億德網絡科技有限公司
億德集團
億德科技最新消息
億德是什么意思
億德投資
億德電商
億德app下載
億德科技有限公司怎么樣
億德科技有限公司做什么的
億德企業(yè)管理有限公司
近年來,伴隨情感計算、自然語言處理、多模態(tài)交互等人工智能技術發(fā)展,人工智能擬人化互動服務通過模擬人類人格特征、思維模式和溝通風格,實現從“機械對話”向“深度共情”跨越,成為藏在用戶屏幕背后的“情緒搭子”。但與此同時,人工智能擬人化互動服務也面臨信息安全、隱私侵犯、社會倫理、未成年人保護等多重風險挑戰(zhàn)。
國家互聯網應急中心副處長張震表示,擬人化互動服務作為人工智能技術應用的新形態(tài),具有鮮明的技術特征和顯著的風險特征。例如:情感交互的深度性,不同于傳統(tǒng)的信息查詢、內容生成等功能性服務,擬人化互動服務通過算法模擬人類情感反應機制,能夠與用戶建立情感聯結,對用戶心理狀態(tài)和行為模式產生深層次影響;用戶關系的持續(xù)性,擬人化互動服務往往涉及長期性、高頻次的交互過程,用戶可能與人工智能系統(tǒng)建立類似人際關系的情感紐帶,這種持續(xù)性互動關系使得潛在風險不斷累積和放大。
擬人化互動服務因其高度情感回應性與陪伴特性,具有天然的沉迷風險。《辦法》提出,服務提供者應當顯著提示用戶正在與人工智能而非自然人進行交互。在用戶初次使用、重新登錄時,應以彈窗等方式動態(tài)提醒用戶交互內容為人工智能生成。事中階段,要求設置中斷冷卻提醒功能。要求用戶連續(xù)使用服務超過一定時長時,應以彈窗等形式提醒用戶休息,旨在周期性打破算法營造的沉浸式幻覺。
與此同時,《辦法》還著重強調對用戶交互信息的嚴格保護?!扒楦蓄悅€人信息能夠映射用戶的內心世界、情感弱點與潛意識傾向,不當利用可能會引發(fā)心理操控、待遇歧視及情感勒索等風險。同時,‘情感計算’相關技術可能被用于提供成癮性服務,使用戶在無意識中暴露更多的敏感信息。因此,對用戶交互數據施加更嚴格的目的限制、安全存儲與使用禁令,是人格權保護在數智時代的延伸?!绷志S說。
864顏志黛u
北京市政務服務中心打造政務大廳新范式
2026/01/01 推薦
7192軒轅韻紅950
CBA常規(guī)賽:遼寧男籃不敵上海男籃遭遇四連敗
2025/12/31 推薦
240賈容倫ih
國務院辦公廳印發(fā)《落實水資源剛性約束制度考核辦法》
2025/12/30 不推薦