人工智能（AI）正在從“工具”走向“伙伴”。相關調研顯示，超七成用戶與AI建立起情感聯(lián)結，甚至產(chǎn)生過依賴感。從日常工作學習到聊天輔助，從情感傾訴到虛擬陪伴，當AI扮演起“社交避風港”“情緒止痛藥”等角色時，其背后的價值觀引導、虛擬情感成癮等潛在風險不容忽視。

日前，國家網(wǎng)信辦等五部門聯(lián)合公布《人工智能擬人化互動服務管理暫行辦法》（以下簡稱《辦法》），將于7月15日起施行?！掇k法》鼓勵擬人化互動服務創(chuàng)新發(fā)展，對擬人化互動服務實行包容審慎和分類分級監(jiān)管，也規(guī)定了擬人化互動服務提供者的未成年人、老年人權益保護和個人信息保護等義務。AI擬人化互動產(chǎn)業(yè)進入了有規(guī)可依的新發(fā)展階段。

中國政法大學人工智能法研究院院長、教授張凌寒分析，不同于傳統(tǒng)的AI信息發(fā)布或檢索服務，擬人化互動服務具有主動性、個性化和情感化特征，通過模擬人類的語言、表情、行為方式等，能夠與用戶建立類似人際關系的互動模式，其影響力和滲透性遠超傳統(tǒng)互聯(lián)網(wǎng)服務?！斑@種高度擬人化的交互模式所產(chǎn)生的風險，與一般AI應用存在本質差異，表現(xiàn)為情感依賴與社交異化、認知操縱與價值觀引導，以及心理健康與安全風險等?！?/p>

騰訊研究院一項針對2903名18歲至40歲中國青年網(wǎng)民的調查顯示，AI社交已近乎全面滲透，94.4%的調研對象至少聽說過一種AI社交產(chǎn)品或功能，其中98.8%的人有過實際使用經(jīng)驗。AI社交輔助類工具的使用率最高，達到62.5%。當產(chǎn)生“難以對人說出口”的想法時，選擇向AI傾訴的比例（56.0%）是選擇向真人傾訴（14.4%）的近4倍。

“大語言模型技術已經(jīng)從單純的認知智能向情感智能躍遷?！辟惖项檰柸斯ぶ悄芘c大數(shù)據(jù)研究中心研究分析師白潤軒觀察到，2025年以來，AI社交互動的用戶黏性極高，部分應用人均使用頻次甚至超過了短視頻和游戲?！斑@種深度的情感鏈接雖然帶來了巨大的商業(yè)價值，但也伴生了深度沉迷、倫理邊界模糊等風險。”

特別是對于未成年人，長期的AI擬人化情感互動帶來持續(xù)的情感反饋與情緒刺激，促使多巴胺反復分泌并強化心理愉悅感，逐步形成行為渴求與依賴慣性，“成癮”可能性更大。此次《辦法》的出臺旨在把隱性風險顯性化、標準化，降低長期不確定性。不過，合規(guī)發(fā)展并非“一刀切”，而是分類分級、風險匹配。例如，《辦法》要求服務提供者建立情感邊界引導、心理健康保護等安全能力，設置防沉迷提醒，對長時間、高強度的互動進行干預，規(guī)定用戶連續(xù)使用超過2個小時，就將以彈窗等方式提醒用戶。

“AI擬人化互動帶來的無摩擦式情感陪伴，確實容易擠占未成年人現(xiàn)實社交空間，弱化其線下交往能力與社會適應能力。”張凌寒表示，受業(yè)態(tài)發(fā)展階段、技術適配性以及行業(yè)現(xiàn)實等多重因素制約，《辦法》目前只是確立了原則性、框架性規(guī)則。她建議，在后續(xù)落地實施中，需結合風險等級、應用場景、群體差異進行分層細化，建立更具量化標準、可落地執(zhí)行的法律判定閾值，實現(xiàn)精細化治理。

白潤軒認為，此次《辦法》并非“急剎車”，而是行業(yè)已達“設護欄的臨界點”，旨在防止技術異化，確保人機關系良性發(fā)展?！斑^去，部分產(chǎn)品依靠打擦邊球、誘導消費來獲取流量，一定程度上透支了行業(yè)的未來。新規(guī)實施后，合規(guī)成本會上升，但也會倒逼企業(yè)從流量思維轉向產(chǎn)品思維。短期內可能會有洗牌，但長期看，情緒經(jīng)濟將進入規(guī)范化高質量發(fā)展的新階段。監(jiān)管不是消滅AI陪伴，而是把危險的依賴關系變成安全的輔助關系，為養(yǎng)老、教育、心理健康、文化傳播等打開更大空間?！?/p>

未來，AI陪伴類應用的算法優(yōu)化需引入更復雜的獎勵模型。白潤軒舉例介紹，訓練AI在識別到用戶出現(xiàn)極端情緒、不合理決策或危險傾向時，應溫和但堅定地進行干預，而非盲目附和，這需要從RLHF（人類反饋強化學習）階段就植入心理健康和安全準則。再比如，當監(jiān)測到用戶連續(xù)使用超過一定時長，或者在非常規(guī)時間段高頻互動時，AI不僅要彈窗提醒，更要在對話策略上主動引導用戶回歸現(xiàn)實生活。