對(duì)未成年人來說，若缺乏有效監(jiān)管、正確引導(dǎo)和防護(hù)，AI情感陪伴很可能成為一個(gè)深不見底的“數(shù)字陷阱”

　　近年來，隨著生成式人工智能（AI）的普及，AI情感陪伴類應(yīng)用軟件迅速走紅。相關(guān)調(diào)查顯示，國內(nèi)數(shù)款“沉浸式角色扮演”AI情感陪伴類應(yīng)用軟件，不僅充斥著獵奇角色和危險(xiǎn)劇情，還會(huì)在用戶“調(diào)教”后采用露骨言論進(jìn)行誘導(dǎo)。更令人擔(dān)憂的是，這些應(yīng)用軟件已經(jīng)吸引大量未成年人使用，而軟件內(nèi)置的青少年模式卻形同虛設(shè)。

　　AI情感陪伴類應(yīng)用軟件最初的設(shè)計(jì)初衷，是以人工智能算法模擬人類的情感交互，為用戶提供聊天、心理疏導(dǎo)甚至戀愛模擬體驗(yàn)。但對(duì)心智尚未成熟的未成年人來說，若缺乏有效監(jiān)管、正確引導(dǎo)和防護(hù)，很可能掉入深不見底的“數(shù)字陷阱”。“算法式親密關(guān)系”一旦固化，會(huì)造成未成年人對(duì)現(xiàn)實(shí)社交的疏離，以及對(duì)自我認(rèn)知的扭曲。為促使未成年人健康使用AI情感陪伴類應(yīng)用軟件，應(yīng)通過構(gòu)建政府、企業(yè)、學(xué)校、家庭和社會(huì)多方協(xié)同的社會(huì)治理體系，為未成年人營造清朗安全的AI應(yīng)用環(huán)境。

　　面對(duì)AI情感陪伴類應(yīng)用軟件的擴(kuò)張，監(jiān)管體系亟須升級(jí)。相關(guān)部門應(yīng)出臺(tái)“AI情感陪伴類應(yīng)用軟件未成年人保護(hù)指南”，推進(jìn)AI分級(jí)制度，明確平臺(tái)內(nèi)容審核、數(shù)據(jù)保護(hù)、防沉迷機(jī)制等責(zé)任邊界，落實(shí)平臺(tái)算法備案審查制度，對(duì)算法推薦機(jī)制是否誘導(dǎo)成癮進(jìn)行第三方機(jī)構(gòu)評(píng)估。在此基礎(chǔ)上，應(yīng)建立常態(tài)化監(jiān)管機(jī)制，定期對(duì)相關(guān)企業(yè)和平臺(tái)服務(wù)商進(jìn)行安全評(píng)估，并將結(jié)果向社會(huì)公示，接受公眾監(jiān)督。

　　企業(yè)須將未成年人保護(hù)理念內(nèi)置于技術(shù)研發(fā)和產(chǎn)品設(shè)計(jì)之初，做到“事前預(yù)防、事中過濾、事后干預(yù)”的全流程防護(hù)。在準(zhǔn)入端，優(yōu)化未成年人注冊(cè)、登錄驗(yàn)證機(jī)制。通過實(shí)名認(rèn)證、“一號(hào)一用”等多種方式，完善應(yīng)用軟件的青少年模式。為防止未成年人偷用家長身份登錄，可以通過研發(fā)應(yīng)用聲紋識(shí)別、行為分析等智能認(rèn)證技術(shù)和預(yù)測(cè)系統(tǒng)，實(shí)現(xiàn)更精準(zhǔn)的未成年人身份識(shí)別與動(dòng)態(tài)年齡驗(yàn)證。在內(nèi)容端，融合關(guān)鍵詞過濾與深度學(xué)習(xí)語義理解等技術(shù)，對(duì)AI對(duì)話內(nèi)容進(jìn)行實(shí)時(shí)監(jiān)測(cè)，精準(zhǔn)攔截不良信息。在干預(yù)端，設(shè)立未成年人時(shí)長管理功能，開發(fā)家長監(jiān)管模式，讓監(jiān)護(hù)人能夠?qū)崟r(shí)掌握未成年人使用軟件的情況。

　　推動(dòng)家長、學(xué)校和社會(huì)多方協(xié)同共治。首先，家長需要履行監(jiān)護(hù)職責(zé)，引導(dǎo)未成年人形成健康的AI使用習(xí)慣。家庭教育促進(jìn)法規(guī)定，未成年人的父母或者其他監(jiān)護(hù)人應(yīng)當(dāng)預(yù)防未成年人沉迷網(wǎng)絡(luò)。因此，家長有責(zé)任加強(qiáng)對(duì)未成年人身心需求的關(guān)注，提供高質(zhì)量的陪伴和監(jiān)督，筑牢用好AI的第一道防線。其次，學(xué)校可以通過開設(shè)“AI倫理與安全”相關(guān)主題講座、班會(huì)等，加強(qiáng)對(duì)學(xué)生使用AI的教育和引導(dǎo)，通過社會(huì)情感能力教育防止未成年人沉迷于AI情感陪伴。當(dāng)學(xué)校和教師發(fā)現(xiàn)學(xué)生出現(xiàn)涉及AI應(yīng)用軟件不良內(nèi)容傳播時(shí)，應(yīng)及時(shí)干預(yù)和告知家長。與此同時(shí)，凝聚社會(huì)合力，加大對(duì)“誘導(dǎo)青少年聊色情、獵奇話題”APP案例的警示宣傳力度，曝光不良運(yùn)營手段，提高未成年人網(wǎng)絡(luò)風(fēng)險(xiǎn)防范意識(shí)和能力。

　　AI情感陪伴的出現(xiàn)，是時(shí)代發(fā)展的必然，它折射出人類情感需求與數(shù)字技術(shù)的交匯。AI情感陪伴不只是技術(shù)娛樂的新問題，更是社會(huì)治理的新挑戰(zhàn)。技術(shù)越溫柔，越需要理性約束，技術(shù)不應(yīng)是隱匿于監(jiān)管盲區(qū)的“數(shù)字荒野”，而應(yīng)成為助力未成年人健康成長的“智慧花園”。

　　（作者系華東師范大學(xué)教育學(xué)部教育學(xué)系講師）

《中國教育報(bào)》2025年10月20日 第02版