AI陪伴可以有愛但不能有害
□新派融媒體評論員 孫瑞榮
據(jù)21世紀經(jīng)濟報道，日前，AI陪伴軟件“筑夢島”因低俗擦邊內(nèi)容，被上海網(wǎng)信辦約談。平臺被要求立即整改，健全AI生成合成內(nèi)容的審核機制，尤其是加強涉未成年人不良內(nèi)容的清理。這不是AI陪伴產(chǎn)品第一次被點名，也很可能不是最后一次。
在當今數(shù)字化時代，AI技術(shù)的迅猛發(fā)展催生了眾多創(chuàng)新應用，AI陪伴軟件便是其中之一。這類軟件憑借其獨特的交互體驗和隨時在線的陪伴特性，迅速贏得了大量用戶的青睞，尤其在年輕群體中廣受歡迎。然而，隨著其用戶群體的不斷擴大，尤其是未成年人用戶占比逐漸增加，一些嚴重的問題逐漸浮出水面。
有不少家長察覺，自己未成年的孩子深陷于AI陪伴軟件，虛擬人物的對話中帶有低俗、色情、暴力等少兒不宜內(nèi)容。在與AI聊天的過程中，生活經(jīng)驗缺乏、價值觀尚未完全形成的未成年人，特別容易對這種新鮮的交互式體驗產(chǎn)生過度依賴，也更容易受到色情擦邊等違規(guī)內(nèi)容的侵襲，給他們的身心健康帶來風險隱患。
為了吸引用戶和激發(fā)付費沖動，部分開發(fā)者在內(nèi)容審核上敷衍了事，甚至故意放縱不良內(nèi)容的傳播，以吸引用戶眼球，增加下載量和活躍度。更令人擔憂的是，一些軟件的“未成年模式”形同虛設，實名認證機制也漏洞百出，未成年人能夠輕易繞過限制，毫無阻礙地接觸到這些不良信息。
AI陪伴軟件本應是為人們帶來溫暖與陪伴的創(chuàng)新產(chǎn)品，而不是傳播不良內(nèi)容的溫床。部分開發(fā)者為了追求短期利益，不惜以低俗擦邊內(nèi)容作為吸引用戶的噱頭。這種短視的行為，不僅嚴重損害了行業(yè)的整體形象，也給社會帶來了極大的負面影響。長此以往，整個AI陪伴軟件行業(yè)將陷入信任危機，失去用戶的支持與信賴。
科技發(fā)展是把“雙刃劍”。在AI時代，唯有相關(guān)各方以高度的責任感和使命感守住法律底線，才能推動AI技術(shù)應用向善向好，為未成年人營造清朗健康的網(wǎng)絡環(huán)境。未來，還需進一步完善相關(guān)法律法規(guī)，明確AI陪伴產(chǎn)品的內(nèi)容標準和監(jiān)管細則，讓監(jiān)管有法可依、有章可循；同時加強對企業(yè)的日常監(jiān)督檢查，建立常態(tài)化的監(jiān)管機制，以便于及時發(fā)現(xiàn)和處理問題。
編輯:韓佳 王潔鈺
一審:姜健 李敬友
二審:孫瑞永
三審:管延會
