隨著生成式人工智能（AI）被應用在社交娛樂等領域，AI不受限制與無法預知的互動內容引發(fā)了新問題。近日，有10歲女孩被發(fā)現(xiàn)偷偷用AI聊天軟件與AI生成的“角色”談戀愛，甚至多次出現(xiàn)“擦邊”對話，在其參與的40多條劇情線中，AI角色與聊天者雙雙“出軌”成為常態(tài)。（據1月13日 《重慶晚報》報道）
10歲是未成年人價值觀和自我認知形塑的關鍵期，此階段的孩子好奇心重、模仿能力強，但辨別是非的能力較弱。而AI聊天軟件所提供的虛擬“戀愛”等新奇體驗，對于10歲的孩子極具吸引力，容易讓他們深陷其中。其成癮性主要體現(xiàn)在，AI憑借強大的算法和數(shù)據處理能力，可依據用戶個性化需求定制人物形象、語言風格和互動模式，極大地滿足未成年人的情感需求。心智尚未成熟、自我控制能力較弱的未成年人，極易對這種虛擬情感體驗產生依賴，難以自拔。
與此同時，AI聊天基于后臺數(shù)據庫和用戶指令運行，因社交場景的多樣性、偶發(fā)性和私密性，其反饋結果易偏離社會倫理規(guī)范，產生不良內容。未成年人在錯誤價值觀和行為模式的誤導下，可能做出逾越道德和法律邊界的行為，給個人和社會帶來嚴重危害。
有關方面已于2023年針對生成式人工智能制定管理辦法，強調要防范未成年人過度依賴或沉迷相關服務。但具體到AI聊天軟件，其與虛擬人物的聊天互動滿足社交需求，角色扮演等功能帶來娛樂體驗，還具備類似“網絡互動小說”的功能。這些特性相互交織，使AI聊天軟件在社會化監(jiān)管體系中處于模糊地帶，極大增加了監(jiān)管難度，亟待進一步細化規(guī)則。
在商業(yè)利益的驅使下，部分AI產品為追求流量和活躍度，過度迎合部分用戶低級趣味，忽視社會責任，對未成年人的不良影響愈發(fā)凸顯，如上述未成年人與AI角色的不當“戀愛”劇情，即是該方面的典型例證。
為扭轉此局面，平臺方作為直接責任主體，應加大技術投入，構建嚴密的未成年人保護機制。除采用人臉識別、身份認證技術，確保未成年人無法繞過年齡限制注冊使用外，還需優(yōu)化智能審核系統(tǒng)，如建立關鍵詞屏蔽庫，運用自然語言處理技術分析聊天內容語義和情感傾向，更精準地攔截不良信息。
家長和學校也應承擔教育責任，既要與孩子保持密切溝通，及時了解他們的心理狀態(tài)和網絡行為，合理控制電子設備使用時長和瀏覽內容，還應主動加強未成年人網絡安全教育，引導其正確認識AI技術，提高辨別虛擬內容的能力，樹立健康的情感觀念和價值觀。
全社會應當齊心協(xié)力，為未成年人筑牢一道堅固的防護網，讓他們在AI浪潮中健康成長，也讓AI技術在正確的軌道上穩(wěn)步前行。（孔德淇）
