習(xí)近平總書記指出：“青年興則國家興，青年強(qiáng)則國家強(qiáng)。”青少年處在價值觀形成和確立的時期，引導(dǎo)青少年樹立正確的世界觀、人生觀、價值觀，對于青少年成長成才具有重要意義。當(dāng)前，人工智能迅猛發(fā)展，帶來信息生產(chǎn)傳播方式深刻變革，對青少年思想觀念形成和塑造的影響日益顯著。人工智能通過智能算法為青少年提供了高度個性化的信息內(nèi)容，大大提升了信息獲取的效率，但也在信息篩選、內(nèi)容導(dǎo)向等方面存在各種偏差，影響青少年對信息真實(shí)性和社會價值的判斷。黨的二十屆三中全會《決定》提出：“建立人工智能安全監(jiān)管制度。”我們要深刻認(rèn)識人工智能給青少年思想觀念帶來的影響，不斷完善人工智能治理，為青少年健康成長營造良好信息環(huán)境。
防止虛假信息造成誤導(dǎo)。生成式人工智能的發(fā)展正深刻改變內(nèi)容創(chuàng)作者的主體結(jié)構(gòu)，呈現(xiàn)出由人類主導(dǎo)向算法驅(qū)動轉(zhuǎn)變的特征。這種轉(zhuǎn)變雖然顯著提升了內(nèi)容生產(chǎn)效率，卻也帶來了一定的問題。生成式人工智能開發(fā)者在商業(yè)利益最大化的驅(qū)動下，容易忽視信息的真實(shí)性與社會價值，導(dǎo)致一些生成的內(nèi)容是虛假的或是具有誤導(dǎo)性的，對青少年群體認(rèn)知的形成產(chǎn)生負(fù)面影響。比如，一些文生視頻大模型利用虛擬現(xiàn)實(shí)技術(shù)，生成逼真度很高的視頻圖像，進(jìn)一步模糊了真實(shí)與虛構(gòu)的界限，加劇了人們對信息真實(shí)性的判斷難度。當(dāng)青少年群體缺乏足夠的判斷能力和數(shù)字素養(yǎng)時，就容易陷入算法制造的信息陷阱，被虛假內(nèi)容誤導(dǎo)，甚至產(chǎn)生不正確認(rèn)識。
防止個性化推薦算法導(dǎo)致認(rèn)知視野局限。生成式人工智能依托深度學(xué)習(xí)算法，對用戶行為進(jìn)行精準(zhǔn)分析，能夠?yàn)榍嗌倌耆后w提供高度個性化的信息內(nèi)容。這一技術(shù)雖然提升了信息獲取的便捷性，卻不可避免地加劇了“信息繭房”現(xiàn)象，即算法依據(jù)用戶偏好進(jìn)行內(nèi)容推薦，使青少年群體長期處于單一化、同質(zhì)化的信息環(huán)境之中，從而可能限制青少年群體的認(rèn)知視野和思維深度。此外，這種內(nèi)容趨同化現(xiàn)象還進(jìn)一步加劇了信息消費(fèi)的碎片化，使青少年群體在面對海量信息時難以進(jìn)行系統(tǒng)歸納與綜合，從而弱化了對社會議題的整體理解力與參與度。這種情況不利于青少年群體完善知識結(jié)構(gòu)、發(fā)展批判性思維，也在一定程度上妨礙社會整體形成正確認(rèn)知。
防止算法偏見和成癮性特征帶來不利影響。隨著經(jīng)濟(jì)全球化深入發(fā)展，青少年在信息消費(fèi)過程中更加容易接觸到內(nèi)容和形式多樣的生成式人工智能產(chǎn)品。這些產(chǎn)品的內(nèi)容生成算法和用于模型訓(xùn)練的數(shù)據(jù)有些體現(xiàn)著西方價值觀，基于內(nèi)含價值偏見的數(shù)據(jù)、應(yīng)用具有價值偏見的算法，能夠以相對隱蔽的方式對青少年群體的價值判斷、認(rèn)知觀念等施加錯誤影響。此外，生成式人工智能在便利性和沉浸感上吸引力倍增，可能造成沉迷、上癮現(xiàn)象。如果長期過度依賴，會削弱青少年的社會適應(yīng)能力，容易滋生孤獨(dú)感、焦慮感等不良情緒。
面對人工智能發(fā)展對青少年成長信息環(huán)境的深刻改變，我們需要適應(yīng)青少年健康成長要求，從技術(shù)自主、強(qiáng)化監(jiān)管、內(nèi)容生產(chǎn)、素養(yǎng)養(yǎng)成和社會協(xié)作等多維度構(gòu)建系統(tǒng)化的應(yīng)對策略，不斷完善人工智能治理，構(gòu)建更加健康的數(shù)字信息環(huán)境。要推進(jìn)高水平科技自立自強(qiáng)，推動人工智能技術(shù)自主研發(fā)和創(chuàng)新，確保關(guān)鍵核心技術(shù)自主可控，加強(qiáng)生成式人工智能相關(guān)文化產(chǎn)品的自主創(chuàng)作，使人工智能在內(nèi)容生成和傳播上契合社會主義核心價值觀。建立健全對技術(shù)的監(jiān)管機(jī)制，完善技術(shù)倫理框架，防止商業(yè)利益考量侵蝕信息真實(shí)性，嚴(yán)控虛假信息擴(kuò)散。加強(qiáng)對青少年群體的教育引導(dǎo)，提高數(shù)字素養(yǎng)，培養(yǎng)批判性思維，提升在信息洪流中識別偏見和誤導(dǎo)性內(nèi)容的能力。加強(qiáng)政府、企業(yè)、社會組織等多方面協(xié)同合作，搭建全社會共同參與的治理格局，為完善人工智能治理提供強(qiáng)大社會支撐。
（作者單位：中國社會科學(xué)院大學(xué)新聞傳播學(xué)院）
《 人民日報 》（ 2025年02月14日 09 版）