新華報(bào)業(yè)網(wǎng)
近日，有網(wǎng)友反映，其花費(fèi)30元購買的《人像攝影口袋書》存在嚴(yán)重問題：書中大量人像圖片疑似AI生成，部分人物出現(xiàn)六根手指、六根腳趾等明顯錯(cuò)誤，全書159張示范圖中，AI生成圖片約占75張（近50%），且面部模糊、光影生硬、手部姿態(tài)扭曲等問題頻現(xiàn)。
這些內(nèi)容完全脫離真實(shí)拍攝場景，不僅誤導(dǎo)讀者，也對攝影專業(yè)構(gòu)成不尊重。攝影強(qiáng)調(diào)真實(shí)、瞬間與情感表達(dá)，用六根手指講解手部動(dòng)作、用呆滯的AI面孔示范情緒表達(dá)，這些“示范”已無法承擔(dān)教學(xué)功能，更削弱了讀者入門階段的理解。
類似爭議并非個(gè)例。此前某攝影比賽中，疑似AI生成的獲獎(jiǎng)作品被網(wǎng)友發(fā)現(xiàn)多處算法瑕疵，最終被撤銷成績。隨著文字、圖片、視頻生成技術(shù)普及，“技術(shù)賦能個(gè)體”“單人成軍”已成可能，但與此同時(shí)，虛假信息的制作門檻正隨之降低，“有圖未必有真相”“所見未必為實(shí)”逐漸成為現(xiàn)實(shí)隱憂，其危害性和識別難度同步上升，已成為全球治理挑戰(zhàn)。
“AI照騙”的爭議，并不只存在于網(wǎng)購場景。當(dāng)AI生成的圖片開始直接進(jìn)入教材、教程等專業(yè)領(lǐng)域，問題甚至比商品美化更為嚴(yán)峻——前者影響消費(fèi)判斷，后者則可能誤導(dǎo)認(rèn)知與學(xué)習(xí)。無論是“用AI賣東西”，還是“把AI當(dāng)成東西賣”，其背后都指向同一個(gè)倫理命題：技術(shù)可以參與，但不能越界。
當(dāng)然，討論AI的應(yīng)用邊界，并不意味著否定技術(shù)本身。當(dāng)下，AI在反腐、審計(jì)、醫(yī)療影像等領(lǐng)域，已經(jīng)展現(xiàn)出顯著優(yōu)勢，甚至在某些場景下，突破了人力的局限。問題不在于“用不用AI”，而在于誰來界定規(guī)則、如何約束用途。守住邊界，本身也是AI得以被信任、被廣泛應(yīng)用的前提。始終需要保持清醒：AI是強(qiáng)大的輔助工具，而非內(nèi)容創(chuàng)作的主體；同時(shí)也必須承認(rèn)，邊界并非一成不變。
隨著AI技術(shù)的應(yīng)用能力提升，一些曾視為禁區(qū)的應(yīng)用或許會逐步納入規(guī)范，但規(guī)則會調(diào)整——越是技術(shù)強(qiáng)大，越需要清晰規(guī)范；越是復(fù)雜場景，越不能讓“能不能做”替代“該不該做”?！度斯ぶ悄苌珊铣蓛?nèi)容標(biāo)識辦法》于2025年9月1日實(shí)施，要求AI生成內(nèi)容在商業(yè)使用中進(jìn)行標(biāo)識。相關(guān)書籍未作任何標(biāo)注，顯然與規(guī)定相悖。這一案例是一次警示，規(guī)則的落地需要編撰者的自覺、出版機(jī)構(gòu)的審核、行業(yè)的監(jiān)督與法律的執(zhí)行共同形成合力。
AI入侵“專業(yè)性”書籍是個(gè)例也是一次警示，可以預(yù)見，隨著“AI手機(jī)”等產(chǎn)品推向市場，相關(guān)技術(shù)將在未來幾年更深入地融入日常生活。當(dāng)教材因AI示例濫用而公信力受損，更需要以誠實(shí)之心看世界，以審慎之心駕馭技術(shù)。AI可以賦能，但行動(dòng)的主體永遠(yuǎn)是人。技術(shù)步伐可以加速，但守住邊界、堅(jiān)守真實(shí)與知識質(zhì)量，不可打折、不可妥協(xié)。
或許，“偽教材”中的“六指琴魔”也可能進(jìn)化成“六耳獼猴”，讓人真假難辨。然而，人們的判斷力、對知識與藝術(shù)的敬畏，不應(yīng)被技術(shù)替代，教材的編者、出版的“守門人”、行業(yè)協(xié)會乃至每一位讀者，都應(yīng)成為這道邊界的共同守護(hù)者。AI是工具，而非主角；守住邊界，才能讓技術(shù)真正為人類服務(wù)。
（胡朔）
Android版
iPhone版
