對(duì)教育行業(yè)有何影響？逐條拆解AI新規(guī)《生成式人工智能服務(wù)管理暫行辦法》

　　文|百千 教育行業(yè)研究者

　　編者按：

　　本文系多知網(wǎng)投稿，作者百千。近期，《生成式人工智能服務(wù)管理暫行辦法》公布，作者逐條解讀了《辦法》及其對(duì)教育行業(yè)可能帶來的影響。其中，不管是境外AIGC公司或者接入境外API的境內(nèi)公司，不管是基座模型層面，或者是應(yīng)用層面，均會(huì)受到該《辦法》管理。由此可見，若嚴(yán)格按照《辦法》執(zhí)行，對(duì)于中小企業(yè)，AIGC在教育領(lǐng)域面臨持續(xù)支出而創(chuàng)收較弱的問題。

　　7月12日，《生成式人工智能服務(wù)管理暫行辦法》(后稱《辦法》)對(duì)外公布，距離其征求意見稿發(fā)布僅3個(gè)月，并將于2023年8月15日起施行。速度不可謂不快，也足以見國(guó)家對(duì)生成式人工智能的關(guān)注度及監(jiān)管的緊迫性。

　　相比科技行業(yè)，教育行業(yè)向來屬于慢行業(yè)，但教育卻以內(nèi)容為核心。本次AIGC對(duì)內(nèi)容生產(chǎn)將起到巨大影響，教育行業(yè)也不可避免。接下來，我們將詳細(xì)解讀《辦法》及其對(duì)教育行業(yè)可能帶來的影響。

　　發(fā)布單位有國(guó)家互聯(lián)網(wǎng)信息辦公室、中華人民共和國(guó)國(guó)家發(fā)展和改革委員會(huì)、中華人民共和國(guó)教育部、中華人民共和國(guó)科學(xué)技術(shù)部、中華人民共和國(guó)工業(yè)和信息化部、中華人民共和國(guó)公安部、國(guó)家廣播電視總局。

　　解析：該《辦法》以網(wǎng)信辦牽頭，優(yōu)先監(jiān)管為互聯(lián)網(wǎng)企業(yè)或者線上內(nèi)容，基于AIGC技術(shù)生成線下產(chǎn)品或服務(wù)的企業(yè)在監(jiān)管優(yōu)先級(jí)上略微靠后。其他部委參與發(fā)布，可增強(qiáng)法律權(quán)威性和適用范圍，但預(yù)計(jì)不久后上述各個(gè)部委將發(fā)布針對(duì)各自領(lǐng)域的政策細(xì)則。教育企業(yè)核心關(guān)注教育部相關(guān)細(xì)則。

　　第一條：為了促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益，根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》、《中華人民共和國(guó)數(shù)據(jù)安全法》、《中華人民共和國(guó)個(gè)人信息保護(hù)法》、《中華人民共和國(guó)科學(xué)技術(shù)進(jìn)步法》等法律、行政法規(guī)，制定本辦法。

　　解析：首要監(jiān)管范圍，在網(wǎng)絡(luò)安全、數(shù)據(jù)安全、個(gè)人信息安全、技術(shù)產(chǎn)權(quán)等領(lǐng)域。大多教育企業(yè)在技術(shù)方面依賴第三方技術(shù)公司，可向供應(yīng)商提及相關(guān)需求，增加該類管控。特別要關(guān)注數(shù)據(jù)出境問題。

　　第二條：利用生成式人工智能技術(shù)向中華人民共和國(guó)境內(nèi)公眾提供生成文本、圖片、音頻、視頻等內(nèi)容的服務(wù)(以下稱生成式人工智能服務(wù))，適用本辦法。

　　國(guó)家對(duì)利用生成式人工智能服務(wù)從事新聞出版、影視制作、文藝創(chuàng)作等活動(dòng)另有規(guī)定的，從其規(guī)定。

　　行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等研發(fā)、應(yīng)用生成式人工智能技術(shù)，未向境內(nèi)公眾提供生成式人工智能服務(wù)的，不適用本辦法的規(guī)定。

　　解析：明確對(duì)象。公司若面向海外客戶，可不受該《辦法》限制。據(jù)調(diào)研，確有部分基于AIGC的國(guó)內(nèi)教育公司，其產(chǎn)品僅面向海外。

　　另外，若各類機(jī)構(gòu)僅出于研發(fā)考慮，應(yīng)用AIGC技術(shù)，不受《辦法》限制。相關(guān)教育企業(yè)，若僅將AIGC技術(shù)應(yīng)用于研發(fā)，不應(yīng)用于自身產(chǎn)品，不受《辦法》限制。

　　從該條可看出，政策鼓勵(lì)基于AIGC相關(guān)研究，管理環(huán)節(jié)主要在于觸達(dá)用戶階段。

　　第三條：國(guó)家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管。

　　解析：比起一刀切，分級(jí)管理是更優(yōu)的管理方式，等待細(xì)則。

　　第四條：提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會(huì)公德和倫理道德，遵守以下規(guī)定：

　　(一)堅(jiān)持社會(huì)主義核心價(jià)值觀，不得生成煽動(dòng)顛覆國(guó)家政權(quán)、推翻社會(huì)主義制度，危害國(guó)家安全和利益、損害國(guó)家形象，煽動(dòng)分裂國(guó)家、破壞國(guó)家統(tǒng)一和社會(huì)穩(wěn)定，宣揚(yáng)恐怖主義、極端主義，宣揚(yáng)民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容;

　　(二)在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，采取有效措施防止產(chǎn)生民族、信仰、國(guó)別、地域、性別、年齡、職業(yè)、健康等歧視;

　　(三)尊重知識(shí)產(chǎn)權(quán)、商業(yè)道德，保守商業(yè)秘密，不得利用算法、數(shù)據(jù)、平臺(tái)等優(yōu)勢(shì)，實(shí)施壟斷和不正當(dāng)競(jìng)爭(zhēng)行為;

　　(四)尊重他人合法權(quán)益，不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益;

　　(五)基于服務(wù)類型特點(diǎn)，采取有效措施，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準(zhǔn)確性和可靠性。

　　解析：比起征求意見稿時(shí)“內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確”，《辦法》理解AIGC模型幻覺的客觀存在，緩和表述為“采取有效措施提升準(zhǔn)確性和可靠性”，實(shí)為容錯(cuò)率上的放寬。對(duì)采用AIGC的教育企業(yè)有一定利好。

　　第五條：鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應(yīng)用場(chǎng)景，構(gòu)建應(yīng)用生態(tài)體系。

　　支持行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等在生成式人工智能技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用、風(fēng)險(xiǎn)防范等方面開展協(xié)作。

　　第六條：鼓勵(lì)生成式人工智能算法、框架、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新，平等互利開展國(guó)際交流與合作，參與生成式人工智能相關(guān)國(guó)際規(guī)則制定。

　　推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè)。促進(jìn)算力資源協(xié)同共享，提升算力資源利用效能。推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開放，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源。鼓勵(lì)采用安全可信的芯片、軟件、工具、算力和數(shù)據(jù)資源。

　　解析：旨在明確大模型之間的競(jìng)爭(zhēng)，需要國(guó)內(nèi)各企業(yè)團(tuán)結(jié)從而與海外競(jìng)爭(zhēng)。教育類企業(yè)通常沒有足夠的資金實(shí)力和人才密度去參與競(jìng)爭(zhēng)，可進(jìn)入該類聯(lián)盟或其附屬，搭乘技術(shù)便車。

　　第八條：在生成式人工智能技術(shù)研發(fā)過程中進(jìn)行數(shù)據(jù)標(biāo)注的，提供者應(yīng)當(dāng)制定符合本辦法要求的清晰、具體、可操作的標(biāo)注規(guī)則;開展數(shù)據(jù)標(biāo)注質(zhì)量評(píng)估，抽樣核驗(yàn)標(biāo)注內(nèi)容的準(zhǔn)確性;對(duì)標(biāo)注人員進(jìn)行必要培訓(xùn)，提升尊法守法意識(shí)，監(jiān)督指導(dǎo)標(biāo)注人員規(guī)范開展標(biāo)注工作。

　　解析：教育企業(yè)通常不具備基座大模型的開發(fā)能力，采用三方基座模型在做本地化部署為更可行操作，其中微調(diào)前期準(zhǔn)備涉及數(shù)據(jù)清洗、標(biāo)注等內(nèi)容。教育企業(yè)的數(shù)據(jù)規(guī)化通常較差，在線教育興起后推動(dòng)全行業(yè)數(shù)據(jù)化提升，但若采用AIGC，則對(duì)數(shù)據(jù)化要求再次升高。

　　第九條：提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)。涉及個(gè)人信息的，依法承擔(dān)個(gè)人信息處理者責(zé)任，履行個(gè)人信息保護(hù)義務(wù)。

　　提供者應(yīng)當(dāng)與注冊(cè)其服務(wù)的生成式人工智能服務(wù)使用者(以下稱使用者)簽訂服務(wù)協(xié)議，明確雙方權(quán)利義務(wù)

　　解析：此前征求意見稿要求“用戶提供真實(shí)身份信息”，《辦法》將其刪除，要求“提供者和使用者簽訂協(xié)議”，將管理權(quán)交給市場(chǎng)。教育企業(yè)曾有或現(xiàn)在依舊存與用戶在權(quán)利義務(wù)協(xié)議方面，故意模糊以促使銷售的情況。若之后采用AIGC提供內(nèi)容，需更加明確權(quán)責(zé)利。

　　第十條：提供者應(yīng)當(dāng)明確并公開其服務(wù)的適用人群、場(chǎng)合、用途，指導(dǎo)使用者科學(xué)理性認(rèn)識(shí)和依法使用生成式人工智能技術(shù)，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù)。

　　解析：該條更適用于AIGC游戲領(lǐng)域應(yīng)用，不過教育領(lǐng)域擁有采用游戲化學(xué)習(xí)方式的產(chǎn)品，該條未來對(duì)該類企業(yè)將產(chǎn)生影響。

　　第十二條：提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí)。

　　解析：需標(biāo)識(shí)AI生成內(nèi)容。若教育產(chǎn)品中，標(biāo)識(shí)其內(nèi)容由AI生成，而非真人老師生成，將降低用戶對(duì)其內(nèi)容的價(jià)值判斷，拉低客單價(jià)。

　　第十三條：提供者應(yīng)當(dāng)在其服務(wù)過程中，提供安全、穩(wěn)定、持續(xù)的服務(wù)，保障用戶正常使用。

　　解析：AI基座模型的使用上，需要plan B。

　　第十四條：提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)及時(shí)采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改，并向有關(guān)主管部門報(bào)告。

　　提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動(dòng)的，應(yīng)當(dāng)依法依約采取警示、限制功能、暫?；蛘呓K止向其提供服務(wù)等處置措施，保存有關(guān)記錄，并向有關(guān)主管部門報(bào)告。

　　解析：通常大型互聯(lián)網(wǎng)平臺(tái)會(huì)對(duì)“審核員”有大量需求，該《辦法》實(shí)施，會(huì)導(dǎo)致采用AIGC技術(shù)相關(guān)企業(yè)，增加人工審核環(huán)節(jié)。教育企業(yè)曾經(jīng)在此類人員招聘上較少，若大量使用AIGC產(chǎn)品，可能需要增加更多人工審核員工。

　　第十七條：提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的，應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開展安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

　　解析：“具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)”的范圍需進(jìn)一步明確，但教育很可能在其中。

　　第二十條：對(duì)來源于中華人民共和國(guó)境外向境內(nèi)提供生成式人工智能服務(wù)不符合法律、行政法規(guī)和本辦法規(guī)定的，國(guó)家網(wǎng)信部門應(yīng)當(dāng)通知有關(guān)機(jī)構(gòu)采取技術(shù)措施和其他必要措施予以處置。

　　解析：境外AIGC直接向境內(nèi)用戶提供服務(wù)的，會(huì)收到嚴(yán)管控。同時(shí)，境外公司提供API，境內(nèi)接入的情況，依舊存在合規(guī)問題。目前教育創(chuàng)業(yè)項(xiàng)目，此類問題較明顯。

　　第二十三條：法律、行政法規(guī)規(guī)定提供生成式人工智能服務(wù)應(yīng)當(dāng)取得相關(guān)行政許可的，提供者應(yīng)當(dāng)依法取得許可。

　　外商投資生成式人工智能服務(wù)，應(yīng)當(dāng)符合外商投資相關(guān)法律、行政法規(guī)的規(guī)定。

　　解析：許可證將成為提供AIGC服務(wù)的準(zhǔn)入門檻，不過暫無法確定是否針對(duì)所有企業(yè)，還是大型企業(yè)。外商投資教育領(lǐng)域AIGC，需符合《雙減》規(guī)定。

　　第二十四條：本辦法自2023年8月15日起施行

　　解析：有想法的教育企業(yè)，需盡快咨詢網(wǎng)信辦具體規(guī)定。

　　總體而言，不管是境外AIGC公司或者接入境外API的境內(nèi)公司，不管是基座模型層面，或者是應(yīng)用層面，均會(huì)受到該《辦法》管理。大量的面向境內(nèi)提供服務(wù)的中小型教育公司，在使用AIGC上均面臨許可證、內(nèi)容監(jiān)管等額外成本。同時(shí)，AIGC在教育領(lǐng)域的商業(yè)化進(jìn)程并不順利(參見文章《大模型應(yīng)用的商業(yè)化進(jìn)展慢，為什么慢?》)，支出>收益的情況短時(shí)間較難解決。采取審慎的態(tài)度使用AIGC能力，對(duì)于中小型教育企業(yè)或許是更穩(wěn)妥的策略。

　　讓子彈飛一會(huì)兒。

　　(本文僅代表作者個(gè)人觀點(diǎn)，供讀者參考。)