網信辦：對生成式人工智能擬出新規(guī)，禁止非法獲取隱私

　　多知網4月11日消息，國家互聯(lián)網信息辦公室發(fā)布了《生成式人工智能服務管理辦法(征求意見稿)》公開征求意見，其中提到，提供者應當對生成式人工智能產品的預訓練數據、優(yōu)化訓練數據來源的合法性負責。

　　征求意見稿提出，在提供生成式人工智能產品或服務時要求：在算法設計、訓練數據選擇、模型生成和優(yōu)化、提供服務等過程中，采取措施防止出現(xiàn)種族、民族、信仰、地域、性別、年齡、職業(yè)等歧視;要尊重知識產權、商業(yè)道德，不得利用算法、數據、平臺等優(yōu)勢實施不公平競爭;利用生成式人工智能生成的內容應當真實準確，采取措施防止生成虛假信息;禁止非法獲取、披露、利用個人信息和隱私、商業(yè)秘密。

　　在利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人(以下稱“提供者”)，包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔該產品生成內容生產者的責任;涉及個人信息的，承擔個人信息處理者的法定責任，履行個人信息保護義務。

　　征求意見稿要求，用于生成式人工智能產品的預訓練、優(yōu)化訓練數據，應滿足以下要求：符合《中華人民共和國網絡安全法》等法律法規(guī)的要求;不含有侵犯知識產權的內容;數據包含個人信息的，應當征得個人信息主體同意或者符合法律、行政法規(guī)規(guī)定的其他情形;能夠保證數據的真實性、準確性、客觀性、多樣性;國家網信部門關于生成式人工智能服務的其他監(jiān)管要求。

　　征求意見稿表示，提供者應當根據國家網信部門和有關主管部門的要求，提供可以影響用戶信任、選擇的必要信息，包括預訓練和優(yōu)化訓練數據的來源、規(guī)模、類型、質量等描述，人工標注規(guī)則，人工標注數據的規(guī)模和類型，基礎算法和技術體系等。

　　此外，意見征求稿強調，對于運行中發(fā)現(xiàn)、用戶舉報的不符合本辦法要求的生成內容，除采取內容過濾等措施外，應在3個月內通過模型優(yōu)化訓練等方式防止再次生成。提供者發(fā)現(xiàn)用戶利用生成式人工智能產品過程中違反法律法規(guī)，違背商業(yè)道德、社會公德行為時，包括從事網絡炒作、惡意發(fā)帖跟評、制造垃圾郵件、編寫惡意軟件，實施不正當的商業(yè)營銷等，應當暫停或者終止服務。