人民網(wǎng)北京4月11日電 (記者申佳平)據(jù)國家互聯(lián)網(wǎng)信息辦公室官網(wǎng)消息,為促進生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用,根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》等法律法規(guī),國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法(征求意見稿)》(以下簡稱《征求意見稿》),其中提出生成式人工智能產(chǎn)品提供服務(wù)前需申報安全評估。
生成式人工智能,是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)?!墩髑笠庖姼濉芬?,利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前,應(yīng)當按照《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》向國家網(wǎng)信部門申報安全評估,并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。
《征求意見稿》指出,國家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國際合作,鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數(shù)據(jù)資源。
提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當遵守法律法規(guī)的要求,尊重社會公德、公序良俗,符合以下五方面要求。
一是利用生成式人工智能生成的內(nèi)容應(yīng)當體現(xiàn)社會主義核心價值觀,不得含有顛覆國家政權(quán)、推翻社會主義制度,煽動分裂國家、破壞國家統(tǒng)一,宣揚恐怖主義、極端主義,宣揚民族仇恨、民族歧視,暴力、淫穢色情信息,虛假信息,以及可能擾亂經(jīng)濟秩序和社會秩序的內(nèi)容。
二是在算法設(shè)計、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中,采取措施防止出現(xiàn)種族、民族、信仰、國別、地域、性別、年齡、職業(yè)等歧視。
三是尊重知識產(chǎn)權(quán)、商業(yè)道德,不得利用算法、數(shù)據(jù)、平臺等優(yōu)勢實施不公平競爭。
四是利用生成式人工智能生成的內(nèi)容應(yīng)當真實準確,采取措施防止生成虛假信息。
五是尊重他人合法利益,防止傷害他人身心健康,損害肖像權(quán)、名譽權(quán)和個人隱私,侵犯知識產(chǎn)權(quán)。禁止非法獲取、披露、利用個人信息和隱私、商業(yè)秘密。
此外,《征求意見稿》提出, 提供者在提供服務(wù)過程中,對用戶的輸入信息和使用記錄承擔(dān)保護義務(wù)。不得非法留存能夠推斷出用戶身份的輸入信息,不得根據(jù)用戶輸入信息和使用情況進行畫像,不得向他人提供用戶輸入信息。法律法規(guī)另有規(guī)定的,從其規(guī)定。
提供者不得根據(jù)用戶的種族、國別、性別等進行帶有歧視性的內(nèi)容生成。
附:生成式人工智能服務(wù)管理辦法(征求意見稿)
第一條 為促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》等法律、行政法規(guī),制定本辦法。
第二條 研發(fā)、利用生成式人工智能產(chǎn)品,面向中華人民共和國境內(nèi)公眾提供服務(wù)的,適用本辦法。
本辦法所稱生成式人工智能,是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。
第三條 國家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國際合作,鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數(shù)據(jù)資源。
第四條 提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當遵守法律法規(guī)的要求,尊重社會公德、公序良俗,符合以下要求:
(一)利用生成式人工智能生成的內(nèi)容應(yīng)當體現(xiàn)社會主義核心價值觀,不得含有顛覆國家政權(quán)、推翻社會主義制度,煽動分裂國家、破壞國家統(tǒng)一,宣揚恐怖主義、極端主義,宣揚民族仇恨、民族歧視,暴力、淫穢色情信息,虛假信息,以及可能擾亂經(jīng)濟秩序和社會秩序的內(nèi)容。
(二)在算法設(shè)計、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中,采取措施防止出現(xiàn)種族、民族、信仰、國別、地域、性別、年齡、職業(yè)等歧視。
(三)尊重知識產(chǎn)權(quán)、商業(yè)道德,不得利用算法、數(shù)據(jù)、平臺等優(yōu)勢實施不公平競爭。
(四)利用生成式人工智能生成的內(nèi)容應(yīng)當真實準確,采取措施防止生成虛假信息。
(五)尊重他人合法利益,防止傷害他人身心健康,損害肖像權(quán)、名譽權(quán)和個人隱私,侵犯知識產(chǎn)權(quán)。禁止非法獲取、披露、利用個人信息和隱私、商業(yè)秘密。
第五條 利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個人(以下稱“提供者”),包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等,承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任;涉及個人信息的,承擔(dān)個人信息處理者的法定責(zé)任,履行個人信息保護義務(wù)。
第六條 利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前,應(yīng)當按照《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》向國家網(wǎng)信部門申報安全評估,并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。
第七條 提供者應(yīng)當對生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性負責(zé)。
用于生成式人工智能產(chǎn)品的預(yù)訓(xùn)練、優(yōu)化訓(xùn)練數(shù)據(jù),應(yīng)滿足以下要求:
(一)符合《中華人民共和國網(wǎng)絡(luò)安全法》等法律法規(guī)的要求;
(二)不含有侵犯知識產(chǎn)權(quán)的內(nèi)容;
(三)數(shù)據(jù)包含個人信息的,應(yīng)當征得個人信息主體同意或者符合法律、行政法規(guī)規(guī)定的其他情形;
(四)能夠保證數(shù)據(jù)的真實性、準確性、客觀性、多樣性;
(五)國家網(wǎng)信部門關(guān)于生成式人工智能服務(wù)的其他監(jiān)管要求。
第八條 生成式人工智能產(chǎn)品研制中采用人工標注時,提供者應(yīng)當制定符合本辦法要求,清晰、具體、可操作的標注規(guī)則,對標注人員進行必要培訓(xùn),抽樣核驗標注內(nèi)容的正確性。
第九條 提供生成式人工智能服務(wù)應(yīng)當按照《中華人民共和國網(wǎng)絡(luò)安全法》規(guī)定,要求用戶提供真實身份信息。
第十條 提供者應(yīng)當明確并公開其服務(wù)的適用人群、場合、用途,采取適當措施防范用戶過分依賴或沉迷生成內(nèi)容。
第十一條 提供者在提供服務(wù)過程中,對用戶的輸入信息和使用記錄承擔(dān)保護義務(wù)。不得非法留存能夠推斷出用戶身份的輸入信息,不得根據(jù)用戶輸入信息和使用情況進行畫像,不得向他人提供用戶輸入信息。法律法規(guī)另有規(guī)定的,從其規(guī)定。
第十二條 提供者不得根據(jù)用戶的種族、國別、性別等進行帶有歧視性的內(nèi)容生成。
第十三條 提供者應(yīng)當建立用戶投訴接收處理機制,及時處置個人關(guān)于更正、刪除、屏蔽其個人信息的請求;發(fā)現(xiàn)、知悉生成的文本、圖片、聲音、視頻等侵害他人肖像權(quán)、名譽權(quán)、個人隱私、商業(yè)秘密,或者不符合本辦法要求時,應(yīng)當采取措施,停止生成,防止危害持續(xù)。
第十四條 提供者應(yīng)當在生命周期內(nèi),提供安全、穩(wěn)健、持續(xù)的服務(wù),保障用戶正常使用。
第十五條 對于運行中發(fā)現(xiàn)、用戶舉報的不符合本辦法要求的生成內(nèi)容,除采取內(nèi)容過濾等措施外,應(yīng)在3個月內(nèi)通過模型優(yōu)化訓(xùn)練等方式防止再次生成。
第十六條 提供者應(yīng)當按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對生成的圖片、視頻等內(nèi)容進行標識。
第十七條 提供者應(yīng)當根據(jù)國家網(wǎng)信部門和有關(guān)主管部門的要求,提供可以影響用戶信任、選擇的必要信息,包括預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的來源、規(guī)模、類型、質(zhì)量等描述,人工標注規(guī)則,人工標注數(shù)據(jù)的規(guī)模和類型,基礎(chǔ)算法和技術(shù)體系等。
第十八條 提供者應(yīng)當指導(dǎo)用戶科學(xué)認識和理性使用生成式人工智能生成的內(nèi)容,不利用生成內(nèi)容損害他人形象、名譽以及其他合法權(quán)益,不進行商業(yè)炒作、不正當營銷。
用戶發(fā)現(xiàn)生成內(nèi)容不符合本辦法要求時,有權(quán)向網(wǎng)信部門或者有關(guān)主管部門舉報。
第十九條 提供者發(fā)現(xiàn)用戶利用生成式人工智能產(chǎn)品過程中違反法律法規(guī),違背商業(yè)道德、社會公德行為時,包括從事網(wǎng)絡(luò)炒作、惡意發(fā)帖跟評、制造垃圾郵件、編寫惡意軟件,實施不正當?shù)纳虡I(yè)營銷等,應(yīng)當暫停或者終止服務(wù)。
第二十條 提供者違反本辦法規(guī)定的,由網(wǎng)信部門和有關(guān)主管部門按照《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》等法律、行政法規(guī)的規(guī)定予以處罰。
法律、行政法規(guī)沒有規(guī)定的,由網(wǎng)信部門和有關(guān)主管部門依據(jù)職責(zé)給予警告、通報批評,責(zé)令限期改正;拒不改正或者情節(jié)嚴重的,責(zé)令暫?;蛘呓K止其利用生成式人工智能提供服務(wù),并處一萬元以上十萬元以下罰款。構(gòu)成違反治安管理行為的,依法給予治安管理處罰;構(gòu)成犯罪的,依法追究刑事責(zé)任。
第二十一條 本辦法自2023年 月 日起實施。
資訊來源:人民網(wǎng)