編者按：自O(shè)penAI旗下生成式AI工具ChatGPT在2022年末正式推出后，GPT(Generic Pre-trained Transformer，生成預(yù)訓(xùn)練轉(zhuǎn)換器)這一博學(xué)、好學(xué)且機(jī)敏的革命性深度學(xué)習(xí)模型，在令業(yè)界感到激動(dòng)不已的同時(shí)，也暗自捏了一把冷汗。其背后代表的人工智能生成內(nèi)容(AIGC)技術(shù)，也被不少人視作人工智能的“奇點(diǎn)”。

(相關(guān)資料圖)

眼光放至國(guó)內(nèi)，2023年年初以來(lái)，亦有多家企業(yè)高調(diào)宣布入局AIGC.長(zhǎng)期聚焦游戲產(chǎn)業(yè)與前沿技術(shù)交叉領(lǐng)域的南財(cái)合規(guī)科技研究院數(shù)字娛樂(lè)課題組注意到，不少游戲企業(yè)正在試圖向這一技術(shù)靠攏。在百度官宣將在3月推出的“文心一言”項(xiàng)目后，多家科技企業(yè)宣布將同步接入，而其中亦不乏游戲企業(yè)的身影。

擁有豐富研發(fā)經(jīng)驗(yàn)、大量用戶群體的游戲企業(yè)，在將AIGC技術(shù)融合進(jìn)旗下產(chǎn)品的過(guò)程中有著天然的優(yōu)勢(shì)，而AIGC技術(shù)亦有可能幫助游戲企業(yè)提高游戲質(zhì)量以及用戶體驗(yàn)。但在實(shí)際應(yīng)用過(guò)程中，存在著哪些技術(shù)方面的難題仍需攻克？游戲企業(yè)又將面臨哪些合規(guī)問(wèn)題的新挑戰(zhàn)？而宣布入局的游戲廠商對(duì)于AIGC概念的態(tài)度，僅停留在講故事、蹭熱點(diǎn)階段，還是切實(shí)存在落地的可能？

系列報(bào)道第三篇，我們將對(duì)游戲融合AIGC技術(shù)時(shí)，在游戲開(kāi)發(fā)和運(yùn)營(yíng)環(huán)節(jié)可能遇到的合規(guī)風(fēng)險(xiǎn)進(jìn)行前瞻，并進(jìn)一步分析預(yù)防對(duì)策。

“我們正處在AI的iPhone時(shí)刻。”在3月21晚結(jié)束的英偉達(dá)GTC大會(huì)中，英偉達(dá)CEO黃仁勛如此形容目前AI技術(shù)的發(fā)展階段。

立足于此時(shí)此刻，觀察AI技術(shù)，尤其是AIGC技術(shù)的發(fā)展，幾乎每一天都會(huì)有新的進(jìn)展。正如黃仁勛所說(shuō)，初創(chuàng)公司競(jìng)相構(gòu)建具有顛覆性的產(chǎn)品和商業(yè)模式，老牌公司則在尋求應(yīng)對(duì)之法。

站在科技與文娛產(chǎn)業(yè)交叉點(diǎn)的游戲公司，亦希望在這波AIGC浪潮中獲得一席之地。在系列稿件第二篇AIGC，走入游戲世界②|傳統(tǒng)游戲生產(chǎn)流程來(lái)到“變革前夜”中，有多位來(lái)自游戲公司的內(nèi)部人士告訴21世紀(jì)經(jīng)濟(jì)報(bào)道記者，公司內(nèi)部已在利用AIGC技術(shù)對(duì)已有的游戲生產(chǎn)流程進(jìn)行“升級(jí)進(jìn)化”，也有游戲公司正計(jì)劃將AIGC運(yùn)用于游戲的游玩場(chǎng)景。

但AIGC的快速發(fā)展亦伴隨著一定風(fēng)險(xiǎn)。在推進(jìn)AIGC技術(shù)與游戲生產(chǎn)、運(yùn)行融合的過(guò)程中，游戲公司可能會(huì)面臨著哪些潛在的合規(guī)隱患？在不斷推進(jìn)技術(shù)融合進(jìn)步的過(guò)程中，又應(yīng)如何防患于未然？

利用AI生成游戲美術(shù)資產(chǎn)的潛在風(fēng)險(xiǎn)

目前，已有不少游戲公司已將AIGC技術(shù)接入工作流，而通過(guò)該項(xiàng)技術(shù)生成游戲內(nèi)美術(shù)資產(chǎn)，是目前多家游戲公司會(huì)選擇的路徑。

21世紀(jì)經(jīng)濟(jì)報(bào)道記者從多位業(yè)內(nèi)人士處獲悉，部分公司會(huì)通過(guò)Stable Diffusion、MidJourney、Novel AI等生成式AI應(yīng)用生成美術(shù)資產(chǎn)或確定美術(shù)風(fēng)格，也有部分公司正在開(kāi)發(fā)自家的AIGC應(yīng)用，力求實(shí)現(xiàn)AI生成美術(shù)原型，人工作業(yè)僅需微調(diào)(Fine tuning)的工業(yè)化生產(chǎn)流程。

用AIGC技術(shù)代替大部分人力的愿景對(duì)于大部分游戲公司來(lái)說(shuō)是美好的，但利用AIGC生成游戲美術(shù)資產(chǎn)也可能存在“翻車(chē)”的風(fēng)險(xiǎn)。2月15日，一名id為“卜爾Q”的畫(huà)師在某社交媒體中發(fā)布了一張為二次元策略手游《白夜極光》供稿的情人節(jié)宣傳圖，但這張畫(huà)作中存在著多處細(xì)節(jié)錯(cuò)誤，且畫(huà)師在復(fù)盤(pán)創(chuàng)作過(guò)程時(shí)與此前發(fā)布的版本有較大差異，讓玩家對(duì)畫(huà)師是否利用AI工具進(jìn)行創(chuàng)作產(chǎn)生了懷疑。

2月16日，該游戲研發(fā)商永航科技下屬巡回犬工作室發(fā)布情況說(shuō)明稱，該畫(huà)稿是合作伙伴委托組外畫(huà)師繪制的海外宣傳圖，沒(méi)有用于游戲版本的計(jì)劃，且美術(shù)團(tuán)隊(duì)不會(huì)在產(chǎn)品中使用AI作畫(huà)，也不希望合作方制作、使用AI作畫(huà)的宣傳物料。

《白夜極光》的AI作畫(huà)爭(zhēng)議，算得上是國(guó)內(nèi)游戲行業(yè)與AIGC技術(shù)產(chǎn)生的首次摩擦。北京元合律師事務(wù)所合伙人、中國(guó)游戲產(chǎn)業(yè)研究院智庫(kù)專家孫磊向21記者指出，玩家之所以不能接受游戲物料是AI生成的，是因?yàn)橛螒虿粌H是提供娛樂(lè)的渠道，同時(shí)也扮演著“商品”的角色。“盡管AI生成的畫(huà)面‘質(zhì)量’并不差，但用戶可能會(huì)認(rèn)為制作方為節(jié)省人力‘偷懶’生成的產(chǎn)物并不符合預(yù)期?！彼f(shuō)。

“總的來(lái)說(shuō)，利用AI生成美術(shù)資產(chǎn)并不違規(guī)，但有可能傷害部分玩家情感。”談及游戲公司利用AI技術(shù)生成美術(shù)資產(chǎn)的做法的合規(guī)性，孫磊也拋出了他的觀點(diǎn)。他認(rèn)為，這一做法雖然可能短期內(nèi)難以被要求高質(zhì)量游戲內(nèi)容的玩家接受，但只要不生成含明顯抄襲內(nèi)容或有害內(nèi)容的作品，就不會(huì)構(gòu)成違規(guī)。

但生成式AI作品是否享有著作權(quán)，仍未有定論。上海大邦律師事務(wù)所高級(jí)合伙人、律師游云庭認(rèn)為，鑒于人工智能生成的作品有先天的版權(quán)“瑕疵”，不應(yīng)當(dāng)受《著作權(quán)法》保護(hù)并收取授權(quán)費(fèi)用?！吧墒紸I類應(yīng)用在開(kāi)發(fā)的過(guò)程中，其開(kāi)發(fā)者勢(shì)必要?jiǎng)佑么罅繑?shù)據(jù)和資源供其學(xué)習(xí)訓(xùn)練，而目前主流的相關(guān)應(yīng)用，其訓(xùn)練都依靠開(kāi)發(fā)公司爬取網(wǎng)上的免費(fèi)公開(kāi)數(shù)據(jù)和資源，然后對(duì)其進(jìn)行投喂和訓(xùn)練。而這種爬取行為，本身就涉及侵權(quán)?！庇卧仆フf(shuō)。

此外，他也指出，現(xiàn)行著作權(quán)法只保護(hù)自然人創(chuàng)作的作品，對(duì)人工智能生成的作品并不授予著作權(quán)。正因?yàn)樯墒紸I作品存在著版權(quán)的灰色地帶，同理，游戲中通過(guò)AI生成的美術(shù)資產(chǎn)也很難受《著作權(quán)法》保護(hù)，除非游戲公司可以證明投入訓(xùn)練的素材并非人工智能生成或者人工智能生成后，公司的美術(shù)人員對(duì)這些素材進(jìn)行了二次創(chuàng)作，且二次創(chuàng)作的內(nèi)容具有獨(dú)創(chuàng)性，才可受《著作權(quán)法》保護(hù)。

AIGC接入游戲流程的合規(guī)難點(diǎn)

比起將AIGC技術(shù)應(yīng)用于現(xiàn)有的工作流，將該項(xiàng)技術(shù)直接接入玩家游玩游戲的過(guò)程，對(duì)技術(shù)成熟度以及穩(wěn)定性的要求顯然更高。

目前，已有部分公司嘗試將AIGC技術(shù)融入玩家的游玩過(guò)程中。21記者與多家有相關(guān)業(yè)務(wù)布局的游戲公司交流后發(fā)現(xiàn)，自然語(yǔ)言生成NPC(non-player character，非玩家角色)、AI對(duì)話機(jī)器人等利用AIGC技術(shù)生成游戲內(nèi)容的應(yīng)用是目前游戲公司的主要布局方向之一。

不過(guò)，新技術(shù)的應(yīng)用也可能面臨相應(yīng)的合規(guī)風(fēng)險(xiǎn)。站在研發(fā)者的角度，廣州某游戲企業(yè)負(fù)責(zé)人在接受21記者采訪時(shí)指出，利用AIGC技術(shù)生成游戲內(nèi)容、與用戶進(jìn)行交互時(shí)，可能會(huì)存在信息內(nèi)容上的合規(guī)風(fēng)控風(fēng)險(xiǎn)?！爸饕桕P(guān)注的是信息誤導(dǎo)問(wèn)題。包括人機(jī)對(duì)話和人機(jī)交互中， AIGC算法對(duì)過(guò)濾詞的把控不力、對(duì)玩家言論的錯(cuò)誤引導(dǎo)等?！?/p>

另一方面，廠商在將AIGC接入游戲流程時(shí)，也要警惕網(wǎng)絡(luò)與信息安全風(fēng)險(xiǎn)，可能產(chǎn)生的情況包括 AIGC接入方可能因接觸或者收集的海量玩家個(gè)人信息、注冊(cè)信息產(chǎn)生的泄露風(fēng)險(xiǎn)和AIGC被惡意代碼植入等。

針對(duì)這一類風(fēng)險(xiǎn)，騰訊研究院在今年2月發(fā)布的《AIGC發(fā)展趨勢(shì)報(bào)告2023:迎接人工智能的下一個(gè)時(shí)代》報(bào)告中也提到，由于AIGC訓(xùn)練的數(shù)據(jù)基本來(lái)源于互聯(lián)網(wǎng)，其中可能包括個(gè)人隱私數(shù)據(jù)，且預(yù)訓(xùn)練模型強(qiáng)大的推理能力可能會(huì)導(dǎo)致個(gè)人隱私數(shù)據(jù)泄露的風(fēng)險(xiǎn)。

如在此前語(yǔ)言模型GPT-2就曾發(fā)生過(guò)隱私泄露問(wèn)題，如果輸入前綴為“East Stroudsburg Stroudsburg…”的提示詞，GPT-2便會(huì)自動(dòng)生成一串包含特定個(gè)人的姓名、電話號(hào)碼、電子郵件和住址等信息的文本，從而引發(fā)了個(gè)人信息泄露。

此外，利用AIGC技術(shù)學(xué)習(xí)玩家行為也是游戲公司發(fā)力toC的另一大方向。21記者多方了解并注意到，在多家游戲公司對(duì)于該項(xiàng)應(yīng)用的表述中，均提到通過(guò)學(xué)習(xí)玩家的行為，提供個(gè)性化的游戲服務(wù)，如推薦玩法、內(nèi)購(gòu)方案等，或直接將玩家數(shù)據(jù)大量提供給技術(shù)接入方(如ChatGPT等)，以供接入方設(shè)計(jì)個(gè)性化服務(wù)。

不過(guò)，上述應(yīng)用方向也引發(fā)了一定爭(zhēng)議。一名坐標(biāo)北京的資深玩家小苗(化名)在與21記者的交談過(guò)程中提到，作為玩家，可以接受游戲中加入AIGC內(nèi)容，但對(duì)于利用該項(xiàng)技術(shù)學(xué)習(xí)其游戲行為的做法持保留意見(jiàn)。“AI可以學(xué)習(xí)我的操作和游戲偏好，但相對(duì)的，我作為玩家是否有權(quán)關(guān)閉或拒絕AI學(xué)習(xí)我的游戲行為？”小苗提出了這樣一個(gè)問(wèn)題。

對(duì)于以上爭(zhēng)議，金誠(chéng)同達(dá)律師事務(wù)所高級(jí)合伙人、律師彭凱向21記者指出，游戲公司收集用戶行為數(shù)據(jù)后進(jìn)行學(xué)習(xí)，為用戶創(chuàng)造個(gè)性化服務(wù)，并非游戲公司為用戶提供基本游戲服務(wù)所必需。

《個(gè)人信息保護(hù)法》中第四十四條就提到，個(gè)人對(duì)其個(gè)人信息的處理享有決定權(quán)，有權(quán)限制或者拒絕他人對(duì)其個(gè)人信息進(jìn)行處理，法律、行政法規(guī)另有規(guī)定的除外。

“個(gè)人對(duì)其個(gè)人信息的處理享有決定權(quán)，有權(quán)限制或者拒絕他人對(duì)其個(gè)人信息進(jìn)行處理，法律、行政法規(guī)另有規(guī)定的除外，因此用戶有權(quán)拒絕游戲公司利用AIGC技術(shù)學(xué)習(xí)其行為數(shù)據(jù)。”彭凱指出。

如何預(yù)防AIGC產(chǎn)生“負(fù)效果”？

AIGC技術(shù)的不斷發(fā)展，為優(yōu)化現(xiàn)有的游戲生產(chǎn)流程以及玩家的游戲體驗(yàn)都帶來(lái)了更多的操作空間，但游戲公司也需警惕上文中提到的AIGC技術(shù)發(fā)展過(guò)程中可能會(huì)帶來(lái)的負(fù)面影響。

面對(duì)潛在的風(fēng)險(xiǎn)，游戲公司又該如何防患于未然？

針對(duì)AIGC設(shè)定單獨(dú)的過(guò)濾機(jī)制，是多位受訪對(duì)象向21記者提到的要點(diǎn)之一?！耙环矫?， AIGC在生成過(guò)程中不可避免會(huì)涉及到對(duì)他人享有著作權(quán)的作品使用，而且是未經(jīng)許可的，另一方面， AIGC通過(guò)大量分析學(xué)習(xí)后生成的內(nèi)容可能出現(xiàn)與基礎(chǔ)數(shù)據(jù)過(guò)于相似，從而引發(fā)著作權(quán)合規(guī)風(fēng)險(xiǎn)；另外，由于目前AIGC缺乏情感理解，生成的結(jié)果仍有可能包含部分對(duì)法律和公序良俗造成挑戰(zhàn)的內(nèi)容?！鄙鲜鰪V州游戲企業(yè)負(fù)責(zé)人指出。

他認(rèn)為，現(xiàn)階段還是要把 AIGC定義為“輔助工具”，并加強(qiáng)人工介入進(jìn)行輸出內(nèi)容的過(guò)濾和篩選，充分遵守《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》及《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等相關(guān)法律法規(guī)對(duì)AIGC的相關(guān)規(guī)定，同時(shí)通過(guò)不斷優(yōu)化詞庫(kù)、知識(shí)庫(kù)等方式，以確保AIGC輸出內(nèi)容合規(guī)，推動(dòng)AIGC更好服務(wù)游戲開(kāi)發(fā)。

此外，《互聯(lián)網(wǎng)信息服務(wù)管理辦法》第六條中也規(guī)定了互聯(lián)網(wǎng)服務(wù)提供者禁止制作、復(fù)制、發(fā)布、傳播的內(nèi)容。彭凱向21記者指出，除了對(duì)AI訓(xùn)練時(shí)輸入的素材進(jìn)行篩選(尤其是人工篩選)，正式投入使用前也需要對(duì)內(nèi)容輸出的合規(guī)性進(jìn)行多輪測(cè)試?！?strong>此外，內(nèi)容輸出可能還需要結(jié)合用戶身份來(lái)進(jìn)行訓(xùn)練，比如用戶如果為未成年人，則內(nèi)容輸出的合規(guī)性將更高，可能還需考慮輸出內(nèi)容是否有益于未成年人身心健康。”他說(shuō)。

另一方面，在游戲內(nèi)融合AIGC技術(shù)后，針對(duì)玩家是否有權(quán)要求關(guān)閉相應(yīng)服務(wù)這一問(wèn)題，多位專家也給出了他們的觀點(diǎn)。

以O(shè)penAI的服務(wù)協(xié)議為例，若用戶不希望他們輸入的數(shù)據(jù)被OpenAI用于訓(xùn)練改進(jìn)模型性能，可以通過(guò)填寫(xiě)申請(qǐng)取消個(gè)人數(shù)據(jù)被學(xué)習(xí)的表單來(lái)確保隱私安全。

彭凱指出，玩家行為數(shù)據(jù)屬于用戶的個(gè)人信息，游戲公司收集、使用等處理用戶個(gè)人信息前應(yīng)向用戶告知處理其個(gè)人信息的范圍、處理方式等事項(xiàng)，并取得用戶的同意?！坝螒蚴褂糜脩粜袨閿?shù)據(jù)進(jìn)行學(xué)習(xí)，非為用戶提供基本功能所必需，如用戶選擇拒絕或者同意后撤回同意，游戲公司應(yīng)審慎應(yīng)對(duì)該類訴求。此外，收集該等數(shù)據(jù)后再開(kāi)放給技術(shù)接入方可能構(gòu)成‘共享’，按照個(gè)保法要求，游戲公司需要就共享用戶個(gè)人信息取得用戶的‘單獨(dú)同意’并落實(shí)個(gè)人信息保護(hù)影響評(píng)估等合規(guī)要求。”他說(shuō)。

“實(shí)際上，游戲公司的合規(guī)工作應(yīng)該是全方位的，且覆蓋游戲的全生命周期。無(wú)論是融合 AIGC還是其他的新技術(shù)，網(wǎng)絡(luò)游戲作為網(wǎng)絡(luò)出版物，首先應(yīng)遵循網(wǎng)絡(luò)出版的合規(guī)要求，在內(nèi)容上做好全過(guò)程的審核把關(guān)。在技術(shù)日新月異的今天，更要不斷更新技術(shù)知識(shí)庫(kù)，貼合業(yè)務(wù)發(fā)展看待合規(guī)工作。”上述廣州游戲企業(yè)負(fù)責(zé)人指出。

（文章來(lái)源：21世紀(jì)經(jīng)濟(jì)報(bào)道）

關(guān)鍵詞：