'「專利解密」騰訊遊戲是如何利用深度學習技術的'

"

集微網消息,2019世界人工智能大會在上海開幕。會上,騰訊董事會主席兼CEO馬化騰在開幕式演講上重點講了關於AI的內容。

他表示,一年來,在上海地區,騰訊在人工智能、雲計算等領域都有大幅投入。去年此時,騰訊華東總部在上海成立,目前已擁有超5000人團隊。騰訊電競的6大職業賽,均落地上海。


"

集微網消息,2019世界人工智能大會在上海開幕。會上,騰訊董事會主席兼CEO馬化騰在開幕式演講上重點講了關於AI的內容。

他表示,一年來,在上海地區,騰訊在人工智能、雲計算等領域都有大幅投入。去年此時,騰訊華東總部在上海成立,目前已擁有超5000人團隊。騰訊電競的6大職業賽,均落地上海。


「專利解密」騰訊遊戲是如何利用深度學習技術的


而遊戲作為騰訊的一大業務,也得到了人工智能的加持。其中,遊戲AI重點關注AI技術帶給玩家的遊戲體驗,目的是讓遊戲表現出與人類的智能行為,或者與玩家的思維/感知相符合的特性。

而針對遊戲場景來說,智能模擬的重點便是訓練算法模型,進而通過將建立的AI模型應用到實際的遊戲場景中,來提升玩家的遊戲體驗。為此,如何進行AI模型訓練以確保AI效果,成為了亟待解決的一個問題。

就在19年2月20日,騰訊申請了一項名為“AI模型訓練方法、裝置、存儲介質及設備”的發明專利(申請號:201910127573 .3),申請人為騰訊科技(深圳)有限公司。

根據目前公開的專利資料,讓我們來了解一下這項AI模型訓練方法吧。


"

集微網消息,2019世界人工智能大會在上海開幕。會上,騰訊董事會主席兼CEO馬化騰在開幕式演講上重點講了關於AI的內容。

他表示,一年來,在上海地區,騰訊在人工智能、雲計算等領域都有大幅投入。去年此時,騰訊華東總部在上海成立,目前已擁有超5000人團隊。騰訊電競的6大職業賽,均落地上海。


「專利解密」騰訊遊戲是如何利用深度學習技術的


而遊戲作為騰訊的一大業務,也得到了人工智能的加持。其中,遊戲AI重點關注AI技術帶給玩家的遊戲體驗,目的是讓遊戲表現出與人類的智能行為,或者與玩家的思維/感知相符合的特性。

而針對遊戲場景來說,智能模擬的重點便是訓練算法模型,進而通過將建立的AI模型應用到實際的遊戲場景中,來提升玩家的遊戲體驗。為此,如何進行AI模型訓練以確保AI效果,成為了亟待解決的一個問題。

就在19年2月20日,騰訊申請了一項名為“AI模型訓練方法、裝置、存儲介質及設備”的發明專利(申請號:201910127573 .3),申請人為騰訊科技(深圳)有限公司。

根據目前公開的專利資料,讓我們來了解一下這項AI模型訓練方法吧。


「專利解密」騰訊遊戲是如何利用深度學習技術的


如上圖所示為AI模型訓練方法的示意圖。該示意圖中至少包含兩個訓練機、兩個手遊終端以及一個參數服務器。

其中,至少兩個訓練機中的每個訓練機均與參數服務器通信連接,每個訓練機與一個終端設備通信連接,而與一個訓練機通信連接的每個終端設備均各自對應一個模型訓練環境。另外,參數服務器中的模型結構與任意一個模型訓練環境中的模型結構一致。這裡的訓練機,就會不斷的根據遊戲的進程來調整參數,使得訓練得到的參數可以讓手遊AI更加出色的完成遊戲,就像手遊王者榮耀中的強大的人機模式。

通常每個手遊終端對應訓練機上的一個AI訓練進程,而每個手遊終端及其對應的AI訓練進程又可看作是一個強化學習訓練環境。其中,每個強化學習訓練環境中均包括一個AI模型,這個模型就是我們熟知的深度神經網絡。

AI訓練進程會獲取手遊終端的手遊環境狀態,並將獲取到的手遊環境狀態作為深度神經網絡的輸入,而深度神經網絡會輸出遊戲動作,並作用到手遊終端的手遊環境中去,手遊環境狀態通常即為遊戲畫面。通過這樣不斷的獲取遊戲畫面,可以讓訓練機得到更加出色的訓練效果,從而適應整個遊戲過程。


"

集微網消息,2019世界人工智能大會在上海開幕。會上,騰訊董事會主席兼CEO馬化騰在開幕式演講上重點講了關於AI的內容。

他表示,一年來,在上海地區,騰訊在人工智能、雲計算等領域都有大幅投入。去年此時,騰訊華東總部在上海成立,目前已擁有超5000人團隊。騰訊電競的6大職業賽,均落地上海。


「專利解密」騰訊遊戲是如何利用深度學習技術的


而遊戲作為騰訊的一大業務,也得到了人工智能的加持。其中,遊戲AI重點關注AI技術帶給玩家的遊戲體驗,目的是讓遊戲表現出與人類的智能行為,或者與玩家的思維/感知相符合的特性。

而針對遊戲場景來說,智能模擬的重點便是訓練算法模型,進而通過將建立的AI模型應用到實際的遊戲場景中,來提升玩家的遊戲體驗。為此,如何進行AI模型訓練以確保AI效果,成為了亟待解決的一個問題。

就在19年2月20日,騰訊申請了一項名為“AI模型訓練方法、裝置、存儲介質及設備”的發明專利(申請號:201910127573 .3),申請人為騰訊科技(深圳)有限公司。

根據目前公開的專利資料,讓我們來了解一下這項AI模型訓練方法吧。


「專利解密」騰訊遊戲是如何利用深度學習技術的


如上圖所示為AI模型訓練方法的示意圖。該示意圖中至少包含兩個訓練機、兩個手遊終端以及一個參數服務器。

其中,至少兩個訓練機中的每個訓練機均與參數服務器通信連接,每個訓練機與一個終端設備通信連接,而與一個訓練機通信連接的每個終端設備均各自對應一個模型訓練環境。另外,參數服務器中的模型結構與任意一個模型訓練環境中的模型結構一致。這裡的訓練機,就會不斷的根據遊戲的進程來調整參數,使得訓練得到的參數可以讓手遊AI更加出色的完成遊戲,就像手遊王者榮耀中的強大的人機模式。

通常每個手遊終端對應訓練機上的一個AI訓練進程,而每個手遊終端及其對應的AI訓練進程又可看作是一個強化學習訓練環境。其中,每個強化學習訓練環境中均包括一個AI模型,這個模型就是我們熟知的深度神經網絡。

AI訓練進程會獲取手遊終端的手遊環境狀態,並將獲取到的手遊環境狀態作為深度神經網絡的輸入,而深度神經網絡會輸出遊戲動作,並作用到手遊終端的手遊環境中去,手遊環境狀態通常即為遊戲畫面。通過這樣不斷的獲取遊戲畫面,可以讓訓練機得到更加出色的訓練效果,從而適應整個遊戲過程。


「專利解密」騰訊遊戲是如何利用深度學習技術的


如上圖就是一種手遊訓練環境的示意圖。可以看到右側為真實的遊戲畫面,而左側就是我們的訓練機器,根據遊戲的環境狀態,不斷調整參數,從而得到正確的動作輸出,從而成為強大的遊戲機器人。

上述的遊戲訓練方法,利用人工智能的自我學習能力,使用分佈式架構的深度學習方法來訓練手遊中的AI,該種訓練方法可以顯著提高手遊AI的訓練速度,進而確保了AI效果。而這樣的效果帶給遊戲玩家的則就是更加出色的遊戲體驗,讓遊戲人物的行為更加接近真實的人物操作,目前王者榮耀中已經出現了遊戲託管功能,防止用戶意外掉線而帶來不好的遊戲體驗。(校對/小山)

"

相關推薦

推薦中...