Alpha Go Zeroの論文の翻訳 その5

うわぁ。

以前、下記を書いて、「まだまだ続くよ!」とか言ってましたが…

Alpha Go Zeroの論文の翻訳 その4

7月20日のことでした。(;^ω^)

もう4か月も経ってるやんけ!!!( ゚Д゚)

いやー、光陰矢の如し。7月末からいろんなことがあったなぁ…( ˊᵕˋ )

…と、ついつい楽しい夏の思い出を思い返しちゃいましたが、本題は、Alpha Go Zeroの論文の翻訳の最後を書くことでした。

仕事でもAIの開発を進めておりまして、少し詳しくなったと思います。

では、Go!

 

原文はこちら。

https://www.nature.com/articles/nature24270.epdf

 

前回の続きということで、付録的な、「METHODS」という部分の後半になります。

 

Domain knowledge というところからですね。ではGo!

 


 

Domain knowledge

 

Domain knowledgeとは、専門知識のことである。碁のプログラムでいえば、碁のうちかた、どうやって強い手を繰り出すか、というような専門知識のことである。

Alpha Go Zeroの一番の功績は、専門知識なくして人間を超える知力を達成したということにある。

この功績を明らかにすべく、Alpha Go Zeroが使っている専門知識をトレーニングプロシージャーやMCTS内にかかわらず、数え上げてみることにする。

これらは、ほかのゲーム(マルコフゲーム プレーヤーが1対1で進める手によって勝率などが左右される、オセロ・将棋・碁などのゲームの総称と思われ。)に使うときは、置き換えられるものである。

 

①ゲームのルール

Alpha Go Zeroはゲームのルールについては、完全に知っている。MCTSのポジションのシミュレーションや最終手を打った時のスコアをつけるのに使われている。

ゲームは両方のプレーヤーがパスしたときと722手進んだ時に終了する。また、プレーヤーはルールにのっとって、有効な手を打つ必要がある。

②スコアリング

Alpha Go ZeroではMCTSのシミュレーションとセルフプレイのトレーニングの最中にTromp-Taylorスコアリングを使っている。

なぜかというと、韓国式・日本式・中国式にせよ、人間のスコアリングはよく定義されてないからである。

ちなみにAlpha Go Zeroで採用しているのは中国式である。(この辺、私が囲碁わからないのでよくわからなかったです(;´・ω・))

③盤面

盤面は、19×19の画像的なイメージで扱われる。ニューラルネットワークはこのボードに合わせた形になっている。

④盤面の回転など

碁のルールは盤面を回転しても反転しても盤面の強さは変わらない。

それを利用して、MCTSの途中で、盤面の回転と、反転状態もデータの中に入れることができている。

komiっていうものを抜かせば、碁は色を取り換えてもなりたつ。色を変えても成り立つことにより、盤面をどちらのプレーヤーから見るか、と言ったことが成り立たせられる。

 

以上が、Alpha Go Zeroが使っている専門知識の全部である。Alpha Go Zeroがディープニューラルネットワークを使っているのは、MCTSの末端のノードを評価するときと、手を選択するときだけ。

ロールアウトポリシーも使ってないし、ツリーポリシーも使っていないし、MCTSは他のヒューリスティックだったり専門知識によるルールによって評価されたりもしない。

ルール違反の手は使わない。プレーヤーの「目」を埋めることもしない。(多分、碁の話と思われ)

 

このアルゴリズムはランダムな初期パラメーター(ニューラルネットワークに入れるやつ)で始められた。

ニューラルネットワークの構造は、先進的な画像認識の構造である。ハイパーパラメーターは学習の中で変わっていく。

MCTSの探索パラメーターは1個前にトレーニングしたニューラルネットワークを使ったセルフプレイを最適化するために、ガウス過程最適化(でいいのかな?)を使って選択されていく。

より大きい実行のために(40ブロック、40日かける実行)MCTSの探索パラメータはより小さい実行でトレーニングされたニューラルネットワーク(20ブロック、3日)を使って再最適化される。

トレーニングのアルゴリズムは人間が介在することなく、自主的にアップデートされていくのである。

 

Self-play training pipeline

 

Alpha Go Zeroのセルフプレイのトレーニングパイプラインは3つに分かれていて、全部が非同期で平行に動作する。

ニューラルネットワークのパラメーターΘは継続的にセルフプレイのデータで最適化されていく。

Alpha Go Zeroのプレーヤーαは継続的に評価されていく。

ベストなプレーヤーはセルフプレイのデータを生み出すために使われていく。

 


今日はここまで~ ハァハァ(*´Д`)

142 thoughts on Alpha Go Zeroの論文の翻訳 その5

  1. Magnifficent goods fro you, man. Ihave understand your stuff previous to
    and you’re jjust extremely great. I really
    like what you have acquired here, really like what you’re stating and the way in which you say it.
    You make it enjoyable and you still twke care of too
    keep it smart. I can not wait to read far more from you. This is actually
    a wonderful website.

    Feel free to visit my blog post; Bursa escort

  2. Overall, this blog post was a valuable read packed with practical tips and thought-provoking insights. I’ll definitely be revisiting it as I continue to navigate my professional journey.

  3. I appreciate the emphasis on mental health awareness in the workplace. It’s crucial to prioritize self-care, and this blog serves as a gentle reminder to check in with ourselves and our colleagues regularly. | https://www.pinnedin.com/

  4. You really make it seem really easy together with your presentation but I
    find this topic too be really one thing that I feel I might never understand.
    It sort of fewls too complex and very large ffor me. I am having a look forward for your subsequent post, I wull try to get the dangle of it!

    Feel free to surf to my web page … raylı branda fiyatları

  5. After I initially commented I appar to have clicked on the -Notiy me whenn new comments are
    added- checkbox and from nnow on every time a
    comment is added I get four emails with the ezact same comment.
    Therde has to be a means you are able to remove me from that service?
    Appreciate it!

    Also visit my blog Beyin Cerrahi

  6. I think this is one of the so much vital info for me.
    And i’m happy reading your article. But wanna statement on feww normal
    things, The web site taste is perfect, thee
    articles is really great : D. Excellent task, cheers

    Check out my blog post Abdullah Yanık

  7. Do you mind if I quote a few of your posts as long as I provide
    credit and sources back to your site? My blog is in the very
    same niche as yours and my visitors would genuinely benefit from
    a lot of the information you present here.
    Please let me know if this okay with you. Thanks!

  8. hello there and thank you for your information – I’ve certainly picked up something new from right here.

    I did however expertise several technical issues using this website, as I
    experienced to reload the site a lot of times previous tto I could get it too load properly.
    I had been wondering if yourr web hosting is OK?
    Not that I am complaining, but sluggish loadingg instances times will very frequently affect your placedment in google and could damage your quality score if ads and marketing with Adwords.
    Well I’m adding this RSS to my e-mail and could look out for a lot
    more of your respective fascinaing content. Ensure thhat you update this again soon.

    Here is my website :: yeminli tercüme

  9. Greetings I am so thrilled I found yor blog, I really found
    you by error, while I was researching oon Google
    for something else, Nonetheless I am here noow and would just like to say thanks a lot for a remarkable post and
    a all round interesting blog (I also love
    the theme/design), I don’t have time to
    go through it all aat the moment but I have book-marked it
    and also added your RSS feeds, so when I have time I will be back to read more, Please do keep up the superb b.

    My blog – Trasplante Capilar FUE Zafiro en Turquía

  10. Hey there! Someone in my Myspace group shared this website with
    us so I came to take a look. I’m definitely enjoying tthe
    information. I’m bookmarking and will be tweetinng this to my followers!
    Terrific blog and terrific style and design.

    Feel free to visit my page; random wheel spinner

  11. I believe everything posted was very logical. But, think on this, suppose
    you tyoed a catchier title? I am not saying yopur information is noot good, but what if yyou added a
    post title that makes people desire more? I mean Alpha Go Zeroの論文の翻訳 その5 – Summer Snow is
    a little vanilla. You cokuld look aat Yahoo’s home page and watch how they
    create post headlines to grab viewers too click.
    You might try adding a video oor a pic or two tto grab readers
    interested about what you’ve written. Trapianto di capelli Dhi in Turchia my opinion, iit would bring youjr posts a little bit more interesting.

  12. Thanks for your marvelous posting! I definitely enjoyed reading it, you happen to be a great author.I wil always
    bookmark your bpog annd will eventually comee
    back later on. I want to encourage you to continue your great work, have a nice holiday weekend!

    Check oout my web site; dumanbet

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です