<div dir="ltr"><div><div><div><div><div><div><div>Spike-<br><br></div>There is a lot of detail in the paper.  Training was not done on excessive hardware.  If I'm reading it right, it was done on one PC using 4 TPUs (these are custom ASIC from Google that are very good at running Tensorflow which is their flavor of deep learning infrastructure):<br><br>You can read more on what a TPU actually is here if you're interested, but they're basically custom hardware that is good at running neural nets:<br><a href="https://cloud.google.com/blog/big-data/2017/05/an-in-depth-look-at-googles-first-tensor-processing-unit-tpu">https://cloud.google.com/blog/big-data/2017/05/an-in-depth-look-at-googles-first-tensor-processing-unit-tpu</a><br><br></div>It took 9 hours to train on 44 million different chess games.<br><br></div>If you were so inclined, you could lease 4 TPUs from Google via their cloud platform and get similar results.  This is on freely available, relatively modest hardware, not a supercomputer or a massively parallel architecture.<br><br></div>In fact, if you have a good gaming PC with a high end Nvidia GPU, you would be surprised at what you can do out of the box with deep learning stuff.<br><br></div>Amazon Web Services also has easy plug and play stock deep learning linux images paired with the highest end Nvidia GPUs that I have used to train my own nets on.<br><br></div>The combination of easily available cloud based machine learning tools is what is going to usher in the revolution in this space.  In addition, Google is starting to allow a machine learning process automatically generate the best iteration it can find of another machine learning process.  It's called AutoML and is something to watch <a href="https://research.googleblog.com/2017/05/using-machine-learning-to-explore.html">https://research.googleblog.com/2017/05/using-machine-learning-to-explore.html</a>.<br><br></div>There is so much power available cheaply, and great open source implementations of this type of technology just waiting for the next person to get creative and have a breakthrough.<br><br></div><div class="gmail_extra"><br><div class="gmail_quote">On Thu, Dec 7, 2017 at 1:53 PM, spike <span dir="ltr"><<a href="mailto:spike66@att.net" target="_blank">spike66@att.net</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div link="blue" vlink="purple" lang="EN-US"><div class="m_-1784162783627479294WordSection1"><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal"><u></u> <u></u></p><div><div style="border:none;border-top:solid #e1e1e1 1.0pt;padding:3.0pt 0in 0in 0in"><p class="MsoNormal"><b>From:</b> extropy-chat [mailto:<a href="mailto:extropy-chat-bounces@lists.extropy.org" target="_blank">extropy-chat-bounces@<wbr>lists.extropy.org</a>] <b>On Behalf Of </b>spike<span class=""><br><b>Subject:</b> Re: [ExI] alpha zero<u></u><u></u></span></p></div></div><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal" style="margin-bottom:12.0pt"><b>From:</b> extropy-chat [<a href="mailto:extropy-chat-bounces@lists.extropy.org" target="_blank">mailto:extropy-chat-bounces@<wbr>lists.extropy.org</a>] <b>On Behalf Of </b>John Clark<u></u><u></u></p><div><div><div><span class=""><div><p class="MsoNormal"><u></u> <u></u></p></div><blockquote style="border:none;border-left:solid #cccccc 1.0pt;padding:0in 0in 0in 6.0pt;margin-left:4.8pt;margin-top:5.0pt;margin-right:0in;margin-bottom:5.0pt"><div><p class="MsoNormal"><span style="font-family:"Arial",sans-serif">​>>>​…</span>I still haven’t convinced myself it is true.<span style="font-family:"Arial",sans-serif"><u></u><u></u></span></p></div><p class="MsoNormal"><u></u> <u></u></p></blockquote><div><p class="MsoNormal"><u></u> <u></u></p></div></span><div><div><p class="MsoNormal"><span style="font-family:"Arial",sans-serif">​<u></u><u></u></span></p><p class="MsoNormal"><span style="font-family:"Arial",sans-serif"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:13.5pt;font-family:"Arial",sans-serif">>>…If this is a hoax it's a very elaborate one the likes of which we haven't seen since the cold fusion fiasco. ​</span><span style="font-family:"Arial",sans-serif"><u></u><u></u></span></p></div></div><div><p class="MsoNormal"><span style="font-size:13.5pt">…</span><span style="font-size:13.5pt;font-family:"Arial",sans-serif">John K Clark ​</span><u></u><u></u></p></div><div><p class="MsoNormal"><u></u> <u></u></p></div><div><div><p class="MsoNormal"><u></u> <u></u></p></div></div><div><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal">>…Ja I could have clarified my doubt a bit.  I don’t suspect an intentional hoax, rather something they neglected to tell us…spike<u></u><u></u></p><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal"><u></u> <u></u></p></div></div><p class="MsoNormal">Further clarification, since I want to make very clear I am not accusing the Alpha Zero guys of hoaxing us, nor am I accusing ChessNews of intentionally misleading reporting. <u></u><u></u></p><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal">The analogy is more like this: consider a time when something big happened and you were there, then the newspaper reported it.  You read the story as written and say oooooh no, that isn’t what happened there at all.  You read the facts, which are all correct as written, but it paints a very different story than what really took place.  The reporters weren’t there, they talked to some people, wrote it up the best they could, but it just wasn’t right.  <u></u><u></u></p><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal">I suspect what we are seeing here is unintentionally misleading reporting, where there are some key aspects missing or accidentally reported incorrectly.  For instance, if the company somehow came into possession of a million nodes computing in parallel for a day, then collected the results.  The story was written by a chess guy who may or may not understand all the technical details.  <u></u><u></u></p><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal">I think Alpha Zero is impressive as all hell, but I ha’ me doots they somehow managed to get this much better than Stockfish in a day.  As written, I am confident there is something wrong or accidentally misleading, probably the use of massively parallel computing resources, or the use of a some known-good standard chess engine which was parameter-modified by the results of a massive-parallel effort.  Dunno.  Something is missing here.  Or accidentally overstated.<u></u><u></u></p><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal">This is a heady trip for those of us into computer chess, for a good computer chess program teaches to play better chess ourselves.  As we program computers, computers program us.  <u></u><u></u></p><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal">I welcome a detailed technical paper by the Alpha Zero people, then we compare the ChessNews article with the Alpha Zero paper.<span class="HOEnZb"><font color="#888888"><u></u><u></u></font></span></p><span class="HOEnZb"><font color="#888888"><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal">spike<u></u><u></u></p></font></span></div></div></div></div><br>______________________________<wbr>_________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/<wbr>mailman/listinfo.cgi/extropy-<wbr>chat</a><br>
<br></blockquote></div><br></div>